As tecnologias invadem e transformam procedimentos e práticas jurídicas, e como consequência torna-se imperativo examinar a ética do uso de ferramentas algorítmicas no contexto dos princípios fundamentais da justiça processual.

É possível conciliar novas tecnologias com os princípios tradicionais de direito comum, ética profissional e direitos humanos (Martin 2017; AHRC 2018; Law Society 2019)?

Quando as ferramentas de avaliação de risco são analisadas sob a lente dos princípios de justiça processual, rapidamente se torna evidente como instrumentos algorítmicos e sistemas automatizados que tomam decisões sobre a vida e a liberdade das pessoas podem comprometer a justiça processual.

O que é a justiça processual?

A justiça processual, um termo escorregadio que engloba a justiça e o devido processo, deriva da justiça natural e seus elementos incluem justiça aberta, igualdade perante a lei, presunção de inocência e direito de ouvir e responder a um caso apresentado pelo estado (McKay 2018; Bronitt e McSherry 2017; Mulcahy 2013).

De acordo com a justiça aberta, os procedimentos criminais devem ser sujeitos à supervisão pública como um meio de combater os abusos de poder e promover a transparência, a prestação de contas e, finalmente, o Estado de Direito (Resnik 2015).

Justiça aberta

A justiça aberta pode ser prejudicada quando os réus, tribunais e sociedade são impedidos de supervisionar as ferramentas algorítmicas usadas na determinação do status legal e da liberdade de um réu. Essas ferramentas precisam ser “testáveis ​​e contestáveis” (Hildebrandt 2018: 34). 

Paridade de armas

A paridade de armas é um princípio fundamental na justiça processual, o que significa que o réu não deve estar em desvantagem em comparação com o estado de acusação, ou seja, deve haver condições equitativas (Roberts e Zuckerman 2010).

É claro que, no processo penal, esse princípio representa o ideal e não a realidade, no entanto, é ainda mais desafiado em situações em que a promotoria usa ferramentas algorítmicas inescrutáveis ​​e dados de entrada não revelados contra um réu.

Presunção da inocência

A presunção de inocência é o fio de ouro que atravessa o sistema de justiça criminal para garantir que o ônus legal da prova permaneça na acusação (Woolmington vs DPP [1935] AC 462).

Se não há como provar ou refutar as fórmulas ou a metodologia de um algoritmo, o ônus de provar um caso contra um réu além dúvida razoável parece comprometida. 

Além disso, tanto a presunção de inocência quanto o princípio da justiça individualizada (Martin 2017) são potencialmente prejudicados quando um réu é avaliado com base em dados agregados do grupo.

Regra de audiência

Por fim, a regra de audiência, audi alteram partem, exige que o réu possa ouvir e compreender o caso que está sendo movido contra eles (Butt e Hamer 2011), mas o uso de informações proprietárias secretas contra um cidadão está em desacordo com esse direito.

Instrumentos algorítmicos podem violar direitos humanos?

Essas questões também podem ser avaliadas através da lente dos princípios de direitos humanos (AHRC 2018; Pasquale e Cashwell 2018; Aletras et al. 2006; ICCPR). Por exemplo, existe o potencial de instrumentos algorítmicos violarem os direitos humanos, especificamente a igualdade perante os tribunais e o direito a uma audiência justa e pública ouvida por uma tribunal competente, independente e imparcial. 

Outras medidas de direitos humanos que podem ser contestadas pela AI incluem a presunção de inocência, requisitos gerais de justiça processual, incluindo a apresentação de um caso compreensível contra o réu e proteção contra discriminação.

Um relatório na Inglaterra e no País de Gales destaca esses desafios à justiça processual, bem como o viés incorporado, a falta de escrutínio e a desconsideração dos fatores contextuais individuais (Law Society 2019).

Em vez de uma reflexão tardia, as salvaguardas processuais precisam, portanto, ser consideradas antes da implementação cautelosa de avaliações algorítmicas que ‘pontuam’ uma pessoa e determinam sua liberdade ou status legal. A justiça processual exige que as pessoas afetadas por uma determinação algorítmica possam descompactar e contestar a decisão (Keats Citron e Pasquale 2014). 

A supressão da operação e estrutura dos algoritmos significa que os tribunais, o judiciário, a profissão de advogado e os réus não têm a capacidade de compreender e contestar o processo de tomada de decisão.