A REVOLUÇÃO DA INTERNET E O ESTADO DE DIREITO: GARANTIAS FUNDAMENTAIS E VALORAÇÃO DE RISCO NO PROCESSO PENAL

Trecho publicado em: Ciência, tecnologia e inovação para um Espírito Santo justo, sustentável e desenvolvido. Contribuições da etapa estadual para a 5a conferência nacional de CT&I

Organizadora Elda Coelho de Azevedo Bussinguer Tirant lo Blanch São Paulo 2024

Lígia Kunzendorff Mafra presidente

José Luis Bolzan de Morais presidente

RESUMO

Este capítulo investiga a intersecção entre a implementação de tecnologias de avaliação de risco no processo penal e a preservação de garantias essenciais como a fundamentação das decisões, ampla defesa e contraditório, devido processo legal e presunção de inocência. Centra-se em analisar como as decisões judiciais, influenciadas por ferramentas tecnológicas, afetam desde medidas cautelares até a execução penal, destacando a tensão entre a eficiência processual e os direitos fundamentais. Examinando o contexto de uma sociedade cada vez mais orientada pela lógica do risco e do medo, impulsionada por eventos globais, como o terrorismo e a globalização, o artigo explora como essa perspectiva influencia a adoção de políticas públicas, particularmente na esfera penal. O uso de inteligência artificial para aprimorar a celeridade e a precisão das decisões judiciais é analisado criticamente, evidenciando desafios éticos e práticos, como a opacidade dos algoritmos e os potenciais vieses. A preocupação central é compreender como essas avaliações, ao focarem o perfil do autor, em vez do ato criminoso, podem subverter a presunção de inocência e orientar a justiça penal para um paradigma preditivo. O texto enfatiza a necessidade de um equilíbrio cuidadoso entre a adoção de novas tecnologias e a proteção dos direitos fundamentais, propondo um diálogo ampliado entre todas as partes interessadas para assegurar que o avanço tecnológico, no processo penal, seja alinhado com a dignidade humana.

Palavras-chaves: Estado; inteligência artificial; risco.

ABSTRACT

This article investigates the intersection between the implementation of risk assessment technologies in the criminal process and the preservation of fundamental guarantees such as the reasoning behind decisions, broad defense and contradiction, due legal process, and the presumption of innocence. It focuses on how judicial decisions influenced by technological tools affect everything from precautionary measures to penal execution, highlighting the tension between procedural efficiency and fundamental rights. Examining the context of a society increasingly driven by the logic of risk and fear, propelled by global events such as terrorism and globalization, the article explores how this perspective influences the adoption of public policies, particularly in the penal sphere. The use of artificial intelligence to enhance the speed and accuracy of judicial decisions is critically analyzed, highlighting ethical and practical challenges, such as the opacity of algorithms and potential biases. The central concern is how these assessments, by focusing on the author’s profile rather than the criminal act, can subvert the presumption of innocence and steer criminal justice towards a predictive paradigm. The need for a careful balance between the adoption of new technologies and the protection of fundamental rights is emphasized, proposing an expanded dialogue among all stakeholders to ensure that technological advancement in the criminal process is aligned with human dignity.

Keywords: State; artificial intelligence; risk.

1. NOTAS PRELIMINARES

O capítulo se propõe investigar as tensões entre a aplicação dos sistemas de valoração de risco no processo penal e as garantias fundamentais relacionadas, especialmente, com a fundamentação das decisões, ampla defesa e contraditório, devido processo legal e presunção de inocência, considerando o uso de instrumentos de tecnologia. Decisões que abarcam desde as medidas cautelares, como o uso de tornozeleiras eletrônicas e medidas de afastamento, até aquelas que impactam a execução penal, incluindo a concessão de saída temporária e a progressão de regime, por exemplo. Essas decisões, fundamentais no equilíbrio entre eficiência procedimental e as garantias e direitos fundamentais, tornando-se, assim, o foco primordial deste estudo.

Nesse contexto, os princípios, regras e garantias do processo penal emergem como pilar fundante da sua existência, assegurando que cada decisão judicial seja acompanhada de justificativas claras e suficientes, baseadas na legislação vigente e no conjunto probatório do caso. A referência ao garantismo de Ferrajoli (2002) é indispensável para compreender o marco teórico do qual se parte e a importância desses princípios na promoção de um sistema de justiça que respeite os direitos individuais.

Para isso, aborda-se o conceito de risco e medo, observando que, cada vez mais, eles se tornam a centralidade na organização das sociedades contemporâneas, especialmente no que tange à adoção de políticas públicas, particularmente, no campo penal. A intensificação da globalização e os eventos de terrorismo, ao longo das últimas décadas, têm levado a uma reavaliação global do gerenciamento de probabilidades. Esse cenário de incertezas amplificadas projeta risco ao status de um verdadeiro motor das ações governamentais e individuais, impulsionando mudanças significativas na forma como a segurança é percebida e gerenciada.

Nesse ambiente, o direito criminal não está imune às influências do foco renovado na segurança, de forma que se percebe que o apelo às novas tecnologias, com o discurso voltado para a eficiência (sob a ótica mercadológica, como será visto adiante) e celeridade, em contraposição a uma justiça morosa, criando um ambiente propício para que novos sistemas, supostamente capazes de responder a esses problemas, sejam adotados por sua pretensa objetividade, segurança e celeridade, o que suscita questões sobre como tais preocupações de risco estão remodelando a aplicação do direito na esfera penal.

Portanto, ao conectar a evolução social e as práticas judiciárias, estabelece-se um cenário no qual a crescente valorização da segurança e a gestão de riscos, a utilização de ferramentas tecnológicas e o enfrentamento da criminalidade fazem o caldo no qual a sociedade mergulha para lidar com o fenômeno do crime, tendo o medo como motor impulsionador.

Este diálogo inicial entre a teoria e a realidade contemporânea não apenas contextualiza a investigação, mas também antecipa as complexidades que serão exploradas, fornecendo a base para uma análise crítica das dinâmicas atuais no processo penal.

2. O RISCO E O MEDO COMO MOTOR SOCIAL

A transição para uma sociedade em que o risco se tornou um motor social[1] é um fenômeno

que tem moldado profundamente tanto as políticas públicas quanto a vida privada das pessoas. Essa mudança é central na obra de Ulrich Beck (2015), na qual o autor descreve uma era marcada pela consciência e pela gestão dos riscos globais, desde desastres ambientais até ameaças de terrorismo.

1 Entendido aqui como aquilo que impulsiona, que move as engrenagens e os mecanismos sociais.

Beck argumenta que os esforços das sociedades contemporâneas se concentram na tentativa de antecipar, regular e controlar o futuro, com o objetivo (muitas vezes não alcançado) de minimizar incertezas e perigos que são, em grande medida, consequência do próprio desenvolvimento tecnológico e industrial[2].

2 Beck (2015, p. 14) afirma que “A semântica do risco diz respeito a perigos futuros que ainda não ocorreram, mas que são antecipados como possíveis, e que, portanto, exigem ações preventivas.”

Além disso, a probabilidade e o risco somente são geridos a partir da sensação de insegurança e medo. Bauman (2012, p. 5), ao descrever o conceito de medo líquido, diz que “[...] o medo é mais assustador quando difuso, disperso, indistinto, desvinculado, desancorado, flutuante, sem endereço e motivos claros”, o que descreve com impressionante precisão a situação na qual se encontra a maior parte da sociedade global.

Esses dois conceitos se entrelaçam para descrever com acuidade a realidade contemporânea e os fenômenos sociais mais modernos, principalmente a razão pela qual há uma evidente inclinação a medidas cada vez mais repressivas como resposta aos desdobramentos sociais atuais.

Em resposta a essas percepções de risco e medo, testemunha-se um fenômeno de securitização em diversas esferas da vida social, um processo pelo qual questões de segurança são elevadas a uma prioridade máxima, justificando medidas extraordinárias de proteção.

O que se tem visto nestes últimos tempos é o uso massivo de estratégias que se valem, para o combate a este “medo generalizado”, de novos mecanismos tecnológicos para suprimir ou submeter as garantias do Estado de Direito, seja pelas restrições à liberdade, seja pelas estratégias preditivas de catalogação para evitar o risco, tudo em perfeito diálogo com a conhecida fórmula do Estado de Exceção, normalmente expresso como Estado de Urgência, que se tornou a regra. A exceção e a urgência se tornaram permanentes, inaugurando uma nova fase – a da surveillance.

A surveillance é mais que simples vigilância, é uma característica intrínseca das sociedades contemporâneas hiperconectadas. Nesse sentido, há uma desestabilização das tradicionais estruturas estatais (cuja força depende de um esquema centrípeto), uma vez que o poder acaba sendo “dispersado” em uma rede extremamente flexível e em constante modificação.

Com a “revolução da internet”, como dito antes, as tradicionais fronteiras do Estado-Nação são ignoradas, uma vez que a localização de uma informação armazenada não necessariamente corresponde ao local de violação de um direito fundamental ou ao lugar de sede da empresa que guarda esses dados. Na realidade, na maioria das vezes, esses dados são armazenados simultaneamente em diversos pontos do globo com o intuito de fornecer redundância e acesso mais rápido aos usuários, independente de onde eles estejam localizados geograficamente.

Neste quadro, desde as denúncias de Edward Snowden, o mundo percebeu não apenas uma assimetria na capacidade de interceptar e utilizar os dados que circulam pela internet, como também uma crescente dependência de tecnologias de vigilância em massa, muitas vezes justificadas sob o pretexto de combate ao terrorismo e à criminalidade.

O motto para a coleta e análise massiva de dados naquele país, como se sabe, é a “guerra contra o terror”, muito embora não (haja ou existam) evidências de nenhum caso concreto em que esse uso da tecnologia tenha efetivamente abortado uma ameaça terrorista iminente, embora tenha servido para outros fins. Apesar de ter se demonstrado pouco eficaz para prever e neutralizar ataques terroristas, esse mau exemplo parece ter se espalhado pelo globo.

A Alemanha, por exemplo, país que foi considerado “vítima” da coleta massiva de dados pela NSA – inclusive com diversos discursos de autoridades públicas de repúdio ao fato – foi também acusada de não só realizar o mesmo tipo de atividade, mas de ser uma parceira desse organismo no fornecimento de tais informações. Nesse caso em particular, ficou evidente que a Bundesnachrichtendienst (BND – a agência de inteligência alemã) coletou, armazenou e catalogou – com critérios desconhecidos – os metadados de comunicações telefônicas e de internet de usuários dentro e fora da Alemanha.

Além disso, no próprio escândalo envolvendo Edward Snowden ficou claro que outros países, como o Reino Unido, a Austrália, o Canadá e a Nova Zelândia, participam dessa coleta massiva de dados, compartilham e utilizam essas informações. Essas posturas baseiam-se em atividades dos serviços secretos, muitas vezes sem amparo legal ou, quando este existe, fundamentam-se em legislações de exceção, de regra produzidas em períodos de grande comoção social, possuindo como traço comum as ideias de “segurança nacional” e “proteção contra o terror”, além de estarem calcadas no dualismo “nós versus eles”, amigo/inimigo.

Um dos casos mais emblemáticos, todavia, vem da França. Lá, por iniciativa do Chefe de Governo, promoveu-se mudanças na legislação de segurança interna, incorporando um novo livro, intitulado “Du renseignement”[3], com a justificativa de, através da coleta de informações, conhecer os desafios e prevenir os riscos a que estão submetidos os franceses, cuja garantia dos direitos fundamentais depende da manutenção da ordem pública, sendo que, no atual contexto das políticas nacional e internacional, é imprescindível reforçar as políticas de inteligência de dados.

3 Poderia ser traduzido para o português como “Da inteligência” ou “Sobre a inteligência”.

Com isso, os órgãos de inteligência franceses podem grampear telefones, interceptar comunicações eletrônicas e forçar empresas de internet a viabilizar maneiras para que a autoridade estatal intercepte todas as informações dos seus usuários (franceses ou estrangeiros, dentro ou fora da França), assim como ocorre na Rússia.

A legislação mencionada também permite a coleta e o uso massivo de metadados nos mesmos moldes da NSA, mas indo muito além dela, já que também indica que aqueles mesmos órgãos de inteligência poderão instalar microfones escondidos em objetos, veículos e residências, além de instalar dispositivos de escuta em locais públicos, sem necessidade de autorização judicial prévia.

3. EFICIENTISMO E TECNOLOGIA: O APELO À INTELIGÊNCIA ARTIFICIAL

Para enfrentar o medo e o risco, conforme descrito anteriormente, passaram a ser perseguidos meios para geri-lo e refreá-lo. A eficiência, por sua vez, tem no binômio celeridade versus custo a base que vem do ideal econômico de custo-benefício, ou seja, menores custos com o máximo aproveitamento do tempo e dos recursos disponíveis. Essa lógica mercadológica orientou – e orienta – o desenvolvimento social e, obviamente, econômico, mas também o tecnológico.

A eficiência neoliberal vem contribuindo para uma redefinição da justiça, a qual se torna um produto desta “imensa empresa de serviços” que está transformando o Estado. Tudo isso desde um “modelo de compreensão” que apresenta o efeito perverso de reduzir toda avaliação por aquilo que é mensurável pelo tempo e pelo dinheiro. Os limites do Estado de Direito constrangidos pelas imposições econômicas; suas garantias fraturadas por valores; sua efetividade avaliada por indicadores; etc.

Nesta perspectiva pode-se dizer que o modelo neoliberal “substitui traiçoeiramente aos princípios da justiça clássica, por outros critérios como a eficiência, as vantagens comparativas ou a segurança. Nessa competição entre o direito e a eficiência, essa última tem uma vantagem certa, haja vista que ela é amoral. Como consequência, ela conserva seu próprio princípio de justiça: o princípio do interesse ou da utilidade se apresenta como o princípio normativo supremo, como o único natural, o único possível, o único evidente. Ele se impõe às sociedades e aos homens e deve se tornar o guia da reforma geral das instituições. [...] A racionalidade neoliberal instala, inevitavelmente, uma laicização das instituições, revalorizadas com uma racionalidade que lhe é totalmente estranha – a concorrência e o empreendimento.” (Garapon, 1996, p. 23)

Sob o olhar de Hinkelammert pode-se ver esse fenômeno a partir de um quadro de critérios que orientam, em termos axiológicos, o mundo das relações modernas, quais sejam, valores da competitividade, da eficiência, da racionalização e funcionalização dos processos institucionais e técnicos: os valores da ética do mercado. Diretrizes que marcam uma racionalidade reduzida à dimensão econômica que se “han impuesto en nuestra sociedad actual con su estrategia de globalización como nunca antes en ninguna sociedad humana, inclusive el período capitalista anterior” (Hinkelammert, 2012, p. 176). Aquilo que pode ser sintetizado como valor do cálculo de utilidade própria, que parte do pressuposto de monetarização de todos os espaços da vida, no qual tudo é transformado em objeto – tudo é reduzido a um preço.

Tal cálculo surge no interior da contabilidade empresarial onde impera uma visão do mundo como mecanismo de funcionamento: a empresa e seu cálculo de custos e benefícios.

Nesse contexto, todas as instituições são mecanismos de funcionamento por aperfeiçoar. Não apenas a empresa, mas o Estado (como Estado de Direito) – assim como a família, a Igreja e, mesmo, os indivíduos em suas relações – “calcula” suas possibilidades em termos de custo-benefício, regulados por standards e indicadores e não mais submetido aos conteúdos da clássica fórmula do Rule of Law.

Assim, são ressignificados o Estado, o Direito e o próprio Estado de Direito, pelo discurso da gestão empresarial pautado por uma visão formal, abstrata e hedonista da eficiência, que despreza qualquer elemento que transcende a esfera econômica e monetária.

Aqui, substitui-se as regras (do Direito) pelas normas (da Técnica) e o Estado de Direito se confronta com a perda de sua legitimidade clássica, talvez com o seu desaparecimento como tal, substituído por um “estado de direitos” – em minúsculas – cuja legitimação não está nem nas suas formas de produção, muito menos em seus conteúdos, sobretudo, de garantias, mas na eficiência (ou seja, seguindo a lógica de custo-benefício) dos resultados e na origem de seus regramentos e dispositivos.

Como apontam Dardot e Laval em seu The New Way Of The World: On Neoliberal Society (2014), setores significativos dos movimentos de resistência ao neoliberalismo incorreram em um erro de diagnóstico, constituído a partir do obscurecimento de sua dimensão regulatória ou governamental, no sentido atribuído por Michel Foucault. Equivocada apreciação que se conformou com base em uma percepção de que a ideologia neoliberal, fundada na fé fanática na naturalidade do mercado, se materializaria como um programa anti-intervencionista, de políticas de destruição das regulamentações e instituições, revitalizando as perspectivas liberais clássicas e o minimalismo estatal, em contradição às formas de Estado Social (de Direito) incorporadas ao constitucionalismo com as mudanças introduzidas para o trato da “questão social”, desde as primeiras décadas do século XX.

Esse olhar redutor da complexidade do processo de globalização (neoliberal) contemporâneo, que é compartilhado por amplos setores da ciência jurídica, repercute de maneira significativa nas reflexões sobre o conjunto de transformações do Estado e do Direito, impedindo de alcançar sua radicalidade, em especial como Estado de Direito.

O neoliberalismo em sua real complexidade não destrói apenas regras, instituições e direitos – transformados em serviços e submetidos à regra do lucro. Ele tem uma dimensão prescritiva. Trata-se de uma racionalidade (conjunto de discursos, práticas e dispositivos) que faz da lógica do mercado uma lógica normativa, regendo desde o Estado até o mais íntimo da subjetividade humana. Por meio da generalização da concorrência, como norma de conduta, e da empresa, como modelo de subjetivação, avança como uma razão constitutiva da existência humana: uma nova razão do mundo. Nesse cenário, deve-se reconhecer que ele “não procura tanto à retirada do Estado e a ampliação dos domínios da acumulação do capitalismo quanto à transformação da ação pública” (Dardot; Laval, 2016, p. 272), sua fratura, sua fragmentação, sua transversalidade por formas e fórmulas regulatórias originadas em lugares diversos daqueles peculiares à esfera pública estatal.

A principal instituição político-jurídica da modernidade, neste contexto, vem passando por uma “mutação empresarial”, que se faz com a transposição das normas do mercado para o setor público, processo no qual se “subverte radicalmente os fundamentos modernos da democracia” (Dardot; Laval, 2016, p. 274) e, assim, do próprio Estado de Direito.

Obviamente que todas as esferas da vida são atingidas por essa nova lógica e, nessa busca por eficiência e da própria transformação do Estado de Direito, o Poder Judiciário também se vê como alvo da standarização e custo-benefício, especialmente quando o desejo pela eficiência – e também celeridade – objetiva combater algo que sempre foi um problema, de forma que há uma sensação generalizada de que os processos judiciais sempre foram marcados por uma notória morosidade[5] e altos custos financeiros.

5 Lassale aponta críticas a esse eficientismo, argumentando que ao enfatizá-lo, acaba-se por abrir mão dos direitos analógicos em favor da promessa tecnológica de uma utopia em um paraíso digital (Lassale, 2019, p. 22)

No Judiciário e, por óbvio, no processo penal, a tecnologia, especialmente a inteligência artificial, emerge como uma promessa para otimizar decisões e procedimentos, trazendo essa celeridade tão desejada[6]. Portanto, o conceito de eficientismo, que prioriza a obtenção de resultados de maneira rápida e econômica, encontra na IA um potencial aliado.

6 “A eficiência e a capacidade de objetivação existente no uso dessas técnicas, em contraposição ao tempo analógico e da subjetividade da psiquê humana, trouxe o apelo necessário para que seu uso fosse adotado também no âmbito do Poder Público, inclusive no Poder Judiciário para, por exemplo, fazer a classificação e catalogação de temas, bem como sugerindo minutas de decisões.” (Bolzan de Morais, Mafra, 2023, p. X)

A adoção de soluções tecnológicas visa não apenas acelerar o processamento de casos, mas também aumentar a precisão das decisões judiciais, argumentando-se que a máquina, ao contrário do ser humano, não sofre de fadiga ou preconceitos pessoais. Contudo, essa visão otimista esbarra em complexidades éticas e práticas que não podem ser ignoradas, que é o que se pretende demonstrar aqui.

A integração da inteligência artificial no processo penal se apresenta de várias formas, desde o impulsionamento oficial de feitos (sistemas que busquem dar celeridade na passagem de uma “mesa” para outra), sistemas que podem identificar e classificar processos (como o Victor do STF, por exemplo), podem minutar decisões à partir de tecnologias generativas de Large Language Models (apesar de não termos conhecimento de tecnologias do tipo em uso, há uma sinalização do próprio STF no sentido de buscar convênios com empresas desenvolvedoras desse tipo de IA[7]) e, por fim, sistemas que façam valoração de risco e de análise preditiva que buscam prever e reprimir a priori comportamentos criminosos.

7 O Ministro Barroso chegou a “encomendar” tecnologias dessa natureza para as empresas líderes no ramo. https://www.migalhas.com.br/quentes/395504/barroso-pede-a-big-techs-criacao-de-chatgpt-para-uso-juridico

A promessa de uma justiça mais ágil e precisa, com base na análise de grandes volumes de dados e padrões complexos, é sedutora. Contudo, as críticas a essa abordagem são significativas e merecem atenção. A pergunta principal é como, em certa medida, essas tecnologias podem influenciar e determinar comportamentos sociais? O comportamento de juízes, promotores, advogados e demais atores do Judiciário não escapariam, por óbvio, dessa indagação. A preocupação não é apenas com a eficácia dessas ferramentas, mas também com as implicações de delegar a máquinas decisões que afetam liberdades fundamentais e direitos individuais[8].

8 Digno de nota é o posicionamento de Wiener no que diz respeito à delegação de decisões humanas às máquinas quando diz que o indivíduo que, desconhecendo a importância de assumir suas responsabilidades, quer as máquinas aprendam ou não, se deparará com consequências desastrosas. (Wiener, 1954. p. 183)

Em termos gerais, as tecnologias que operam a partir de cálculos probabilísticos inferidos a partir de dados (como absolutamente todas as tecnologias de inteligência artificial), enfrentam desafios comuns, sendo preponderantes dois deles: a opacidade e os vieses.

A opacidade dos sistemas de inteligência artificial refere-se à dificuldade ou impossibilidade de entender como esses sistemas processam dados de entrada para produzir suas decisões ou saídas. Essa característica faz com que os mecanismos internos de funcionamento dos algoritmos de IA sejam comparados a uma “caixa-preta”[9], um termo emprestado da aviação, onde as caixas-pretas registram dados de voo sem que, durante o voo, se possa acessar ou entender os processos em tempo real.

9 Frank Pasquale faz essa analogia e explica que esse termo, além de significar um aparelho usado para registrar dados em aviões, trens e automóveis, a um sistema enigmático no qual apenas os dados de entrada e saída são visíveis, sem explicação de como um é convertido no outro. (Pasquale, 2015, p. 3)

Para tornar mais claro o conceito de opacidade, podemos focar em dois aspectos importantes: transparência e explicabilidade. Quando falamos sobre falta de transparência, estamos nos referindo à dificuldade de acessar ou entender como os sistemas de inteligência artificial são construídos internamente, o que faz com que seja complicado saber como eles funcionam por dentro. Já a questão da explicabilidade tem a ver com o desafio de entender o processo de pensamento da IA, ou seja, como ela analisa os dados que recebe e chega às suas decisões ou resultados.[10].

10 Em artigo recente mencionamos, sobre o assunto, o seguinte: “A opacidade (ou blackbox) consiste, então, nessa impossibilidade de se conhecer objetivamente os caminhos pelos quais as informações de entrada se transformaram nas informações de saída. E isso se dá em dois níveis: um de acesso, no sentido de transparência do sistema de IA, referente à estrutura mesma do sistema ou, de maneira simples, sobre o “como funciona”(?) e um de explicabilidade, ou seja, a possibilidade de ser capaz de compreender o “como se chegou ao resultado”(?). Mais simplesmente ainda: o “como decide?” e o “como decidiu?”. (Bolzan de Morais, Mafra, 2023, p. 525-526).

Uma analogia útil para compreender a opacidade é pensar em um mágico realizando um truque de ilusionismo. O público vê o início e o resultado final do truque (equivalentes aos dados de entrada e saída em um sistema de IA), mas o processo pelo qual o mágico alcança o resultado é oculto e incompreensível para os espectadores. Assim como no ilusionismo, onde os métodos e técnicas do mágico permanecem um segredo, em muitos sistemas de IA, os processos internos que levam a uma determinada decisão são complexos e não transparentes para os usuários finais ou até para os próprios desenvolvedores, em certos casos.

Esta opacidade é particularmente problemática quando sistemas de IA são aplicados em contextos críticos, como no judiciário, onde a compreensão do “porquê” e do “como” das decisões é fundamental para a confiança, a justiça e a legalidade. A incapacidade de inspecionar ou compreender a lógica interna de um sistema de IA equivale a não poder questionar um mágico sobre como ele realizou seu truque, mas em um contexto em que as consequências vão muito além do entretenimento, afetando direitos fundamentais e a administração da justiça.

Além disso, a opacidade coloca em xeque a possibilidade de contestação e de defesa contra decisões potencialmente errôneas ou injustas, pois se os processos decisórios não são compreendidos, torna-se impossível argumentar contra eles.

Já o desafio que engloba os vieses, refere-se à tendência sistemática de um sistema de IA para produzir resultados prejudiciais ou favoráveis a certos indivíduos ou grupos em comparação com outros. Essa tendência pode ser o resultado de diversos fatores, incluindo, mas não se limitando a, dados de treinamento tendenciosos, algoritmos mal projetados, ou interpretações inadequadas das saídas do sistema. No contexto judiciário, o viés da IA pode levar a decisões que perpetuam desigualdades existentes, discriminam certos grupos sociais ou individuais, ou falham em representar justamente a diversidade da sociedade.

Por fim, apesar de não se tratar de viés da tecnologia (mas dos dados), há um grave problema a respeito de, ao ignorar esses vieses contidos nos dados, aparecerem os vieses de confirmação do juiz. Isso significa que, considerando a crença de que a máquina não erra (ora, ela opera com dados e faz cálculos matemáticos de probabilidade e, se matemática é exata, o resultado da máquina deveria ser também, não?), o magistrado procuraria elementos para confirmar essa decisão automatizada[11].

11 “O viés da confirmação nada mais é do que um desvio cognitivo presente no indivíduo que o levar a adotar as informações que confirmem suas crenças” (Tabak; Aguiar; Nardi, 2017, p. 184) e se isso já era um problema no processo penal analógico, há toda uma nova camada de influências nas crenças dos juízes quando se adiciona a decisão sugerida pela máquina.

Assim, enquanto a tecnologia, particularmente a inteligência artificial, promete revolucionar o processo penal ao oferecer maior eficiência e precisão, é fundamental abordar as complexidades e os desafios que acompanham sua implementação.

4. SISTEMAS DE VALORAÇÃO DE RISCO VERSUS DIREITOS E GARANTIAS FUNDAMENTAIS

O objetivo principal desta discussão é entender como o medo e o risco influenciam o sistema judicial. Isso inclui a forma como o pensamento de mercado está se infiltrando no Poder Judiciário e, particularmente, no processo penal. Atualmente, isso se manifesta na adoção e implementação de tecnologias de inteligência artificial. Um exemplo específico é o uso de sistemas baseados em IA para avaliar riscos e decidir sobre a imposição de medidas que restringem a liberdade de forma preventiva — como a prisão ou alternativas a ela. Essas tecnologias também são utilizadas para tomar decisões importantes durante a execução da pena, como a concessão de liberdade condicional, progressão para regimes menos severos e outros benefícios.

Este texto busca explorar como essa tendência afeta os direitos e garantias fundamentais dos cidadãos.

Sistemas como RisCanvi, VioGen e COMPAS, desenvolvidos com o intuito de avaliar o risco de reincidência de indivíduos e auxiliar na tomada de decisões sobre medidas cautelares ou benefícios na execução penal, exemplificam o avanço tecnológico nesse domínio. Embora a promessa desses sistemas seja de oferecer avaliações objetivas e reduzir a carga de trabalho dos operadores do sistema de justiça, as críticas apontam para problemas fundamentais que não podem ser ignorados.

Para que sejam entendidos os custos e benefícios em termos de garantias processuais, mesmo que de forma ampla, é necessário explicar brevemente como cada um desses sistemas opera.

O RisCanvi[12] é um programa que, a partir de dados, oferece um cálculo de risco que o indivíduo representa que vão desde a probabilidade de não respeitar condições estabelecidas na sentença até o nível de probabilidade de apresentar comportamento violento na prisão. Essa ferramenta, obviamente, é utilizada na fase de execução da pena.

12 O RisCanvi é um programa de valoração de risco que é utilizado na Catalunha, e “permite estimar a probabilidade de ocorrência de quatro tipos diferentes de riscos: violação das condições estabelecidas na sentença, comportamento violento dentro do sistema penitenciário, reincidência violenta e violência autodirigida. Este protocolo é administrado por meio de um programa de computador, o eRisCanvi, que possui dois formatos. O denominado “Screening”, ou de triagem, conta com dez fatores de risco, e o “Completo”, com quarenta e três fatores de risco. Ambas as versões são complementadas com outras variáveis de classificação que podem ser consideradas como fatores de risco, referindo-se a sexo, idade, nacionalidade e situação processual, classificando os condenados em níveis de risco obtidos por meio de um procedimento atuarial.” (Sanchez-Arjona, 2024, p. 117-118)

Já o VioGen é um programa que visa medir a probabilidade de revitimização em casos de violência doméstica, avaliando uma série de fatores do agressor e da vítima para sugerir a imposição de medidas cautelares, tanto na fase policial quanto na fase judicial do processo[13].

13 Sanchez-Arjona explica que foi implementado, “em julho de 2007 o Sistema de Acompanhamento Integral dos casos de Violência de Gênero (Sistema VioGén), dotando-o de formulários informatizados para realizar e administrar as avaliações de risco da mulher vítima, bem como das funcionalidades necessárias para realizar o acompanhamento desses casos e a implementação das medidas de segurança e proteção policial de acordo com os níveis de risco resultantes” (Sanchez-Arjona, 2024, p. 130)

Por fim, o sistema COMPAS[14], utilizado tanto na fase judicial quanto na fase de execução da pena, foi “projetado para determinar o grau de periculosidade de uma pessoa, o risco de reincidência criminosa e como ferramenta para ajudar os juízes na determinação da pena” (Sanchez-Arjona, 2024, p. 115).

14 O caso paradigmático de Wisconsin vs. Loomis trouxe luz para a utilização desse tipo de sistema. O litigante, Sr. Loomis, recorreu à Suprema Corte alegando que sua condenação teria sido injusta e enviesada por ter sido utilizado o sistema COMPAS. Para ver mais sobre o caso, DE HOYOS SANCHO, M., El Libro Blanco sobre Inteligencia Artificial de la Comisión Europea: Reflexiones desde las garantías esenciales del proceso penal como ‘sector de risco’, Revista Española de Derecho Europeo, nº 79, outubro-dezembro, 2020, pág. 25 e ss.

Há um sem-número de ferramentas pelo mundo, mas esses três representam adequadamente como a maioria deles funciona, suas vantagens e, principalmente, seus problemas em termos de garantias processuais[15].

15 Há alguma controvérsia sobre se de fato esses sistemas podem ser chamados de “inteligência artificial”, uma vez que lhes falta o processo de aprendizado de máquina, de forma que se assemelham mais, na verdade, a sistemas atuariais – como aqueles utilizados em seguros. Contudo, a crítica permanece, considerando que a natureza de ambos são cálculos probabilísticos opacos e inacessíveis.

Dois aspectos saltam aos olhos quando se está falando de sistemas dessa natureza: i) a transformação da própria lógica do sistema de julgamento do fato para uma lógica voltada para o julgamento do autor e, ii) as consequências dessa valoração para os princípios da presunção de inocência, da fundamentação das decisões, da ampla defesa e contraditório.

A utilização dessas ferramentas para prever reincidência criminal baseia-se em dados que incluem características pessoais como cor, religião, comportamento e contexto social, caminhando perigosamente para a criminalização da identidade em detrimento do ato criminoso. Esse enfoque, por si só, subverte a presunção de inocência, guiando o sistema penal para um “Direito Penal do autor”[16], onde a análise preditiva prevalece sobre fatos concretos (passados/acontecidos).

16 John Vervaele, apesar de se dirigir exclusivamente a questões relativas ao terrorismo, bem trata da questão do direito penal do autor quando menciona que “llegamos a incriminaciones completamente abiertas que además llegan a un tipo de derecho penal del autor en lugar de a un derecho penal de la acción ilícita” (2017, p. 511)

Ademais, o suporte de decisões judiciais em ferramentas tecnológicas como a IA não só desafia a presunção de inocência (na medida em que cria a necessidade de se defender de uma probabilidade), mas também compromete princípios como a fundamentação das decisões (considerando não ser possível acessar como a valoração do risco foi feita) e o direito à ampla defesa e ao contraditório (como conhecer e influenciar uma decisão algorítmica inescrutável?). A dependência em modelos algorítmicos opacos para embasar decisões judiciais substitui o processo racional humano por uma caixa-preta indecifrável, minando a capacidade de contestação e apelação e distorcendo o equilíbrio processual em favor da acusação.

O uso desses sistemas preditivos na justiça penal, pretendendo evitar a reincidência e a revitimização, reflete uma sociedade cada vez mais focada na prevenção, mas a um custo elevado para a liberdade individual. A justiça preditiva e a polícia preditiva são exemplos dessa mudança, onde o estado intercede ante a mera suspeita de risco, priorizando a segurança em detrimento dos direitos individuais.

Esse método, ao categorizar indivíduos em grupos de risco, ignora a singularidade do ser humano, tratando-os não por suas ações, mas por probabilidades associadas a suas características. Essa abordagem não apenas ameaça a individualidade, mas também inverte o ônus da prova, exigindo que os indivíduos demonstrem sua inocência diante de avaliações abstratas de comportamento futuro.

Esta distorção do sistema clássico do ônus da prova, em que surge uma necessidade de serem refutadas probabilidades e previsões, transforma a própria natureza da justiça penal. Tradicionalmente, a acusação deve provar a culpabilidade do acusado além de qualquer dúvida razoável. No entanto, com a influência crescente das avaliações de risco baseadas em IA, emerge uma linha tênue entre prevenir futuros crimes e punir por crimes não cometidos, potencialmente deslocando o ônus da prova e pressionando o acusado a provar sua não periculosidade.

Além disso, a implementação dessas tecnologias na esfera penal traz à tona a necessidade de uma análise crítica sobre como elas podem ser empregadas respeitando os direitos fundamentais. Enquanto a avaliação de risco, como no programa VioGén, pode ter intenções de proteger as vítimas, sua aplicação deve ser cuidadosamente analisada para não prejudicar os direitos do acusado.

Casos como o de Wisconsin vs. Loomis pelo uso do sistema COMPAS nos Estados Unidos e o uso do programa RisCanvi na Catalunha ilustram como a valoração de risco por IA tem sido empregada na prática judicial de maneira a influenciar decisões críticas, como a concessão de liberdade provisória e a progressão de regime. Essa dependência em avaliações preditivas e scoring baseados em dados transforma essas informações em uma espécie de “prova incontestável”, embora sua precisão e imparcialidade sejam questionáveis. Essa prática não só eleva o resultado dos algoritmos ao status de evidência indiscutível, mas também encoraja juízes a corroborar as conclusões da máquina, potencialmente em detrimento da análise crítica e independente dos fatos.

A necessidade de uma fundamentação clara e compreensível das decisões judiciais torna-se ainda mais crítica quando essas decisões são influenciadas ou baseadas em algoritmos. A opacidade de muitos sistemas de IA e a dificuldade de interpretação dos seus processos decisionais desafiam a transparência e o escrutínio, essenciais para o exercício do direito à defesa. Quando a inteligência artificial é utilizada para fundamentar decisões judiciais, substitui-se o processo racional e transparente por uma lógica algorítmica inacessível, dificultando a contestação e, consequentemente, enfraquecendo a estrutura do devido processo legal.

A adoção dessas tecnologias preditivas na justiça penal, portanto, representa um desafio aos

princípios fundamentais do direito criminal. A tentativa de se fazer uma abordagem preventiva, ao mesmo tempo que busca a eficiência na alocação de recursos e na repressão da criminalidade, ameaça os pilares de todo o sistema ao tratar indivíduos como portadores de riscos estatísticos, em vez de sujeitos de direitos com garantias individuais a serem preservadas.

FUNDAMENTAIS E VALORAÇÃO DE RISCO NO PROCESSO PENAL

ritizado. Há, como consequência desse movimento, a própria expansão do direito penal – que deveria ser a ultima ratio – masque passa a ser uma primeira opção frente à insegurança global.

leia o texto na integra:

A revolução da Internet… MAFRA, BOLZAN D.pdf

Fazer download de PDF • 30.16MB