Inteligência Artificial e justiça preditiva

[Este artigo foi apresentado no evento “Coerção e extorsão sob o pretexto de prevenção”, em 13 de junho de 2026.]

Resumo: Este artigo examina as implicações filosóficas, jurídicas e teológicas dos sistemas de justiça preditiva baseados em inteligência artificial. Partindo do axioma misesiano da ação humana e percorrendo o debate interno da Escola Austríaca entre Hayek, Hülsmann e Hoppe, traça um paralelo com o princípio do direito romano *da mihi factum, dabo tibi ius*. A análise integra a concepção católica de pecado e justiça retributiva, a crítica distributivista ao Estado servil (Belloc, Chesterton), o precedente histórico das leis inglesas sobre vadiagem, o paralelo histórico com o lombrosianismo e o perfilamento racial algorítmico, e a questão de um direito penal das intenções, a opacidade algorítmica e o risco de uma polícia do pensamento tecnológica.

Prefácio: “É preciso desejar com muito, muito mais precisão”

Na popular série de livros infantis de Paul Maar, Das Sams, o protagonista é uma criaturinha peculiar com cabelo ruivo e pintas azuis no rosto. Cada pinta representa um desejo: o Sams os realiza para seu pai adotivo, o tímido Herr Taschenbier. O mecanismo é infalível e implacável: o Sams realiza exatamente o que lhe é pedido, ao pé da letra, sem interpretação e sem bom senso. Quando Taschenbier deseja um carro, um aparece na sala de estar; quando ele quer se encontrar “em um telhado”, acaba no telhado errado. O Sams, pacientemente, repete a cada vez: “Du musst viel, viel genauer wünschen” — você deve desejar muito, muito mais precisamente.[1]

A inteligência artificial se assemelha aos Sams de forma impressionante. É uma ferramenta poderosa, capaz de atender a desejos complexos — mas o faz com a mesma fidelidade literal e a mesma ausência de julgamento independente. Sua utilidade depende inteiramente da qualidade do pedido: de quem formula o desejo, com quais valores e com que objetivos. Um algoritmo treinado para “reduzir a criminalidade” atenderá a esse desejo da maneira mais eficiente que seus dados sugerirem — e se esses dados refletirem séculos de discriminação estrutural, o desejo será concedido com precisão algorítmica às custas dos mais vulneráveis.

Este artigo aborda um dos campos em que os algoritmos SAM correm o risco de causar os danos mais graves: a justiça criminal preditiva. O argumento não é que a inteligência artificial seja inerentemente malévola — não mais do que os algoritmos SAM. O argumento é que quem formula o desejo determina o resultado, e que quando tal desejo é formulado por sistemas de poder opacos, geridos por planejadores centrais — sejam eles públicos ou privados — as consequências recaem sobre os mais fracos com a precisão de uma máquina que não pode errar, porque não sabe desejar.

1. Introdução: o paradoxo da convicção antecipatória

A justiça preditiva — isto é, a utilização de algoritmos de aprendizagem automática para avaliar a probabilidade de um indivíduo cometer um crime futuro ou reincidir — representa um desafio radical à estrutura lógica do julgamento no direito ocidental. O princípio do direito romano da mihi factum, dabo tibi ius expressa essa estrutura de forma axiomática: o juiz constata um fato determinado e aplica-lhe a regra. Não há juízo sem fato; não há culpabilidade sem ato.[2]

Os sistemas de justiça preditiva invertem radicalmente esta estrutura: não há fatos — há uma distribuição de probabilidades; não há indivíduos — há uma classe estatística; não há regras aplicadas — há um resultado algorítmico que pretende substituir o julgamento. O caso mais documentado é o sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), utilizado em vários estados dos EUA para determinar a fiança e a duração da pena.[3]

Tal inversão não é uma distorção técnica corrigível: é a consequência lógica de uma confusão categorial entre fato e previsão, entre actus e potentia, que tem raízes profundas na filosofia da ação, na teologia moral e na história do direito penal.

2. O axioma da ação humana: Mises e a irredutibilidade do futuro

O ponto de partida teórico mais sólido é o axioma da ação humana de Ludwig von Mises: todo ser humano age, isto é, emprega meios escassos para atingir fins escolhidos, num contexto de incerteza radical sobre o futuro.[4] Isto implica a necessária aceitação dos conceitos de custo, fim, meios e a relação de causa e efeito.

Três implicações são decisivas para o nosso argumento. Primeiro: a ação é sempre orientada para o futuro, mas só pode ser julgada a posteriori, com base no fato realizado. Segundo: o futuro é radicalmente incerto, não porque o conhecimento seja insuficiente, mas porque a ação humana é criativa — produz novidades que não podem ser deduzidas do estado presente do mundo. Terceiro: qualquer tentativa de prever com certeza a ação futura de um indivíduo é categoricamente impossível, não tecnicamente melhorável.[5]

O direito clássico reflete essa estrutura ontológica: da mihi factum não é uma convenção arbitrária — é a tradução jurídica da estrutura da ação humana. A regra aplica-se ao que aconteceu, não ao que poderá acontecer, porque apenas o fato consumado é ontologicamente determinado.

3. O problema do conhecimento: Hayek e os limites epistemológicos do cálculo

Friedrich August von Hayek apresenta o segundo ato desta crítica no plano epistemológico. O fracasso do planeamento central não depende da falta de poder computacional: depende da própria natureza do conhecimento humano, que é disperso, tácito e contextual.[6]

O conhecimento relevante para a ação não pode ser agregado em um sistema central porque está inserido em práticas, em julgamentos situados, em expectativas individuais: ele se manifesta apenas na própria ação, no momento em que é exercida. Nenhum algoritmo — por mais poderoso que seja — pode capturar esse conhecimento antes que ele se manifeste.[7]

O paralelo com a justiça preditiva é imediato: o sistema afirma saber o que um indivíduo fará, mas esse conhecimento ainda não existe — é, por definição, pré-factual. Hayek teria reconhecido nisto o erro categorial do construtivismo racionalista: confundir o modelo com a realidade.[8]

4. A crítica radical: Hülsmann e Hoppe entre propriedade e cálculo

A contribuição teoricamente mais original para o nosso argumento vem da própria Escola Austríaca, da crítica que Jörg Guido Hülsmann e Hans-Hermann Hoppe dirigem à posição hayekiana. Segundo estes autores, o problema do socialismo — e por extensão de qualquer sistema de planeamento centralizado — não é primordialmente um problema de conhecimento, mas um problema de estrutura institucional: sem propriedade privada não há preços e sem preços não há dados sobre os quais calcular.[9]

Hoppe radicaliza esta posição eticamente: qualquer sistema que afirme agir com base em fundamentos diferentes da propriedade privada e da ação individual passada comete uma violação lógica antes mesmo de uma ética — confunde o que é com o que poderia ser, o que o indivíduo fez com o que ele poderia fazer.[10]

Transferir isso para a justiça preditiva é poderoso: o algoritmo não falha meramente por não saber o suficiente, ou por não saber como usar o conhecimento — ele falha porque pressupõe uma estrutura na qual o fato individual futuro já é tratado como um dado presente. É a dissolução da distinção ontológica entre actus e potentia realizada sob a autoridade da formalização matemática.[11]

5. A estrutura teológica da culpabilidade: pecado, vontade e justiça retributiva

5.1 O actus humanus e as condições de culpabilidade

A teologia moral católica constrói o juízo sobre uma estrutura idêntica, mutatis mutandis, ao princípio do direito romano: não há pecado sem actus humanus, isto é, sem um ato voluntário realizado por um sujeito livre e consciente. Três elementos constituem o pecado formal: matéria grave (o objeto do ato), pleno conhecimento (consciência) e consentimento deliberado (liberdade de vontade).[12]

O Catecismo enumera explicitamente as condições que diminuem ou anulam a culpabilidade: “ignorância, a inadvertência, a violência, o medo, os hábitos, as afeições desordenadas e outros fatores psíquicos ou sociais”.[13]

Tomás de Aquino constrói uma doutrina de justiça retributiva que é uma reação proporcional a um mal já cometido, não a prevenção de um mal estatisticamente provável. A punição faz sentido como resposta ao fato — como a restauração de uma ordem perturbada por um ato livre e culpável — não como gestão atuarial de risco.[14]

5.2 A inversão preditiva da estrutura da culpabilidade

A justiça preditiva dissolve sistematicamente todos os três elementos constitutivos da culpabilidade católica. O ato deliberado é substituído por um perfil estatístico; a liberdade no momento do ato torna-se irrelevante porque a “liberdade futura” já foi “calculada”; a proporcionalidade da punição ao fato dá lugar à gestão preventiva de riscos.

Isso equivale a uma regressão pré-moral. O sujeito não é julgado pelo que fez como pessoa livre, mas pelo que ele é — pela sua natureza estatística, pela sua pertença de classe, pela sua origem socioeconômica. Foi precisamente isto que a revolução cristã da culpabilidade pessoal superou em relação ao antigo determinismo naturalista e à responsabilidade coletiva tribal.[15]

6. Distributivismo: propriedade, liberdade e o Estado servil

6.1 O diagnóstico de Belloc

Hilaire Belloc, em O Estado Servil (1912), constrói um dos diagnósticos mais lúcidos da deriva do capitalismo industrial: corporativista, mercantilista e constituído por posições de privilégio garantidas pelo poder estatal a determinados empresários que, por essa mesma razão, estão destinados a um gigantismo cada vez mais acentuado.[16] O capitalismo, não estando em equilíbrio estável, tende para um de dois resultados: o socialismo (propriedade coletiva) ou o Estado servil, em que a maioria trabalha sem propriedade, com subsistência garantida, mas privada de verdadeira liberdade.[17]

G.K. Chesterton radicaliza o ponto em Um Esboço da Sanidade (1926): uma sociedade em que a propriedade é teoricamente acessível a todos, mas na realidade concentrada nas mãos de poucos, não é uma sociedade livre. É uma sociedade em que a liberdade formal mascara uma servidão substancial.[18]

Ambas se baseiam na doutrina social católica: a Rerum Novarum de Leão XIII (1891) e a Quadragesimo Anno de Pio XI (1931) afirmam o direito natural à propriedade privada amplamente distribuída como condição para a dignidade e liberdade da pessoa.[19]

6.2 A criação de perfis algorítmicos como codificação da pobreza

A relação com a justiça preditiva é bem próxima. Se a propriedade estiver concentrada e as condições sociais dos desprovidos de propriedade forem estruturalmente precárias, um sistema de perfilamento algorítmico tenderá inevitavelmente a codificar a pobreza como um fator de risco criminal. Isso não é uma distorção acidental: é a tradução matemática de uma estrutura social injusta.

O algoritmo não cria preconceito de classe — ele o formaliza, automatiza e lhe confere a autoridade da objetividade científica. O homem sem propriedade de Belloc torna-se, no sistema preditivo, o presumido infrator por condição, não por ato. O perfilamento socioeconômico é o novo status criminis.[20]

7. O precedente histórico: cercamentos, vadiagem e deportação

7.1 A gênese estrutural do pauperismo inglês

A sequência causal começa com os cercamentos: o cercamento progressivo das terras comuns, acelerado pela Lei de Cercamento de 1773 e pelas centenas de Leis de Cercamento Privado dos séculos XVIII e XIX, privou os camponeses ingleses do acesso às terras comuns que haviam garantido sua subsistência por séculos. Este não foi um processo natural: foi uma redistribuição coercitiva da propriedade para cima, sancionada por um Parlamento dominado por latifundiários.[21]

A pessoa expulsa da terra não era um criminoso: era vítima de uma transformação socioeconômica planejada de cima. Belloc, que reconstrói exatamente essa sequência em O Estado Servil, identifica-a como a origem histórica da condição servil moderna.[22]

7.2 Legislação repressiva como resposta a um problema estrutural

A resposta do direito penal inglês à questão da vadiagem é uma das ilustrações históricas mais eloquentes do status criminis. O Estatuto dos Trabalhadores (1351) foi a primeira tentativa de interromper a mobilidade dos trabalhadores após a Peste Negra. A Lei dos Vagabundos (1494) estabeleceu a vadiagem como uma categoria criminal autônoma. A Lei para a Punição de Vagabundos e Mendigos Robustos (1536) prescrevia açoites, marcação a ferro e escravidão temporária. A Lei de Transporte de 1718 sistematizou o transporte como resposta penal à pobreza.[23]

A Lei da Vadiagem de 1824, que permaneceu em vigor até a revogação formal prevista na seção 81 da Lei da Polícia, Crime, Sentenciamento e Tribunais de 2022 (que entrou em vigor condicionada à adoção de legislação substitutiva), é prova da excepcional longevidade deste mecanismo.[24]

7.3 Transporte como justiça preditiva ante litteram

A lógica do transporte é exatamente a da justiça preditiva aplicada a uma classe social: não te condeno pelo que fizeste, removo-te pelo que és e pelo risco que representas para a ordem social. Esta estrutura lógica é idêntica à da justiça preditiva contemporânea. A diferença é puramente técnica: em vez do magistrado que avaliava empiricamente a condição do vagabundo, temos um algoritmo que atribui uma pontuação de risco com base estatística.[25]

8. O direito penal das intenções e a moralidade algorítmica

8.1 Pensamentos, palavras, atos e omissões: o mapa da culpabilidade

A fórmula do Confiteor — pensamentos, palavras, atos e omissões — não é acidental: ela espelha a topografia completa da agência moral. A teologia moral católica pune todas as quatro dimensões porque o juízo divino é onisciente e conhece a intenção. O pecado interior (de pensamento ou desejo) é pecado real — como ensina o Sermão da Montanha (“todo aquele que lançar um olhar de cobiça para uma mulher já adulterou com ela em seu coração”, Mt 5,28). O direito penal humano, por outro lado, realiza uma redução estrutural deliberada: pune apenas o que é externamente verificável e causalmente relevante.[26]

O direito penal clássico reduz a culpabilidade a apenas dois elementos da fórmula litúrgica: atos (o fato constitutivo, um fundamento necessário) e — dentro de limites estritamente definidos — omissões em posições de dever legal. Os pensamentos são irrelevantes, exceto como um elemento subjetivo que qualifica um ato já realizado (mens rea). O princípio de Ulpiano, cogitationis poenam nemo patitur (Digesto 48.19.18), resume dois mil anos de tradição: ninguém é punido por seus pensamentos.[27]

8.2 Justiça preditiva como direito penal do infrator

A justiça preditiva faz precisamente o que o direito penal liberal havia excluído: pune intenções e atitudes presumidas, não atos cometidos. O perfil algorítmico infere, a partir do comportamento passado, um “caráter” ou “disposição” do indivíduo, do qual infere a probabilidade de um ato futuro, sobre a qual baseia uma medida restritiva. O que é punido não é um ato: é uma estrutura psicológica inferida algoritmicamente.

Em termos técnicos, trata-se de uma lei penal do infrator (Täterstrafrecht) — a forma mais perigosa de direito penal, historicamente associada a regimes totalitários. A lei penal do infrator pune o sujeito pelo que ele é, não pelo que fez. O nazismo teorizou-a explicitamente (o criminoso como um “tipo” biológico-racial); o stalinismo praticou-a sob a categoria de “inimigo de classe”. A justiça preditiva revive-a em forma estatística e tecnocrática, com o agravante adicional da opacidade algorítmica.[28]

8.3 Quem escolhe os princípios morais do algoritmo?

Todo algoritmo de justiça preditiva incorpora uma escolha de valor sobre o que conta como um “fator de risco”. Essa escolha é opaca (sistemas proprietários como o COMPAS são protegidos por segredo comercial), carece de fundamento lógico e, sobretudo, não é compartilhada pelos sujeitos ao controle (os critérios são escolhidos por desenvolvedores privados, não por parlamentos), é autorreferencial (o algoritmo é treinado com dados históricos que refletem escolhas punitivas passadas) e está isenta de revisão individual (o algoritmo não pode ser questionado).

Em Loomis v. Wisconsin (2016), a Suprema Corte de Wisconsin confirmou uma sentença baseada no COMPAS, mesmo que o réu não tivesse tido a oportunidade de examinar os critérios do algoritmo. A Suprema Corte dos EUA recusou-se a analisar o caso. Este é o precedente judicial mais significativo sobre a questão: ele estabelece que o segredo comercial de um algoritmo pode sobrepor-se ao direito do réu de contestar a base de sua própria condenação.[29]

Cathy O’Neil demonstrou sistematicamente como algoritmos desse tipo não reduzem os vieses, mas os formalizam e multiplicam, conferindo-lhes a autoridade da objetividade científica. Frank Pasquale documentou como a opacidade algorítmica constitui um problema estrutural, não uma imperfeição técnica corrigível.[30]

9. Lombroso, o perfilamento racial e o retorno do criminoso nato

9.1 A Escola Positivista e a mudança do foco da ofensa para o ofensor

A justiça preditiva algorítmica não é a primeira vez na história do direito penal que o julgamento se desloca do ato criminoso para a personalidade do criminoso. Cesare Lombroso, com L’uomo delinquente (1876), fundou a antropologia criminal numa tese radical: o criminoso é reconhecível por anomalias somáticas atávicas — estigmas físicos (conformação craniana, prognatismo, assimetrias faciais) que supostamente revelam uma predisposição biológica inata ao crime. O “criminoso nato” não é punido pelo que fez: é declarado perigoso pelo que é, pela sua constituição biológica.[31]

A Escola Positivista — com Lombroso, Enrico Ferri e Raffaele Garofalo — propôs uma inversão explícita dos fundamentos da Escola Clássica de Francesco Carrara: não mais a análise do delito como uma categoria jurídica abstrata e um juízo sobre a responsabilidade moral de um sujeito livre, mas o estudo da “história natural do homem criminoso” e a calibração da pena não à gravidade do delito, mas à periculosidade social do infrator, entendida como uma probabilidade empiricamente detectável de cometer delitos futuros. Ferri desenvolveu em paralelo sua Sociologia criminale, negando o livre-arbítrio e fundamentando o direito penal na prevenção determinista do crime.[32]

A doutrina lombrosiana foi contestada pela tradição católica precisamente porque minava o dogma do livre-arbítrio: se o crime é biologicamente determinado, não há responsabilidade moral, nem culpabilidade, nem possibilidade de redenção. A crítica tomista ao actus humanus como fundamento do juízo convergiu com a crítica jurídica clássica: ambas rejeitaram a redução do indivíduo a um tipo natural predeterminado.

9.2 Perfilamento racial como lombrosianismo algorítmico

A conexão entre a teoria lombrosiana e a justiça preditiva contemporânea não é meramente histórica: é estrutural. Em ambos os casos, o indivíduo é classificado como perigoso não por um ato cometido, mas por características consideradas indicativas de uma tendência ao crime. Em Lombroso, essas características eram somáticas e biológicas; na justiça preditiva, são estatísticas e socioeconômicas. Mas a lógica é idêntica: da natureza (biológica ou estatística) infere-se o comportamento futuro; do comportamento futuro justifica-se a medida restritiva presente.

O perfilamento racial — o uso de raça ou etnia como fator de risco no policiamento e no sistema de justiça criminal — é a forma contemporânea mais explícita desse nexo. Em sistemas de justiça preditiva, a raça não é necessariamente uma variável explícita no modelo: é uma variável proxy incorporada nos dados históricos com os quais o algoritmo é treinado. Se o sistema de justiça criminal historicamente prendeu e condenou minorias em taxas desproporcionais, os dados refletem essa história; o algoritmo a aprende como norma e a reproduz como previsão. Como documentado pelo Relator Especial da ONU sobre racismo, “o preconceito do passado leva ao preconceito no futuro”: variáveis ​​socioeconômicas (área de residência, nível de escolaridade, condições econômicas) funcionam como proxies para raça, perpetuando a discriminação histórica na linguagem neutra das estatísticas.[33]

Este círculo vicioso foi documentado empiricamente: algoritmos de policiamento preditivo aumentam a vigilância em bairros de maioria minoritária; o aumento da vigilância produz mais prisões; mais prisões atualizam o modelo, confirmando a “periculosidade” do bairro; o modelo direciona mais vigilância. Este não é um erro técnico corrigível: é uma profecia autorrealizável estruturalmente incorporada na lógica do sistema.[34]

9.3 Da biologia à estatística: uma continuidade estrutural

A diferença entre Lombroso e a justiça preditiva algorítmica reside na linguagem e no método, não na estrutura lógica. Lombroso media crânios e catalogava estigmas físicos; o algoritmo calcula pontuações de risco com base em variáveis ​​socioeconômicas. Mas ambos realizam a mesma operação fundamental: inferem periculosidade futura a partir da natureza presente do sujeito, ignorando a mediação do ato livre e culpável. Ambos reivindicam a autoridade da ciência: Lombroso a da antropologia positivista, o algoritmo a da aprendizagem automatizada.

A crítica que a Escola Clássica e a tradição católica dirigiram a Lombroso aplica-se com igual força à justiça preditiva. Francesco Carrara identificou com precisão o cerne do problema: o direito penal não pode prescindir da culpabilidade moral, isto é, da capacidade do sujeito de compreender e querer no momento do ato. Transferir o juízo da responsabilidade pelo fato consumado para a periculosidade com base na natureza ou nas características do sujeito significa abandonar o direito penal e substituí-lo por uma polícia biológica ou estatística — com a diferença de que a de Lombroso era pelo menos explícita quanto às suas premissas, enquanto a versão algorítmica se apresenta como neutra e objetiva.[35]

10. Liberdade de pensamento, o efeito inibidor e a polícia do pensamento

10.1 Liberdade de expressão e seus fundamentos

A liberdade de pensamento e expressão — art. 21 da Constituição italiana; art. 10 da CEDH; art. 19 do Pacto Internacional sobre os Direitos Civis e Políticos de 1966 — pressupõe que o pensamento é juridicamente irrelevante até que se traduza em atos. John Stuart Mill, na obra fundamental Sobre a Liberdade (1859), afirma o princípio do dano: o poder pode restringir a liberdade de um indivíduo apenas para evitar danos a outros, não para gerir a sua probabilidade estatística de comportamento futuro.[36]

O Tribunal Europeu dos Direitos Humanos tem reiteradamente afirmado que a liberdade de expressão abrange até mesmo ideias que “ofendem, chocam ou perturbam”: o seu núcleo essencial não pode ser sacrificado em nome da segurança preventiva.[37]

10.2 O efeito inibidor como dano constitucional

A doutrina do efeito inibidor — desenvolvida pela Suprema Corte dos EUA a partir da década de 1950 — reconhece que a ameaça de consequências legais pode suprimir o exercício de direitos fundamentais mesmo sem uma proibição explícita. Se a justiça preditiva associa certos tipos de expressão, certas associações ou certas atividades online a perfis de risco criminal, ela produz exatamente esse efeito: não proíbe o pensamento, mas o torna estatisticamente custoso.[38]

Stefano Rodotà identificou com grande clareza como o controlo digital generalizado opera não só como um instrumento ex post de repressão, mas também como um dispositivo de conformismo ex ante: as pessoas modificam o seu comportamento — incluindo a sua expressão intelectual — quando sabem ou temem estar sendo vigiadas. O panóptico digital não precisa intervir para ser eficaz: basta que a sua presença seja percebida como possível.[39]

10.3 Pré-crime e polícia do pensamento como resultado lógico

(1949), George Orwell Em 1984 descreve uma polícia do pensamento que intervém no crime antes que ele se manifeste: o pensamento criminoso é punido não pelo que produz, mas pelo que é. A justiça preditiva algorítmica reproduz essa estrutura com um elemento adicional: a autoridade da ciência. O Grande Irmão de Orwell era explícito quanto à sua arbitrariedade; o algoritmo se apresenta como neutro, objetivo, inevitável.[40]

A questão não é meramente teórica. Quatro níveis de usurpação se sobrepõem e se interpenetram: no plano ontológico, pune-se o que ainda não aconteceu; no plano subjetivo, pune-se o que se é, e não o que se fez; no plano cognitivo, punem-se as intenções e atitudes inferidas; no plano político, impõe-se uma moralidade sem que essa imposição corresponda a qualquer forma de consentimento por parte das vítimas, nem mesmo na forma imperfeita da chamada “legitimidade democrática”. A justiça preditiva não é um erro técnico corrigível: é a subversão simultânea de quatro princípios fundamentais do direito liberal.[41]

11. Síntese: a linha histórica da criminalização por condição

O fio condutor deste artigo pode agora ser enunciado na sua forma completa. Os cercamentos criaram estruturalmente a condição de desprovido de propriedade. As leis contra a vadiagem criminalizaram essa condição. O transporte ofereceu uma solução de gestão de risco para ela ante litteram. Belloc e Chesterton identificaram esta sequência como a origem do moderno Estado servil. A teologia moral católica sempre insistiu na culpabilidade pessoal pelo ato como fundamento do julgamento. A Escola Austríaca, de Mises a Hoppe, demonstrou por que a previsão do comportamento individual futuro é categoricamente impossível. O direito clássico codificou tudo isto no princípio da mihi factum, dabo tibi ius.

A justiça preditiva baseada em inteligência artificial dissolve sistematicamente todos esses baluartes. Não se trata de uma novidade técnica: é o ressurgimento, por meios computacionais, de uma lógica de criminalização por condição social. E acrescenta um novo nível de perigo: sua vocação para a moralidade algorítmica — a imposição de padrões comportamentais e cognitivos escolhidos por atores privados, sem possibilidade de controle por parte das vítimas do sistema — potencialmente a transforma em um instrumento de controle do pensamento, e não meramente do controle da ação.

O risco mais grave não é o erro técnico — que o algoritmo erre num único caso. O risco mais grave é a naturalização desta lógica: que a formalização matemática confira à equação socioeconômica a autoridade da objetividade científica, tornando invisível a escolha de valores que a sustenta.[42]

12. Conclusões: rumo a uma justiça que permaneça fiel aos fatos.

A análise aqui apresentada sugere algumas conclusões metodológicas para o debate sobre o uso da inteligência artificial no sistema de justiça criminal. Essas conclusões são ainda mais importantes considerando o recente anúncio do governo italiano sobre a introdução do uso sistemático da IA ​​na atividade policial.

Em primeiro lugar, a distinção entre fato e previsão não é técnica, mas ontológica. Nenhum aprimoramento em algoritmos pode superar essa lacuna, porque a ação humana futura não é um dado oculto a ser descoberto, mas uma realidade que ainda não existe. Da mihi factum não é uma limitação intransponível: é a estrutura lógica do juízo.

Em segundo lugar, o uso da IA ​​na justiça criminal não é neutro. Numa sociedade em que a propriedade está concentrada e as condições socioeconômicas são radicalmente desiguais devido a situações de privilégio criadas pela moeda fiduciária e pela regulação estatal, qualquer sistema de perfilamento estatístico tenderá a codificar essa desigualdade numa presunção de periculosidade. Este problema não pode ser corrigido por ajustes técnicos: exige uma reflexão sobre a estrutura distributiva da sociedade.

Em terceiro lugar, a tradição — jurídica, filosófica e teológica — oferece recursos críticos que seria um grave erro ignorar. O princípio do direito romano da culpabilidade pelo fato, a doutrina católica do actus humanus e da culpabilidade pessoal, a crítica austríaca à impossibilidade de cálculo sem propriedade privada, a denúncia distributivista do Estado servil: todas essas vertentes convergem para indicar que uma justiça fiel à dignidade da pessoa só pode ser justiça do fato, e não da previsão.

Em quarto lugar, o risco de uma polícia algorítmica do pensamento não é ficção científica, mas sim uma extensão lógica coerente dos princípios que já regem a justiça preditiva. Quando um sistema começa a inferir periculosidade a partir de expressões, associações e atividades online, a fronteira entre punir um ato e vigiar um pensamento se dissolve. O Sams de Maar concede desejos; o algoritmo reprime pensamentos — com a mesma precisão literal, com a mesma indiferença às consequências.

 

 

 

Artigo original aqui

__________________________________

Notas

[1] Paul Maar, Eine Woche voller Samstage, Verlag Friedrich Oetinger, Hamburgo, 1973 (primeiro volume da série Das Sams). A citação “Du musst viel, viel exakt wünschen” aparece no segundo volume: Paul Maar, Am Samstag kam das Sams zurück, Verlag Friedrich Oetinger, Hamburgo, 1980, p. 37. A série é composta por onze romances e já vendeu mais de seis milhões de cópias; é considerada um clássico da literatura infantil de língua alemã.

[2] O princípio da mihi factum, dabo tibi ius tem origem bem estabelecida no direito romano e resume a estrutura do raciocínio jurídico clássico: a regra aplica-se ao fato, não o precede em termos de imputação individual. Cf. Charles Perelman, Logique juridique. Nouvelle rhétorique, Dalloz, Paris, 1976.

[3] Julia Angwin, Jeff Larson, Surya Mattu, Lauren Kirchner, “Machine Bias”, ProPublica, 23 de maio de 2016. A investigação demonstrou que o COMPAS superestimou sistematicamente o risco de reincidência para réus afro-americanos em comparação com réus brancos, codificando efetivamente desigualdades socioeconômicas preexistentes em um veredicto aparentemente objetivo.

[4] Ludwig von Mises, Ação Humana: Um Tratado sobre Economia, Yale University Press, New Haven, 1949, cap. Eu (“Homem Ativo”). Edição italiana: L’azione umana. Trattato di economia, Rubbettino, Soveria Mannelli, 2021. O axioma também é apresentado em Ludwig von Mises, Nationalökonomie: Theorie des Handelns und Wirtschaftens, Editions Union, Genebra, 1940.

[5] Ludwig von Mises, Teoria e História: Uma Interpretação da Evolução Social e Econômica, Yale University Press, New Haven, 1957. Mises distingue rigorosamente entre as ciências naturais, que lidam com constantes e regularidades, e as ciências da ação, que lidam com escolhas individuais irremediavelmente livres.

[6] FA Hayek, “O uso do conhecimento na sociedade”, American Economic Review, vol. 35, nº 4, 1945, pp. 519-530. Este ensaio, juntamente com “Economia e conhecimento” (Economica, vol. 4, nº 13, 1937, pp. 33-54), constitui o fundamento epistemológico da crítica hayekiana ao socialismo.

[7] FA Hayek, The Counter-Revolution of Science: Studies on the Abuse of Reason, The Free Press of Glencoe, Nova Iorque, 1952. Hayek desenvolve aí a crítica ao “cientificismo” — isto é, a tentativa de aplicar os métodos das ciências naturais às ciências sociais.

[8] FA Hayek, Direito, Legislação e Liberdade, vol. I (Regras e Ordem), Routledge & Kegan Paul, Londres, 1973. Hayek distingue entre tese (ordem deliberadamente construída) e nomos (ordem espontânea que emerge da ação individual). A justiça preditiva pertence à lógica da tese, que pretende construir ex ante o que o direito clássico só pode julgar ex post.

[9] Jörg Guido Hülsmann, “Knowledge, Judgment, and the Use of Property”, Review of Austrian Economics, vol. 10, nº 1, 1997, pp. 23-48. Hülsmann argumenta que o problema do socialismo é insolúvel não porque falta informação, mas porque sem propriedade privada o cálculo econômico racional é estruturalmente impossível.

[10] Hans-Hermann Hoppe, Uma Teoria do Socialismo e do Capitalismo: Economia, Política e Ética, Kluwer Academic Publishers, Boston, 1989, cap. V-VI. Cf. também Hans-Hermann Hoppe, A Economia e a Ética da Propriedade Privada, Kluwer Academic Publishers, Boston, 1993 (2ª ed., Ludwig von Mises Institute, Auburn, 2006).

[11] Hans-Hermann Hoppe, “Da propriedade comum, pública e privada e a razão da privatização total”, Libertarian Papers, vol. 3, no. 1, 2011. O tema da propriedade como fundamento lógico de qualquer sistema de julgamento racional é desenvolvido neste ensaio de uma forma particularmente relevante para o nosso argumento.

[12] Catecismo da Igreja Católica, Libreria Editrice Vaticana, Cidade do Vaticano, 1992, §§1730-1748 (liberdade e responsabilidade moral) e §§1849-1876 (pecado). Sobre o fundamento tomista, cf. Tomás de Aquino, Suma Teológica, I-II, qq. 6-21 (De voluntario et involuntario).

[13] Catecismo da Igreja Católica, cit., §1735. A doutrina é desenvolvida por Servais Pinckaers OP, Le fonti della morale cristiana. Metodo, contenuto, storia, Ares, Milão, 1992 (primeira edição italiana da obra original Les sources de la morale chrétienne, Friburgo, 1985), em particular cap. X-XI sobre a estrutura do ato humano.

[14] Tomás de Aquino, Summa Theologiae, II-II, q. 61 (Sobre justiça) e q. 108 (Sobre a vindicação). Cf. também Giuseppe Graneris, Contributi tomistici alla filosofia del diritto, SEI, Torino, 1949.

[15] Agostinho de Hipona, De libero arbitrio, estudo introdutório, texto, tradução e comentário de Franco De Capitani, Vita e Pensiero, Milão, 1987 (reimpresso em 1994). Cf. também Francesco Compagnoni, Giannino Piana (eds.), Novo Dicionário de Teologia Moral, Paoline, Cinisello Balsamo, 1990, entradas Imutabilidade e Pecado.

[16] Cf. também Kevin Carson, Organization Theory, 2008, cap. II sobre economias de escala como resultado da distorção causada pela intervenção estatal.

[17] Hilaire Belloc, O Estado Servil, TN Foulis, Londres-Edimburgo, 1912. O texto está disponível no arquivo do Ludwig von Mises Institute. A tese central é que o capitalismo industrial não é estável: ele inevitavelmente produz a concentração da propriedade e a dependência da maioria.

[18] GK Chesterton, The Outline of Sanity, Methuen & Co., Londres, 1926. Cf. também GK Chesterton, What’s Wrong with the World, Cassell and Company, Londres, 1910. Para uma análise sistemática do distributivismo, cf. John Médaille, Toward a Truly Free Market: A Distributist Perspective on the Role of Government, Taxes, Health Care, Deficits, and More, ISI Books, Wilmington (DE), 2010.

[19] Leão XIII, Encíclica Rerum Novarum, 15 de maio de 1891, §§4-14. Pio XI, Encíclica Quadragesimo Anno, 15 de maio de 1931, §§105-110 sobre a concentração de riqueza e o princípio da subsidiariedade.

[20] O conceito de status criminis — responsabilidade criminal fundamentada não no ato, mas na condição do sujeito — é analisado criticamente em Bernard Harcourt, Against Prediction: Profiling, Policing, and Punishing in an Actuarial Age, University of Chicago Press, Chicago, 2007. Harcourt demonstra empiricamente como os sistemas atuariais tendem a concentrar a vigilância nos grupos socioeconomicamente mais vulneráveis.

[21] Karl Polanyi, he Great Transformation: The Political and Economic Origins of Our Time, Farrar & Rinehart, Nova Iorque, 1944. Cf. também EP Thompson, The Making of the English Working Class, Victor Gollancz, Londres, 1963.

[22] Hilaire Belloc, O Estado Servil, cit., cap. IV-V, onde Belloc reconstrói como a Reforma Protestante Inglesa — com a confiscação de propriedade eclesiástica — pôs em movimento o processo de concentração de propriedade que os cercamentos completariam mais tarde.

[23] Para um tratamento sistemático da legislação sobre vadiagem, cf. Douglas Hay, Peter Linebaugh et al., Albion’s Fatal Tree: Crime and Society in Eighteenth-Century England, Allen Lane, Londres, 1975. EP Thompson, Whigs and Hunters: The Origin of the Black Act, Allen Lane, Londres, 1975 analisa o Black Act de 1723, que transformou as práticas tradicionais dos pobres em crimes capitais. Cf. também AL Beier, Masterless Men: The Vagrancy Problem in England 1560-1640, Methuen, Londres, 1985.

[24] A Lei da Vadiagem de 1824 (5 Geo. 4 c. 83): a secção 81 da Lei da Polícia, do Crime, da Sentença e dos Tribunais de 2022 prevê a sua revogação, condicionada à aprovação de legislação de substituição ainda não totalmente operacional. Sobre a história do transporte, cf. Robert Hughes, The Fatal Shore: A History of the Transportation of Convicts to Australia, Collins Harvill, Londres, 1987.

[25] Michel Foucault, Vigiar e punir: Nascimento da prisão, Gallimard, Paris, 1975 (ed. em inglês: Discipline and Punish, Pantheon Books, Nova Iorque, 1977). Foucault analisa como o nascimento da prisão moderna corresponde a uma transformação no objeto do poder punitivo: não mais o corpo do condenado (o espetáculo da punição), mas sua identidade e seu caráter.

[26] Tomás de Aquino, Suma Teológica, I-II, q. 74 (De peccatis interioribus): Aquino distingue o pecado do pensamento do pecado da ação; ambos são pecados morais, mas a lei humana não pode punir o primeiro. Cf. também I-II, q. 91, a. 4 (De lege humana): “a lei humana não pode proibir tudo o que a lei natural proíbe… limita-se a reprimir os vícios mais graves”.

[27] Ulpian, Digest, 48.19.18: O princípio é retomado e sistematizado na teoria moderna do direito penal em: Claus Roxin, Criminal Justice. General Part, vol. I, CH Beck, Munique, 4ª ed. 2006, §8 (o princípio do ato, tatstrafrecht, como fundamento do direito penal liberal). Cf. também Luigi Ferrajoli, Diritto und Ragione. Theory of Penal Guarantee, Laterza, Roma-Bari, 1989, cap. II (o princípio da materialidade).

[28] Claus Roxin, Strafrecht. Allgemeiner Teil, cit., §6: distinção sistemática entre Tatstrafrecht (direito penal do ato) e Täterstrafrecht (direito penal do infrator). Cf. Luigi Ferrajoli, Diritto e ragione, cit., cap. IV, sobre o “direito penal do inimigo” como uma deriva autoritária dos sistemas penais contemporâneos.

[29] Loomis v. Wisconsin, 881 NW2d 749 (Wis. 2016), cert. negado, 137 S. Ct. 2290 (2017). Eric Loomis foi condenado a seis anos de prisão; o juiz baseou-se na pontuação do COMPAS, embora tenha afirmado que ela não era a base exclusiva da sentença. A Suprema Corte de Wisconsin permitiu o uso da ferramenta, mas estabeleceu certas ressalvas, reconhecendo os riscos de um sistema cujos fundamentos metodológicos não poderiam ser submetidos a contestação adversarial.

[30] Cathy O’Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, Crown Publishers, Nova York, 2016. Frank Pasquale, The Black Box Society: The Secret Algorithms That Control Money and Information, Harvard University Press, Cambridge (MA), 2015.

[31] Cesare Lombroso, L’uomo delinquente studiato in rapporto all’antropologia, alla medicina legale e alle discipline carcerarie, Hoepli, Milão, 1876 (primeira edição). A obra alcançou sua quinta edição em 1897 (Vincenzo Bona, Turim), substancialmente ampliada. Lombroso estimou que 70% dos piores criminosos se enquadravam na categoria de “criminoso nato” — indivíduos em quem a criminalidade é inerente à sua natureza biológica, sujeitos irredimíveis a serem confinados ou eliminados em nome da defesa social.

[32] Enrico Ferri, Sociologia criminale, 5ª ed., Utet, Turim, 1929 (primeira edição I nuovi orizzonti del diritto e della procedura penale, Zanichelli, Bolonha, 1881). Raffaele Garofalo, Criminologia, Bocca, Turim, 1885. A Escola Positivista opôs explicitamente seu método ao da Escola Clássica: cf. Francesco Carrara, Programma del corso di diritto criminale, Fratelli Cammelli, Florença, 1859, onde o delito é definido como “uma violação da lei do Estado, promulgada para proteger a segurança dos cidadãos, resultante de um ato externo do homem, positivo ou negativo, moralmente imputável e politicamente prejudicial” — uma definição que pressupõe liberdade, culpabilidade e um fato consumado.

[33] Ashwini KP, Relatora Especial das Nações Unidas sobre formas contemporâneas de racismo, discriminação racial, xenofobia e intolerância correlata, Relatório sobre racismo e inteligência artificial, ACNUDH, 2024: “o preconceito do passado leva ao preconceito no futuro”. Cf. também Rashida Richardson, Jason Schultz, Kate Crawford, “Dados sujos, previsões ruins: como as violações dos direitos civis impactam os dados policiais, os sistemas de policiamento preditivo e a justiça”, New York University Law Review Online, vol. 94, 2019, pp. 15-55: o estudo documenta como numerosos sistemas americanos de policiamento preditivo foram treinados com dados coletados durante períodos de discriminação racial sistêmica documentada por parte das forças policiais.

[34] Julia Angwin, Jeff Larson, Surya Mattu, Lauren Kirchner, “Machine Bias”, ProPublica, 2016, cit. O mecanismo do ciclo de feedback racial em algoritmos de policiamento preditivo é analisado sistematicamente em Bernard Harcourt, Against Prediction, cit., cap. V, e em Cathy O’Neil, Weapons of Math Destruction, cit., cap. 5.

[35] Francesco Carrara, Programma del corso di diritto criminale, cit., §30: “O direito de punir surge unicamente do delito cometido e é medido pela culpabilidade do infrator e pela gravidade do dano.” A crítica da periculosidade social como base para a punição é desenvolvida em Luigi Ferrajoli, Diritto e ragione, cit., cap. II-IV, onde Ferrajoli mostra como o conceito de periculosidade social, embora formalmente sobrevivente no sistema italiano em medidas de segurança (arts. 202-212 do Código Penal), é compatível com um quadro garantista apenas na medida em que pressupõe um delito efetivamente cometido como condição necessária.

[36] John Stuart Mill, Sobre a Liberdade, John W. Parker and Son, Londres, 1859, cap. I. O princípio do dano é o fundamento liberal clássico de qualquer restrição legítima da liberdade individual: a lei intervém no fato que produz o dano, não na disposição psicológica que o possa produzir. Cf. também Luigi Ferrajoli, Diritto e ragione, cit., para a elaboração garantista do princípio no direito penal continental.

[37] Tribunal Europeu dos Direitos Humanos, Handyside contra Reino Unido, 7 de dezembro de 1976 (processo n.º 5493/72), §49: a liberdade de expressão aplica-se “não só à ‘informação’ ou ‘ideias’ que são recebidas favoravelmente ou consideradas inofensivas ou indiferentes, mas também àquelas que ofendem, chocam ou perturbam”. Cf. também o TEDH, Oberschlick contra Áustria, 23 de maio de 1991.

[38] Lamont v. Postmaster General, 381 US 301 (1965): o primeiro reconhecimento explícito do efeito inibidor pela Suprema Corte dos EUA. Cf. Keyishian v. Board of Regents, 385 US 589 (1967): o efeito inibidor como um dano autônomo às liberdades fundamentais. O Tribunal de Justiça da UE aplicou raciocínio análogo em Digital Rights Ireland, C-293/12, 8 de abril de 2014: vigilância em massa como uma violação da privacidade com um efeito dissuasor sobre a liberdade de expressão.

[39] Stefano Rodotà, Il mondo nella rete. Quali i diritti, quali i vincoli, Laterza, Roma-Bari, 2014. Rodotà, entre os principais estudiosos europeus de direito e tecnologia, compara a vigilância algorítmica ao panóptico benthamiano revisitado por Foucault: um dispositivo de controle que opera através da internalização, pelo sujeito controlado, de sua própria visibilidade.

[40] George Orwell, 1984, Secker & Warburg, Londres, 1949. Os conceitos de crime de pensamento e Novilíngua como instrumentos de controle cognitivo foram analisados ​​de uma perspectiva político-jurídica por muitos estudiosos posteriores. Cf. Philip K. Dick, The Minority Report, em Science Fiction Stories, 1956: o pré-crime como uma distopia narrativa que antecipa com precisão a lógica da justiça preditiva contemporânea.

[41] Massimo Donini, The Current Face of Criminal Offences, Giuffrè, Milão, 2004, analisa a crise do direito penal do ato no sistema jurídico italiano contemporâneo e a deriva para formas de direito penal inimigo. Cf. também Sergio Moccia, The Perennial Emergency. Authoritarian Tendencies in the Penal System, ESI, Nápoles, 2ª ed. 1997.

[42] Antoinette Rouvroy, Thomas Berns, “Governamentalidade Algorítmica e Perspectivas de Emancipação: Disparidade como Condição de Individuação por meio da Relação?”, Réseaux, nº 177, 2013, pp. 163-196 (DOI: 10.3917/res.177.0163). Rouvroy e Berns mostram como a governamentalidade algorítmica não apenas descreve a realidade social, mas a produz e a normaliza, escapando sistematicamente à subjetividade individual.