No ano de 1485, o frei dominicano Heinrich Kramer lançou-se a uma expedição de caça às bruxas no Tirol austríaco. As autoridades eclesiásticas locais, encabeçadas pelo bispo de Brixen, desconfiaram das acusações, marcadas pelo que Harari (2024) descreve como raivosa misoginia e estranhas fixações sexuais, interromperam os interrogatórios, libertaram as suspeitas que o inquisidor havia prendido e o expulsaram da região. As instituições da época, com todas as suas imperfeições, funcionaram como filtro contra o fanatismo de um homem só.
Dois anos depois da expulsão, Kramer publicou o Malleus Maleficarum, o “Martelo das Feiticeiras”, manual de instruções para desmascarar, torturar e executar bruxas, no qual sustentava, amparado em antigos ensinamentos misóginos, que a bruxaria nascia da luxúria, supostamente mais intensa nas mulheres.
A prensa de tipos móveis, que Gutenberg havia aperfeiçoado poucas décadas antes e que revolucionaria a circulação do conhecimento na Europa, converteu o libelo num dos maiores best-sellers da era moderna, com oito edições até 1500 e vinte e nove até 1670, acompanhadas de uma torrente de folhetos baratos e sensacionalistas ilustrados com demônios e fogueiras. Entre os séculos XVI e XVII, algo entre 40 mil e 50 mil inocentes, na imensa maioria mulheres, foram torturados e executados na Europa com base numa teoria da conspiração impressa, distribuída e monetizada pela mais celebrada inovação tecnológica do seu tempo.
A lição que se extrai desse contraste me parece o melhor ponto de partida para pensar a IA. “Um mercado de informação sem regulação não leva obrigatoriamente as pessoas a identificarem e corrigirem seus erros”, escreve Harari, “pois ele pode dar prioridade ao ressentimento, em lugar da verdade” (Harari, 2024). A mesma máquina que poderia difundir a astronomia armou a caça às bruxas, e a diferença entre um destino e outro nunca esteve na técnica, mas nas instituições que decidiam a serviço de quem ela funcionaria. Se isso valia para um dispositivo que apenas reproduzia textos, vale com mais força para uma tecnologia que decide e cria por conta própria, porque a IA, adverte o autor, deixou de ser ferramenta para se tornar agente, capaz de processar informação, tomar decisões e gerar conteúdo sem que um humano valide cada escolha.
Harari chama de noção ingênua da informação a crença de que mais informação gera mais verdade e, no limite, mais sabedoria. Essa fé, que serviu de ideologia semioficial da era do computador, reaparece hoje requentada no discurso segundo o qual a IA traria, por si mesma, prosperidade e progresso, bastando que o direito não atrapalhe. Trata-se do mesmo erro de categoria cometido pelos entusiastas do prelo, agora agravado pela escala e pela velocidade.
Ao percorrer mil anos de história tecnológica, Acemoglu e Johnson (2023) demonstram que “a prosperidade geral trazida pelas novas tecnologias não tem nada de automático”, pois depende de escolhas econômicas, sociais e políticas sobre a direção do progresso e a distribuição dos seus ganhos. Polanyi (2000), muito antes, já havia mostrado que o mercado autorregulável é utopia irrealizável e que o laissez-faire, longe de espontâneo, foi deliberadamente planejado por decisões estatais. Não é sem razão que Frazão (2024), ao comentar o Nobel de Economia concedido justamente a Acemoglu e seus parceiros, sintetiza que “a tecnologia é muitas vezes escolhida, moldada e utilizada pelos interesses e crenças dos poderosos”.
Daí por que o determinismo tecnológico, a ideia de que a técnica tem trajetória própria e inevitável à qual restaria à sociedade adaptar-se, precisa ser tratado como aquilo que é. Como adverte Frazão (2017), o grande desafio da sociedade tecnológica é estimular a inovação “sem se deixar seduzir pelo discurso traiçoeiro do determinismo tecnológico, que muitas vezes apenas mascara o determinismo econômico”.
As ferramentas de opressão do nosso tempo já estão impressas. O’Neil (2020) documentou como modelos matemáticos opacos, aplicados em escala e sem contestação possível, negam crédito, emprego e liberdade condicional, numa dinâmica em que “os privilegiados são processados por pessoas; as massas, por máquinas”. Silva (2022) demonstrou que o racismo algorítmico não é defeito pontual, mas algoritmização do racismo estrutural protegida por dupla opacidade, a da caixa-preta técnica e a da negação social do próprio racismo, com efeitos que vão do reconhecimento facial que prende inocentes negros à seletividade do policiamento preditivo. Safiya Noble demonstrou que os buscadores, longe de espelharem o mundo, são empresas de publicidade que lucram com resultados racistas e sexistas, a ponto de afirmar que “a opressão algorítmica é um elemento fundamental de como a Internet funciona hoje” (Noble, 2021).
No Brasil, Tarcízio Silva descreve o mesmo mecanismo como racismo algorítmico, a algoritmização do racismo estrutural que opera sob o que chama de dupla opacidade, a soma da negação da discriminação com a falsa neutralidade da técnica (Silva, 2022). Quando um sistema de moderação classifica a frase “eu sou uma mulher negra gay” como 87% tóxica e a frase “eu sou um homem” como apenas 20%, não estamos diante de um defeito a corrigir com mais dados, mas de uma hierarquia social convertida em código.
A lista não se esgota na discriminação. Zuboff (2021) descreveu o modelo de negócio que converteu os usuários em fontes de superávit comportamental, matéria-prima para produtos de predição e modificação de conduta; Han (2022) mostrou como o microdirecionamento de anúncios políticos opera abaixo do limiar da esfera pública, capturando camadas pré-reflexivas da psique; Cassino, Souza e Silveira (2021) mapearam o colonialismo de dados que drena informação do Sul global sempre na mesma direção; e Wang e Tian (2023) registraram, nos tribunais inteligentes chineses, juízes que evitam decisões fora da média para não contrariar o sistema. Em todos os casos, a violação não decorre do mau uso excepcional da técnica, mas do seu uso ordinário dentro de arquiteturas desenhadas sem compromisso com direitos.
É preciso então nomear com precisão o que a inovação, nesses casos, coloca em risco. Fábio Konder Comparato, na leitura de Oscar Vilhena Vieira, sustenta que os direitos humanos derivam de uma “consciência ética coletiva” e existem “ainda que não reconhecidos no ordenamento estatal”, tendo por fundamento último a ideia kantiana de que o ser humano “existe como um fim em si mesmo, não simplesmente como um meio” (Vieira, 2001). Um sistema que reduz a pessoa a um score opaco, imune a explicação e a resposta, faz exatamente o que a dignidade proíbe, ao tratar o fim em si como puro meio. Raffaele De Giorgi radicaliza o alerta ao mostrar que a modernidade produz continuamente um “excedente de alteridade”, uma população de “não-pessoas” que o sistema exclui enquanto proclama a inclusão (De Giorgi, 2017), e a classificação algorítmica em larga escala é hoje uma das máquinas mais eficientes de fabricar esse excedente.
Poderia parecer que o próprio mercado corrigiria esses excessos, premiando quem oferece produtos mais seguros e confiáveis. Comentando as falhas dos sistemas generativos, Frazão observa que “não serão as soluções de mercado e as iniciativas espontâneas das empresas que irão nos proteger diante dos riscos e danos que podem ser gerados pela IA” (Frazão, 2024), até porque, num setor de poder de mercado quase monopolista, faltam incentivos para internalizar o custo dos danos que recaem sobre terceiros.
Cédric Durand sugere que o digital fez ressurgir uma lógica de extração de renda mais próxima do feudalismo do que da livre concorrência, na qual o controle de dados e de infraestrutura substitui a competição pela captura (Durand, 2020). A escolha real nunca esteve entre regular e não regular. Como sintetiza Frazão (2024) ao examinar o PL 2338/23, a questão não é regular mais ou menos, e sim regular adequadamente; a ausência de regulação, longe de neutra, facilita o entrincheiramento dos agentes econômicos mais poderosos e dificulta a dinâmica competitiva saudável. A abstenção estatal também é uma decisão regulatória, apenas tomada em favor de quem já detém o poder.
A tradução econômica desse argumento é ainda mais incômoda para os defensores do suposto tradeoff entre regulação e inovação. Laufer, Kleinberg e Heidari (2025) demonstraram formalmente que o jogo entre desenvolvedores de modelos de IA e as empresas que os adaptam tem estrutura de dilema do prisioneiro, em que as estratégias capazes de deixar todos em melhor situação não constituem equilíbrio sem regulação; imposto um padrão adequado sobre toda a cadeia, a norma funciona como mecanismo de compromisso e eleva, ao mesmo tempo, a segurança e o desempenho.
A regulação bem desenhada não é o preço que a inovação paga; é a condição institucional para que a inovação boa vença a inovação predatória, exatamente como a revisão por pares permitiu que Copérnico vencesse Kramer. Estamos no momento em que a IA está sendo canonizada, em que os engenheiros de hoje escolhem os dados que moldarão o comportamento das máquinas por décadas, tal como concílios antigos escolheram o cânone que moldaria séculos de crença. A pergunta que interessa não é se a inovação vai avançar, porque vai, mas a serviço de quem ela avançará e sob quais salvaguardas.
______________
ACEMOGLU, Daron; JOHNSON, Simon. Poder e progresso: nossa luta milenar pela tecnologia e a prosperidade. São Paulo: Companhia das Letras, 2023.
CASSINO, João Francisco; SOUZA, Joyce; SILVEIRA, Sérgio Amadeu da (org.). Colonialismo de dados: como opera a trincheira algorítmica na guerra neoliberal. São Paulo: Autonomia Literária, 2021.
FERRAJOLI, Luigi. O Estado de Direito entre o passado e o futuro. In: COSTA, Pietro; ZOLO, Danilo (org.). O Estado de Direito: história, teoria, crítica. São Paulo: Martins Fontes, 2006. p. 417-464.
FRAZÃO, Ana. Direito e tecnologia: premissas para a reflexão sobre a regulação jurídica da tecnologia. In: FERNANDES, Ricardo Vieira de Carvalho; COSTA, Henrique Araújo; PRATA DE CARVALHO, Angelo Gamba (coord.). Tecnologia jurídica e direito digital. Belo Horizonte: Fórum, 2017.
FRAZÃO, Ana. Regulation of artificial intelligence in Brazil: examination of Draft Bill no. 2338/2023. UNIO – EU Law Journal, Braga, v. 10, n. 1, p. 54-69, maio 2024a.
FRAZÃO, Ana. O significado do Prêmio Nobel de Economia de 2024: algumas das reflexões propostas por Acemoglu, Robinson e Johnson. JOTA, Coluna Constituição, Empresa e Mercado, 23 out. 2024.
FRAZÃO, Ana. Julgamento sobre a constitucionalidade do art. 19 do MCI: não invoquemos a liberdade de expressão em vão. JOTA, Coluna Constituição, Empresa e Mercado, 11 jun. 2025.
FRAZÃO, Ana. Nova fronteira do poder econômico: o controle da linguagem. JOTA, Coluna Constituição, Empresa e Mercado, 12 fev. 2026.
HAN, Byung-Chul. Infocracia: digitalização e a crise da democracia. Petrópolis: Vozes, 2022.
HARARI, Yuval Noah. Nexus: uma breve história das redes de informação, da Idade da Pedra à IA. São Paulo: Companhia das Letras, 2024.
HOFFMANN-RIEM, Wolfgang. Teoria geral do direito digital: transformação digital, desafios para o direito. Rio de Janeiro: Forense, 2021.
LAUFER, Benjamin; KLEINBERG, Jon; HEIDARI, Hoda. The backfiring effect of weak AI safety regulation. arXiv preprint, 2025.
NOBLE, Safiya Umoja. Algoritmos da opressão: como o Google fomenta e lucra com o racismo. Santo André: Rua do Sabão, 2021.
O’NEIL, Cathy. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Santo André: Rua do Sabão, 2020.
OLIVEIRA, Amanda Flávio de. Regulação de big techs no Brasil: necessidade ou equívoco? Revista da AGU, Brasília, v. 22, n. 3, p. 47-60, jul. 2023.
POLANYI, Karl. A grande transformação: as origens de nossa época. 2. ed. Rio de Janeiro: Campus, 2000.
SCHREIBER, Anderson; MARTINS, Guilherme Magalhães; CARPENA, Heloisa (coord.). Direitos fundamentais e sociedade tecnológica. Indaiatuba: Foco, 2022.
SILVA, Tarcízio. Racismo algorítmico: IA e discriminação nas redes digitais. São Paulo: Edições Sesc São Paulo, 2022.
WANG, Nyu; TIAN, Michael Yuan. “Intelligent Justice”: human-centered considerations in China’s legal AI transformation. AI and Ethics, v. 3, p. 349-354, 2023.
ZUBOFF, Shoshana. A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca, 2021.
Fonte: Migalhas
Deixe um comentário