A revolução tecnológica que vivenciamos desde as últimas décadas insiste em não cessar. Uma de suas novidades é o emprego da inteligência artificial (IA), a qual vem se expandindo de modo a alcançar a administração pública.
No que concerne à função administrativa, Julián Torrijos [1] explicita que a implantação da IA observou ciclo evolutivo em três fases, a saber:
- a) automatização robótica de processos, donde se mostrou imprescindível a digitalização e a implantação de sistemas automatizados de apoio à tomada de decisões;
- b) automatização cognitiva, implicando a aplicação real de IA em sentido estrito, com a estruturação de informações no sistema e o desenho dos algoritmos;
- c) IA em sua máxima expressão, resultando na inserção da informática efetiva, com a análise preditiva e a utilização de máquinas com capacidade de aprendizagem (machine learning).
Mediante o emprego da IA, permite-se que a administração venha proferir decisões sem a necessidade da intervenção do pessoal que se encontra a seu serviço. A esse respeito, a Ley 40/2015, que disciplina o Regime Jurídico do Setor Público espanhol, contemplou, no seu artigo 41.1 [2], o instituto que denominou de atuação administrativa automatizada, consistente nas deliberações realizadas em sua integralidade por meios eletrônicos no âmbito de um procedimento administrativo, sem a intervenção de um servidor público.
A IA se manifesta mediante a utilização de algoritmos e dados, os quais, consoante Juli Ponce Solé [3], numa comparação com a gastronomia, são, respectivamente, as receitas e os ingredientes.
Discorrendo sobre o algoritmo, diz o autor que este representa um conjunto de instruções para solucionar um problema, sofrendo transformações complexas com o passar do tempo.
Daí que passaram de estáticos, no sentido de que os programadores desenhavam os critérios para a tomada de decisões, a dinâmicos, onde se têm os algoritmos de aprendizagem automática (machine learning), os quais possuem a aptidão para, a partir dos dados e da experiência, aprenderem como decidir por si, gerando as suas próprias instruções, que não mais se confundem com as iniciais do programador.
Isso sem contar a aprendizagem profunda (deep learning), a conceber um funcionamento que pretende igualar-se a redes neurais complexas, extraindo, assim, padrões das massas de dados e os resultados que alcançam não estão relacionados de forma linear, mas complexa, de maneira a não se mostrar fácil determinar-se a causalidade entre os dados e a decisão adotada.
Por isso, adverte o autor que, nesse meio ambiente de aprendizado automático, vê-se que os seres humanos já não conseguem controlar qual a decisão a ser tomada, bem assim porque uma decisão errônea foi adotada, perdendo o procedimento a sua transparência desde o início, fazendo com que se fale de uma caixa preta (black box) quanto ao procedimento de tais deliberações.
IA moldada à vontade humana
E não só. Para Juarez Freitas [4], por mais que se postule a intencionalidade ou que se receie a desobediência da máquina, é inegável que a IA se acha condicionada à programação moldada pela inteligência/vontade humana. Assim, se por um lado pode-se apontar a vantagem de controle das distopias e dos vieses desde o seu nascedouro, não se pode deixar de perceber que aquela tende a refletir, salvo regulação prudencial, os estereótipos, os desvios cognitivos e os preconceitos dos projetistas e controladores [5].
Preocupações dessa ordem evidenciam que a introdução da IA nos procedimentos administrativos não prescinde de condicionamentos, a fim de que se amoldem ao arquétipo traçado pelo direito administrativo democrático, exigindo uma reconfiguração das garantias jurídicas [6] ou um seguro redimensionamento dos princípios e regras do regime jurídico-administrativo [7].
A temática é extremamente rica e complexa. Entre nós, inicialmente é preciso acentuar que a instituição de modelos de IA nos procedimentos administrativos depende da sua disciplina por lei formal ou por regulamento cuja edição esteja habilitada por aquela. Está-se diante, se não da definição da própria competência, pelo menos do modo do seu exercício. Portanto, a prévia habilitação faz-se indispensável.
A questão, noutros sistemas jurídicos, encontra opiniões diversas, tal como expôs Pedro Gonçalves [8] para o direito português. Escrevendo aos instantes finais da centúria passada, chamou a atenção do autor para a questão da legitimação democrática da decisão administrativa informática. Porém, concluiu pela desnecessidade da edição de regra ou lei especial para tanto, sendo bastante que a decisão administrativa não se mostre em contrariedade com a lei e que não esteja livre dos limites que, de uma forma geral, condicionam o exercício das competências decisórias.
Diante do modelo espanhol, Julián Valero Torrijos [9] sustenta que a implantação da IA no funcionamento da administração pública pode ser realizada mediante ato administrativo, resultante de um procedimento administrativo adequado para dita finalidade.
Ao insistir na exigência de uma prévia autorização em lei, pondero que as garantias que se impõem para o controle da IA vão além das limitações gerais que conformam as competências administrativas. Ademais, observe-se que o modelo hispânico, para permitir tal compreensão, funda-se no artigo 41 da Ley 40/2015, delineando um permissivo genérico para a administração pública.
Transparência e motivação: direitos dos administrados
No direito brasileiro, a exigência de uma autorização em lei da respectiva entidade política não quer submeter a questão à reserva do legislador, o que somente cabe fazer a CRFB. Decorre, não da reserva, mas da ideia de precedência da lei, inseparável da juridicidade no Estado de direito, de maneira a permitir que, devidamente habilitada, a competência regulamentar da administração minudencie a forma de inserção da IA [10].
Uma baliza não deve passar despercebida é a da não adequação do emprego da IA no que concerne a atos que ensejem a manifestação de competência discricionária, cuja solução não se encontra pré-moldada, mas influenciada pelas contingências do caso concreto [11]. O legislador já se encontra ocupando sobre o assunto [12].
Por sua vez, a transparência e a motivação [13] são relevantes direitos dos administrados para um eventual contrapeso diante da IA. Mark Coeckelbergh [14], especialmente quanto aos sistemas de IA que usam aprendizado de máquina (machine learning), alude à exigência de transparência e explicabilidade [15], o que vai além de somente revelar ou não o código de software, dizendo respeito principalmente a explicar as decisões para as pessoas.
Isso porque revelar um código não se mostra eficaz à medida que depende da habilidade e da formação educacional dos destinatários, pois, se estes carecem de um conhecimento técnico relevante, um tipo de explicação distinta se mostra indispensável [16]. Visa-se a um sistema auditável.
Assiste-se, paulatinamente, a uma tendência legislativa com vistas ao estabelecimento de princípios específicos (rectius, diretrizes) para o emprego da IA na função administrativa [17], da qual não escapou a reforma da Lei nº 9.784/99 [18].
Numa adição aos aspectos expostos, é indispensável que se assegure ao administrado o direito à fiscalização e controle, mediante o questionamento das decisões informáticas que afetarem seus interesses [19].
Um ponto de vanguarda para o direito brasileiro é o de que, mesmo antes da promulgação da LGD, consta do artigo 20 da Lei nº 13.709/2018 a previsão de um mecanismo de controle. Embora se refira às decisões automatizadas que tomarem por base dados pessoais, o preceito assegura ao titular destes o direito à revisão daquelas que afetem os seus interesses ou direitos, inseridas as que se destinem à definição de seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade.
Com tal regra — acentua Juarez Freitas —, tem-se a amplitude da transparência decisória na direção da abertura da caixa-preta (black box) algorítmica, de sorte que o seu desatendimento arbitrário é suficiente para a inversão do ônus da prova em favor do afetado, à luz da presunção de boa-fé do usuário [20].
E que venha a inovação!
[1] Las garantias jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración. Revista Catalana de Dret Públic, nº 58, p. 85, 2019.
[2] Artigo 41 Atuação administrativa automatizada. 1. Compreende-se por atuação administrativa automatizada, qualquer ato ou atuação realizada inteiramente através de meios eletrônicos por uma Administração Pública no curso de um procedimento administrativo e na qual não tenha havido a intervenção, de forma direta, de um servidor público” Tradução livre do texto disponível em: https://www.boe.es/buscar/act.php?id=BOE-A-2015-10566. Acesso em: 28-01-2024).
[3] Inteligencia artificial, derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico. Disponível em: https://laadministracionaldia.inap.es/noticia.asp?id=1510413. Acesso em: 28-01-2024.
[4] Direito administrativo e inteligência artificial, Interesse Público, ano 21, nº 114, p. 17, março/abril de 2019.
[5] Para Vítor Fraga e Ednaldo Silva (O ato administrativo na Administração Pública digital: releituras e desafios. In: NOBRE JÚNIOR, Edilson Pereira; COCENTINO, Nathália Nóbrega (Org.). Direito administrativo e Administração Pública digital. São Paulo: Editora Dialética, 2023, p. 165-166) há a possibilidade de se identificar quatro tipos de erros no emprego dos algoritmos para automatizar decisões, sendo eles o estatístico, o e por generalização, o decorrente da utilização de informações sensíveis e o limitador do exercício de direitos. Nas duas primeiras modalidades, está-se – frisam – diante de problemas puramente matemáticos, de sorte que no erro estatístico o que há é um problema no desenho do algoritmo ou no seu input, enquanto no equívoco por generalização há um engano de probabilidade, uma vez não se confirmar a correlação estatística identificada. Diversamente, nos erros limitadores do exercício de direito ou que resultem da utilização de informações sensíveis se constata que os dados fornecidos estão corretos, havendo, como resultante da operação algorítmica, uma opção indesejada diante do sistema jurídico, ainda que correta.
[6] Eis a afirmação de Julián Torrijos: “Contudo, o ajuste das garantias jurídicas se converte numa necessidade imprescindível, de maneira que possam ser estabelecidas condições sob as quais sua utilização resulte aceitável com as oportunas compensações que, em definitivo, haverão que se conceber limites adequados ao exercício das competências administrativas, agora reforçadas pela especial incidência da tecnologia nos direitos e liberdades” (Tradução Las garantias jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración. Revista Catalana de Dret Públic, nº 58, p. 84, 2019. Tradução livre).
[7] Consultar Juarez Freitas (Direito administrativo e inteligência artificial, Interesse Público, ano 21, nº 114, p. 24-25, março/abril de 2019).
[8] O acto administrativo informático, Scientia Ivridica – Revista de Direito Comparado Português e Brasileiro, Tomo XLVI, p. 76-77, janeiro/junho de 1997.
[9] . Las garantias jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración. Revista Catalana de Dret Públic, nº 58, p. 87, 2019.
[10] Ver, dentre outros, o Projetos de Lei nº 2338/2023, em tramitação no Senado Federal.
[11] Nesse sentido, Elisa Pérez (De las actuaciones administrativas automatizadas a la inteligencia artificial. Un breve apunte sobre su implementación y regulación en la Administración Pública española. In: CAMINO, Geraldo Costa da (Coord.). Intellegentiae artificialis, imperium et civitatem. Madri: Editorial Alma Mater, 2022, p. 100) e Pedro Gonçalves (O acto administrativo informático, Scientia Ivridica – Revista de Direito Comparado Português e Brasileiro, Tomo XLVI, p. 80, janeiro/junho de 1997). No entanto, é de se mencionar a opinião, parcialmente diversa, de Vítor Fraga e Ednaldo Silva (O ato administrativo na Administração Pública digital: releituras e desafios. In: NOBRE JÚNIOR, Edilson Pereira; COCENTINO, Nathália Nóbrega (Org.). Direito administrativo e Administração Pública digital. São Paulo: Editora Dialética, 2023, p. 163-164), os quais raciocinam que a automatização no exercício de competências discricionárias não poderá ser totalmente inadmitida, contanto que haja, à guisa de cautela, a revisão da decisão sugerida pelo algoritmo por agente público detentor da competência para a produção do ato final.
[12] É o que se vê da Lei de Procedimento Administrativo da Alemanha (Verwaltungsverfahrensgesetz): “§35a. Emissão integralmente automatizada de um ato administrativo Um ato administrativo pode ser praticado integralmente através de meios automatizados, quando a lei o preveja e não se verifiquem valorações próprias do exercício da função administrativa, nem tal implique o exercício da margem de livre decisão administrativa” (Jorge Alves Correia e Andreas Isenberg. Lei Alemã do Procedimento Administrativo. Coimbra: Almedina, 2016, p. 55-56).
[13] Eliza Pérez (op. cit., p. 101) e Valero Torrijos (op. cit., p. 91) associam a imprescindibilidade da motivação no uso da IA à boa administração, consagrada pelo artigo 41º da Carta dos Direitos Fundamentais da União Europeia (disponível em: www.europarl.europa.eu).
[14] Ética na inteligência artificial. São Paulo/Rio de Janeiro: Ubu Editora/Editora PUC – Rio, 2023, p. 109-110 e 114).
[15] Ao que parece concorrendo com o princípio da motivação, a explicabilidade vem usufruindo, no que concerne ao plano digital, da preferência do legislador, conforme se pode ver do artigo 9º, nº 1, da Carta Portuguesa de Direito Humanos na Era Digital.
[16] Coeckelberg (op. cit., p. 151) afirma ser excelente a ideia da incorporação da ética no projeto de novas tecnologias, desde a sua concepção (ethics by design), a qual pode ajudar a criar IA de tal modo a que conduza a mais responsabilização e transparência. Sugere que a ética desde a concepção “poderia incluir o requisito de que a rastreabilidade seja garantida em todas as fases, contribuindo então para a auditabilidade da IA” (op. cit., p. 151).
[17] Ver a Carta Portuguesa de Direitos Humanos na Era Digital: “Artigo 9.º Uso da inteligência artificial e de robôs 1 – A utilização da inteligência artificial deve ser orientada pelo respeito dos direitos fundamentais, garantindo um justo equilíbrio entre os princípios da explicabilidade, da segurança, da transparência e da responsabilidade, que atenda às circunstâncias de cada caso concreto e estabeleça processos destinados a evitar quaisquer preconceitos e formas de discriminação” (disponível em: www.diariodarepública.pt).
[18] O Substitutivo apresentado ao Projeto de Lei nº 2.481/202 propõe o tratamento da matéria de modo preciso e objetivo, a saber: “Art. 47-E. A utilização de modelos de inteligência artificial no âmbito do processo administrativo eletrônico deve ser transparente, previsível e auditável, garantindo-se: I – informação prévia sobre uso de sistemas dotados de inteligência artificial; II – explicação, quando solicitada, sobre os critérios utilizados pelo sistema para tomada de decisão; III – proteção de dados pessoais, nos termos da legislação de regência, especialmente a Lei nº 13.709, de 14 de agosto de 2018 (Lei Geral de Proteção de Dados Pessoais); IV– revisão de dados e resultados; e V – correção de vieses discriminatórios. Parágrafo único. Os modelos de inteligência artificial devem utilizar preferencialmente códigos abertos, facilitar a sua integração com os sistemas utilizados em outros órgãos e entes públicos e possibilitar o seu desenvolvimento em ambiente colaborativo” (disponível em: https://www25.senado.leg.br).
[19] Nesse sentido, ver o artigo 41.2 da Ley 40/2015: (…) 2. Em caso de atuação administrativa automatizada deverá estabelecer-se previamente o órgão ou órgãos competentes, segundo as situações, para a definição das especificações, programação, manutenção, supervisão e controle de qualidade e, no seu caso, auditoria do sistema de informação e de seu código fonte. Da mesma forma, se indicará o órgão que deve ser considerado responsável para efeitos de impugnação (Tradução livre da versão disponível em: https://www.boe.es/buscar/act.php?id=BOE-A-2015-10566. Acesso em: 28-01-2024). Semelhante se tem no artigo 9º, nº 2º, da Carta Portuguesa de Direitos Humanos na Era Digital: “2 – As decisões com impacto significativo na esfera dos destinatários que sejam tomadas mediante o uso de algoritmos devem ser comunicadas aos interessados, sendo suscetíveis de recurso e auditáveis, nos termos previstos na lei” (disponível em: www.diariodarepública.pt).
[20] A Lei nº 14.129/2021 (art. 3º, XV), que regula o Governo Digital, elenca como diretriz “a presunção de boa-fé do usuário dos serviços públicos”.
Fonte: Conjur
Deixe um comentário