IA sem explicabilidade na administração pública pode anular contratos e atos administrativos por vício de motivação

O artigo publicado no JOTA argumenta que a conformidade jurídica é apenas o piso mínimo para o uso de inteligência artificial no setor público — não o destino. O texto aponta que viés algorítmico, ausência de explicabilidade e delegação indevida de juízo de conveniência a sistemas automatizados criam riscos jurídicos contínuos, não pontuais.

A ausência de motivação explicável em decisões administrativas suportadas por IA pode configurar vício formal capaz de levar à nulidade do ato, nos termos do art. 50 da Lei 9.784/99. O mesmo raciocínio se aplica a contratos celebrados sem cláusulas de responsabilidade, titularidade de dados e mecanismos de revisão algorítmica.

O artigo cita marcos como a LGPD, o PL 2.338/2023 e a Lei do Governo Digital (Lei 14.129/2021), mas os trata como fotografias de um momento — insuficientes sozinhos para garantir o uso responsável de IA ao longo do tempo. TCU, CGU e Judiciário já reforçam exigências de auditoria e supervisão humana como condição de validade dos atos.

A conclusão é que a instituição pública mais bem-posicionada não é a de melhor lei, mas a de maior capacidade institucional de adaptar, aprender e corrigir — continuamente, independentemente da gestão.