CNJ aprova resolução que estabelece normas para uso de IA generativa nos tribunais

O Conselho Nacional de Justiça (CNJ) aprovou nesta terça-feira (18/2) resolução que estabelece normas para o uso de inteligência artificial nos tribunais brasileiros. O texto prevê a obrigatoriedade de supervisão humana, a classificação dos sistemas de IA conforme o nível de risco e a criação de uma instância responsável por monitorar e atualizar as diretrizes de uso da tecnologia nos tribunais brasileiros, o Comitê Nacional de Inteligência Artificial.

O tema já era regulado pela Resolução 332/2020, contudo, o novo texto atualiza a normativa incluindo a inteligência artificial generativa, tecnologia que possibilita a criação de novos conteúdos a partir do reconhecimento de padrões. Os tribunais terão 12 meses, a serem contados a partir da publicação da resolução, para adequar seus projetos e modelos, em desenvolvimento ou já implantados.

Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas

O texto foi apresentado na semana passada pelo relator, o conselheiro Luiz Fernando Bandeira de Mello Filho, que termina o mandato no próximo dia 27 e participou nesta terça de sua última reunião no CNJ. O documento é resultado de uma série de discussões realizada por um Grupo de Trabalho ao longo de um ano, que incluiu uma audiência pública de três dias para debate do tema.

À versão inicial do texto, foram incorporadas sugestões de outros conselheiros para que a resolução abarcasse questões associadas a inclusão social e letramento digital, à periodicidade de auditorias e monitoramento e pontos específicos para soluções em inteligência artificial que envolvam segurança pública.

O relator Bandeira de Mello disse que a resolução ainda poderá ser revisada pelo comitê e afirmou “esperar que o tempo aponte quais as deficiências dos textos e boas ideias que podem ser aperfeiçoadas”.

Durante a discussão de aprovação da normativa, alguns conselheiros apontaram preocupações quanto a um risco da resolução ser uma medida precipitada. Entre os pontos em discordância ao texto, conselheiro Alexandre Teixeira apontou que a normatização pode trazer o risco de estimular uma espécie de “linha de produção de decisão judiciais”.

“É possível que a sociedade e próprio poder judiciário recebam uma mensagem de que o CNJ entenda que a inteligência artificial deva ser utilizada como uma espécie de panaceia e isso não é bom”, afirmou.

Já a conselheira Renata Gil, considerou que o momento ainda não tem a “consistência necessária para avançar em todos os pontos de regulação”.

Apesar das manifestações, o presidente do Supremo Tribunal Federal (STF) e do CNJ, ministro Luís Roberto Barroso, afirmou que a maioria entendeu como oportuna a adoção de alguma diretriz para normatizar o uso da IA.

Leia o que estabelece a resolução

A resolução estabelece normas gerais para desenvolvimento, governança, auditoria, monitoramento e uso responsável de soluções de IA no Poder Judiciário. A normativa considera “a importância de promover a autonomia dos tribunais na adoção de tecnologias inovadoras, incentivando práticas que garantam a inovação ética, responsável e segura no uso da inteligência artificial”. Leia a íntegra da resolução.

Além disso, as soluções de IA serão avaliadas conforme a definição de seu grau de risco. A classificação é baseada em fatores como o impacto potencial nos direitos fundamentais, a complexidade do modelo, a sustentabilidade financeira, as utilizações pretendidas e a quantidade de dados sensíveis utilizados.
As classificações serão em alto, baixo risco e as condutas vedadas. As de baixo risco são destinadas a atividades acessórias e rotineiras e que exigem menos controle dos tribunais e do CNJ. Assim, os tribunais podem comunicar ao conselho quando a solução estiver pronta.

Por outro lado, as soluções classificadas como de alto risco exigirão maior controle do CNJ e o conselho terá que ser comunicado sobre o desenvolvimento ou aquisição dessa ferramenta. São os casos de tecnologias que operam com dados sensíveis ou que podem exercer uma influência direta sobre decisões judiciais, como sistemas que auxiliam na detecção de padrões comportamentais, valoração de provas ou interpretação de fatos e condutas para enquadramento penal.

Nesses casos, a automação elevada ou sem controle pode implicar consequências jurídicas graves se ocorrerem desvios. Por exemplo, uso de IA que pode possibilitar a ocorrência de vieses discriminatórios ou de erros na interpretação dos dados. Assim, o CNJ alerta que o uso dessas ferramentas vai exigir medidas de segurança e auditoria mais rigorosas.

De acordo com o texto, os tribunais deverão garantir a compatibilidade com os direitos fundamentais em todas as fases do desenvolvimento, implementação e utilização das plataformas e ferramentas em IA. Os dados utilizados para desenvolvimento ou treinamento dos modelos de inteligência deverão ser representativos de casos judiciais e observar os cuidados necessários quanto à confidencialidade e proteção de dados pessoais, seguindo a Lei Geral de Proteção de Dados (LGPD).

O ato normativo veda o uso de IA em soluções que possam trazer risco à segurança da informação, dos direitos fundamentais ou à independência dos magistrados. É o caso, por exemplo, de soluções que valorem traços da personalidade, características ou comportamentos de pessoas ou de grupos de pessoas, com o objetivo de avaliar ou prever o cometimento de crimes.

Os tribunais que desenvolvem ou contratam plataformas em IA devem estabelecer processos internos para garantir a segurança dos sistemas, entre elas medidas de transparência, mitigação de preconceitos discriminatórios e monitoramento contínuo.

Qualquer modelo de IA adotado pelos órgãos do Poder Judiciário deverá observar as regras de governança de dados aplicáveis ​​aos seus próprios sistemas computacionais, as Resoluções e Recomendações do Conselho Nacional de Justiça, a Lei Geral de Proteção de Dados Pessoais, a Lei 12.527/2011 (Lei de Acesso à Informação – LAI), a propriedade intelectual e o segredo de justiça.