CNJ apresenta resolução para normatizar uso de inteligência artificial nos tribunais

O Conselho Nacional de Justiça (CNJ) vai normatizar o uso de inteligência artificial nos tribunais brasileiros. A proposta será lida na sessão desta terça-feira (11/2) e a votação deverá ocorrer na próxima semana. Entre os destaques da resolução estão a obrigatoriedade de supervisão humana, a classificação dos sistemas de IA conforme o nível de risco, a implementação de auditorias regulares e a criação de uma plataforma para compartilhamento de soluções institucionais. Leia a íntegra da minuta da resolução.

Também está prevista a criação do Comitê Nacional de Inteligência Artificial, responsável por monitorar e atualizar as diretrizes de uso da tecnologia nos tribunais brasileiros.

Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas

Os tribunais terão um prazo de 12 meses para adequar seus projetos e modelos, em desenvolvimento ou já implantados. O prazo será contado a partir da publicação da resolução.

O relator da proposta é o conselheiro Luiz Fernando Bandeira de Mello Filho, que fará a leitura do voto nesta terça-feira – ele deixará o CNJ no dia 27 de fevereiro, com o término de seu mandato. A ideia da resolução é atualizar a Resolução 332/2020, que já regulou o tema, mas que necessita de atualização após a chegada da IA generativa, ferramenta que cria novos conteúdos, como imagens, vídeos, músicas, textos e códigos a partir do reconhecimento de padrões.

De acordo com a resolução, os sistemas de IA devem funcionar como “ferramentas de apoio à decisão” para melhorar a eficiência no Judiciário brasileiro. Em seu voto, Bandeira de Mello deve enfatizar que o papel central ainda será o operador humano e que a resolução não visa estimular a “dependência” dos algoritmos no processo de tomada de decisões. A ideia é “empoderar” os juízes, garantindo que a tecnologia seja aliada – e não substituta – da decisão humana.

O ato normativo classifica as soluções de IA em alto, baixo risco e as condutas vedadas. As de baixo risco são as destinadas a atividades acessórias e rotineiras e que exigem menos controle dos tribunais e do CNJ. Assim, os tribunais podem comunicar ao CNJ quando a solução estiver pronta.

Como, por exemplo, a extração, a classificação e a sumarização de informações de documentos. Por exemplo, sistemas que auxiliam na organização de processos ou na detecção de padrões decisórios em bases de dados. Neste caso, há menor probabilidade de erros críticos, pois o impacto tende a ser resolvido pelo controle humano.

Já as soluções classificadas como de alto risco exigirão maior controle do CNJ. Aqui, o conselho terá que ser comunicado sobre o desenvolvimento ou aquisição dessa ferramenta.

São os casos de tecnologias que operam com dados sensíveis ou que podem exercer uma influência direta sobre decisões judiciais, como sistemas que auxiliam na detecção de padrões comportamentais, valoração de provas ou interpretação de fatos e condutas para enquadramento penal.

Nesses casos, a automação elevada ou sem controle pode implicar consequências jurídicas graves se ocorrerem desvios. Por exemplo, uso de IA que pode possibilitar a ocorrência de vieses discriminatórios ou de erros na interpretação dos dados. Assim, o CNJ alerta que o uso dessas ferramentas vai exigir medidas de segurança e auditoria mais rigorosas.

Fica vedado o uso de IA em soluções que possam trazer risco à segurança da informação, dos direitos fundamentais ou à independência dos magistrados. É o caso, por exemplo, de soluções que valorem traços da personalidade, características ou comportamentos de pessoas ou de grupos de pessoas, com o objetivo de avaliar ou prever o cometimento de crimes.

De acordo com a pesquisa “O uso da Inteligência Artificial Generativa no Poder Judiciário brasileiro”, cerca de 50% dos magistrados e servidores dos tribunais brasileiros já experimentaram ferramentas IAG, contudo, a frequência de uso ainda é baixa. O acesso é predominantemente feito por meio de ferramentas abertas disponíveis na internet, sendo raro o uso de soluções institucionais fornecidas pelos tribunais. Além disso, mais de 90% dos entrevistados expressaram interesse em programas de capacitação para o uso de IAG.

A pesquisa foi utilizada para a construção do ato normativo. O texto foi construído a partir de um grupo de trabalho sobre o tema, criado logo no início da gestão do presidente Luís Roberto Barroso.