Regulamentação da IA na saúde deve ser justa e equilibrada

A regulamentação da inteligência artificial no Brasil tem sido pauta de discussão no Congresso Nacional desde 2019 e o setor da saúde vem acompanhando de perto, contribuindo para que sejam garantidos a proteção dos direitos fundamentais e a segurança e confiabilidade desses sistemas, principalmente para os pacientes. Ao mesmo tempo, defende que a legislação não engesse o desenvolvimento tecnológico e a implementação de novas tecnologias que beneficiem diagnósticos e tratamentos médicos. 

Para falar das perspectivas e preocupações atuais, vamos entender o histórico. Em 2021, a discussão para estabelecer diretrizes para o desenvolvimento e uso da IA ganhou tração na Câmara dos Deputados, especialmente a partir do PL 21/20, de cunho principiológico, que foi aprovado no final daquele ano. No entanto, o projeto não avançou no Senado, que preferiu instituir uma Comissão de Juristas, em 2022, para elaborar uma nova proposta legislativa.

Com notícias da Anvisa e da ANS, o JOTA PRO Saúde entrega previsibilidade e transparência para empresas do setor

Assim, nasceu o PL 2338/2023, inspirado nas discussões e diretrizes da regulação europeia, considerada hard law por muitos exatamente por conter uma série de regras e obrigações fundadas na proteção de direitos fundamentais e privacidade dos cidadãos, estabelecendo assim normas mais rigorosas para o uso da IA. 

A primeira versão do texto continha duas propostas que geraram preocupação no setor. Primeiro, classificava qualquer uso de IA na área da saúde como de alto risco, sem diferenciar aplicações simples, como, chatbots para atendimento de demandas administrativas por usuários de planos de saúde, de aplicações mais complexas, como diagnóstico e auxílio direto ao médico e soluções com potencial de influenciar na definição do curso do tratamento de pacientes.

A outra proposta previa a criação de uma autoridade reguladora completamente nova, exclusiva para regular a inteligência artificial, o que, na visão do setor, geraria redundância e insegurança regulatória e custos administrativos para a máquina pública.

Ao longo da tramitação do projeto, associações representativas de todos os segmentos envolvidos – da indústria a planos de saúde – se mobilizaram e propuseram uma série de contribuições, apresentadas tanto em audiências públicas quanto para os senadores – incluindo o relator, senador Eduardo Gomes (PL-TO). Como resultado, o relator incorporou sugestões importantes e o texto foi ajustado para adotar uma abordagem baseada em risco, permitindo uma regulamentação mais equilibrada e proporcional.

Além disso, a criação de uma nova autoridade reguladora foi descartada em favor da criação do Sistema Nacional de Regulação da Inteligência Artificial (SIA). Nesse modelo, a Autoridade Nacional de Proteção de Dados (ANPD) ficou responsável pela coordenação, enquanto outras agências setoriais, como a Anvisa, a ANS e a Anatel, deverão atuar na regulamentação específica.

Para o setor de dispositivos médicos, estes foram avanços importantes. No entanto, o projeto ainda necessita de ajustes, que foram apresentados na forma de emenda proposta pela senadora Mara Gabrilli (PSD-SP) no final de 2024. Parte das contribuições foi acatada.

Em linhas gerais, o PL 2338/2023 estabelece que: 

• Todos os responsáveis pelos sistemas de inteligência artificial deverão estabelecer mecanismos internos de governança para assegurar a proteção do sistema e o respeito aos direitos das pessoas impactadas, conforme o texto aprovado;
• Sistemas classificados como de alto risco deverão manter registros detalhados de testes de confiabilidade e segurança, implementar medidas para reduzir vieses discriminatórios, utilizar ferramentas de monitoramento automático das operações e garantir transparência na explicação dos resultados gerados; e
• Eventuais falhas graves de segurança devem ser notificadas à autoridade responsável dentro de um prazo apropriado.

Pleitos do setor, como o (1) aproveitamento de análises preliminares e de impacto algorítmico feitas por autoridade reguladora estrangeira; (2) o uso de IA para monitoramento remoto, consultas e dispositivos robóticos à distância e; (3) que os agentes de IA regulados por entes setoriais cumpram determinadas obrigações previstas na lei uma única vez, como o reporte de algumas informações, não foram contemplados e devem ser discutidos na Câmara dos Deputados. 

Apesar de o PL 2338/23 ter o apoio inclusive do Ministério da Saúde, segundo matérias publicadas na imprensa, o texto agora está na Câmara dos Deputados, que tem novo presidente e que deverá definir os rumos do projeto. Os deputados já apresentaram requerimento para a criação de uma comissão especial para analisar o tema.

Essa decisão é chave para o setor da saúde – o de dispositivos médicos em especial – para que possa definir suas estratégias. O que seguimos defendendo é que a regulamentação da IA no Brasil seja equilibrada, justa e que não impeça seu desenvolvimento e aplicação na saúde, pois pode representar avanços muito significativos para os pacientes e para o sistema como um todo.