Após a crise gerada com a desinformação sobre o PIX no começo do ano, a União solicitou ao Supremo Tribunal Federal (STF) que aplique eventual responsabilização das plataformas digitais sobre conteúdos de terceiros em discussão no recurso do Marco Civil da Internet também nos casos do uso fraudulento de Inteligência Artificial (IA) e que coloque em risco políticas públicas e a credibilidade institucional da Administração Pública.
O documento foi anexado nesta quarta-feira (21/5) e cita, explicitamente, o caso do PIX. Na peça, há menção a um estudo realizado pela entidade acadêmica NetLab — Laboratório de Estudos de Internet e Redes Sociais da Universidade Federal do Rio de Janeiro (UFRJ). A pesquisa intitulada “Danos causados pela publicidade enganosa na Meta: Anúncios fraudulentos promovem desinformação sobre o Pix para lesar cidadãos brasileiros” mostrou que a Meta ganhou dinheiro impulsionando anúncios falsos contra o PIX, inclusive por meio da inteligência artificial.
Conheça o JOTA PRO Poder, plataforma de monitoramento que oferece transparência e previsibilidade para empresas
De acordo com o recorte da pesquisa trazido pela AGU ao STF, entre 10 e 21 de janeiro de 2025, foram identificados 1.770 anúncios com conteúdo fraudulento que promoviam golpes e informações falsas sobre valores a receber pela população e outros temas relacionados às novas regras de envio de informações de transações via PIX à Receita Federal.
A AGU destaca que as peças publicitárias fraudulentas analisadas pelo estudo da UFRJ ofertavam programas governamentais reais e fictícios, passando-se por páginas de instituições públicas ou privadas. Destaca ainda a manipulação da imagem de lideranças políticas com Inteligência Artificial, ao permitir a adulteração de falas ou a descontextualização de reportagens antigas para legitimar golpes.
A AGU diz que o estudo conclui que o alcance das fraudes foi potencializado pela utilização das ferramentas de marketing da empresa Meta, que permitem a compra de anúncios segmentados de acordo com critérios demográficos, geográficos, conforme interesses dos anunciantes.
“Nesse cenário, observa-se que o uso indevido da inteligência artificial para a produção de conteúdo ilícito ainda é um desafio a ser enfrentado no presente julgamento, sendo fundamental traçar balizas seguras para a responsabilização dos provedores de aplicação no que tange ao uso da referida tecnologia”, diz o texto apresentado ao STF.
Em janeiro, logo após a crise do PIX e da Meta anunciar mudanças em sua política de checagem, a AGU chamou as plataformas para uma audiência pública, mas nenhuma empresa compareceu. Na ocasião, o bastidor era a existência de um mal-estar das big techs com o uso da advocacia pública para regular suas atuações sob o pretexto do combate à desinformação por meio da Procuradoria Nacional da União de Defesa da Democracia. A AGU tem feito várias notificações extrajudiciais pedindo a remoção de conteúdo.
A União é amicus curiae no recurso do Marco Civil da Internet. O JOTA entrou em contato com a Meta e o espaço para a resposta segue em aberto.
O processo é o RE 1037396.
