A OpenAI notificou a Polícia Federal e o Tribunal Superior Eleitoral após identificar interações no ChatGPT em que usuários manifestavam intenções de ameaçar ou atacar o presidente Luiz Inácio Lula da Silva e outras pessoas. A empresa encerrou a conta do principal investigado e repassou os registros para que o Ministério da Justiça avalie a abertura de inquéritos. O caso envolve tópicos como inteligência artificial, moderação de conteúdo, segurança cibernética e cooperação entre empresas de tecnologia e autoridades governamentais em contextos eleitorais.
A OpenAI comunicou à Polícia Federal (PF) que identificou conversas no ChatGPT em que pelo menos dois usuários manifestaram intenções de atacar ou ameaçar o presidente Luiz Inácio Lula da Silva (PT), candidato à reeleição. Os alertas foram enviados após a empresa identificar indícios de possíveis riscos à integridade física de outras pessoas.
No início de outubro, a PF encaminhou os documentos recebidos ao Ministério da Justiça, que deverá decidir se abre dois inquéritos. Um deles apuraria possíveis crimes de ameaça e injúria, enquanto o outro investigaria uma suposta ameaça contra Lula. A OpenAI também informou que notificou o Tribunal Superior Eleitoral (TSE), conforme seu plano de conformidade eleitoral.
Conversas incluíam referências a possíveis ataques
Um dos casos documentados envolve um homem que mantinha interações com o ChatGPT desde janeiro. Em setembro, ele relatou à ferramenta que estava no centro da cidade onde morava quando viu Lula em um palco montado para a campanha eleitoral, a aproximadamente 400 metros de distância.
Nas mensagens, o usuário afirmou ter vontade de atirar na cabeça do presidente e fez perguntas sobre as consequências de matá-lo, incluindo a possível pena de prisão. Ele também enviou uma fotografia de um local que, segundo a descrição apresentada à OpenAI, teria um bom ângulo para realizar o ataque.
Em seu alerta às autoridades, a empresa destacou que, embora o homem tenha afirmado que não agiria e que não possuía uma arma, ele mencionou o desejo de utilizar um fuzil de precisão. As conversas também incluíam referências a uma rota de fuga, binóculos e um AR-15 com luneta.
O histórico compartilhado com a PF continha outros relatos de violência. O mesmo usuário havia enviado imagens de armas brancas e manifestado vontade de agredir pessoas próximas, incluindo parentes. Em outras ocasiões, compartilhou símbolos nazistas e afirmou que promoveria um massacre caso tivesse dinheiro.
As mensagens também alternavam entre declarações de que não pretendia machucar ninguém e manifestações de intenção violenta. Em uma delas, o homem enviou uma receita de explosivo e mencionou possíveis ataques a centros médicos.
OpenAI afirma que alerta autoridades em casos de risco
Em resposta à reportagem da Folha de S.Paulo, a OpenAI afirmou que comunica às autoridades situações em que as conversas indicam risco real de danos a outras pessoas. A empresa também declarou que compartilhou os dados para proteger direitos e bens e combater o uso abusivo de seus serviços, em conformidade com os Termos de Serviço e a Política de Privacidade.
No início de outubro, a companhia encerrou a conta do usuário e encaminhou as informações à Polícia Federal. No documento enviado, recomendou que o material fosse avaliado de maneira independente pelas autoridades competentes.
A PF considerou que os registros apontavam ameaças de violência contra terceiros, incluindo Lula, além de comentários sobre armas de fogo e armas brancas, fantasias violentas e manifestações favoráveis a regimes autoritários. Os documentos obtidos pela Folha, porém, não mostram as respostas fornecidas pelo ChatGPT durante as interações.
O diretor-geral da Polícia Federal, Andrei Rodrigues, encaminhou o caso ao ministro da Justiça, Wellington César Lima e Silva, a quem cabe decidir sobre a abertura de um inquérito pelo crime de ameaça. Segundo a legislação mencionada na reportagem, esse delito prevê detenção de um a seis meses ou multa.
O Ministério da Justiça e a PF foram procurados pela Folha, mas não se manifestaram. A reportagem também questionou os órgãos e a OpenAI sobre a existência de outras investigações envolvendo ameaças a candidatos identificadas por plataformas de inteligência artificial, mas não recebeu resposta sobre esse ponto.
Ana Figueiredo é editora de tecnologia do Olhar Digital. É formada em Jornalismo pela Universidade Federal de Uberlândia (UFU).
Meridiano
