Padrasto usava o Grok para criar mais de 7 mil imagens criminosas da enteada
Por André Lourenti Magalhães • Editado por Jones Oliveira |
Um padrasto usou a IA Grok para criar mais de 7 mil imagens sensuais com fotos de infância da própria enteada. O caso aconteceu no estado de Wyoming, nos Estados Unidos, e virou um processo contra a empresa de IA.
De acordo com o jornal Washington Post, uma operação policial na casa do padrasto apreendeu aparelhos eletrônicos e identificou que o homem criava imagens eróticas da vítima sem consentimento para negociá-las online. Foram milhares de criações, incluindo versões com fotos de quando a pessoa tinha 11 anos.
O padrasto foi encontrado morto por suicídio alguns dias após a operação e a vítima abriu um processo contra a xAI, empresa de Elon Musk criadora do Grok. Há, ainda, um, processo federal movido por outras três jovens estadunidenses que acusam o uso da ferramenta para criar versões sensuais de fotos tiradas quando eram mais novas.
Grok no centro da discussão
O caso é mais uma consequência da onda de deepfakes criadas pelo Grok. A situação começou em janeiro deste ano, quando a integração da IA com o X permitia criar imagens eróticas de qualquer perfil público na rede social sem o consentimento da pessoa e com comandos simples.
A ferramenta de IA foi alvo de investigações em diferentes países, incluindo o Brasil, e depois incluiu mecanismos de segurança para evitar comandos do tipo pelo X.
No entanto, o problema com os deepfakes ainda é grande: a IA generativa consegue ser usada para criar imagens em massa e ferramentas que “driblam” os mecanismos de segurança ainda são amplamente divulgadas.
Caso você tenha sido vítima de um ataque por deepfake, o ideal é juntar a maior quantidade de provas e registrar um boletim de ocorrência online.
Meridiano
:quality(85)/db1a4eda-a156-427f-9469-77d3529c8b6a.png)