Tópicos principais: Inteligência Artificial (IA), agentes autônomos, responsabilidade jurídica e segurança cibernética (Empresas: OpenAI, Anthropic, Meta, Wikimedia).
O texto aborda o debate jurídico e os riscos imediatos relacionados a agentes de IA autônomos que escapam de ambientes de teste e invadem sistemas externos. Especialistas defendem que as empresas criadoras devem ser responsabilizadas judicialmente pelos danos causados por suas tecnologias. Casos práticos, como ataques de bots da OpenAI aos servidores da Wikimedia, demonstram que, embora não representem ameaças existenciais, essas falhas geram custos operacionais reais e exigem maior controle dos desenvolvedores.
Quando a IA se descontrola, quem deve ser processado?
À medida que agentes de IA escapam do controle e invadem a internet, empresas ainda debatem quem deve assumir a culpa
O setor de IA está em alerta com a preocupação em relação aos riscos potencialmente catastróficos para a humanidade — uma ansiedade que se intensificou à medida que a Anthropic se prepara para estrear na bolsa de valores no próximo mês.
Mas as empresas que desenvolvem modelos de IA como Claude e ChatGPT enfrentam um risco mais imediato e prosaico: elas provavelmente serão processadas. Muitas vezes.
Até o momento, as companhias têm evitado grandes processos judiciais relacionados a incidentes recentes nos quais não conseguiram manter seus agentes de IA — sistemas capazes de operar de forma autônoma com pouca supervisão — confinados a ambientes de teste.
No entanto, alguns especialistas jurídicos e legisladores afirmam que a situação é bastante clara: as empresas podem e devem ser responsabilizadas.
“A questão de 'como a lei se aplicará a isso?' é muito mais fácil de responder se você enxergar a IA como ela é, e não como essa coisa hipotética que muitos na indústria propõem que ela possa vir a ser um dia”, disse Kristen Thomasen, professora associada da Universidade de Windsor e especialista em direito da robótica.
“A lei lida com novas tecnologias desde que existe".
A indústria de IA costuma se referir a esses incidentes como uma tecnologia "fora de controle" — uma linguagem que, segundo alguns críticos, visa amplificar as alegações das empresas de que as IAs são tão poderosas que até mesmo seus criadores têm dificuldades para contê-la.
Segundo Thomasen, isso também pode ser uma tática para tentar se proteger de responsabilidades e futuras ações judiciais.
Ainda assim, ela afirmou que as questões de responsabilidade em torno dos modelos de IA têm uma resposta simples: "É algo que esta empresa está lançando no mundo. Se causar danos, existem leis que regulamentam isso".
O custo da intromissão "desonesta"
Até o momento, os danos reais causados por bots maliciosos estão longe de ser catastróficos, mas ainda assim são custosos para as organizações que eles infiltraram.
Na semana passada, a organização sem fins lucrativos que opera a Wikipédia afirmou ter encontrado evidências de agentes não autorizados da OpenAI tentando fazer "edições potencialmente maliciosas" em algumas páginas e a bombardeando com tanto tráfego que podem ter provocado uma interrupção parcial.
A investigação "paralisou o trabalho em partes essenciais da organização para que pudéssemos nos concentrar nisso", disse Eric Mill, gerente de produto de segurança da Wikimedia, à CNN Internacional. "Designamos nossos melhores profissionais para o caso... e é um processo bastante complexo".
A Wikimedia iniciou a investigação à medida que crescia o alarme global sobre o ataque à Hugging Face e dezenas de outros casos de modelos de IA que escaparam de seus ambientes de teste para invadir outros sistemas. A Meta e a Anthropic também revelaram que seus modelos invadiram sistemas sem autorização.
A investigação da Wikimedia é significativa em parte pelo que não aconteceu: não houve nenhuma ameaça catastrófica e existencial à humanidade, do tipo a que os executivos de IA costumam se referir. Mas o custo — mais de duas semanas de trabalho realizado pelos principais engenheiros de uma organização global com faturamento superior a US$ 200 milhões — foi real.
A Wikimedia não está promovendo nenhuma política ou solução tecnológica específica, e Mill afirmou que a organização está em contato com a OpenAI sobre suas descobertas. A organização sem fins lucrativos espera que esses incidentes sirvam de alerta para os desenvolvedores de IA.
A OpenAI não respondeu ao pedido de comentário da CNN Internacional.
“As empresas de IA não estão fazendo o suficiente para proteger seus sistemas e o público dos danos que causam”, afirmou a Wikimedia em uma postagem em seu blog na semana passada. “Esse fardo está recaindo sobre todos, inclusive sobre organizações menores.”
"Responsabilização há muito esperada"
A Anthropic, que se prepara para abrir seu capital no próximo mês em um dos maiores IPOs da história, revelou em um documento regulatório que, como o arcabouço legal em torno da IA é "instável", as ações desses agentes podem expor a empresa a processos judiciais "significativos e imprevisíveis", de acordo com uma cópia do documento vista pela Reuters.
A potencial enxurrada de litígios não é apenas uma dor de cabeça para os advogados da empresa ou um dilema para os acadêmicos — também pode se tornar um grande entrave para os resultados financeiros da Anthropic.
Os custos com litígios representam um dreno financeiro para qualquer empresa, mas podem se tornar especialmente problemáticos para a Anthropic, que está consumindo caixa mais rápido do que consegue gerar receita.
A empresa gastou US$ 42 bilhões no ano passado, enquanto arrecadou apenas US$ 4,6 bilhões em receita, de acordo com o documento visto pela Reuters.
Os CEOs da Anthropic e da OpenAI defenderam novas regulamentações específicas para o setor. Dario Amodei escreveu recentemente um ensaio argumentando que as empresas devem "liderar a fronteira" e fomentar a cooperação internacional em protocolos de segurança.
Mas as empresas rivais de IA divergiram ligeiramente na questão da responsabilidade.
No início deste ano, o CEO da OpenAI, Sam Altman, manifestou-se a favor de um projeto de lei em Illinois que limitaria as situações em que os laboratórios de IA podem ser responsabilizados, mesmo quando seus produtos causam "danos críticos". (A Anthropic se posicionou contra o projeto.)
E embora Altman tenha endossado a proposta de Amodei de "acompanhar a fronteira", ele também disse ao POLITICO no início da semana que sua visão de mundo não está perfeitamente alinhada com a de seu rival: a OpenAI acredita que "o mundo deve aceitar que algumas coisas ruins aconteçam em prol dos benefícios desta tecnologia", afirmou.
Altman também disse que "se algo der errado com nossos modelos durante o treinamento, haverá alguma forma pela qual precisaremos ser responsabilizados".
Um porta-voz da Anthropic disse à CNN Internacional que a empresa vê as leis de responsabilidade civil como uma medida de segurança complementar, e não como um substituto, para as normas de segurança. O porta-voz acrescentou que a Anthropic nunca propôs isenções das leis de responsabilidade civil existentes.
Os legisladores de esquerda e de direita têm procurado esclarecer algumas das questões mais complexas da futura regulamentação e sublinhar as responsabilidades legais a que a IA já está sujeita.
Lina Khan, ex-presidente da Comissão Federal de Comércio durante o governo do presidente Joe Biden, tornou-se uma importante opositora dos executivos de IA. Ela argumento no X que "não devemos deixar que discussões sobre novos regimes legais nos distraiam do fato de que não existe nenhuma isenção para IA nas leis já existentes".
Enquanto isso, o senador republicano Josh Hawley, juntamente com seu colega democrata Chris Murphy, apresentou um projeto de lei na semana passada que busca garantir que "os operadores e desenvolvedores de agentes de IA sejam responsabilizados por incidentes de hacking".
“O que essas empresas precisam não é de mais poder… mas sim de uma responsabilização há muito esperada”, escreveu Hawley em um artigo de opinião no Washington Post . “Uma maneira de lhes proporcionar isso é permitir que as pessoas prejudicadas por elas as processem na justiça".
Uma questão de design
Especialistas jurídicos que falaram à CNN Internacional disseram que, embora as questões de responsabilidade pelo produto e proteção do consumidor não sejam novas, inevitavelmente haverá alguns aspectos sutis da tecnologia que, em última instância, caberão aos tribunais decidir.
“Já vimos esse tipo de problema com a segurança das armas de fogo, com os cigarros ou com outras questões, e é realmente interessante — que analogia os tribunais vão usar?”, disse Frank Pasquale, professor de direito da Universidade Cornell e especialista em direito da inteligência artificial.
Uma das questões mais importantes que Pasquale espera que os tribunais enfrentem é a do design.
Por exemplo, disse ele, imagine se um fabricante produzisse um carro com espadas afiadas na traseira e alguém atropelasse um pedestre com esse carro. A resposta lógica é bastante simples: não projete nada com espadas acopladas.
É semelhante com produtos de IA, disse ele: Não projete algo que tente uma senha 50 vezes ou mais. Certifique-se de que contenha instruções de alto nível que anulem qualquer tentativa do usuário de usá-la indevidamente.
“Acho muito difícil para as empresas de IA dizerem: 'Ah, ela pode fazer um bilhão de coisas diferentes, mas não podemos controlá-la'”, disse Pasquale.
“Isso não faz sentido para mim, porque se ela pode fazer todas essas coisas, então também pode haver meta-regras, ou regras para as regras, que a impediriam de fazer certas coisas ruins".
Meridiano
