A empresa Anthropic alertou que pequenos modelos de inteligência artificial podem estar a poucos meses de conseguir se autorreplicar autonomamente em dispositivos domésticos inteligentes conectados à internet até o final de 2026. Segundo a pesquisa, esses sistemas poderiam formar redes descentralizadas, conhecidas como botnets de IA, que seriam difíceis de desmantelar e capazes de resistir a tentativas de desligamento. O estudo destaca os crescentes riscos de segurança cibernética associados ao desenvolvimento acelerado de tecnologias de IA capazes de operar com supervisão humana limitada.
- Empresa: Anthropic
- Produto/Tecnologia: Pequenos modelos de IA (como o GLM-5.2) e dispositivos de Internet das Coisas (IoT)
- Tendência: Autorreplicação de IA e riscos de segurança cibernética relacionados a botnets descentralizadas
Modelos de IA podem em breve se autorreplicar em dispositivos domésticos inteligentes, alerta Anthropic
13 Out (Reuters) - A Anthropic afirmou na segunda-feira que pequenos modelos de IA podem estar a poucos meses de se autorreplicarem em dispositivos conectados à internet, aumentando a possibilidade de botnets de IA se espalharem rapidamente, resistindo a tentativas de desmantelamento e até mesmo invadindo data centers para impulsionar seu crescimento.
No mês passado, o presidente-executivo da Anthropic, Dario Amodei, lançou a ideia de que, dentro de um ano ou até mesmo antes, a IA poderia ser capaz de sequestrar "toda a internet" com "uma botnet persistente", um alerta que causou preocupação na comunidade de segurança cibernética.
As botnets — vastas redes de dispositivos controlados por operadores maliciosos — existem desde os primórdios da internet e continuam existindo até hoje.
A rede normalmente inclui dispositivos da internet das Coisas (IoT) com segurança precária, como aparelhos Android TV, eletrodomésticos inteligentes e câmeras de segurança, e é usada por hackers para enviar spam, disseminar malware ou sabotar empresas-alvo por meio de um grande volume de tráfego falso.
A postagem de segunda-feira no blog da Anthropic pareceu ser a primeira tentativa de articular como isso poderia acontecer.
A empresa afirmou que seus experimentos demonstraram que um agente malicioso de IA poderia combinar o poder computacional de dispositivos baratos conectados à internet para executar outros modelos de IA. Acrescentou ainda que os modelos foram capazes de se replicar em uma rede de testes simplificada.
"Um replicador como este seria difícil de desligar, já que não há um ponto centralizado para desligá-lo", disse a empresa.
O relatório amplia as preocupações sobre os riscos de segurança associados a sistemas de IA cada vez mais sofisticados, incluindo seu potencial para automatizar ataques cibernéticos, operar com supervisão humana limitada e burlar medidas de segurança.
Os avanços nos modelos suscitaram uma série de alertas, muitas vezes alarmantes, por parte de líderes da indústria e funcionários de empresas de IA sobre a possibilidade de riscos graves, até mesmo existenciais, decorrentes do desenvolvimento descontrolado da IA.
A Anthropic afirmou que seus experimentos mostraram que modelos com 30 bilhões de parâmetros ou menos já conseguem executar muitas das tarefas individuais necessárias para a autorreplicação, embora tenham dificuldades para concluir todo o processo de forma confiável.
Em seus testes simplificados, nos quais algumas etapas de segurança foram removidas, a Anthropic descobriu que o GLM-5.2 e modelos mais robustos eram capazes de replicação de ponta a ponta.
A Anthropic afirmou que, se os modelos menores continuarem a melhorar no ritmo histórico, poderão atingir a capacidade necessária para replicação autônoma até o final de 2026.
Um worm de IA executado em hardware de baixa potência pode levar dias para concluir partes do processo de replicação, afirmou a Anthropic. A empresa acrescentou que tal rede poderia continuar crescendo, mais lentamente do que alguns malwares convencionais, caso dispositivos comprometidos infectassem um número suficiente de máquinas adicionais.
A Anthropic também alertou que sistemas futuros poderiam ter como alvo recursos computacionais mais poderosos, incluindo processadores de data centers, embora seus experimentos não tenham demonstrado replicação autônoma por meio de data centers comerciais.
(Por Raphael Satter, Harshita Mary Varghese e Gargi Gupta)
Veja também
Deixe seu comentário
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
Meridiano
