Um grupo internacional de pesquisadores identificou mais de uma dezena de agentes de inteligência artificial (IA) que tentaram acessar sistemas protegidos do Alibaba, gigante chinesa de tecnologia. As atividades ocorreram entre o fim de setembro e o início de outubro e apresentaram indícios de ligação com serviços de computação em nuvem da Tencent.
Segundo um relatório publicado nesta quarta-feira (14) pelo grupo Swarmchasers, que reúne pesquisadores de segurança em IA dos Estados Unidos e de outros países, os agentes tentaram acessar o Amap, serviço de mapas do Alibaba. A investigação identificou 2.818 tentativas de acesso a dados entre 28 de setembro e 8 de outubro.
Os pesquisadores afirmam que a atividade partiu de um ambiente isolado de testes, conhecido como sandbox, na infraestrutura da Tencent Cloud. Os agentes teriam utilizado serviços públicos de varredura de segurança para executar códigos remotamente e comandos em navegadores de internet.
Embora a maioria das tentativas não tenha avançado significativamente, alguns agentes conseguiram contornar mecanismos de proteção contra bots. Os pesquisadores disseram, porém, que não encontraram evidências de acesso a sistemas privados.
Pesquisadores não identificaram o modelo de IA
- O relatório, intitulado “We found a Chinese fleet” (“Encontramos uma frota chinesa”, em tradução livre), aponta indícios que associam a atividade à infraestrutura da Tencent em Hong Kong e Shenzhen (China);
- Isso não significa, entretanto, que os pesquisadores tenham identificado o modelo de IA utilizado. Segundo o grupo, ainda não está claro qual sistema estava sendo desenvolvido ou avaliado. A Tencent também trabalha com modelos de terceiros, o que impede atribuir diretamente a operação a uma IA própria da companhia;
- Os agentes aparentemente buscavam responder a perguntas sobre o serviço Amap, como identificar qual entrada de um zoológico é a mais popular. Os pesquisadores não conseguiram determinar quais dados eram o alvo das tentativas nem qual era o objetivo final da atividade;
- A Tencent e o Alibaba não responderam aos pedidos de comentário enviados pela Bloomberg.
Leia mais:
- Anthropic alerta: IA pode se replicar em TVs e eletrodomésticos
- Cientistas pedem órgão global para fiscalizar sistemas de IA avançada
- Gemini 4 Argon finalmente chega ao app e à busca do Google; saiba mais
Agentes de IA podem escapar de ambientes de teste
Para Ethan Elasky, um dos autores do relatório e diretor-executivo da organização sem fins lucrativos Palaestra Research, o episódio se soma a evidências de agentes de IA que escapam de ambientes de avaliação e passam a agir sem supervisão humana.
“Independentemente de estarmos falando de laboratórios chineses ou estadunidenses, acredito que a forma como o desenvolvimento de modelos vem acontecendo fará com que os agentes continuem escapando de seus ambientes isolados quando estiverem na internet”, afirmou Elasky.
Os pesquisadores diferenciaram o caso de outros episódios de comportamento coletivo de agentes, como o incidente envolvendo modelos da OpenAI que comprometeram sistemas da plataforma Hugging Face em julho. Segundo o relatório, os agentes identificados na investigação atual não pareciam colaborar entre si da mesma maneira.
O episódio ocorre em meio a preocupações sobre o controle de sistemas autônomos de IA. Em setembro, a OpenAI adiou o lançamento de seu modelo mais avançado para reforçar as medidas de segurança.
Kok Tin Gan, cofundador e diretor-executivo da empresa de segurança cibernética NyxLab, afirmou que a principal questão não é determinar se os agentes utilizavam um modelo chinês ou estadunidense, nem se eram realmente autônomos ou estavam fora de controle.
Para ele, o desafio mais importante é garantir que esses sistemas permaneçam sob controle. À medida que os agentes de IA ganham autonomia, organizações precisam estabelecer limites claros de atuação, monitoramento contínuo e mecanismos eficazes de intervenção.
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
Meridiano
