Por que as IAs continuam conduzindo ataques hackers?
Por André Lourenti Magalhães • Editado por Jones Oliveira |
O mercado de IA foi surpreendido após OpenAI e Anthropic anunciarem que modelos das respectivas empresas escaparam de ambientes de testes e conduziram ataques hackers por conta própria. Uma das principais perguntas sobre o tema é: por que isso aconteceu?
Visões mais pessimistas podem alertar para uma possível “rebelião” das IAs digna de filmes de ficção científica, mas os casos também revelam discussões sobre como esses modelos treinados e como serviços digitais precisam se proteger das ameaças.
Um caso emblemático foi o ataque cibernético autônomo de modelos da OpenAI contra a plataforma Hugging Face. As IAs conseguiram escapar do ambiente de testes, se conectaram com a internet e tentaram milhares de ações até encontrarem uma vulnerabilidade para invadir o sistema alheio.
Posteriormente, a Anthropic (criadora do Claude) relatou um episódio parecido com outros serviços. O Canaltech consultou especialistas para explicar os incidentes.
Por que uma IA pode agir por conta própria e quais são os riscos?
Os casos mencionados ocorreram em ambiente de testes de modelos mais avançados de IA — segundo a OpenAI, um dos agentes usados no ataque à Hugging Face sequer foi lançado no mercado.
Dois fatores são importantes nesse cenário: o alto poder computacional usado pelas desenvolvedoras e a falta de regras de segurança mais restritivas. “Os modelos crescem numa proporção exponencial”, explica ao CT o diretor de produto da empresa de IA regulatória Labrynth, Harold Schultz, o que implica em maior escala para ataques e ameaças.
Uma IA mais poderosa conta com mais recursos de hardware para se tornar mais inteligente e conseguir fazer mais tarefas em menos tempo. O problema é que há um desequilíbrio entre a tecnologia testada e as soluções usadas por outros serviços digitais.
“Existe uma lacuna entre a empresa que está desenvolvendo o modelo, criando o modelo, e a empresa que está se defendendo”, reforça Schultz.
Há, também, um ponto de atenção para que os treinamentos das IAs contem com regras mais rígidas e evitem esse tipo de incidente cibernético. “Não adianta você dizer para o modelo hiperinteligente que ele não tem acesso à internet, mas deixar uma portinha que dá acesso à internet”, aponta o especialista.
Como empresas e indivíduos podem se proteger?
Os casos com modelos em testes chamam a atenção, mas também é necessário tomar cuidado com o uso de agentes autônomos já disponíveis no mercado.
Ainda que as desenvolvedoras liberem os modelos de IA com salvaguardas de segurança, empresas e indivíduos precisam ter o controle das ações e escolher quais informações serão acessadas pela máquina.
O country manager da empresa de cibersegurança Netskope para o Brasil, Claudio Bannwart, reforça para o Canaltech a necessidade de supervisão humana em agentes com alto poder computacional.
“O agente tem acesso a muitos privilégios: tem o privilégio do usuário que desenvolveu aquele agente, das ferramentas que ele está usando, os tipo de dados que ele está usando. Eles usam APIs, códigos, banco de dados, aplicações em nuvem, MCPs, sistemas internos. Tem um monte de ferramentas que os agentes podem usar para executar algo que você pediu. Você precisa ter um humano que diga o rumo, corrija a rota e consiga parar algo antes que isso aconteça.Se eu não coloco nenhum guardrail, nenhum controle, ela pode começar a tomar ações como procurar uma vulnerabilidade para explorar e poder chegar naquilo que ela precisava entregar.”
Uma possível solução ao problema é, justamente, usar a própria inteligência artificial a seu favor. Com tantos ataques cibernéticos sofisticados e em alta escala, o ideal é que plataformas digitais também apliquem IA em sistemas de defesa.
“As seguranças tradicionais não estão preparadas para um ataque vindo de um agente de IA em velocidade computacional tão grande, tá. O ataque pode se multiplicar de uma maneira muito rápida, então você também tem que usar IA para isso”, completa Bannwart.
Meridiano
:quality(85)/7f0505ac-9bd0-4a75-bf82-9ad396817713.jpeg)