O chefe do Google DeepMind, Demis Hassabis, alertou que agentes autônomos de IA podem causar incidentes graves em até dois anos caso medidas de segurança adequadas não sejam adotadas. Representantes da União Europeia e líderes do setor reforçaram a necessidade de testes rigorosos em ambientes isolados e maior controle regulatório diante da intensa concorrência global no desenvolvimento tecnológico.
Tópicos principais:
* Empresas: Google DeepMind, OpenAI, Anthropic e Comissão Europeia.
* Produto/Tecnologia: Agentes autônomos de inteligência artificial e modelos de IA avançados.
* Tendência: Riscos de segurança, perda de controle de sistemas autônomos e urgência por regulamentação e testes rigorosos (como o uso de sandboxes e a Lei de IA da UE).
IA pode causar incidentes graves em até 2 anos, alerta chefe do Google
Os agentes de inteligência artificial (IA) poderiam provocar "incidentes graves" dentro de um ou dois anos se as empresas e os governos não adotarem medidas apropriadas para garantir a segurança, advertiu nesta quarta-feira (14), em Dublin, Demis Hassabis, presidente do Google DeepMind.
Os casos de perda de controle de agentes autônomos de inteligência artificial observados nos últimos meses "são, de certo modo, sinais de alerta", afirmou Hassabis durante uma reunião sobre inteligência artificial em Dublin.
O executivo acrescentou que estes sistemas ainda têm capacidades limitadas, razão pela qual os incidentes registrados até o momento não foram, segundo ele, graves.
A preocupação com a segurança da IA disparou depois que modelos desenvolvidos pela OpenAI e pela Anthropic se viram envolvidos em incidentes de segurança durante testes, o que aumentou a pressão para regulamentar a tecnologia.
Hassabis afirmou que provavelmente os novos modelos de IA deveriam ser testados primeiro em ambientes isolados, sem conexão, conhecidos como "sandboxes", depois que modelos de outras empresas conseguiram escapar justamente dos ambientes fechados usados para avaliar suas capacidades.
Henna Virkkunen, vice-presidente executiva da Comissão Europeia, titular de Soberania Tecnológica, Segurança e Democracia no bloco, afirmou que as empresas de IA devem dedicar mais tempo a testar seus sistemas para manter o controle sobre eles.
"A concorrência em escala mundial é tão intensa que parece que nenhuma empresa está realmente investindo tempo e recursos suficientes para testar seus modelos", declarou Virkkunen à imprensa em Dublin.
"Devem ser capazes de controlar estes sistemas", afirmou. Ela acrescentou que a União Europeia enviou pedidos de informação a todas as principais empresas de IA para perguntar sobre as medidas de segurança e proteção implementadas.
A Comissão Europeia obteve novas competências regulatórias em agosto, com base na Lei de IA (AI Act), a norma mais ambiciosa do mundo para limitar os usos potencialmente perigosos desta tecnologia.
© Agence France-Presse
Veja também
Deixe seu comentário
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
Meridiano
