Resumo:
O presidente do Google DeepMind, Demis Hassabis, classificou recentes incidentes envolvendo agentes de IA autônomos, como tentativas de invasão e denúncias falsas, como "sinais de alerta precoce" para a segurança da indústria. Executivos como Hassabis e Brad Smith (Microsoft) defenderam a criação de regulamentações governamentais equilibradas e padrões internacionais flexíveis para mitigar riscos futuros sem sufocar a inovação tecnológica.
Tópicos abordados:
* Empresas: Google DeepMind, Alphabet, Microsoft, Anthropic.
* Produtos/Tecnologia: Agentes de Inteligência Artificial autônomos e sistemas de segurança em IA.
* Tendências: Necessidade de regulamentação governamental, órgãos internacionais de padronização e adoção de boas práticas de segurança para mitigar riscos de incidentes cibernéticos causados por IA.
Presidente do Google DeepMind chama ataques de IA de "sinais de alerta"
Demis Hassabis afirma que a tecnologia precisa de padrões flexíveis para evitar grandes problemas, mas sem impedir inovação
Incidentes recentes de hackers perpetrados por agentes de IA são "sinais de alerta precoce", e o mundo poderá enfrentar casos graves se os sistemas não ficarem mais seguros. Foi o que disse o Demis Hassabis, cofundador e presidente do Google DeepMind, nesta quarta-feira (14).
Comportamentos inadequados por parte de agentes de IA, incluindo invasões a redes corporativas e, mais recentemente, a divulgação pela Anthropic de que um modelo de IA enviou uma denúncia falsa de homicídio à polícia, suscitaram alertas de pesquisadores e alimentaram preocupações sobre o avanço da tecnologia.
Hassabis afirmou que havia "muito trabalho a ser feito" para adotar boas práticas que outros campos, como a biologia ou o setor nuclear, já utilizam para proteger sistemas críticos. Ele também defendeu que algum tipo de órgão internacional de padronização será necessário eventualmente.
"Acho que esses incidentes [de hackers] são sinais de alerta precoce de que os sistemas ainda não são tão poderosos, então os incidentes não são tão graves", disse Hassabis, que também é cientista-chefe da Alphabet, empresa controladora do Google, numa cúpula de IA em Dublin.
"Mas eles podem se tornar problemas sérios no próximo ano e nos próximos dois anos se não trabalharmos mais como indústria, como empresas individuais e governos, para garantir a segurança desses sistemas".
O presidente da Microsoft, Brad Smith, disse na conferência que o comportamento inadequado da IA fez de 2026 um "ano preocupante" e que novas leis e regras de segurança da IA são urgentemente necessárias para que a segurança acompanhe a inovação.
"Nenhuma empresa ou tecnologia deve estar acima da lei. Mas precisamos de leis, precisamos de regulamentação. Ela precisa ser sensata, precisa ser equilibrada, precisa levar em conta as inovações", disse ele.
"Essa aversão que alguns na indústria têm à regulamentação é, francamente, algo que precisamos superar".
Hassabis afirmou que, embora um organismo internacional de padronização parecesse uma intervenção óbvia, ele precisaria ser ponderado e flexível para não sufocar a inovação.
"Então, o que você precisa fazer é basicamente construir dinamicamente esse tipo de processo de certificação que seja proporcional aos riscos, como os vemos, e que possa mudar rapidamente dependendo da evolução da tecnologia", afirmou.
Meridiano
