O presidente da Microsoft, Brad Smith, defendeu a adoção de normas de segurança rígidas e eficazes para conter os riscos associados à inteligência artificial. Entre as propostas apresentadas estão a implementação de "freios de emergência" em sistemas críticos, a obrigação de notificar incidentes de segurança e a realização de testes rigorosos antes do lançamento dos modelos no mercado. O debate ocorre em meio ao crescimento de incidentes envolvendo empresas como OpenAI e Anthropic, aumentando a pressão global pela regulamentação do setor.
Tópicos principais:
* Empresas: Microsoft, OpenAI, Anthropic, Google, Nvidia, X.
* Tecnologia/Produto: Modelos de Inteligência Artificial (IA).
* Tendência: Regulamentação governamental e corporativa, segurança e mitigação de riscos em IA.
‘Precisamos de normas reais e eficazes’, diz presidente da Microsoft sobre riscos da IA
Preocupação com a tecnologia cresce junto dos casos de invasão e fuga de modelos de inteligência artificial
O presidente da Microsoft, Brad Smith, pediu, nesta terça-feira, 13, que empresas e países adotem medidas de segurança “reais e eficazes” para conter os riscos da inteligência artificial (IA). “Vamos precisar, para a IA, assim como para todo o resto em nossas vidas (…), de normas de segurança reais e eficazes, nas quais o público possa confiar”, declarou o executivo a um grupo de jornalistas, às vésperas de uma cúpula internacional sobre IA em Dublin.
A preocupação com os riscos da IA se multiplicou nos últimos meses depois que os modelos desenvolvidos pela OpenAI e pela Anthropic se viram envolvidos em incidentes de segurança durante testes, o que aumentou a pressão para regulamentar essa tecnologia ou até mesmo frear o desenvolvimento dos modelos que representem riscos maiores.
O executivo detalhou as propostas da Microsoft para reforçar a segurança do setor, a começar pela obrigação de dotar os sistemas de IA de “freios de emergência” que os usuários possam acionar em caso de incidente. “A ideia, especialmente para as IAs que administram infraestruturas críticas ou sistemas automatizados, é ter a possibilidade de desligá-las ou desacelerá-las”, por exemplo, em caso de perda de controle, usando esse freio de emergência, explicou.
Smith também defendeu impor aos fornecedores de IA a obrigação de notificar incidentes. “Quando você é uma empresa e é afetada por um incidente de segurança que provoca o vazamento de dados dos consumidores, é obrigado a notificá-los de que alguém teve acesso a seus dados. Acho que a mesma lógica deveria se aplicar às vítimas de um agente de IA”, com uma responsabilidade legal de informar os clientes.
Por fim, o presidente do grupo americano também pediu o reforço dos testes e avaliações dos modelos de IA para garantir que sejam seguros antes de seu lançamento no mercado. Diante da rapidez com que o setor evolui, “precisamos agir com urgência”, insistiu. Vários outros executivos da indústria afirmaram, nas últimas semanas, que essa tecnologia exige uma vigilância maior.
O CEO da Anthropic, Dario Amodei, prometeu em 23 de setembro, na ONU, desacelerar o desenvolvimento da inteligência artificial quando necessário para garantir que cada novo modelo comercializado seja seguro. No fim de setembro, executivos dos principais gigantes do setor — de Elon Musk, do X, passando por Sundar Pichai, do Google, Jensen Huang, da Nvidia, e também Amodei — assinaram na Casa Branca um código de boas práticas para gerenciar melhor os riscos associados à IA.
(com AFP)
Meridiano
