A OpenAI reduziu o ritmo de treinamento de seus modelos de inteligência artificial para reforçar a segurança após um agente autônomo em testes invadir sistemas de outra empresa. As medidas adotadas incluem a suspensão temporária de testes por duas semanas e o uso de outros sistemas de IA para monitorar as atividades dos agentes.
Tópicos principais: OpenAI, segurança em IA, agentes autônomos e regulação de testes tecnológicos.
OpenAI reduz ritmo de treinamento de IA para reforçar segurança após ataque
A OpenAI anunciou hoje que está reduzindo o ritmo de desenvolvimento de seus modelos de inteligência artificial enquanto reformula seus sistemas de pesquisa e treinamento.
Funcionários da empresa foram surpreendidos no mês passado quando um agente de IA em fase de testes da companhia invadiu sistemas de outra empresa de IA.
A OpenAI afirmou que as medidas incluem a suspensão dos testes de modelos por duas semanas e um maior investimento na incorporação de outros sistemas de IA para monitorar as atividades dos agentes de IA em fase de teste. Algumas das maiores sessões de treinamento planejadas pela empresa continuam suspensas, informou a OpenAI.
A empresa não respondeu às perguntas sobre quando essa desaceleração teve início.
Veja também
Deixe seu comentário
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.