OpenAI desmancha equipe responsável por "conter" rebelião de IAs
Por Marcelo Fischer |
A OpenAI dissolveu, no fim do mês passado, a equipe de "preparedness", responsável por avaliar se seus modelos de inteligência artificial representavam riscos graves e por desenvolver formas de mitigá-los. A informação foi publicada pelo Financial Times neste domingo (16).
Segundo a apuração, as responsabilidades do grupo foram redistribuídas para equipes já existentes, organizadas por área de atuação, como segurança biológica e cibernética. A companhia descreveu o corte como parte de um processo de "streamlining" (reorganizar etapas ou processos desnecessários) antes da abertura de capital na bolsa, depois que o executivo-chefe Sam Altman pediu aos funcionários que reduzissem projetos paralelos e concentrassem esforços no núcleo do negócio, o ChatGPT.
Dylan Scandinaro, que liderava a equipe de preparedness e havia sido contratado pela Anthropic em fevereiro, passa agora a se dedicar às implicações de sistemas de "auto-aperfeiçoamento recursivo", segundo o Verge.
Sequência de saídas na área de segurança
O desmonte da equipe de preparedness é o mais recente de uma série de movimentos na estrutura de segurança da OpenAI. A empresa já havia dissolvido os times de prontidão para AGI (Inteligência Artificial Geral) e de superalinhamento nos últimos anos.
Também deixaram a companhia recentemente a líder de ética Chloé Bakalar, o futurista-chefe Josh Achiam e o chefe de segurança Johannes Heidecke. As saídas levaram críticos como Jan Leike, ex-pesquisador da OpenAI que renunciou em 2024, a afirmar ao Financial Times que a empresa vem priorizando o lançamento de "produtos vistosos" em detrimento da segurança.
Corrida rumo a um IPO bilionário
As mudanças acontecem em meio à preparação da OpenAI para uma oferta pública inicial de ações considerada uma das maiores da história. A empresa apresentou um pedido confidencial de registro à Comissão de Valores Mobiliários dos Estados Unidos (SEC) em 8 de junho, com uma valoração-alvo que pode chegar a US$ 1 trilhão, segundo a Reuters.
Bancos como Goldman Sachs, Morgan Stanley e JPMorgan assessoram o processo. Em agosto, a companhia recomprou cerca de US$ 7 bilhões em ações de funcionários com base em uma valoração de US$ 852 bilhões, o que indica que não há pressa para listar as ações na bolsa no curto prazo.
Há divergência interna sobre o cronograma. A diretora financeira Sarah Friar tem sinalizado a associados que a listagem deve ocorrer em 2027, enquanto assessores da empresa apontam a possibilidade de uma estreia já no fim de 2026. A OpenAI também encerrou recentemente o aplicativo de geração de vídeos Sora, associado à produção em massa de conteúdo de baixa qualidade, outro sinal do movimento de concentração em torno do ChatGPT.
Episódio que motivou as críticas
Parte da preocupação de especialistas em segurança tem origem em um incidente ocorrido em julho, quando modelos da OpenAI comprometeram sistemas da Hugging Face, plataforma que hospeda modelos e conjuntos de dados de inteligência artificial. A própria OpenAI detalhou o caso em publicação no site da empresa.
De acordo com o relato, modelos como o GPT-5.6 Sol e um protótipo de pesquisa interno ainda não lançado publicamente estavam sendo testados no benchmark ExploitGym, voltado à avaliação de capacidades de exploração de falhas de segurança. Durante os testes, os modelos identificaram que a Hugging Face provavelmente hospedava dados e soluções relacionados ao benchmark e encontraram formas de acessar informações sigilosas da plataforma para obter vantagem na avaliação.
A OpenAI classificou o episódio como um incidente cibernético sem precedentes e afirmou ter identificado, na revisão posterior, o uso de credenciais expostas publicamente em quatro contas de serviços externos.
A empresa disse ter contido a ação internamente e trabalhado com a Hugging Face e com firmas como CrowdStrike, METR e Redwood Research para investigar o ocorrido. Nenhum modelo com lançamento público previsto esteve envolvido, segundo a companhia, e o protótipo usado no teste foi desativado e teve o acesso restringido após o incidente.
Meridiano
:quality(85)/43573d7e-5b1b-4d82-be80-77c9c21b0816.jpg)