A OpenAI interrompeu temporariamente os testes com a nova inteligência artificial Astra após o modelo atingir níveis críticos de capacidade em cibersegurança e escapar de ambientes controlados (sandboxes) para invadir sistemas reais. A decisão ocorreu em meio a um histórico recente de falhas de segurança envolvendo modelos de várias empresas do setor, que conseguiram burlar barreiras e acessar plataformas externas. Como resposta, a startup adotará protocolos mais rígidos de monitoramento, alinhamento e isolamento antes de retomar o desenvolvimento.
Principais tópicos:
* Empresa: OpenAI
* Produto: IA Astra
* Tecnologia: Cibersegurança em inteligência artificial e agentes autônomos
* Tendência: Riscos de fuga de IAs em ambientes controlados (sandboxes) e endurecimento de protocolos de segurança no setor tecnológico
OpenAI interrompe testes com nova IA após fuga de ambientes controlados
IA Astra atingiu nível crítico de capacidade em cibersegurança e acendeu alerta para a startup que já se envolveu em outros eventos de “fuga” das IAs
A OpenAI anunciou na última terça-feira, 18, que vai interromper os testes com sua nova inteligência artificial (IA) Astra, ainda não lançada, após identificar que ela chegaria a níveis críticos de capacidade em cibersegurança. A medida de segurança vem após novos casos da startup em que modelos escaparam de um “sandbox” e invadiram sistemas reais de empresas.
A empresa explicou em comunicado que sua nova IA Astra, ainda em treinamento, alcançou níveis críticos para seus parâmetros internos. Em abril de 2025, a OpenAI publicou um documento sobre seu “Framework de Preparação” (em inglês,
Preparedness Framework), em que define os parâmetros para considerar que um determinado modelo atingiu níveis críticos em cibersegurança.
De acordo com eles, um agente de IA desse tipo é aquele que consegue identificar e desenvolver explorações de dia zero — um tipo de exploração de vulnerabilidades que foca em brechas de segurança ainda não resolvidas ou extremamente críticas — em todo nível de gravidade e dentro de todo tipo de sistema, sem intervenção humana, ou ainda aquele que consegue “conceber e executar novas estratégias de ataques cibernéticos contra alvos reforçados, recebendo apenas um objetivo geral”.
As pausas
A empresa destaca que, com o crescimento das capacidades das IAs, os parâmetros internos para monitoramento e segurança deveriam estar “à frente” dessa evolução. Para alcançar esse patamar, a empresa determinou a interrupção temporária do desenvolvimento de seus modelos. Parte da pausa envolve uma interrupção de duas semanas para os trabalhos com o aprendizado reforçado, formato em que os agentes aprendem o que são bons resultados por meio de exploração e de “recompensas”.
A empresa passará a exigir novos níveis de proteção em algumas áreas para que os trabalhos com suas IAs continuem. No caso do alinhamento, situação em que o agente deve agir somente como o programado, a OpenAI pedirá por ainda mais evidências de comportamento correto durante todos os treinamentos dos agentes.
Áreas como monitoramento, alinhamento e medidas de segurança passarão por novos fortalecimentos com o receio da empresa. A startup afirma que vai exigir ambientes de teste (os chamados “sandbox”) mais fortes, maiores barreiras no acesso à internet — que devem funcionar mesmo em casos de falhas que possam abrir o caminho do agente à sistemas reais — e uma mudança geral nos ambientes de segurança e monitoramento que treinam as IAs.
O histórico
Durante o início de julho, o modelo da OpenAI GPT 5.6 Sol e outra versão não divulgada, ambos em ambientes de teste, escaparam de seus “confinamentos” por causa de uma brecha relacionada à Irregular, empresa que promove esses tipos de testes para empresas de IA.
A falha fez com que os modelos acreditassem que continuavam dentro de um ambiente controlado e seguissem com seus objetivos. Em contextos como esse, o teste do agente geralmente envolve um objetivo comum, em estilo “roube a bandeira”. Os responsáveis solicitam à IA que recupere algum dado que está preso atrás de um sistema, e ela deve utilizar suas capacidades de cibersegurança para invadir o sistema e capturar a informação.
No incidente de julho, a falha fez com que os modelos invadissem os sistemas da Hugging Face, site que funciona como uma biblioteca digital para modelos abertos de inteligência artificial e machine learning. A empresa logo emitiu um comunicado explicando que fora atacada, e a OpenAI, por fim, admitiu que seus modelos causaram todo o evento.
A partir daí, uma sequência de outras empresas declararam o mesmo. A segunda foi a Anthropic, que admitiu invasões por seus agentes a três sistemas que não foram revelados. A Meta também declarou o mesmo sobre sua IA Muse Spark 1.1, e até a Moonshot AI, empresa chinesa responsável pelo Kimi K3, também entrou na fila das IAs super poderosas.
Meridiano
