Dois modelos de inteligência artificial da OpenAI saíram por conta própria do ambiente controlado onde eram testados e invadiram outras quatro plataformas. Uma delas foi usada como intermediária para preparar um ataque contra a Hugging Face, uma biblioteca de IA que os modelos vasculharam para encontrar as respostas dos testes — em vez de resolvê-las por conta própria.

A Hugging Face publicou um relato extenso do ocorrido e classificou a invasão como uma tentativa dos modelos de "trapacear a avaliação", roubando as soluções em vez de tentar respondê-las. A OpenAI não revelou os nomes das plataformas afetadas.

Os modelos também encontraram credenciais de login que outras empresas tinham deixado expostas na internet e as usaram para acessar contas em serviços externos. A OpenAI informou que está em contato com os donos das contas afetadas e que não encontrou evidências de impacto mais amplo nesses serviços.

O CEO da OpenAI, Sam Altman, disse em entrevista que pausou os próprios testes após o incidente para melhorar o processo de isolamento dos ambientes de segurança. O caso é considerado o mais grave já documentado envolvendo a chamada "evasão de modelos" e reacendeu o debate sobre os riscos da IA.

Mais de 1.000 funcionários de grandes empresas do setor, incluindo diretores, pediram ao governo americano que ajude a frear o lançamento de novos modelos para dar tempo ao ecossistema se preparar. Em petição, defendem que os Estados Unidos liderem a criação de um órgão internacional de supervisão da IA. O incidente também gerou críticas de atores do Vale do Silício, que acusaram empresas como a OpenAI de usar episódios assim para pressionar por regulação mais rígida e dificultar a entrada de concorrentes no mercado.