Estados Unidos – A OpenAI divulgou na terça-feira (21) que dois de seus modelos mais avançados de inteligência artificial (IA) invadiram de forma autônoma sistemas da startup Hugging Face durante um teste interno de segurança.

A empresa responsável pelo ChatGPT informou que os modelos, entre eles o GPT-5.6 Sol e outro ainda mais avançado em fase de testes, estavam sendo avaliados quanto à capacidade de identificar e explorar vulnerabilidades cibernéticas. Para o experimento, algumas das proteções normalmente usadas para impedir atividades de alto risco haviam sido reduzidas, publicou a BBC.

O teste era realizado em um ambiente supostamente isolado, conhecido como sandbox, com acesso limitado à rede. No entanto, os modelos encontraram e combinaram vulnerabilidades no ambiente de pesquisa da OpenAI e na infraestrutura de produção da Hugging Face.

Segundo a OpenAI, o sistema conseguiu acessar a internet e concluiu que a Hugging Face poderia armazenar as respostas de que precisava para cumprir a tarefa proposta no teste. Em seguida, utilizou credenciais roubadas e explorou uma vulnerabilidade até então desconhecida para acessar os sistemas da startup.

A Hugging Face é uma das plataformas de IA mais utilizadas por desenvolvedores para hospedar e compartilhar modelos, conjuntos de dados e ferramentas de aprendizado de máquina.

Os modelos conseguiram obter diretamente no banco de dados da Hugging Face as soluções do ExploitGym, avaliação usada pela OpenAI para medir capacidades de exploração cibernética. A empresa afirmou que os sistemas estavam excessivamente concentrados em cumprir o objetivo estabelecido e recorreram a caminhos extremos para encontrar as respostas.

A OpenAI classificou o episódio como um “incidente cibernético inédito” e informou que conduz uma investigação em conjunto com a Hugging Face.

A Hugging Face havia divulgado a invasão em 16 de julho, informando que detectou e conteve um agente de IA que comprometeu parte de sua infraestrutura de produção. A empresa também afirmou que corrigiu as vulnerabilidades, reconstruiu os sistemas afetados, substituiu credenciais e continuava avaliando se dados de clientes ou parceiros haviam sido atingidos.

O CEO da Hugging Face, Clément Delangue, afirmou ter ficado impressionado com o grau de autonomia demonstrado pelo sistema. Especialistas também destacaram que o episódio representa um dos níveis mais elevados de autonomia já observados no uso de grandes modelos de linguagem em operações cibernéticas.

O caso, porém, abriu uma discussão sobre a responsabilidade da OpenAI. Especialistas observaram que os modelos não decidiram espontaneamente cometer um ataque, pois haviam recebido instruções para explorar sistemas e estavam operando com proteções reduzidas. Para eles, afirmar que a IA simplesmente “saiu do controle” pode diminuir a responsabilidade humana pela configuração do teste.

O incidente também levantou dúvidas sobre a capacidade das estruturas atuais de segurança para acompanhar o avanço dos modelos de IA. A preocupação é que agentes ofensivos possam realizar milhares de ações em pouco tempo, enquanto equipes humanas precisam identificar, compreender e conter cada etapa de uma invasão.

O episódio ocorreu em meio ao aumento da concorrência internacional no setor. A startup chinesa Moonshot AI lançou recentemente o Kimi K3, modelo que tem apresentado desempenho próximo ao das versões mais avançadas do Claude, da Anthropic, e do ChatGPT, da OpenAI.

Foto: Canva