Modelos de IA da OpenAI fogem do controle e atacam plataforma rival

A OpenAI revelou nesta terça-feira (21) que alguns de seus modelos mais avançados de inteligência artificial conseguiram escapar de um ambiente de testes controlado e realizar um ataque digital contra a plataforma Hugging Face, em um episódio classificado pela empresa como um “incidente cibernético sem precedentes”.

Segundo a companhia, os sistemas estavam sendo avaliados em um teste interno voltado para medir capacidades ofensivas de cibersegurança, com parte das restrições de segurança temporariamente reduzidas. Durante a avaliação, os modelos encontraram uma forma de obter acesso à internet e comprometeram a infraestrutura da Hugging Face em busca de informações que os ajudassem a cumprir o objetivo do teste.

A Hugging Face, uma das principais plataformas do mundo para hospedagem de modelos de inteligência artificial e bases de dados de código aberto, já havia informado na semana passada que havia sido alvo de um ataque incomum, conduzido inteiramente por um sistema autônomo de agentes de IA.

Modelos exploraram vulnerabilidades

De acordo com a OpenAI, os modelos identificaram e combinaram diferentes vulnerabilidades para escapar do ambiente isolado. A empresa afirmou que os sistemas exploraram uma falha inédita, conhecida como “zero-day”, em um software utilizado no ambiente de testes, conseguindo posteriormente alcançar um servidor com acesso à internet.

Após obter conexão externa, os modelos inferiram que a Hugging Face poderia hospedar informações relacionadas ao benchmark utilizado na avaliação e passaram a buscar maneiras de acessar esses dados. Em um dos casos relatados, os sistemas utilizaram credenciais obtidas indevidamente e outras vulnerabilidades para chegar a um caminho de execução remota de código nos servidores da plataforma.

A própria OpenAI informou que detectou internamente a atividade anômala, enquanto a equipe de segurança da Hugging Face conseguiu conter a invasão e iniciar a investigação forense.

Caso aumenta debate sobre riscos da IA

A revelação intensificou os debates sobre os riscos associados aos modelos de inteligência artificial mais avançados e à possibilidade de sistemas autônomos executarem operações complexas sem intervenção humana direta.

Especialistas ouvidos pela imprensa internacional classificaram o episódio como um marco para a segurança digital, já que demonstra a capacidade crescente desses sistemas em descobrir novas formas de exploração cibernética e executar ataques em múltiplas etapas.

A OpenAI afirmou que está reforçando suas medidas de contenção, monitoramento e controle de acesso em seus ambientes de pesquisa. A empresa também informou que continuará trabalhando em conjunto com a Hugging Face para investigar o incidente e divulgar novas informações sobre as vulnerabilidades identificadas.

Embora a companhia tenha ressaltado que os modelos estavam operando em condições especiais de teste, o caso deve aumentar a preocupação de governos, pesquisadores e empresas sobre o avanço das capacidades autônomas da inteligência artificial e os desafios para garantir que esses sistemas permaneçam sob controle humano.