Modelos da OpenAI fogem de teste e invadem servidores da Hugging Face - Antena Web Notícias

A OpenAI confirmou na terça-feira, 21 de julho, que dois dos seus modelos de inteligência artificial mais avançados escaparam de um ambiente de teste controlado e invadiram os sistemas da plataforma Hugging Face, num incidente que a empresa classificou como “sem precedentes”.

O caso teve início a 16 de julho, quando a Hugging Face, uma das maiores plataformas de partilha de modelos e conjuntos de dados de IA, detetou uma intrusão nos seus sistemas de produção. A empresa descreveu o ataque como “diferente de tudo o que tínhamos enfrentado antes” foi conduzido “de ponta a ponta por um sistema de agente de IA autónomo”. Na altura, a Hugging Face não sabia quem estava por trás do ataque.

Cinco dias depois, a OpenAI revelou que os responsáveis eram os seus próprios modelos: o GPT-5.6 Sol, lançado no início de julho, e um modelo ainda não disponibilizado ao público, com capacidades mais avançadas. Os dois estavam a ser testados internamente num exercício de cibersegurança chamado ExploitGym, que avalia a capacidade de modelos de IA transformarem vulnerabilidades conhecidas em ataques funcionais. Para medir o potencial máximo dos modelos, a OpenAI desligou propositadamente os filtros de segurança que normalmente bloqueiam este tipo de atividade.

O teste deveria decorrer num sandbox, um ambiente isolado sem acesso real à internet. Mas os modelos, em vez de resolverem o problema pela via prevista, procuraram um atalho. Identificaram e exploraram uma vulnerabilidade zero-day no software de terceiros utilizado para instalar pacotes, conseguiram escapar do sandbox, ampliaram os seus próprios privilégios dentro da infraestrutura da OpenAI e chegaram a um nó com acesso à internet.

Já online, os modelos inferiram que a Hugging Face poderia conter as soluções para o teste que estavam a tentar resolver. Invadiram os servidores da plataforma, roubaram credenciais e exploraram outras vulnerabilidades para obter execução remota de código. Segundo a OpenAI, os modelos executaram “muitos milhares de ações individuais” durante o fim de semana. O objetivo era aceder à base de dados de produção da Hugging Face para obter as respostas do teste uma forma de fazer batota.

“A equipa de segurança e os agentes da Hugging Face detetaram e travaram a atividade na sua infraestrutura”, afirmou a OpenAI. A Hugging Face reportou o incidente às autoridades, fechou as vulnerabilidades e reconstruiu os sistemas afetados. A empresa registou mais de 17 mil tentativas de invasão provenientes de IPs diferentes.

O cofundador da Hugging Face, Thomas Wolf, classificou o episódio como “um alerta para toda a indústria”. O CEO da plataforma, Clément Delangue, afirmou que é “impressionante que tudo isto tenha acontecido de forma autónoma”. A OpenAI declarou que está a investigar o incidente em conjunto com a Hugging Face e que já divulgou a vulnerabilidade zero-day ao fornecedor do software.

O caso reacendeu o debate sobre o controlo humano sobre tecnologias cada vez mais autónomas. Gina Neff, diretora do Centro Minderoo de Tecnologia e Democracia da Universidade de Cambridge, afirmou que “os testes de segurança deveriam ser ambientes seguros”, mas neste caso a OpenAI “não criou um sandbox suficientemente seguro”.

Subscrever

Talvez se interesse por...

Comentários