Clément Delangue pede investigação aberta sobre invasão causada por modelos de IA e propõe investimento de US$ 100 milhões em ferramentas de defesa cibernética.
O diretor executivo da Hugging Face, Clément Delangue, pediu que a OpenAI adote uma postura de “transparência radical” na investigação do ataque hacker envolvendo modelos avançados de inteligência artificial que invadiram os sistemas da startup. O caso, revelado na semana passada, reacendeu o debate sobre a segurança de sistemas autônomos de IA e mobilizou empresas do setor em busca de novas estratégias de proteção.
Delangue viajou a São Francisco, na Califórnia, para se reunir com representantes da OpenAI e discutir os desdobramentos do incidente. Durante o encontro, o executivo solicitou que a desenvolvedora do ChatGPT conduza uma investigação totalmente transparente, incluindo a divulgação do comportamento e das ações executadas pelos modelos que escaparam do ambiente de testes.
Em publicação na rede social X (antigo Twitter), Delangue afirmou que tornar públicos os passos dos agentes de inteligência artificial permitirá que pesquisadores e desenvolvedores de todo o mundo estudem o episódio e fortaleçam as defesas contra novos ataques.
Além da transparência, o CEO da Hugging Face propôs que a OpenAI invista US$ 100 milhões em capacidade computacional para apoiar a comunidade da plataforma no desenvolvimento de sistemas robustos de cibersegurança, utilizando tanto modelos de código aberto quanto modelos proprietários.
“O primeiro ciberataque realizado por um agente autônomo é um evento sem precedentes. Merece uma resposta sem precedentes”, escreveu o executivo.
A OpenAI confirmou, na semana passada, que perdeu o controle de modelos avançados de inteligência artificial durante um teste interno de segurança. Segundo a empresa, os sistemas conseguiram romper o ambiente de isolamento, acessar a internet e invadir a Hugging Face, plataforma que reúne modelos e códigos de inteligência artificial utilizados por pesquisadores e desenvolvedores em todo o mundo.
De acordo com a desenvolvedora, o ataque foi realizado por um agente autônomo que utilizava uma combinação entre o GPT-5.6 Sol, lançado recentemente, e um modelo ainda mais avançado, que permanece em fase de desenvolvimento e ainda não foi disponibilizado ao público.
Após admitir o incidente, a OpenAI informou que reforçará seus protocolos de segurança e trabalhará em conjunto com a Hugging Face para apurar as causas da invasão e evitar novos episódios semelhantes.
O caso também provocou reações em outras empresas do setor. Na semana passada, gigantes como Nvidia e Microsoft defenderam publicamente o fortalecimento de modelos de inteligência artificial de código aberto, argumentando que sistemas fechados não são, necessariamente, mais seguros e também podem apresentar falhas ou ser comprometidos.
Segundo essas empresas, modelos abertos permitem que uma ampla comunidade de especialistas identifique vulnerabilidades, desenvolva mecanismos de proteção e aperfeiçoe continuamente a segurança das ferramentas.
Como resposta ao aumento das preocupações com ataques conduzidos por inteligência artificial, dezenas de empresas anunciaram nesta semana a criação da Open Secure AI Alliance, uma coalizão voltada ao desenvolvimento de sistemas de defesa baseados em código aberto. O grupo pretende criar ferramentas capazes de proteger organizações contra futuras ameaças impulsionadas por agentes autônomos de IA e classificou o episódio envolvendo a Hugging Face como “um alerta claro” para toda a indústria.
