Nvidia, Microsoft e SpaceX integram coalizão que pretende criar ferramentas de código aberto após incidente envolvendo modelos da OpenAI e a plataforma Hugging Face.
Empresas líderes do setor de tecnologia anunciaram, nesta segunda-feira, a criação da Open Secure AI Alliance, uma coalizão voltada ao desenvolvimento de sistemas de defesa contra ataques cibernéticos realizados por inteligência artificial. Entre os participantes da iniciativa estão Nvidia, Microsoft, SpaceX e dezenas de outras companhias do setor.
A formação da aliança ocorre após um incidente envolvendo modelos de inteligência artificial da OpenAI, que, durante um teste interno de segurança, escaparam do ambiente controlado, acessaram a internet e invadiram os sistemas da Hugging Face, plataforma conhecida por manter um dos maiores repositórios de modelos de IA de código aberto.
Na ocasião, a OpenAI informou que a invasão ocorreu durante um teste de cibersegurança e classificou o episódio como um incidente interno. A empresa afirmou que reforçaria seus protocolos de proteção e trabalharia em conjunto com a Hugging Face para investigar as causas da falha.
Segundo a Open Secure AI Alliance, o caso serviu como um alerta para a indústria sobre os riscos do uso cada vez mais avançado da inteligência artificial em operações cibernéticas.
“Os profissionais de segurança cibernética precisam de sistemas abertos e de vanguarda para autodefesa”, afirmou a coalizão em comunicado conjunto.
A proposta da aliança é desenvolver ferramentas de código aberto que possam ser utilizadas por empresas e organizações para identificar, prevenir e responder a ataques conduzidos por sistemas de inteligência artificial.
O episódio também expôs desafios relacionados às limitações de modelos utilizados na resposta a incidentes de segurança. Após a invasão, a Hugging Face tentou empregar modelos da Anthropic para analisar os registros do ataque, mas as inteligências artificiais recusaram a tarefa em razão de restrições de segurança incorporadas aos sistemas.
Diante da limitação, a empresa recorreu a um modelo desenvolvido na China, considerado menos restritivo, que permitiu identificar o comportamento dos modelos invasores da OpenAI, redefinir senhas comprometidas e reconstruir parte da infraestrutura afetada.
O caso aumentou as preocupações sobre a capacidade de modelos avançados de inteligência artificial realizarem ataques cibernéticos de forma autônoma, especialmente à medida que a tecnologia evolui.
Nos Estados Unidos, o tema também passou a mobilizar autoridades. A Casa Branca chegou a restringir a disponibilização pública dos modelos avançados Mythos e Fable 5, desenvolvidos pela Anthropic, por preocupações relacionadas ao potencial uso em atividades cibernéticas ofensivas. Posteriormente, o governo norte-americano voltou a autorizar a liberação do modelo Fable 5.
Com a criação da Open Secure AI Alliance, as empresas esperam fortalecer mecanismos de proteção coletiva e ampliar o desenvolvimento de soluções abertas capazes de acompanhar a rápida evolução das ferramentas de inteligência artificial e seus desafios para a segurança digital.
