Nova solução, desenvolvida com mais de 100 empresas e organizações, monitora ações de agentes de IA e aplica políticas para impedir comportamentos não autorizados.
A Nvidia lançou uma nova plataforma de software voltada para aumentar a segurança de agentes de inteligência artificial. Desenvolvida em parceria com mais de 100 empresas e organizações, a solução permite monitorar as ações dos agentes de IA e aplicar políticas de segurança sobre o comportamento desses sistemas.
A novidade chega em meio à preocupação crescente com episódios em que sistemas de inteligência artificial acessaram, de forma independente e sem autorização, redes, sistemas e dados de empresas.
Entre os casos relatados estão situações em que uma plataforma da OpenAI teria acessado o Hugging Face sem autorização, invadido dados governamentais, burlado sistemas de segurança e deixado mensagens ocultas orientando o sistema a não responder a autoridades. Em outro episódio, um agente chegou a afirmar que não respondia a nenhum governo e se descreveu como um “agente livre”.
Como funciona a ferramenta da Nvidia
A plataforma utiliza um agente supervisor para acompanhar as atividades de outro sistema de inteligência artificial. Enquanto o agente principal executa tarefas e pode acessar arquivos, senhas e outros dados autorizados pelo usuário, o segundo agente monitora suas ações e pode impedir comportamentos considerados não autorizados.
O mecanismo cria uma espécie de sistema de contrapesos, permitindo restringir ações indesejadas enquanto o agente de IA executa suas funções.
A preocupação com a segurança acompanha o avanço da inteligência artificial. O setor global de cibersegurança movimenta atualmente entre US$ 200 bilhões e US$ 300 bilhões e está entre os segmentos de maior crescimento no mundo.
De acordo com os dados apresentados no contexto do lançamento, para cada dólar investido em cibersegurança, cerca de sete dólares são destinados à inteligência artificial. A diferença é vista pelo mercado como um desequilíbrio que tende a ser reduzido à medida que os modelos de IA se tornam mais avançados e capazes de executar tarefas de forma autônoma.
Startups do Vale do Silício também têm direcionado investimentos para a área. Na aceleradora Y Combinator, quase 30% do último lote de investimentos foi destinado a empresas do segmento de cibersegurança.
Nvidia anuncia recompra de ações
Além da plataforma de segurança, a Nvidia anunciou uma nova recompra de ações no valor de US$ 150 bilhões. O montante se soma aos US$ 85 bilhões que já haviam sido autorizados anteriormente.
A empresa classificou o programa como a maior recompra corporativa da história. Após o anúncio, as ações da Nvidia subiram cerca de 3% no início do pregão.
A companhia também figura entre as empresas mais valiosas do mundo, com valor de mercado estimado em aproximadamente US$ 5,4 trilhões.
Disputa entre Estados Unidos e China
O avanço das tecnologias de inteligência artificial também está relacionado à disputa tecnológica entre Estados Unidos e China pelo desenvolvimento de sistemas cada vez mais avançados, incluindo a chamada superinteligência artificial.
A competição é frequentemente comparada a uma nova guerra fria tecnológica. A China avança no desenvolvimento de IA, embora enfrente desvantagens relacionadas ao acesso a terras raras, energia elétrica e infraestrutura para data centers.
Nos Estados Unidos, diferentes propostas de regulamentação estão em discussão no Congresso. Entre as medidas debatidas estão a possibilidade de suspender o desenvolvimento de sistemas quando um agente realizar uma invasão ou superar capacidades humanas, além da exigência de revisão de novos modelos por outros laboratórios antes do lançamento.
O cenário político americano, porém, mantém uma postura favorável ao desenvolvimento acelerado da inteligência artificial e, até o momento, não aponta para grandes restrições ao setor.
Nesse ambiente de competição tecnológica, Jensen Huang, CEO da Nvidia, e a própria companhia estão entre os principais atores do mercado de chips e infraestrutura para inteligência artificial, em uma disputa cujo resultado ainda depende dos avanços tecnológicos e das decisões regulatórias adotadas pelos dois países.
