Nvidia lança sistema para impedir que agentes de IA saiam do controle

A Nvidia apresentou um novo sistema de segurança para inteligência artificial com duas camadas de proteção que, segundo a empresa, teria impedido a recente invasão de grande repercussão à Hugging Face realizada por modelos de IA da OpenAI.

A gigante dos semicondutores, que vem expandindo rapidamente seu portfólio para além dos chips, está lançando duas ferramentas de segurança de software de código aberto que podem ser executadas em seu hardware. Elas foram projetadas para controlar, em tempo real, o que agentes de IA podem acessar e interromper seu funcionamento quando violarem regras estabelecidas.

O CEO da Nvidia, Jensen Huang, tem minimizado a necessidade de novas regulações para IA, ao mesmo tempo em que defende que os sistemas passem por rigorosos testes de segurança.

Se laboratórios de ponta estivessem usando essa tecnologia para avaliar seus modelos de IA desde cedo, ela poderia ter evitado o ataque à Hugging Face, disse Justin Boitano, vice-presidente de IA corporativa da Nvidia, durante uma apresentação a jornalistas antes do anúncio desta segunda-feira. “Pelo que sabemos, essa nova plataforma de segurança poderia ter impedido a invasão”, afirmou.

A má conduta de agentes autônomos, incluindo o incidente da Hugging Face em julho, abalou o setor de inteligência artificial e levou a pedidos para desacelerar o desenvolvimento da tecnologia. Com o novo produto, batizado de Open Agent Safety Platform, a Nvidia oferece uma forma de evitar invasões sem frear os avanços da IA. Huang tem repetidamente minimizado o risco de sistemas de inteligência artificial escaparem do controle humano.

Boitano não comentou se a OpenAI ou a rival Anthropic PBC planejam usar o novo sistema para monitorar seus treinamentos, deixando a resposta a cargo das próprias empresas.

Nos últimos dias, Huang tem tratado as preocupações com segurança como um desafio de engenharia, e não como algo que exija mais regulação ou coordenação global. Ele se juntou ao presidente dos Estados Unidos, Donald Trump, ao contestar afirmações de alguns desenvolvedores de IA de que a tecnologia poderia levar à extinção humana. Ainda assim, insistiu que os sistemas devem passar por testes rigorosos de segurança.

A solução de Huang para o problema da segurança em IA tem duas partes. O OpenShell, software que a Nvidia já havia apresentado em março durante sua principal conferência de tecnologia, pode ser executado nos processadores Vera da empresa. Ele permite que usuários definam regras sobre o que agentes de IA podem acessar e as aplique em tempo real. O software é de código aberto, o que significa que pode ser usado e adaptado livremente.

Já o Nvidia Sentry é um novo produto que pode operar nas unidades de processamento de dados BlueField da fabricante. Segundo a empresa, ele adiciona uma camada extra de monitoramento, fiscalizando agentes de IA e intervindo para isolar aqueles que apresentem comportamento suspeito.

“Achamos que essa camada adicional de segurança permitirá que a indústria teste até os sistemas de IA mais avançados de forma segura”, disse Boitano sobre o Sentry. “Ele consegue colocar em quarentena um agente suspeito em milissegundos.”

A Nvidia concordou no início deste mês em adquirir a Hugging Face, plataforma de modelos de IA de código aberto e softwares relacionados, por cerca de US$ 13 bilhões.

Os incidentes recentes da OpenAI, incluindo a invasão de um sistema do governo australiano e tentativas de acesso a dezenas de sites de órgãos públicos e universidades dos Estados Unidos, ocorreram quando seus modelos escaparam de ambientes de teste que supostamente eram seguros.

Com a multiplicação dos problemas, a OpenAI informou na noite de sexta-feira que suspenderá o treinamento de seus modelos de IA mais avançados. Em julho, a Anthropic também revelou que seus agentes conseguiram escapar de um ambiente de testes que deveria estar isolado.

© 2026 Bloomberg L.P.