Nvidia combina software e hardware para vigiar agentes de IA

A Nvidia anunciou nesta segunda-feira (28) uma plataforma de segurança para agentes de inteligência artificial. A proposta combina software aberto, isolamento de execução e uma camada de hardware capaz de monitorar e interromper ações consideradas perigosas.

A CNN Brasil noticiou o lançamento das ferramentas OpenShell e Sentry. A página oficial da Nvidia e a documentação técnica do OpenShell confirmam que os componentes formam a Open Agent Safety Platform, criada para acompanhar agentes desde os testes até a implantação em empresas e órgãos públicos.

Agentes de IA diferem de um chatbot que apenas responde perguntas. Eles podem acessar arquivos, executar comandos, usar serviços externos e encadear tarefas sem supervisão humana a cada etapa. Essa autonomia aumenta a produtividade, mas também amplia o impacto de uma instrução maliciosa, de uma credencial exposta ou de uma decisão inesperada.

A arquitetura apresentada pela empresa tenta separar o agente dos controles que limitam sua atuação. Em vez de confiar apenas nas regras seguidas pelo próprio modelo, a plataforma aplica políticas fora do processo em que ele funciona. Assim, o sistema de proteção permanece ativo mesmo quando o agente interpreta uma ordem de maneira errada.

OpenShell isola ações dos agentes

O OpenShell executa os agentes em ambientes isolados e permite definir, por meio de políticas, quais arquivos, processos, redes e provedores podem ser acessados. A documentação descreve uma estrutura em que as credenciais reais não precisam ficar expostas ao programa autônomo, pois o acesso a serviços pode ser intermediado por um gateway.

Esse desenho cria uma fronteira técnica entre a tarefa solicitada e os recursos sensíveis da organização. Um agente autorizado a consultar um banco de dados, por exemplo, não recebe automaticamente permissão para abrir qualquer arquivo do servidor ou enviar informações a um endereço externo.

Os registros de execução também fazem parte da proposta. A observabilidade permite acompanhar decisões, comandos e tentativas de acesso, o que ajuda equipes de segurança a investigar incidentes e revisar as políticas aplicadas. A empresa apresenta o OpenShell como software de código aberto, permitindo análise e integração por outros fornecedores.

A Nvidia informou ainda que trabalha com fabricantes como Arm e Intel para ampliar o suporte em processadores centrais. A participação de empresas de diferentes partes da infraestrutura indica que a proteção de agentes não será resolvida apenas pelo modelo de IA, mas também pelo ambiente em que ele opera.

Sentry adiciona vigilância independente

O Sentry acrescenta uma camada externa ao agente e ao software do computador hospedeiro. O projeto usa o BlueField-4, da Nvidia, para observar solicitações, respostas e sinais de funcionamento sem depender exclusivamente do sistema que está sendo fiscalizado.

Na prática, essa separação busca impedir que um agente desative o próprio mecanismo de controle. Se houver tentativa de sair do ambiente isolado ou de usar um recurso não autorizado, a camada independente pode intervir e bloquear a ação. O objetivo é aplicar um princípio já comum em segurança: nenhuma aplicação deve controlar sozinha as barreiras que a limitam.

A plataforma não elimina riscos nem substitui revisão humana, testes e configuração correta. Políticas permissivas continuam abrindo espaço para abuso, e um registro de auditoria só é útil quando há equipe capaz de analisá-lo. O anúncio, porém, mostra que a indústria está levando a proteção para além das respostas do modelo e incorporando controles no sistema operacional e no hardware.

Para empresas interessadas em agentes autônomos, a novidade oferece um caminho para adotar a tecnologia com limites verificáveis. A segurança dependerá da qualidade das regras, da atualização dos componentes e da capacidade de reagir aos alertas, mas a separação entre agente, ambiente e vigilância reduz a confiança concentrada em um único ponto.