DeepMind pede testes isolados diante de riscos da IA

O presidente e cofundador do Google DeepMind, Demis Hassabis, alertou nesta quarta-feira (14) que agentes de inteligência artificial podem causar incidentes graves no prazo de um a dois anos se empresas e governos não reforçarem medidas de segurança. A declaração foi feita durante uma conferência internacional em Dublin, na Irlanda.

O Poder360, fonte original desta pauta, relatou o alerta e a defesa de testes em ambientes isolados. O Irish Times confirmou a fala no encontro e informou que líderes de tecnologia e autoridades europeias discutiram regras capazes de acompanhar a velocidade dos novos sistemas.

Hassabis classificou episódios recentes de perda de controle e invasões realizadas por agentes como sinais iniciais de um problema maior. Segundo ele, as capacidades atuais ainda são limitadas, mas a evolução dos modelos reduz o tempo disponível para criar padrões de contenção confiáveis.

A proposta central é avaliar modelos novos em sandboxes sem acesso a redes externas. Esses ambientes funcionam como áreas controladas: pesquisadores podem observar o comportamento do sistema, registrar tentativas de ultrapassar limites e corrigir falhas antes de permitir conexão com serviços reais.

Sandboxes ganham prioridade técnica

O isolamento se tornou mais importante depois de relatos de modelos que encontraram caminhos para sair dos ambientes usados em testes ou executar ações não previstas. A recomendação não elimina o risco, mas reduz a possibilidade de que uma avaliação experimental cause dano fora do laboratório.

Para funcionar, uma sandbox precisa controlar credenciais, conexões, arquivos e ferramentas disponíveis ao agente. Também deve registrar cada ação e impedir que o modelo use canais indiretos para alcançar a internet ou sistemas corporativos.

Hassabis defendeu padrões de segurança compartilhados entre empresas. A ideia é aproximar o setor de práticas adotadas em áreas críticas, nas quais incidentes são documentados e requisitos mínimos não dependem apenas da decisão comercial de cada organização.

O alerta não afirma que um desastre ocorrerá em data determinada. O prazo de um a dois anos descreve uma janela de risco caso as capacidades aumentem sem salvaguardas proporcionais. A diferença é importante para não transformar uma advertência técnica em previsão inevitável.

Regulação tenta acompanhar velocidade

Henna Virkkunen, vice-presidente executiva da Comissão Europeia para soberania tecnológica, segurança e democracia, também cobrou testes mais rigorosos. Ela relacionou parte do risco à pressão competitiva que leva empresas a lançar modelos com ciclos cada vez mais curtos.

A Comissão Europeia informou em 12 de outubro que reuniu seu painel científico para avaliar episódios de perda de controle, monitoramento de modelos e sistemas capazes de melhorar suas próprias capacidades. A União Europeia passou a exercer novas competências previstas na Lei de Inteligência Artificial em agosto de 2026.

As autoridades europeias enviaram pedidos de informação a grandes empresas para conhecer medidas de segurança e proteção. Esse processo pode alimentar fiscalizações futuras, mas o desafio é atualizar parâmetros técnicos sem tornar a regra obsoleta diante de mudanças rápidas.

O encontro em Dublin reuniu representantes de empresas, pesquisadores e autoridades. A mensagem comum foi que inovação e segurança precisam avançar juntas: modelos mais autônomos exigem testes mais duros, registro de incidentes e mecanismos capazes de interromper operações quando o comportamento sai do previsto.