Reino Unido amplia testes de segurança em modelos de IA

O Instituto de Segurança de Inteligência Artificial do Reino Unido recebeu acesso a modelos avançados de IA para realizar avaliações de risco. O ministro britânico de IA, Kanishka Narayan, informou nesta segunda-feira (12) que o órgão trabalha com o governo dos Estados Unidos e com desenvolvedores como o Google.

A CNN Brasil noticiou o anúncio com base em informações da Reuters. A agência confirmou que o instituto britânico já avalia sistemas de última geração, embora o governo não tenha divulgado uma lista completa dos modelos, das empresas participantes ou dos resultados obtidos nos testes.

Instituto recebe modelos avançados

O acesso antecipado permite que equipes técnicas examinem como os sistemas respondem a comandos complexos, se contornam restrições e quais medidas reduzem comportamentos indesejados. O objetivo é identificar falhas antes que uma tecnologia mais poderosa seja incorporada a serviços usados por empresas, governos e consumidores.

O Reino Unido não abriga uma das grandes companhias responsáveis pelos principais modelos de fronteira, mas busca ocupar uma posição relevante na avaliação independente dessas ferramentas. O instituto foi estruturado para reunir especialistas capazes de testar modelos desenvolvidos fora do país e produzir evidências para decisões de segurança.

Narayan afirmou que a cooperação envolve autoridades americanas e empresas privadas. A relação é importante porque os modelos mais avançados são desenvolvidos principalmente nos Estados Unidos. Sem autorização dos criadores, avaliadores externos não conseguem examinar versões ainda não oferecidas ao público ou aplicar testes mais profundos aos sistemas.

Testes miram riscos emergentes

A atenção sobre a segurança aumentou após empresas de IA relatarem respostas e ações não previstas durante avaliações internas. Entre os riscos examinados estão tentativas de burlar instruções, uso ofensivo de ferramentas digitais, vazamento de informações e capacidade de executar sequências de tarefas sem supervisão suficiente.

Em setembro, reportagens indicaram que a Casa Branca havia pedido a desenvolvedores americanos que adiassem o compartilhamento de novos modelos com avaliadores britânicos enquanto os Estados Unidos faziam uma revisão de segurança. A declaração de Narayan sinaliza que o instituto voltou a obter acesso, mas não esclarece se todas as limitações foram encerradas.

Os testes não equivalem a uma certificação geral de segurança. Um modelo pode apresentar resultados diferentes conforme a versão, as ferramentas conectadas, o tipo de usuário e as proteções instaladas. Por isso, avaliações independentes precisam ser repetidas quando o sistema é atualizado ou passa a operar em ambientes mais sensíveis.

O governo britânico pretende usar as análises para orientar salvaguardas e debates internacionais. Os próximos resultados públicos deverão mostrar quais riscos foram medidos, quais critérios foram aplicados e se os desenvolvedores aceitaram corrigir vulnerabilidades encontradas. Até essa divulgação, o avanço confirmado é o acesso técnico aos modelos, não uma conclusão definitiva sobre a segurança deles.