CEO da Microsoft defende "freio de emergência” para IA

Satya Nadella disse que empresas devem prever falhas e garantir que operações possam ser interrompidas

CEO da Microsoft , Satya Nadella, defendeu que empresas

O CEO da Microsoft , Satya Nadella, defendeu que empresas adotem mecanismos para interromper sistemas avançados de inteligência artificial caso apresentem comportamentos inesperados.

Segundo o executivo, as organizações devem considerar a possibilidade de comprometimento dos modelos e garantir que uma pessoa autorizada possa suspender suas operações a qualquer momento.

Em publicação na rede social X neste sábado (10.out.2026), Nadella comparou o mecanismo a um “freio de emergência”. Para ele, não basta confiar nas garantias de segurança oferecidas pelos desenvolvedores dos modelos.

Manifestação ocorre em meio a episódios recentes envolvendo ferramentas

A manifestação ocorre em meio a episódios recentes envolvendo ferramentas de inteligência artificial da Anthropic e da OpenAI. Entre os casos está uma denúncia falsa relacionada a uma investigação de homicídio nos Estados Unidos e ataques cibernéticos contra sites de terceiros.

Os episódios ampliaram as discussões sobre os riscos associados a sistemas capazes de executar tarefas com maior autonomia e sobre a necessidade de mecanismos de controle humano.

Em 14 de setembro, pesquisadores da Microsoft divulgaram princípios para orientar o desenvolvimento de seus modelos mais avançados.

As diretrizes estabelecem limites para o comportamento dos sistemas, incluindo a proibição de projetá-los para escapar do controle humano ou enganar usuários.

O documento também afirma que modelos de inteligência artificial não devem receber direitos ou personalidade jurídica.

O executivo também defendeu que as organizações desenvolvam sistemas cujo funcionamento possa ser monitorado, cujos limites sejam testados e cujas ações possam ser interrompidas.

A proposta busca distinguir a capacidade de um sistema de produzir respostas e executar tarefas da autoridade para tomar decisões ou agir sem supervisão.

“Modelos como Riscos Internos na Era da Super Inteligência

Como os sistemas de software tradicionais estavam sendo implantados em toda a economia nas últimas décadas, tínhamos as ferramentas e a capacidade de rastrear comportamentos para um caminho de código específico.

Esse mesmo tipo de compreensão mecanicista nos ilude nos sistemas de Super Inteligência de hoje, mesmo que os modelos de fronteira que alimentam esses sistemas agora sejam mais capazes do que os sistemas de software tradicionais.

Não podemos atribuir comportamentos e saídas do modelo a entradas específicas de dados de treinamento ou configurações de pesos de modelo.

E, no entanto, estamos implantando esses sistemas e modelos de agentes complexos, com acesso aos nossos dados mais sensíveis e dando a eles a capacidade de tomar ações críticas de missão em nosso nome!

É por isso que é hora de dar um passo atrás e avaliar a arquitetura de confiança para esta nova era. Simplesmente não podemos terceirizar a responsabilidade pelo que a inteligência faz em nosso nome. As garantias de um provedor modelo não nos isentam dessa responsabilidade.

Não podemos tratar a Super Inteligência como um conjunto de caixas pretas aninhadas e simplesmente aceitar ou rejeitar suas recomendações, respostas e ações.

Devemos construir sistemas contidos cujo comportamento podemos observar, limites que podemos testar e ações que podemos sempre conter.

Em outras palavras, precisamos separar o fornecimento de inteligência da autoridade sobre ela.

Deixando de lado o difícil problema do alinhamento, precisamos começar com uma abordagem de engenharia para contenção e governança.

Precisamos cercar modelos não determinísticos com design de sistema forte e determinístico, controles humanos e procedimentos operacionais confiáveis, e estabelecer padrões da indústria onde os existentes são insuficientes.