IA: grandes empresas do setor deveriam ser fechadas, defende autor de livro sobre ameaça apocalíptica das máquinas

A ideia de que a inteligência artificial pode ser uma ameaça fatal pra humanidade virou uma grande discussão no mundo depois de ataques de IAs que saíram do controle e ex-funcionários de grandes empresas do setor que fizeram advertências nas redes sociais sobre os riscos do atual ritmo de evolução das máquinas.

Dados e contexto do setor

Chefões das principais empresas de tecnologia, como Dario Amodei da Anthropic e Sam Altman da OpenAI, falaram abertamente em desacelerar os estágios de desenvolvimento.

Alertas sobre esse cenário já eram feitos há alguns anos pela dupla de pesquisadores Nate Soares e Eliezer Yudkowski, que lançaram no ano passado o livro Se Alguém Criar, Todos Morrem , publicado recentemente no Brasil (editora Intrínseca).

Nesse debate, os dois são conhecidos como parte da corrente apocalíptica, os " doomers ".

Impactos e informações adicionais

Parte da comunidade da tecnologia diz que essa corrente exagera o tamanho da ameaça.

Argumentam que dominar toda a internet por um período prolongado, principalmente áreas mais sensíveis e altamente protegidas, é tecnicamente muito difícil.

E que focar nas máquinas também tira a responsabilidade dos humanos por trás das decisões.

Soares, um americano descendente de portugueses, trabalhou no passado no Google, na Microsoft e no Departamento de Defesa dos Estados Unidos e é presidente do Machine Intelligence Research Institute (MIRI), dedicado à identificação de riscos criados pela inteligência artificial.

Ele defende que é preciso entender um problema específico: a dificuldade de alinhar a IA, ou seja, garantir que as máquinas respondam do jeito que nós, humanos, queremos (tema, aliás, de um estudo assinado por ele e Yudkoswki em 2015).

Essa complexidade e os computadores cada vez mais rápidos abrem espaço para situações em que a IA foge do controle.

Ele defende uma solução radical: o fechamento das principais empresas do setor.

Veja notícias do Brasil e do mundo no BBC World Service

O pesquisador falou com a BBC News Brasil sobre os diversos desafios acerca do tema em duas ocasiões diferentes. A entrevista foi editada por motivos de concisão e clareza.

BBC News Brasil - Com esses eventos recentes relacionadas à IA, você sentiu que os alertas do seu livro estão sendo mais levados a sério?

Nate Soares - Sim, muito mais. Mas nunca fui a única pessoa que dizia isso entre os pesquisadores de IA, embora muitas vezes eles tenham cuidado com as palavras e digam algo como "há um risco de perda de controle", que é um termo acadêmico para a IA matar todo mundo.

Acho que Jacob Coxon , que se demitiu, foi muito bom em ir direto ao ponto: "Estamos falando de algo como mais de 10% de chance de morrermos antes do fim desta década".

Eu acho que a probabilidade é ainda maior, mas ele colocou a questão de forma suficientemente direta para que muita gente prestasse atenção.

Acho que, após os incidentes envolvendo ataques de agentes de IA, pesquisadores viram que não era algo abstrato. Eles passaram a enxergar os sinais de alerta. Acho que estamos vendo boa parte do mundo entender esses perigos pela primeira vez.

BBC News Brasil - Como você explicaria para pessoas que não têm conhecimento técnico sobre IA por que ela representa uma ameaça existencial?

Soares - Existe um argumento muito básico: essas empresas estão tentando criar máquinas muito mais inteligentes do que qualquer ser humano. E isso pode dar errado com muita facilidade.