Por que uma desavença entre matemáticos alimenta temores de que a IA prejudica a ciência

Em uma antiga fábrica de relógios no centro de Londres, uma fileira de freezers brancos mantém armazenadas dezenas de pequenas caixas com tubos de vidro identificados por códigos de barras.

Dados e contexto do setor

Juntos, esses tubos contêm 100 bilhões de genes. Segundo o médico Oliver Vince, um dos fundadores do laboratório , se considerarmos apenas duas dessas caixas, elas poderiam armazenar juntas dez vezes mais informações do que todos os textos disponíveis na internet.

A empresa de Vince, a Basecamp Research, pretende coletar a maior quantidade possível de DNA para desenvolver uma inteligência artificial (IA) capaz de compreender a linguagem da biologia .

A estratégia é semelhante à adotada por empresas de tecnologia dos Estados Unidos e da China, que reuniram enormes volumes de textos disponíveis na internet para criar os chamados Large Language Models (LLMs, grandes modelos de linguagem como, por exemplo, o ChatGPT ou o Gemini) que servem de base para os atuais sistemas de IA.

Como interpretar os resultados

Vince, assim como muitos profissionais do setor empresarial e da pesquisa acadêmica, diz acreditar que a IA dará um grande impulso à pesquisa científica. Mas seu uso também tem provocado cada vez mais controvérsias.

No mês passado, a OpenAI , criadora da ferramenta ChatGPT, anunciou ter resolvido um dos grandes problemas ainda sem solução da matemática , relacionado às famosas equações de Navier-Stokes.

Segundo a empresa, seus agentes de IA conseguiram solucionar o problema em 88 horas.

A organização responsável por conceder um prêmio a quem encontrar a solução afirmou que a questão "aparentemente foi resolvida", mas ressaltou que a análise do resultado levará tempo.

Mas horas antes do anúncio, o matemático Tristan Buckmaster, da Universidade de Nova York, nos EUA, tornou públicas suas preocupações. Buckmaster formou uma equipe independente com Levent Alpöge, matemático que também trabalha para a Anthropic, empresa concorrente da OpenAI.

Os dois pesquisadores buscavam resolver o mesmo problema e armazenavam os rascunhos de seu trabalho no Codex, ferramenta de programação da OpenAI.

Buckmaster afirmou que seu colega havia sido informado de que notícias sobre o avanço da pesquisa tinham "chegado" à OpenAI, mas não explicou como isso teria ocorrido.

Ele questionou se a pesquisa armazenada no Codex poderia ter sido utilizada no trabalho da própria OpenAI, embora tenha ressaltado que "não estava acusando ninguém de nada".

A OpenAI afirmou que ninguém na empresa, seja humano ou IA, teve acesso ao trabalho da outra equipe antes de sua publicação.

Inicialmente, a empresa disse que, embora fosse improvável, não poderia "descartar" a possibilidade de que dados anonimizados do uso de seus produtos tivessem contribuído para aprimorar seus modelos.

Dias depois, afirmou que os comandos inseridos por Buckmaster no Codex nos dois meses anteriores ao anúncio "não poderiam ter influenciado o sistema de forma alguma".

O caso é complexo, e ainda não sabemos exatamente o que aconteceu. Mas ele chama a atenção para uma preocupação crescente com o uso da IA na ciência .

Em geral, quando pensamos nesse assunto, imaginamos robôs criando vírus perigosos por meio de engenharia genética ou armas químicas capazes de exterminar a humanidade.

No entanto, há um problema mais sutil, que não recebe a mesma atenção da imprensa: a possibilidade de a IA abalar a confiança no processo científico, levantando dúvidas sobre a originalidade e a precisão das pesquisas.

Há ainda outra preocupação. Sabe-se que ferramentas de IA como Claude e Gemini, do Google, podem, às vezes, produzir informações falsas, fenômeno conhecido como "alucinação".

Elas podem, por exemplo, mencionar um filme que nunca existiu ou atribuir a alguém uma frase que jamais foi dita. Agora, há evidências de que isso ocorre com frequência cada vez maior também na ciência.

O temor é que, com o tempo, se torne difícil distinguir descobertas científicas verdadeiras de informações fictícias geradas por IA.

Tudo isso pode ameaçar enfraquecer, ou até destruir, o alicerce sobre o qual se sustenta a pesquisa científica: a confiança.

Uma das ameaças recai sobre as revistas científicas, responsáveis por preservar a integridade da ciência, que parecem não estar conseguindo lidar com uma avalanche de informações distorcidas geradas por IA.

"A IA generativa basicamente transformou todo o processo científico", afirma Dalmeet Singh Chawla, jornalista especializado em ciência que há uma década cobre casos de má conduta na pesquisa científica.

Singh Chawla disse à BBC que as equipes responsáveis por verificar a integridade das publicações científicas, analisando a precisão e a confiabilidade dos estudos submetidos, precisarão "aumentar drasticamente [em número de profissionais e esforço] para ter alguma chance de enfrentar o problema".

"No momento, parece que não estão conseguindo", afirma Singh Chawla.

À primeira vista, a IA parece ser a ferramenta ideal para impulsionar a pesquisa científica. Os cientistas trabalham com volumes enormes de informações.

Telescópios e aceleradores de partículas, por exemplo, coletam bilhões de dados, em uma quantidade impossível de ser processada pelo cérebro humano.

A IA consegue identificar as informações cientificamente mais relevantes em meio a essa imensidão de dados.

Um dos maiores exemplos do potencial da IA na ciência é a empresa Google DeepMind, sediada no Reino Unido, que em 2020 resolveu um dos maiores desafios da biologia: descobrir como as proteínas dos seres vivos se dobram até adquirir suas formas tridimensionais específicas.