IA na Ciência: Entre Avanços Promissores e Riscos à Confiança Científica

A inteligência artificial (IA) tem se mostrado uma ferramenta poderosa para impulsionar a pesquisa científica, com empresas como a Basecamp Research coletando vastos volumes de DNA para desenvolver IAs capazes de compreender a linguagem da biologia. No entanto, o uso crescente da IA na ciência também tem gerado controvérsias e levantado preocupações significativas sobre a confiabilidade e a integridade do processo científico.

Um dos casos que chamou atenção ocorreu quando a OpenAI anunciou ter solucionado um problema matemático complexo, mas um matemático da Universidade de Nova York questionou se a pesquisa de sua equipe, armazenada em uma ferramenta da OpenAI, poderia ter sido utilizada indevidamente. A OpenAI negou o acesso indevido, mas o incidente destacou o risco de que a IA possa abalar a confiança na originalidade e precisão das pesquisas.

O Potencial da IA na Descoberta Científica

A IA oferece a capacidade de processar e identificar informações relevantes em volumes massivos de dados, algo impossível para o cérebro humano. Um exemplo notável é o AlphaFold, da Google DeepMind, que previu com precisão as estruturas de 200 milhões de proteínas, um avanço que, segundo o diretor da DeepMind, Pushmeet Kohli, é um "marco histórico".

Outro exemplo é o trabalho da DeepMind na previsão de novas estruturas cristalinas, que poderia levar ao desenvolvimento de materiais mais eficientes para baterias e células solares. No entanto, químicos da Universidade da Califórnia alertaram que muitos dos compostos anunciados eram "adaptações triviais de materiais conhecidos", ressaltando a necessidade de análise rigorosa.

A Ameaça da 'AI Slop' e a Integridade das Publicações

Uma preocupação crescente é o fenômeno conhecido como "AI slop" (conteúdo 'tosco' gerado por IA), onde estudos podem ser escritos por computadores, incluindo referências falsas e citações de artigos inexistentes. Um estudo analisou mais de 1 milhão de artigos biomédicos e encontrou indícios de uso de IA em quase 90% deles. Isso pode levar à disseminação de vieses presentes nos modelos de linguagem e comprometer a qualidade das revistas científicas.

O processo de revisão por pares também está sob ameaça. Pesquisadores descobriram que até 17% dos textos submetidos a conferências de ciência da computação haviam sido alterados por modelos de linguagem. Além disso, a IA tem sido usada para compilar referências bibliográficas, resultando na invenção de cerca de 147 mil trabalhos científicos inexistentes no ano passado.

Buscando um Uso Responsável da IA na Ciência

Diante desses desafios, editoras como a Elsevier estão desenvolvendo indicadores para identificar artigos que necessitam de avaliação humana mais rigorosa. As revistas do grupo Nature proíbem imagens geradas por IA e orientam revisores a não usar sistemas de IA. Plataformas como o arXiv suspendem pesquisadores que apresentam referências inventadas.

A professora Sarah Main, da Elsevier, destaca a importância da "research-grade AI", focada em garantir que o pesquisador mantenha o controle do trabalho. O pesquisador Pushmeet Kohli, da DeepMind, enfatiza a necessidade de supervisão humana, pois os agentes de IA ainda são imperfeitos e "alguém precisa assumir a responsabilidade".

A pesquisa da professora Andrea Pauli, que utilizou IA para identificar uma proteína crucial na penetração do espermatozoide no óvulo, demonstra o potencial da tecnologia quando usada de forma responsável. O cofundador da Basecamp Research, Oliver Vince, que se recuperou de leucemia, busca usar IA para encontrar curas para o câncer, acreditando que "temos um caminho tecnicamente viável para curar o câncer". A grande questão é se a IA ajudará a ciência a alcançar esses objetivos ou se enfraquecerá seus fundamentos.