IA na ciência: entre avanços promissores e riscos à confiança científica

A inteligência artificial (IA) tem se mostrado uma ferramenta poderosa para acelerar a pesquisa científica, com empresas como a Basecamp Research coletando vastos volumes de DNA para desenvolver IAs capazes de compreender a biologia. No entanto, o uso crescente da IA no meio científico tem gerado controvérsias e levantado preocupações sobre a integridade e a confiabilidade das descobertas.

Um dos episódios que acendeu o alerta ocorreu quando a OpenAI anunciou ter resolvido um problema matemático complexo, mas um matemático da Universidade de Nova York questionou se a pesquisa de sua equipe, armazenada em uma ferramenta da OpenAI, poderia ter sido utilizada indevidamente. A empresa negou, mas o caso evidenciou a dificuldade em rastrear a origem do conhecimento gerado por IA.

O potencial da IA na ciência

A IA oferece a capacidade de processar volumes massivos de dados, algo impossível para o cérebro humano. Um exemplo notório é o AlphaFold, da Google DeepMind, que previu com precisão a estrutura de 200 milhões de proteínas em um ano, um feito que levaria milhões de anos em laboratório. Esse avanço, que rendeu um Prêmio Nobel, demonstra o potencial da IA em resolver grandes desafios científicos.

Outras aplicações incluem a previsão da estrutura de novos materiais, com potencial para o desenvolvimento de baterias e células solares mais eficientes. A empresa DeepMind chegou a anunciar mais de 2 milhões de novas estruturas cristalinas, embora químicos tenham questionado a originalidade e a relevância de algumas delas, pedindo por validação rigorosa.

Riscos e a crise de confiança

Apesar dos avanços, o uso da IA na ciência traz riscos significativos. Ferramentas de IA podem gerar informações falsas, o fenômeno conhecido como "alucinação", e há um temor crescente de que isso se torne comum na produção científica, dificultando a distinção entre descobertas reais e fictícias. Isso ameaça abalar a confiança, pilar fundamental da pesquisa científica.

Um dos maiores receios é o "AI slop", ou conteúdo "tosco" gerado por IA, que pode inundar revistas científicas. Um estudo analisou mais de 1 milhão de artigos biomédicos e encontrou indícios de uso de IA em quase 90% deles. A preocupação é que vieses presentes nos modelos de linguagem se espalhem pela literatura científica, comprometendo a qualidade e a integridade das publicações.

O processo de revisão por pares também é afetado. Pesquisas indicam que até 17% dos textos submetidos a conferências de ciência da computação foram alterados por modelos de linguagem. Além disso, a IA tem sido usada para compilar referências bibliográficas, resultando na invenção de estudos inexistentes, com cerca de 147 mil trabalhos fictícios citados no último ano.

Medidas e o futuro da pesquisa

Diante da crise de confiança, editoras como a Elsevier e grupos como a Nature estão implementando medidas. A Elsevier desenvolveu indicadores para identificar artigos que necessitam de avaliação humana rigorosa, enquanto a Nature proíbe imagens geradas por IA e orienta revisores a não submeterem manuscritos a sistemas de IA. Plataformas como o arXiv suspendem pesquisadores que apresentam referências inventadas.

Profissionais como Sarah Main, da Elsevier, defendem o "research-grade AI", focado em manter o controle do pesquisador sobre o trabalho. Pushmeet Kohli, da DeepMind, ressalta a necessidade de supervisão humana, pois os agentes de IA ainda são imperfeitos e "alguém precisa assumir a responsabilidade".

A professora Andrea Pauli exemplifica o uso responsável da IA, que auxiliou em sua pesquisa sobre a penetração do espermatozoide no óvulo. O cofundador da Basecamp Research, Oliver Vince, que se recuperou de leucemia, busca usar IA para encontrar curas para o câncer, mostrando o potencial humanitário da tecnologia. A questão central permanece: se a IA será uma aliada no avanço científico ou se minará seus próprios fundamentos.