IA na ciência: avanços promissores e riscos à integridade da pesquisa
Destaques
- •Inteligência artificial acelera descobertas científicas, mas levanta preocupações sobre originalidade e confiança.
- •Modelos de IA podem gerar informações falsas e citações inexistentes, ameaçando a qualidade de publicações.
- •Revistas científicas e pesquisadores buscam estratégias para garantir o uso responsável da IA na ciência.
A inteligência artificial (IA) tem se mostrado uma ferramenta poderosa para acelerar a pesquisa científica, com potencial para resolver problemas complexos e analisar volumes massivos de dados. No entanto, seu uso crescente também tem gerado controvérsias e levantado sérias preocupações sobre a originalidade, a precisão e a própria confiança no processo científico. Empresas como a Basecamp Research buscam usar IA para compreender a biologia, enquanto outras, como a OpenAI, anunciaram a solução de problemas matemáticos complexos. Contudo, casos como o da OpenAI e a polêmica sobre a descoberta de novos cristais pela DeepMind evidenciam os desafios.
IA como aliada e fonte de polêmicas
A IA tem o potencial de impulsionar a ciência ao processar dados que seriam impossíveis para o cérebro humano. Um exemplo notável é o modelo AlphaFold da Google DeepMind, que previu com precisão a estrutura de milhões de proteínas, um avanço que rendeu o Prêmio Nobel de Química aos seus idealizadores. A empresa também explorou a previsão da estrutura de novos materiais, anunciando a descoberta de mais de 2 milhões de novas estruturas cristalinas.
No entanto, químicos da Universidade da Califórnia alertaram que muitas dessas descobertas eram adaptações triviais de materiais conhecidos, questionando a originalidade e a necessidade de validação rigorosa. A DeepMind defendeu suas descobertas, argumentando que pequenas modificações em materiais conhecidos podem levar a avanços significativos.
Risco de 'AI slop' e a confiança na ciência
Uma preocupação ainda maior é o risco de que as revistas científicas sejam inundadas pelo chamado "AI slop", ou conteúdo "tosco" gerado por IA. Estudos indicam que uma porcentagem significativa de artigos biomédicos já apresenta indícios de uso de IA na sua elaboração. Isso pode levar à inclusão de referências falsas e à citação de artigos científicos inexistentes, comprometendo a qualidade e a confiabilidade da literatura científica.
Pesquisadores como Dmitry Kobak alertam para o risco de que vieses presentes nos modelos de linguagem se espalhem pela literatura científica. O processo de revisão por pares também está sendo afetado, com modelos de linguagem alterando substancialmente textos submetidos e inventando estudos para compilar referências bibliográficas. Estima-se que cerca de 147 mil trabalhos científicos inexistentes foram citados no último ano.
Medidas de controle e o futuro da pesquisa
Diante desse cenário, editoras como a Elsevier e grupos como o Nature estão implementando medidas para conter a crise de confiança. A Elsevier desenvolveu indicadores para identificar artigos que necessitam de avaliação humana mais rigorosa, enquanto o Nature proíbe o uso de imagens geradas por IA e orienta revisores a não submeterem manuscritos a sistemas de IA. Plataformas como o arXiv suspendem pesquisadores que apresentam referências inventadas.
Profissionais como Sarah Main, da Elsevier, defendem o uso de "research-grade AI", focado em garantir que o pesquisador mantenha o controle do trabalho. A supervisão humana é considerada essencial, pois os agentes de IA ainda são imperfeitos. O caso da pesquisadora Andrea Pauli, que utilizou IA de forma responsável para avançar em sua pesquisa sobre a penetração do espermatozoide no óvulo, demonstra o potencial da tecnologia quando usada corretamente.
Apesar dos riscos, a IA oferece um caminho promissor para avanços científicos, como a busca por curas para o câncer, como almeja Oliver Vince. A questão central é se a IA será uma aliada no progresso científico ou se acabará por minar seus próprios fundamentos.
