IA intensifica luta contra 'fábricas de papel' que produzem pesquisas falsas

Apr 28, 2023

Você também pode procurar por este autor no PubMed Google Scholar

Você tem acesso total a este artigo por meio de sua instituição.

Ferramentas de inteligência artificial que podem gerar imagens e textos realistas estão dificultando a detecção de pesquisas falsas. Crédito: Westend61/Alamy

Os avanços na inteligência artificial (IA) estão complicando os esforços dos editores para lidar com o crescente problema das fábricas de papel – empresas que produzem artigos científicos falsos sob encomenda. Ferramentas de IA generativas, incluindo chatbots como ChatGPT e software de geração de imagens, fornecem novas maneiras de produzir conteúdo de fábrica de papel, que podem ser particularmente difíceis de detectar. Esses estavam entre os desafios discutidos por especialistas em integridade de pesquisa em uma cúpula em 24 de maio, que se concentrou no problema da fábrica de papel.

Detector de fábrica de papel posto à prova para erradicar ciência falsa

“A capacidade das fábricas de papel de gerar dados brutos cada vez mais plausíveis vai disparar com a IA”, diz Jennifer Byrne, bióloga molecular e pesquisadora de integridade de publicação da New South Wales Health Pathology e da Universidade de Sydney, na Austrália.

“Vi imagens de microscopia falsas que foram geradas apenas por IA”, diz Jana Christopher, analista de integridade de dados de imagem da editora FEBS Press em Heidelberg, Alemanha. Mas ser capaz de provar além de qualquer suspeita que as imagens são geradas por IA continua sendo um desafio, diz ela.

As ferramentas de IA geradoras de linguagem, como o ChatGPT, representam um problema semelhante. "Assim que você tiver algo que possa mostrar que algo foi gerado pelo ChatGPT, haverá outra ferramenta para embaralhar isso", diz Christopher.

Anna Abalkina, cientista social da Universidade Livre de Berlim e analista independente de integridade de pesquisa, suspeita que pode haver um atraso para que essas ferramentas de IA se tornem mais aparentes na literatura acadêmica devido à duração do processo de revisão por pares. Talvez nos próximos meses, "veremos o primeiro fluxo de papéis", diz ela.

Byrne, Christopher e Abalkina participaram do encontro UNITED2ACT na semana passada, convocado pelo Committee on Publication Ethics (COPE), uma organização sem fins lucrativos focada em ética na publicação acadêmica com sede em Eastleigh, Reino Unido, e a International Association of Scientific , Technical and Medical Publishers (STM), com sede em Oxford. A cúpula reuniu pesquisadores internacionais, incluindo analistas de integridade de pesquisa independentes, bem como representantes de órgãos financiadores e editores.

A luta contra as fábricas de papel falso que produzem ciência falsa

"Foi a primeira vez que tivemos um grupo de pessoas reunidas e cocriando um conjunto de ações que vamos levar adiante para combater esse problema", diz Deborah Kahn, curadora do COPE e consultora de integridade em pesquisa , com sede em Londres. O grupo pretende publicar em breve seu plano de ação conjunta.

Quando se trata de detectar trabalhos em fábricas de papel, "há absolutamente um desafio adicional representado por imagens sintéticas, texto sintético etc.", diz Joris van Rossum, diretor de programa da STM Solutions, uma subsidiária da STM. "Há uma percepção geral de que existe o potencial de tornar a triagem mais difícil", diz ele.

Kahn diz que, embora sem dúvida haja usos positivos da IA ​​para apoiar os pesquisadores que escrevem artigos, ainda será necessário distinguir entre artigos legítimos escritos com IA e aqueles que foram completamente fabricados. "Temos que realmente observar como identificamos essas coisas e como garantimos que as pessoas realmente fizeram a pesquisa. E há várias maneiras de fazer isso", diz ela.

Uma estratégia discutida durante o encontro foi exigir que os autores forneçam os dados brutos dos experimentos, possivelmente com marcas d'água digitais que permitiriam aos editores confirmar que esses dados são genuínos.