Por que a Nature não permitirá o uso de IA generativa em imagens e vídeos

Sep 05, 2023

Você tem acesso total a este artigo por meio de sua instituição.

A Nature não publicará imagens criadas total ou parcialmente usando IA generativa. Crédito: Artem Medvediev/Alamy

A Natureza deve permitir o uso de inteligência artificial (IA) generativa na criação de imagens e vídeos? Esta revista vem discutindo, debatendo e consultando sobre esta questão há vários meses após a explosão de conteúdo criado usando ferramentas generativas de IA, como ChatGPT e Midjourney, e o rápido aumento das capacidades dessas plataformas.

Exceto em artigos especificamente sobre IA, a Nature não publicará nenhum conteúdo em que fotografias, vídeos ou ilustrações tenham sido criados total ou parcialmente usando IA generativa, pelo menos no futuro próximo.

Artistas, cineastas, ilustradores e fotógrafos com quem contratamos e com os quais trabalhamos serão solicitados a confirmar que nenhum dos trabalhos enviados foi gerado ou aumentado usando IA generativa (consulte go.nature.com/3c5vrtm).

Ferramentas como ChatGPT ameaçam a ciência transparente; aqui estão nossas regras básicas para seu uso

Por que estamos proibindo o uso de IA generativa em conteúdo visual? Em última análise, é uma questão de integridade. O processo de publicação — no que diz respeito à ciência e à arte — é sustentado por um compromisso compartilhado com a integridade. Isso inclui a transparência. Como pesquisadores, editores e editores, todos nós precisamos conhecer as fontes de dados e imagens, para que possam ser verificados como precisos e verdadeiros. As ferramentas de IA generativas existentes não fornecem acesso às suas fontes para que essa verificação possa acontecer.

Depois, há a atribuição: quando um trabalho existente é usado ou citado, ele deve ser atribuído. Este é um princípio fundamental da ciência e da arte, e as ferramentas generativas de IA não atendem a essa expectativa.

Consentimento e permissão também são fatores. Estes devem ser obtidos se, por exemplo, pessoas estiverem sendo identificadas ou a propriedade intelectual de artistas e ilustradores estiver envolvida. Novamente, aplicações comuns de IA generativa falham nesses testes.

Os sistemas generativos de IA estão sendo treinados em imagens para as quais nenhum esforço foi feito para identificar a fonte. Trabalhos protegidos por direitos autorais estão sendo usados ​​rotineiramente para treinar IA generativa sem as permissões apropriadas. Em alguns casos, a privacidade também está sendo violada – por exemplo, quando sistemas generativos de IA criam o que parecem ser fotografias ou vídeos de pessoas sem o consentimento delas. Além das preocupações com a privacidade, a facilidade com que esses 'deepfakes' podem ser criados está acelerando a disseminação de informações falsas.

Por enquanto, a Nature está permitindo a inclusão de texto que foi produzido com a ajuda de IA generativa, desde que isso seja feito com as ressalvas apropriadas (consulte go.nature.com/3cbrjbb). O uso dessas ferramentas de modelo de linguagem grande (LLM) precisa ser documentado na seção de métodos ou agradecimentos de um artigo, e esperamos que os autores forneçam fontes para todos os dados, incluindo aqueles gerados com a ajuda de IA. Além disso, nenhuma ferramenta LLM será aceita como autor em um trabalho de pesquisa.

O mundo está à beira de uma revolução da IA. Essa revolução é uma grande promessa, mas a IA – e particularmente a IA generativa – também está rapidamente derrubando convenções estabelecidas há muito tempo em ciência, arte, publicação e muito mais. Essas convenções, em alguns casos, levaram séculos para serem desenvolvidas, mas o resultado é um sistema que protege a integridade na ciência e protege os criadores de conteúdo da exploração. Se não formos cuidadosos ao lidar com a IA, todos esses ganhos correm o risco de se desfazer.

Muitos sistemas regulatórios e legais nacionais ainda estão formulando suas respostas ao surgimento da IA ​​generativa. Até que eles se atualizem, como editora de pesquisas e trabalhos criativos, a postura da Nature permanecerá um simples 'não' à inclusão de conteúdo visual criado usando IA generativa.

Natureza618, 214 (2023)

doi: https://doi.org/10.1038/d41586-023-01546-4

Ferramentas como ChatGPT ameaçam a ciência transparente; aqui estão nossas regras básicas para seu uso