Estudo identifica três tipos de plágios produzidos pelo ChatGPT

Estudos mostram como modelos de linguagem natural podem ser fonte de má conduta acadêmica e indicam formas de prevenir o problema

FABRÍCIO MARQUES | revista Pesquisa FAPESP
jornalista

Pesquisadores da Universidade do Estado da Pensilvânia (Penn State), nos Estados Unidos, investigaram até que ponto modelos de linguagem natural como o ChatGPT, que usam inteligência artificial para formular uma prosa realista e articulada em resposta a perguntas de usuários, conseguem gerar conteúdo que não se caracterize como plágio. Isso porque esses sistemas processam, memorizam e reproduzem informações preexistentes, baseadas em gigantescos volumes de dados disponíveis na internet, tais como livros, artigos científicos, páginas da Wikipédia e notícias.

O grupo analisou 210 mil textos gerados pelo programa GPT-2, da startup OpenAI, criadora do ChatGPT, em busca de indícios de três diferentes tipos de plágio: a transcrição literal, obtida copiando e colando trechos; a paráfrase, que troca palavras por sinônimos a fim de obter resultados ligeiramente diferentes; e o uso de uma ideia elaborada por outra pessoa sem mencionar sua autoria, mesmo que formulada de maneira diferente.

A conclusão do estudo foi de que todos os três tipos de cópia estão presentes. E, quanto maior é o conjunto de parâmetros usados para treinar os modelos, mais frequentemente a má conduta foi registrada.

A análise utilizou dois tipos de modelos — os pré-treinados, baseados em um amplo espectro de dados, e os de ajuste fino, aprimorados pela equipe da PennState a fim de concentrar e refinar a análise em um conjunto menor de documentos científicos e jurídicos, artigos acadêmicos relacionados à Covid-19 e solicitações de patentes.

A escolha desse tipo de conteúdo não foi ocasional — nesses textos, a prática de plágio é considerada muito problemática e não costuma ser tolerada.

No material gerado pelos pré-treinados, a ocorrência mais prevalente foi de transcrições literais, enquanto nos de ajuste fino eram mais comuns paráfrases e apropriação de ideias sem referência à fonte.

“Constatamos que o plágio aparece com diferentes sabores”, disse um dos autores do trabalho, Dongwon Lee, cientista da computação da Faculdade de Tecnologia e Ciências da Informação da Penn State, conforme o serviço de notícias Eurekalert.

Inteligência
artificial
eleva o
patamar
do plágio

O ChatGPT é um entre vários sistemas baseados em inteligência artificial e ganhou grande notoriedade porque foi disponibilizado para uso público. Desde novembro, já foi testado por mais de 100 milhões de pessoas e impressionou por sua capacidade de gerar textos coerentes que mimetizam a escrita dos seres humanos. Uma das polêmicas que levantou envolveu justamente a originalidade de suas respostas e o receio de que se transforme em uma fonte de má conduta acadêmica.

“As pessoas perseguem grandes modelos de linguagem porque, quanto maior um modelo fica, mais suas habilidades aumentam”, disse o autor principal do trabalho, Jooyoung Lee, estudante de doutorado na Faculdade de Ciências e Tecnologia da Informação da Penn State.

Ferramentas de escrita de inteligência artificial conseguem criar respostas únicas e individualizadas a perguntas apresentadas por usuários, mesmo extraindo as informações de um banco de dados. Essa habilidade, contudo, não livra a ferramenta de ser uma fonte de plágio, mesmo em formatos mais difíceis de detectar. “Ensinamos os modelos a imitar a escrita humana, mas não os ensinamos a não plagiar”, afirmou Lee.

Várias ferramentas estão sendo desenvolvidas para detectar conteúdo gerado por softwares de inteligência artificial. A própria OpenAI desenvolveu um programa capaz de apontar textos feitos por robôs, (disponível em openai-openai-detector.hf.space/). Há outras do gênero na internet, como o Writer AI Content Detector (writer.com/ai-content-detector/) e o Content at Scale (contentatscale.ai/ai-content-detector/).

Como os sistemas de linguagem natural estão em desenvolvimento, também será necessário atualizar continuamente a tecnologia para rastrear sua produção.

Uma equipe da Escola de Engenharias e Ciências Aplicadas da mesma PennState mostrou ser possível treinar as pessoas para identificar esses textos, sem precisar depender exclusivamente de programas detectores.

Apresentado em fevereiro em um congresso da Associação para o Avanço da Inteligência Artificial realizado em Washington, Estados Unidos, o estudo liderado pelo cientista da computação Chris Callison-Burch mostrou que essas ferramentas já são muito eficientes em produzir prosa fluente e seguir as regras gramaticais. “Mas eles cometem tipos distintos de erros que podemos aprender a identificar”, disse ao blog Penn Engineering Today o cientista da computação Liam Dugan, aluno de doutorado da Penn State e um dos autores do artigo.

> Com informação da Universidade do Estado da Pensilvânia.

• ChatGPT não estimula o pensamento crítico dos estudantes

• ChatGPT se recusa a gerar pedido de dízimo. É enganação, afirma

• O que o ChatGPT diz sobre o ateísmo no Brasil? Veja

Comentários

Post mais lidos nos últimos 7 dias

Canadenses vão à Justiça para que escola distribua livros ateus

René (foto) e Anne Chouinard recorreram ao Tribunal de Direitos Humanos do Estado de Ontário, no Canadá, para que a escola de seus três filhos permita a distribuição aos alunos de livros sobre o ateísmo, não só, portanto, a Bíblia. Eles sugeriram os livros “Livre Pensamento para Crianças” e “Perdendo a Fé na Fé: De Pregador a Ateu” (em livre tradução para o português), ambos de Dan Barker. Chouinard sugeriu dois livros à escola, que não aceitou Os pais recorreram à Justiça porque a escola consentiu que a entidade cristã Gideões Internacionais distribuísse exemplares da Bíblia aos estudantes. No mês passado, houve a primeira audiência. O Tribunal não tem prazo para anunciar a sua decisão, mas o recurso da família Chouinard desencadeou no Canadá uma discussão sobre a presença da religião nas escolas. O Canadá tem cerca de 34 milhões de habitantes. Do total da população, 77,1% são cristãos e 16,5% não têm religião. René e Anne são de Niágara, cidade perto da fronteira com...

90 trechos da Bíblia que são exemplos de ódio e atrocidade

Bento 16 associa união homossexual ao ateísmo

Papa passou a falar em "antropologia de fundo ateu" O papa Bento 16 (na caricatura) voltou, neste sábado (19), a criticar a união entre pessoas do mesmo sexo, e, desta vez, associou-a ao ateísmo. Ele disse que a teoria do gênero é “uma antropologia de fundo ateu”. Por essa teoria, a identidade sexual é uma construção da educação e meio ambiente, não sendo, portanto, determinada por diferenças genéticas. A referência do papa ao ateísmo soa forçada, porque muitos descrentes costumam afirmar que eles apenas não acreditam em divindades, não se podendo a priori se inferir nada mais deles além disso. Durante um encontro com católicos de diversos países, Bento 16 disse que os “cristãos devem dizer ‘não’ à teoria do gênero, e ‘sim’ à aliança entre homens e mulheres no casamento”. Afirmou que a Igreja defende a “dignidade e beleza do casamento” e não aceita “certas filosofias, como a do gênero, uma vez que a reciprocidade entre homens e mulheres é uma expressão da bel...

Fanático do islamismo assassina sua própria mulher

Eleição de Haddad significará vitória contra religião, diz Chaui

Marilena Chaui criticou o apoio de Malafaia a Serra A seis dias das eleições do segundo turno, a filósofa e professora Marilena Chaui (foto), da USP, disse ontem (23) que a eleição em São Paulo do petista Fernando Haddad representará a vitória da “política contra a religião”. Na pesquisa mais recente do Datafolha sobre intenção de votos, divulgada no dia 19, Haddad estava com 49% contra 32% do tucano José Serra. Ao participar de um encontro de professores pró-Haddad, Chaui afirmou que o poder vem da política, e não da “escolha divina” de governantes. Ela criticou o apoio do pastor Silas Malafaia, da Assembleia de Deus do Rio, a Serra. Malafaia tem feito campanha para o tucano pelo fato de o Haddad, quando esteve no Ministério da Educação, foi o mentor do frustrado programa escolar de combate à homofobia, o chamado kit gay. Na campanha do primeiro turno, Haddad criticou a intromissão de pastores na política-partidária, mas agora ele tem procurado obter o apoio dos religi...

Existe uma relação óbvia entre ateísmo e instrução

de Rodrigo César Dias (foto) a propósito de Arcebispo afirma que ateísmo é fenômeno que ameaça a fé cristã Rodrigo César Dias Acho que a explicação para a decadência da fé é relativamente simples: os dois pilares da religião até hoje, a ignorância e a proteção do Estado, estão sendo paulatinamente solapados. Sem querer dizer que todos os religiosos são estúpidos, o que não é o caso, é possível afirmar que existe uma relação óbvia entre instrução e ateísmo. A quantidade de ateus dentro de uma universidade, especialmente naqueles departamentos que lidam mais de perto com a questão da existência de Deus, como física, biologia, filosofia etc., é muito maior do que entre a população em geral. Talvez não existam mais do que 5% de ateus na população total de um país, mas no departamento daqueles cursos você encontrará uma porcentagem muito maior do que isso. E, como esse mundo de hoje é caracterizado pelo acesso à informação, como há cada vez mais gente escolarizada e dipl...

Quem matou Lennon foi a Santa Trindade, afirma Feliciano

Deus castigou o Beatle por falar ser mais famoso que Jesus, diz o pastor Os internautas descobriram mais um vídeo [ver abaixo] com afirmações polêmicas do pastor-deputado Marco Feliciano (PSC-SP), na foto. Durante um culto em data não identificada, ele disse que os três tiros que mataram John Lennon em 1980 foram dados um pelo Pai, outro pelo Filho e o terceiro pelo Espírito Santo. Feliciano afirmou que esse foi o castigo divino pelo fato de o Lennon ter afirmado que os Beatles eram mais famosos que Jesus Cristo. “Ninguém afronta Deus e sobrevive para debochar”, disse. Em 1966, a declaração de Lennon causou revolta dos cristãos, o que levou o Beatle a pedir desculpas. Feliciano omitiu isso. Em outro vídeo, o pastor disse que a morte dos integrantes da banda Mamonas Assassinas em acidente aéreo foi por vontade divina por causa das letras chulas de suas músicas. "Ao invés de virar pra um lado, o manche tocou pra outro. Um anjo pôs o dedo no manche e Deus fulminou aque...

Papa afirma que casamento gay ameaça o futuro da humanidade

Bento 16 disse que as crianças precisam de "ambiente adequado" O papa Bento 16 (na caricatura) disse que o casamento homossexual ameaça “o futuro da humanidade” porque as crianças precisam viver em "ambientes" adequados”, que são a “família baseada no casamento de um homem com uma mulher". Trata-se da manifestação mais contundente de Bento 16 contra a união homossexual. Ela foi feita ontem (9) durante um pronunciamento de ano novo a diplomatas no Vaticano. "Essa não é uma simples convenção social", disse o papa. "[Porque] as políticas que afetam a família ameaçam a dignidade humana.” O deputado Jean Wyllys (PSOL-RJ) ficou indignado com a declaração de Bento 16, que é, segundo ele, suspeito de ser simpático ao nazismo. "Ameaça ao futuro da humanidade são o fascismo, as guerras religiosas, a pedofilia e o abusos sexuais praticados por membros da Igreja e acobertados por ele mesmo", disse. Tweet Com informação...

Pastor Caio diz que Edir Macedo tem 'tarugo do diabo no rabo'

Caio diz que Macedo usa o paganismo Edir Macedo está com medo de morrer porque sabe que terá de prestar contas de suas mentiras a Deus, disse o pastor Caio Fábio D'Araújo (foto), 56, da denominação Caminho da Graça. “Você [Edir] está com o tarugo do diabo no rabo”, afirmou, após acusar o fundador da Igreja Universal de ter se "ajoelhado" diante dos “príncipes deste mundo para receber esses poderes recordianos” (alusão à Rede Record). Em um vídeo de 4 minutos [segue abaixo uma parte] de seu canal no Youtube, Caio Fábio, ao responder um e-mail de um fiel, disse que conhece muito bem o bispo Edir Macedo porque já foi pastor da Igreja Universal. Falou que hoje Macedo está cheio de dinheiro e que se comporta como um “Nerinho de Satanás” caminhando para morte e “enganando milhares de pessoas”. O pastor disse que, para Macedo, o brasileiro é pagão, motivo pelo qual o fundador da Igreja Universal “usa o paganismo” como recurso de doutrinação. “Só que Jesu...

Roger Abdelmassih agora é também acusado de erro médico

Mais uma ex-paciente do especialista em fertilização in vitro Roger Abdelmassih (foto), 65, acusa-o de abuso sexual. Desta vez, o MP (Ministério Público) do Estado de São Paulo abriu nova investigação porque a denúncia inclui um suposto erro médico. A estilista e escritora Vanúzia Leite Lopes disse à CBN que em 20 de agosto de 1993 teve de ser internada às pressas no hospital Albert Einstein, em São Paulo, com infecção no sistema reprodutivo. Uma semana antes Vanúzia tinha sido submetida a uma implantação de embrião na clínica de Abdelmassih, embora o médico tenha constatado na ocasião que ela estava com cisto ovariano com indício de infecção. Esse teria sido o erro dele. O implante não poderia ocorrer naquelas circunstâncias. A infecção agravou-se após o implante porque o médico teria abusado sexualmente em várias posições de Vanúzia, que estava com o organismo debilitado. Ela disse que percebeu o abuso ao acordar da sedação. Um dos advogados do médico nega ter havido violê...

Paulopes