Para evitar 'cola', criadora do robô ChatGPT lança ferramenta para detectar texto gerado por inteligência artifi

1 de 1 Logo do ChatGPT e da OpenAI, criadora da ferramenta — Foto: Lionel Bonaventure/ AFP

Logo do ChatGPT e da OpenAI, criadora da ferramenta — Foto: Lionel Bonaventure/ AFP

A OpenAI, criadora do robô conversador ChatGPT, lançou uma ferramenta de software para identificar textos que foram escritos por inteligência artificial (IA), informou a empresa em um post de blog na terça-feira (31).

O ChatGPT é um programa gratuito que gera texto em resposta a uma solicitação, incluindo artigos, ensaios, piadas e até poesia. O robô ganhou grande popularidade desde a sua estreia, em novembro do ano passado, mas levanta preocupações sobre direitos autorais e plágio.

A nova ferramenta que identifica os textos escritos por IA é um modelo de linguagem treinado a partir de um conjunto de dados de textos feitos por humanos e por IA sobre o mesmo assunto.

O software também usa uma variedade de provedores para ajudar a detectar campanhas automatizadas de desinformação, disse a empresa.

💥️A própria OpenAI adverte que o recurso, como outros já disponíveis, tem limitações. O método para detectar texto escrito por IA “é imperfeito e às vezes pode estar errado”, disse Jan Leike, chefe da equipe de alinhamento da OpenAI encarregada de tornar seus sistemas mais seguros.

Veja abaixo as fragilidades citadas pela empresa:

Alguns dos maiores distritos escolares dos Estados Unidos, incluindo a cidade de Nova York, proibiram o chatbot de IA devido a preocupações de que os alunos usariam o gerador de texto para trapacear ou plagiar.

Outros criaram ferramentas de detecção de terceiros, incluindo GPTZeroX, para ajudar os educadores a detectar texto gerado por IA.

A OpenAI disse que está se envolvendo com educadores para discutir os recursos e limitações do ChatGPT e continuará trabalhando na detecção de texto gerado por IA.

💥️LEIA TAMBÉM:

O que você está lendo é [Para evitar 'cola', criadora do robô ChatGPT lança ferramenta para detectar texto gerado por inteligência artifi].Se você quiser saber mais detalhes, leia outros artigos deste site.