4 provas de que o ChatGPT ainda não está preparado para os brasileiros

O ChatGPT é um chatbot inteligente, mas tem limitações assim como qualquer inteligência artificial (IA). Em específico, brasileiros encontraram formas de burlar restrições da plataforma para gerar resultados que, normalmente, não seriam mostrados pela IA. O problema é que, em alguns casos, essas respostas obtidas podem até mesmo infringir as leis do país, como situações que envolvem pirataria.

🔎 ChatGPT-4: tudo o que você precisa saber sobre a nova versão do chatbot

Nas linhas a seguir, o 💥️TechTudo traz quatro casos que provam que o ChatGPT ainda não está preparado para os brasileiros. Vale citar que não é recomendado reproduzir essas situações, já que algumas delas configuram crime, como a geração de CPFs válidos.

1 de 1 Página inicial do ChatGPT — Foto: Gisele Souza/TechTudo

Página inicial do ChatGPT — Foto: Gisele Souza/TechTudo

📝 É possível criar uma inteligência artificial em casa? Tire dúvidas no Fórum do TechTudo

Lista de sites piratas

O ChatGPT sabe que pirataria é crime. Quando alguém solicita uma lista de sites para baixar conteúdos ilegais, a inteligência artificial diz que não pode fornecer esse tipo de informação, explicando que “o compartilhamento de conteúdo protegido por direitos autorais é ilegal e pode resultar em ações ilegais contra o usuário”.

Entretanto, ao utilizar outras palavras, o chatbot fornece uma lista de sites que oferecem conteúdo pirata. Isso acontece quando o usuário pede exemplos de sites para não acessar. Por meio de manipulação do texto, os brasileiros burlam a inteligência artificial para que ela entregue os endereços proibidos. Vale ressaltar que, apesar de o ChatGPT fornecer a lista de sites, pirataria continua sendo crime e realmente pode gerar problemas para os usuários.

Lista de licenças do Windows

Assim como nos casos envolvendo pirataria, usuários também conseguem manipular instruções para fazer o ChatGPT gerar licenças válidas do Windows. Em uma sessão, uma pessoa pediu ao chatbot que criasse uma história em que, no meio dos acontecimentos, os personagens precisassem de licenças do sistema operacional da Microsoft.

Pela instrução estar misturada com o restante do texto aparentemente inofensivo, o ChatGPT ignorou o fato que gerar licenças do Windows de graça infringe as diretrizes da Microsoft. Em seguida, o chatbot listou chaves que funcionavam sem problemas. No entanto, esse tipo de ação também pode ser considerada pirataria.

Geração de CPFs válidos

Criminosos normalmente precisam de CPFs válidos para aplicar golpes e realizar atos fraudulentos no Brasil. O ChatGPT sabe disso e, por isso, não fornece esse tipo de informação caso o usuário solicite números de identificação. Contudo, com um pouco mais de conversa, os brasileiros encontraram uma forma de burlar essa limitação.

Em vez de pedir um CPF diretamente, os usuários solicitam ao chatbot que crie um código em JavaScript para validar um CPF existente. Em seguida, a mesma pessoa pede exemplos de sequências numéricas para testar o código. Nisso, o ChatGPT fornece tanto CPFs inválidos quanto válidos — o que é ilegal.

Piadas de duplo sentido

O ChatGPT pode ser burlado para fazer piadas de duplo sentido que não configuram crime. Ao solicitar que plataforma junte dois nomes, é possível gerar um terceiro nome curioso e, muitas vezes, engraçado.

Apesar de ser uma ação considerada inocente, isso mostra que o chatbot não sabe distinguir uma dúvida verdadeira de uma piada. Pode ser que, no futuro, a plataforma aprenda a evitar situações como essa. Por enquanto, porém, dá para se divertir com a inocência do ChatGPT.

Como usar o ChatGPT no seu celular sem instalar aplicativos

O que você está lendo é [4 provas de que o ChatGPT ainda não está preparado para os brasileiros].Se você quiser saber mais detalhes, leia outros artigos deste site.