Fake reviews inundam a internet e a inteligência artificial só ajuda à festa

Quantas vezes não escolheu um restaurante ou um alojamento baseado nas avaliações que vai lendo na internet? Pois, mas é preciso ter algum cuidado, já que com a emergência da inteligência artificial há cada vez mais fake reviews um pouco por todo o lado.

Tudo 5 estrelas...

A emergência de ferramentas de inteligência artificial generativa, como o ChatGPT da OpenAI, permitiu 💥️a criação de avaliações online detalhadas e aparentemente autênticas com pouco ou nenhum esforço humano. Apesar da sua utilidade potencial, estas ferramentas estão a ser exploradas para gerar avaliações falsas em larga escala, criando desafios para comerciantes, consumidores e plataformas digitais.

Estas 💥️“fake reviews” não são novidade em plataformas como Amazon e Yelp, mas a introdução de ferramentas de IA gerou uma onda de fraude em volumes nunca vistos. Muitas vezes compradas através de redes sociais ou oferecidas por empresas em troca de incentivos, estas avaliações podem agora ser criadas em maior velocidade e com maior detalhe graças à IA.

Os especialistas apontam que esta prática, ilegal nos Estados Unidos da América, por exemplo, agrava-se durante épocas de maior consumo, como a temporada de compras de Natal, quando os 💥️consumidores dependem fortemente de avaliações para tomar decisões de compra.

Onde surgem mais avaliações geradas por IA?

De acordo com a Transparency Company, que usa software para detetar avaliações falsas, são encontradas em várias indústrias, incluindo comércio eletrónico, hotéis, restaurantes e serviços como reparações domésticas e cuidados médicos.

Num relatório recente, a empresa analisou 💥️73 milhões de avaliações em três setores e descobriu que 14% eram provavelmente falsas, com cerca de 2,3 milhões geradas parcial ou totalmente por IA.

As plataformas mais vulneráveis incluem aplicações móveis e smart TVs, onde a IA é usada para enganar consumidores e promover apps fraudulentas. Até empresas que oferecem 💥️ferramentas de escrita assistida por IA foram acusadas de facilitar a criação de avaliações fraudulentas.

Os desafios de deteção

Identificar avaliações geradas por IA é um desafio crescente. Segundo Max Spero, CEO da Pangram Labs, uma empresa que também se dedica à deteção de fake reviews, algumas destas avaliações são tão bem escritas e estruturadas que chegam ao topo dos resultados de pesquisa em plataformas como a Amazon.

Embora haja indicadores — como textos longos, descrições genéricas e frases cliché como "mudou a minha vida" — até os especialistas admitem que distinguir entre avaliações reais e falsas está a tornar-se mais difícil.

Empresas como a Amazon, a Yelp ou a Trustpilot estão a desenvolver 💥️políticas para integrar conteúdos gerados por IA nos seus sistemas de deteção de fraude. Por exemplo, a Amazon e Trustpilot permitem avaliações assistidas por IA, desde que reflitam experiências genuínas. A Yelp, por outro lado, exige que as avaliações sejam escritas exclusivamente pelos utilizadores, sem recorrer à IA.

A Coalition for Trusted Reviews, que inclui plataformas como Tripadvisor e Booking.com, está a desenvolver sistemas avançados de deteção por IA para combater fraudes e proteger a integridade das avaliações online.

Os consumidores podem adotar algumas estratégias para identificar possíveis avaliações falsas. Assim, desconfie de textos excessivamente entusiásticos ou negativos, fique atento ao uso repetitivo de termos específicos, como o nome completo do produto e preste atenção a clichês e descrições genéricas.

Ainda assim, a pesquisa indica que até os consumidores mais atentos têm dificuldade em distinguir entre textos gerados por IA e por humanos.

O que você está lendo é [Fake reviews inundam a internet e a inteligência artificial só ajuda à festa].Se você quiser saber mais detalhes, leia outros artigos deste site.