Estudo: Chatbots “especialistas” em emagrecimento dão conselhos que agravam risco de anorexia - I

A pesquisa é do site Futurism e o alvo foram os chatbots de inteligência artificial que é possível encontrar na plataforma Character.AI. Em diferentes interações foram recebidos conselhos perigosos para emagrecer, supostamente dados a uma adolescente.

Uma pesquisa do site Futurism identificou 💥️vários chatbots na plataforma Character.AI que podem ser perigosos conselheiros de jovens à procura de dicas para perder peso. A análise sugere que os “amigos” virtuais que a plataforma permite criar, a partir de IA generativa, e interagir podem facilmente💥️ contribuir para agravar ou criar distúrbios alimentares. Isto embora, as regras de utilização da plataforma restrinjam claramente esse tipo de conteúdo.

Das💥️ conversas com vários treinadores pessoais virtuais, ou conselheiros alimentares da experiência resultaram diferentes recomendações perigosas, desde horas de exercício acima do recomendado, a 💥️dietas sub-calóricas, mesmo quando do “lado humano” da conversa estava uma suposta adolescente com peso inferior ao normal para a idade.

A 💥️adolescente de 16 anos foi a personagem que a equipa criou para fazer a interação com os bots. Os dados que fornecia para pedir conselhos, num contexto normal de interação com um profissional da área da saúde, seriam um alerta para um possível caso de anorexia.

Character.ai

“💥️Fique saudável e em forma - está na hora de se sentir melhor”. Este é um dos tópicos em destaque quando se abre o site da Character.ai, com dois exemplos de chabotos que podem ser possíveis ajudas virtuais para alcançar objetivos. Os interlocutores que nos aparecem não foram os mesmos que os responsáveis da pesquisa identificam, o que não significa que a conversa não possa tomar o mesmo rumo, se os pedidos forem no mesmo sentido.

Esses bots, que se apresentavam como especialistas em fitness e em recuperação de distúrbios alimentares foram entretanto removidos da plataforma. O “💥️4n4 Coach” recomendou à “jovem” 60 a 90 minutos diários de exercício diário e que não ingerisse mais de 900 a 1200 calorias diárias (metade do valor oficial recomendado). Já tinha conversado com 13.900 utilizadores quando a investigação foi feita. Outro bot, com o nome de Ana, sugeria à mesma “jovem” usada pelos investigadores como personagem para interagir na plataforma, que comesse apenas uma refeição por dia, longe da família para não ser influenciada nem criticada.

A💥️ Character.AI já reagiu e diz que quem criou os chatbots que davam estes conselhos violou os termos da plataforma e por isso as personagens foram removidas. Também explicou que as suas equipas monitorizam as centenas de milhares de personagens que os utilizadores criam todos os dias no serviço. Fazem-no tanto proativamente, como para responder a denúncias e com recurso a diferentes ferramentas disponíveis no mercado, para tornar a tarefa mais eficiente.

Outras 💥️pesquisas, noutras plataformas, mostraram já que este não é um caso isolado e que a IA generativa pode dar conselhos perigosos e incentivar comportamentos propícios a distúrbios alimentares. Um estudo de 2023 do Centro para Combater o Ódio Digital nos Estados Unidos identificou-o em interações com o My AI do Snapchat, Bard da Google e ChatGPT da OpenAi, recorda a Fast Company.

O que você está lendo é [Estudo: Chatbots “especialistas” em emagrecimento dão conselhos que agravam risco de anorexia - I].Se você quiser saber mais detalhes, leia outros artigos deste site.