Você ainda será manipulado por uma IA que imita pessoas

Cena do filme Her Imagem: Divulgação

Os dois últimos grandes lançamentos de Inteligência Artificial mostram que a nossa interação com a tecnologia nunca mais vai ser a mesma. Mas isso não quer dizer que não devemos nos preocupar.

Você com certeza deve ter visto vídeos que viralizaram nas redes mostrando o potencial da nova versão do ChatGPT, o GPT-4o, para processar ao mesmo tempo entradas textuais, visuais e sonoras.

Imagine que você aponte seu celular para uma bicicleta quebrada ou uma equação diferencial e pergunte ao ChatGPT o que fazer, que responde quase que imediatamente com a solução para o seu problema.

Kennedy Alencar

Vice de Kamala ajuda mais do que o de Trump

• 

  Milly Lacombe

  União é porque elas sabem que nada está ganho

• 

  José Paulo Kupfer

  Ata do Copom realinha expectativas do mercado

• 

  André Santana

  Pioneiras celebram ouro de atletas negras

Isso em si já demonstraria a capacidade de compreensão e geração de resposta da IA, mas o aspecto mais fascinante da demonstração da OpenAI é a nova "personalidade" do ChatGPT. Essa evolução permite uma interação mais fluida e natural, quase como uma conversa com outro humano.

A experiência do usuário foi ajustada para ser a mais envolvente e empática possível, com um tempo de resposta quase imediato e com uma voz feminina emotiva e até sensual em alguns momentos.

Antes mesmo do lançamento da OpenAI, circulava um boato de que o produto seria algo parecido com uma assistente similar a protagonista do filme "Her".

Dito e feito.

Inclusive, até a voz da IA ficou parecida com a da personagem, o que levou a atriz Scarlett Johasson a fazer uma crítica pública após ter dito que havia recusado o pedido da OpenAI para usar sua voz. A empresa se comprometeu a mudar a voz do seu assistente para evitar confusão.

Tudo isso aconteceu estrategicamente um dia antes do tradicional evento Google I/O. Todo mundo estava esperando que a empresa de Mountain View fosse apresentar novidades no universo de IA, então a dona do ChatGPT se antecipou para criar antes o seu burburinho nas redes sociais.

Mas o Google não fez feio e apresentou o seu Projeto Astra, protótipo de um assistente pessoal que também consegue ler o mundo e manter uma conversa fluida com o usuário. Mas diferente da OpenAI, o Google optou por uma interação mais neutra e com voz mais robótica.

Talvez você deva estar se perguntando por que o Google teve essa decisão de Design sendo que uma voz mais humana e com tons emocionais engajam muito mais.

A explicação pode estar em um artigo publicado semanas antes pela equipe de pesquisa da empresa sobre "A Ética dos Assistentes Avançados de IA". Nele, há um capítulo específico sobre antropomorfização, que é o fenômenos de atribuir características humanas a entidades não-humanas.

As experiências antropomórficas muitas vezes emergem de maneira inconsciente quando uma entidade não-humana apresenta características suficientemente humanas para gerar uma sensação de familiaridade. Isso faz com que as pessoas passem a interagir com essas entidades como se fossem uma pessoa, projetando comportamentos e emoções típicos dos humanos.

Esse é um fenômeno que não fica restrito ao universo da tecnologia. Durante a história da humanidade, atribuímos características humanas a animais, objetos inanimados, personagens e até mesmo a marcas comerciais. O lance é que, com o avanço das tecnologias digitais, existem muitos sinais que facilitam esse processo de antropomorfização, como o tipo de discurso construído e o tom de voz.

No artigo, os pesquisadores do Google levantam diversos desafios de confiança e apego emocional que são induzidos pelo antropomorfismo: preocupações de privacidade, dependência excessiva, violação de expectativa, entre outros. Um desafio que especialmente me chamou a atenção é o de manipulação e coerção.

Newsletter

Um boletim com as novidades e lançamentos da semana e um papo sobre novas tecnologias. Toda sexta.

De acordo com os autores, um usuário que confia e depende emocionalmente de um assistente de IA antropomorfizado pode sofrer uma influência excessiva. Por exemplo, os usuários podem se sentir influenciados a endossar as opiniões da IA ou a delegar completamente as decisões ao seu assistente.

Ainda que as empresas que desenvolvem a IA não tenham a intenção de manipular a pessoa para uma determinada ação, a autonomia do usuário é, no entanto, minada a partir da própria interação. Esse é um cenário sensível, e poucas organizações percebem esses desafios.

O Google sai na frente ao identificar e publicizar esses fatores de risco, mas isso não quer dizer que todos os produtos da empresa estejam vacinados contra o vírus da antropomorfização. A grande tendência de Design com o avanço da IA é deixar a interação com a máquina mais humanizada, e isso será a meta tanto das bigtechs como das startups.

No episódio dessa semana no "Deu Tilt", o novo podcast de tecnologia e inovação do , discutimos sobre os influenciadores sintéticos e as namoradas criadas por IA. Esses são exemplos claros de como a antropomorfização é explorada ao extremo para induzir nosso comportamento por empresas de tudo quanto é tamanho.

Se o filme "Her" foi a grande inspiração para a OpenAI criar o seu assistente, precisamos lembrar a sociedade que o final do filme (contém spoiler) nos ensina que só precisamos de uma IA antropomorfizada para uma manipulação em massa.

Opinião

Texto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.

** Este texto não reflete, necessariamente, a opinião do.

O que você está lendo é [Você ainda será manipulado por uma IA que imita pessoas].Se você quiser saber mais detalhes, leia outros artigos deste site.