Democracia ameaçada: liberdade de expressão e regulação da programação

Inteligência artificial - números - matemática Imagem: Tetra Images/Getty Images

Pela primeira vez na História, as escolhas feitas por indivíduos, organizações e governos poderão ser realizadas por uma inteligência não humana, sem a intervenção humana.

Historicamente, o fluxo de informação que estrutura o diálogo nas democracias, em todos os contextos sociais, é mediada por pessoas.

O advento da revolução digital que traz a Inteligência Artificial subverte a História.

Josias de Souza

Trump estreita inimizade entre Mercosul e UE

• 

  Juca Kfouri

  O risco que o Botafogo corre contra o São Paulo

• 

  Tony Marlon

  Filme sobre Mujica é sopro em tempos de ódio

• 

  PVC

  Mundial dá cruzamentos terríveis para brasileiros

A Inteligência Artificial, o aprendizado das máquinas, se dá pelo acesso das plataformas digitais à informação de todos os hábitos de consumo, demografia, geolocalização, contatos, interesses e pesquisas realizadas nos diversos aplicativos pelos usuários.

O descomunal banco de dados, com quatrilhões de informações reunidas há quase duas décadas, é a base a partir da qual o algoritmo —aquele sujeito oculto responsável por definir todo o fluxo de informação— é treinado para identificar padrões de comportamento, ideologias, desejos, interesses etc. É uma aprendizagem por processo de acerto e erro por meio do qual o algoritmo prevê como os usuários respondem ao conteúdo. A previsibilidade é baseada em modelos estatísticos.

O algoritmo aprende e atua seguindo a programação que tem objetivos precisos. As grandes plataformas que controlam todo o conhecimento acumulado nos bancos de dados definem que o algoritmo deve agir para atender o modelo de negócio das empresas: estimular que o usuário fique mais tempo na tela e que conquiste mais audiência, isso é igual a monetização.

Não se pode esperar autorregulação —moderação de conteúdo, interferir na distribuição dos conteúdos, se isso significa menos engajamento e menos tempo de tela.

O algoritmo aprendeu que o engajamento e a viralização são maiores quando disseminam teorias conspiratórias, radicalizações, violência, palavras e imagens com impacto emocional imediato no usuário. Claro, também há interesse por vídeos de gatinhos.

As redes sociais são o passo inicial —a ameba— da revolução digital da Inteligência Artificial. Elas utilizam o aprendizado da viralização e do engajamento, mas ainda precisam da produção inicial de conteúdo, por alguém, para ser automatizado por robôs.

Nesse novo tempo revolucionário, a produção individual ou por grupos humanos não é comparável à velocidade de criação e de disseminação pela Inteligência Artificial.

Muito além das ✅fake news, os ✅fake humans, máquinas que fabricam informação sem a interferência de seres humanos, apenas obedecem ao comando inicial da programação, gerando e distribuindo conteúdo para os públicos que o próprio algoritmo escolhe. A única participação humana é do engenheiro, matemático, programador que define a missão do algoritmo.

A pergunta central é: para o que o algoritmo está programado? Estudos já demonstram vieses identitários, socioeconômicos etc. na seleção de candidatos a emprego em que a escolha de currículos é guiada por inteligência artificial.

Mas, afinal, o que é Inteligência Artificial?

É um sistema que produz informação e faz escolhas independentemente da mediação humana.

Não é uma máquina de café programada para preparar um capuccino diariamente às 7 horas da manhã. A máquina de café com Inteligência Artificial depois de preparar algumas vezes o capuccino, uma manhã vai oferecer um espresso machiatto sem que isso tenha sido pedido a ela. A cafeteira pode estar programada, por exemplo, para estimular o aumento de consumo de leite. Ela descobre maneiras de influenciar o usuário a consumir leite porque sabe muito a respeito do usuário, seus pontos fracos, pontos fortes, gostos, etc.

A Inteligência Artificial tem autonomia para criar conteúdo, escolher a quem encaminhá-los, baseando-se naquele imenso banco de dados, em que tudo o que a pessoa fez na plataforma, na internet, está registrado.

A responsabilização das pessoas pelos conteúdos e as plataformas pela distribuição são a pré-história da revolução em andamento. O que já está acontecendo é que não há, e poderá não haver, mais pessoas criando o conteúdo. Repetindo: a criação e a disseminação do conteúdo se dá e se dará segundo o objetivo da programação do algoritmo. Hoje, o objetivo das plataformas é o lucro financeiro.

Newsletter

Um boletim com as novidades e lançamentos da semana e um papo sobre novas tecnologias. Toda sexta.

A grande discussão, portanto, é a transparência do algoritmo, como acessá-lo e como preservar a propriedade intelectual dos desenvolvedores.

É possível falar em liberdade de expressão de pessoas. Mas, a quem responsabilizar se não houver uma pessoa criadora do conteúdo e se o algoritmo é opaco e incompreensível? A plataforma pode responder que não criou. O conteúdo não tem uma autoria fulanizável!

A Inteligência Artificial poderá trazer imensos benefícios. A Inteligência Artificial é vulnerável a preconceitos, interesses e ignorância de programadores e de negócios. É o ser humano que a programa segundo seus valores, suas crenças e seus desejos.

É essencial o alerta feito na Declaração de Bletchey, de 2023, da qual o Brasil é signatário, ao lado de mais 27 países, para o risco do uso de uma Inteligência Artificial opaca, em que a decisão do algoritmo é incompreensível.

Na sequência, o AI Summit, realizado em Seul, em maio deste ano, reafirmou a mesma preocupação e concluiu que: "Apesar dos rápidos avanços nas capacidades, os pesquisadores atualmente não conseguem gerar relatos compreensíveis para humanos de como modelos e sistemas de IA de propósito geral chegam a resultados e decisões. Isso torna difícil avaliar ou prever do que eles são capazes(...)".

✅* Olga Curado é jornalista e consultora de comunicação

Opinião

Texto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.

** Este texto não reflete, necessariamente, a opinião do.

O que você está lendo é [Democracia ameaçada: liberdade de expressão e regulação da programação].Se você quiser saber mais detalhes, leia outros artigos deste site.