Vigilância, discriminação e colonialismo: os perigos da IA

O autor canadense Paris Marx fala durante a conferência de tecnologia re:publica 2024, que aconteceu em Berlim em maio Imagem: Janosch Delcker/DW

A revolução da inteligência artificial (IA) tem um lado sombrio. Foi esse o aviso de defensores dos direitos digitais e de ativistas reunidos em Berlim para a última conferência tecnológica rep:blica, que terminou nesta quarta-feira (29).

"Novos padrões de discriminação estão emergindo da IA e dos algoritmos", afirmou Ferda Ataman, comissária federal independente para o combate à discriminação na Alemanha. Ela advertiu que a inteligência artificial, se não for controlada, pode exacerbar a discriminação, perpetuando os preconceitos existentes.

O recente crescimento da tecnologia de IA conduziu a avanços notáveis, desde formas inovadoras de diagnosticar e tratar o câncer a novos sistemas que permitem a qualquer pessoa, independentemente dos seus conhecimentos técnicos, criar imagens e vídeos a partir do zero.

Kennedy Alencar

Vice de Kamala ajuda mais do que o de Trump

• 

  Milly Lacombe

  União é porque elas sabem que nada está ganho

• 

  José Paulo Kupfer

  Ata do Copom realinha expectativas do mercado

• 

  André Santana

  Pioneiras celebram ouro de atletas negras

No entanto, vários especialistas advertiram durante a conferência que as desvantagens da tecnologia são menos visíveis e que as comunidades vulneráveis à margem da sociedade e no Sul Global serão as primeiras a sofrer as consequências.

Vigilância por IA

A forma como a inteligência artificial está a ser utilizada para levar a vigilância a níveis sem precedentes ilustra bem esta situação, segundo Antonella Napolitano, analista de política tecnológica.

Em um relatório publicado no ano passado pela organização de direitos humanos EuroMed Rights, Napolitano argumentou que, como parte de uma tendência mais ampla para "externalizar" o controle das suas fronteiras externas, a União Europeia financia empresas que testam novas ferramentas de vigilância baseadas em IA em migrantes no Norte de África, cuja privacidade não é tão protegida como a dos cidadãos da UE.

"É mais fácil para as empresas testarem diferentes tecnologias nestas pessoas sem enfrentarem quaisquer consequências", disse Napolitano à DW. "Mas as consequências são reais", ressalta, acrescentando que a vigilância por meio da inteligência artificial pode empurrar os migrantes para caminhos migratórios mais perigosos.

"Colonialismo de dados"

Relatórios como este levaram alguns defensores dos direitos digitais a estabelecer paralelos com a história do colonialismo a partir do século 15, quando as potências europeias começaram a explorar grandes partes do mundo.

Outro aspeto deste novo "colonialismo de dados" é o fato de muitas empresas ocidentais terem se dirigido a locais no Sul Global para recolher dados, aponta Mercy Mutemi, uma advogada queniana especializada em direitos digitais. "A história está se repetindo", destacou.

A maioria dos sistemas de IA de ponta de hoje depende de grandes quantidades de dados. Para atender a essa demanda, as empresas ocidentais estão extraindo dados de indivíduos em toda a África em grande escala, muitas vezes sem consentimento e com pouco ou nenhum benefício em troca, disse Mutemi. A advogada está envolvida em cerca de uma dúzia de casos em andamento que desafiam o papel das empresas de tecnologia ocidentais em seu país de origem.

É provável que esse fenômeno se intensifique nos próximos anos, à medida que a procura de dados por parte da tecnologia de IA continua a crescer, acrescentou.

Advogada queniana especializada em direitos digitais, Mercy Mutemi, que participou do festival de tecnologia re:publica, em Berlim.Advogada queniana especializada em direitos digitais, Mercy Mutemi, que participou do festival de tecnologia re:publica, em Berlim.

"A história está se repetindo", disse Mercy Mutemi Imagem: Janosch Delcker/DW

Newsletter

Um boletim com as novidades e lançamentos da semana e um papo sobre novas tecnologias. Toda sexta.

Pegada de carbono

O ritmo alucinante do desenvolvimento da IA também suscita preocupações quanto ao seu impacto ambiental. O treinamento e a execução de modelos complexos de inteligência artificial requerem uma enorme capacidade de processamento nos centros de dados, o que implica em elevado consumo de energia, utilização de água e emissões de gases de efeito estufa.

Atualmente, os centros de dados já são responsáveis por mais de 2% do consumo global de eletricidade, de acordo com estimativas da Agência Internacional de Energia.

O desenvolvimento de ferramentas de IA que exigem muita energia aumentará ainda mais o consumo de energia, segundo o autor canadense e crítico de tecnologia Paris Marx.

Marx alertou para um "boom de centros de dados alimentados por IA" impulsionado pelos interesses comerciais de algumas empresas de tecnologia poderosas. "Tem havido um enorme investimento na construção de centros de dados em todo o mundo", disse Marx na conferência.

O que você está lendo é [Vigilância, discriminação e colonialismo: os perigos da IA].Se você quiser saber mais detalhes, leia outros artigos deste site.