Midjourney criou imagens de IA falsas realistas e acesso foi bloqueado

A IA está cada vez mais presente e não se limita a texto, com a Midjourney tem mostrado nos últimos dias. Este serviço de criação de imagens com recurso à IA suspendeu os testes gratuitos, por criar imagens perfeitas demais e que foram usadas de forma abusiva para fake news e outros cenários.

Desde que se fala da IA que tem sido reforçada a ideia de que é necessário controlo na forma como esta é usada. Se a maioria dos cenários é legal e lógico, há também outros em que se chega a violar a lei e a abusar no que é oferecido.

É esse o cenário que está agora a acontecer ao conhecido serviço de criação de imagens com recurso a IA, Midjourney. Este é um dos mais perfeitos que está acessível e tem sido usado de forma abusiva para criar cenários falsos, usados depois para a criação de notícias.

Do que foi revelado no seu Discord, a Midjourney bloqueou o acesso às contas gratuitas, em especial pelo grande afluxo de utilizadores. Estes dedicam-se a criar imagens de forma simples e recorrendo apenas a uma descrição que os utilizadores fornecem.

Inicialmente julgava-se que este bloqueio aplicado às contas gratuitas estava associado a algumas imagens criadas e que foram usadas em notícias falsas. A mais visível estava na suposta prisão de Donald Trump, suportada com imagens realistas e que enganaram muitos.

Inicialmente a ideia difundida era que o bloqueio estava associado a estas imagens, mas a verdade era outra, conforme foi avançado pela própria Midjourney. Foi o excesso de acessos que levou a que o serviço de criação de imagens com IA tomar esta decisão nas contas gratuitas.

Este é um cenário que necessita de ser avaliado para o futuro. Já há movimentos para criar a regulação e controlo necessário na IA para evitar situações de abuso. Ainda assim, há muito trabalho a ser realizado e que vai acontecer nos próximos meses ou anos.

Imagem de Papa Francisco de casaco branco e cruz ao pescoço será verdadeira?

O que você está lendo é [Midjourney criou imagens de IA falsas realistas e acesso foi bloqueado].Se você quiser saber mais detalhes, leia outros artigos deste site.