"Kill switch": gigantes tecnológicas vão "matar" a IA se algo correr muito mal

Uma série de gigantes tecnológicas prometeu trabalhar em prol da segurança em matéria de Inteligência Artificial (IA), incluindo um "kill switch", em caso de desastre.

Na semana passada, governos juntaram-se às principais empresas de tecnologia, em Seul, na Coreia do Sul, para debater sobre a tecnologia do momento: a IA; tendo sido prometidos investimentos em investigação, testes e segurança.

Existe um caminho responsável - se tivermos a sabedoria de o seguir.

Escreveu um grupo de 15 especialistas, incluindo o pioneiro da IA, Geoffrey Hinton, na revista Science, no início desta semana.

Várias empresas marcaram presença e assumiram compromissos voluntários e não vinculativos para evitar que a IA trabalhe com armas biológicas, desinformação ou ciberataques automatizados, de acordo com declarações da cimeira e publicações da Reuters e Associated Press.

Estiveram presentes e comprometeram-se a controlar a tecnologia os seguintes nomes:

Destaque para o acordo que diz respeito à construção de um "kill switch" nas suas IA, permitindo-lhes desligar, efetivamente, os seus sistemas, em caso de catástrofe.

Não podemos caminhar para um futuro distópico em que o poder da IA é controlado por poucas pessoas. A forma como agirmos agora definirá a nossa era.

Disse o secretário-geral das Nações Unidas, António Guterres, num comunicado.

António Guterres, secretário-geral da ONU

À medida que a utilização da tecnologia cresce, as empresas e governos esforçam-se para definir regras e criar proteções para as pessoas. Apesar de a IA estar a servir, já hoje, uma série de áreas, de forma notável, a verdade é que a tecnologia pode ser utilizada para um leque de finalidades; e nem todas serão nobres.

De facto, os especialistas na tecnologia alertam que, apesar das promessas de segurança, o desenvolvimento da IA apresenta riscos extremos:

A reação da sociedade, apesar dos primeiros passos promissores, é incomensurável com a possibilidade de um progresso rápido e transformador que é esperado por muitos especialistas.

Escreveram os 15 especialistas em IA.

O que você está lendo é ["Kill switch": gigantes tecnológicas vão "matar" a IA se algo correr muito mal].Se você quiser saber mais detalhes, leia outros artigos deste site.