IA superinteligente pode levar à extinção humana, alerta a OpenAI

O debate sobre a inteligência artificial continua aberto e assim irá continuar durante os próximos anos ou durante o fervor do assunto. Depois de algumas vozes se terem levantado contra o rápido desenvolvimento da IA generativa, a OpenAI anuncia que a formar uma equipa para controlar inteligência artificial superinteligente.

A OpenAI está a criar uma equipa que se irá dedicar aos riscos da inteligência artificial superinteligente. Uma superinteligência é um modelo hipotético de IA que é mais inteligente do que o ser humano mais talentoso e inteligente e se destaca em várias áreas de especialização, em vez de um domínio como alguns modelos da geração anterior.

O modelo de IA superinteligente poderá chegar antes do final da década

A superinteligência será a tecnologia de maior impacto que a humanidade já inventou e pode nos ajudar a resolver muitos dos problemas mais importantes do mundo.

Mas o vasto poder da superinteligência também pode ser muito perigoso e pode levar ao enfraquecimento da humanidade ou até à extinção humana.

Refere a empresa.

A nova equipa será co-liderada pelo cientista-chefe da OpenAI, Ilya Sutskever, e por Jan Leike, chefe de alinhamento do laboratório de pesquisa. Além disso, a OpenAI disse que dedicaria 20% do seu poder de computação à iniciativa, com o objetivo de desenvolver um processo de pesquisa de alinhamento automatizado.

Tal sistema ajudaria, teoricamente, a OpenAI a garantir uma superinteligência segura de usar e alinhada com os valores humanos.

Embora esse seja um objetivo incrivelmente ambicioso e não temos garantia de sucesso, estamos otimistas de que um esforço focado e concentrado pode resolver esse problema.

Há muitas ideias que se mostraram promissoras em ensaios preliminares, temos métricas cada vez mais úteis para o progresso e podemos usar os modelos atuais para estudar muitos desses problemas empiricamente.

A par deste desenvolvimento, nota-se que o ChatGPT tem estado a perder a sua força inicial, denotando que os utilizadores mais curiosos já não estão tão atraídos pelo serviço quando num estágio inicial. Se a Google estava com medo que o seu motor de pesquisa fosse trocado pela IA da OpenAI, provavelmente isso não deverá acontecer... para já.

O que você está lendo é [IA superinteligente pode levar à extinção humana, alerta a OpenAI].Se você quiser saber mais detalhes, leia outros artigos deste site.