OpenAI cria comité para acompanhar segurança dos modelos de inteligência artificial - Computador

O novo “comité de segurança e proteção” vai supervisionar a gestão de risco dos projetos e operações da OpenAI. A empresa continua, entretanto, a treinar o GPT-5, cuja data de lançamento permanece desconhecida.

A OpenAI anunciou esta semana 💥️a criação do comité de segurança e proteção (Safety and Security Committee) que será responsável por apresentar recomendações ao Conselho de Administração da empresa sobre decisões críticas de segurança e proteção de todos os projetos.  O comité é composto pelos diretores Bret Taylor (presidente), Adam D'Angelo, Nicole Seligman e Sam Altman (CEO/diretor-executivo).

Entretanto, a OpenAI continua 💥️a treinar o seu próximo modelo de inteligência artificial generativa, o GPT-5, mais um passo no caminho para a criação de uma superinteligência semelhante à dos humanos, a “artificial general intelligence” (AGI), e só possível se a empresa angariar financiamento.

💥️Nos próximos 90 dias, o Comité irá avaliar e aprimorar os processos e as salvaguardas da OpenAI. No final deste prazo, o novo órgão irá partilhar as suas recomendações com o Conselho de Administração que, após análise, 💥️partilhará publicamente “uma atualização das recomendações adotadas de uma forma consistente com a segurança e proteção”.

OpenAI garante que não imitou voz de Scarlett Johansson. A atriz discorda e o caso pode seguir para tribunal

Ver artigo

Esta novidade surge no rescaldo de uns dias complicados da OpenAi na imprensa, após a apresentação de uma voz aparentemente inspirada em Scarlett Johansson no filme “Her”, de 2013 e que poderá levar a OpenAI à barra do tribunal. Mas também piadas no Daily Show e no Saturday Night Live ridicularizando respetivamente a voz sedutora da Omni e a relação entre as vozes de Sky e de Scarlett Johansson.

AGI refere-se a um hipotético sistema de IA com capacidades ao nível humano para realizar tarefas novas e gerais para além dos seus dados de treino, em oposição à IA restrita, treinada para tarefas específicas. 💥️Esta inteligência artificial que visa reproduzir a cognição humana poderá ser uma realidade dentro de três anos, disse recentemente o cientista Ben Goertzel.

💥️Além da data de lançamento, subsiste a dúvida sobre se o GPT-5 será já um modelo AGI.

O comité foi anunciado na semana em que 💥️Bruxelas criou um gabinete da União Europeia para supervisionar a tecnologia de inteligência artificial, fomentar o desenvolvimento e aplicações, assim como fazer cumprir a legislação da AI Act (AI Office).

Também esta semana foi firmado um acordo entre 16 empresas que estão na linha da frente do desenvolvimento de IA. 💥️A medida de segurança, conhecida como “Kill Switch” vai permitir desligar sistemas de inteligência artificial caso sejam incapazes de mitigar os riscos.

O que você está lendo é [OpenAI cria comité para acompanhar segurança dos modelos de inteligência artificial - Computador].Se você quiser saber mais detalhes, leia outros artigos deste site.