HomeTiltArticleAbeba Birhane: Indústria da AI ficou rica com algo que ninguém pediu08/11/20245 Abeba Birhane, cientista cognitiva apontada como uma das 100 mais influentes do mundo da IA Imagem: DivulgaçãoComo muitos especialistas da área, a cientista cognitiva etíope Abeba Birhane não tem dúvida de que a inteligência artificial é uma revolução sem precedentes. Mas, como poucos de seus pares, ela usa o respeito que conquistou na área para mostrar como essa revolução beneficia alguns escolhidos, enquanto deixa milhões para trás.Membro do Órgão Consultivo de IA do Secretário-Geral da ONU e eleita uma das 100 pessoas mais influentes da IA pelas revistas Time e Wired, ela não fala da boca para fora. Birhane já fez duas das mais respeitadas instituições de ensino norte-americana passarem vergonha ao provar que elas criaram um banco com imagens racistas e misóginas para treinar algoritmos.MIT e NYU não só tiraram do ar um acervo com 80 milhões de imagens, como pediram desculpas.Ricardo KotschoBrasil começa mal ao falar em demonização de TrumpCasagrandeFla chega à final com a faca entre os dentesRosana SantosNão dá para ser líder climático e extrair petróleoRaquel LandimLula está correto ao cobrar o mercado sobre cortes✅A indústria da IA se tornou rica, poderosa e influente devido a tecnologias que ninguém pediu. Temos que mudar essa mentalidade de a IA ter sido dada generosamente pelas empresas para beneficiar as pessoas. Temos que tratá-las como ferramentas do capitalismo que permitem às empresas ganharem mais dinheiro para gerar mais renda ao custo de algoritmos racistas e discriminatórios, do meio ambiente e do trabalho mal pago.💥️Abeba BirhaneA professora do Trinity College Dublin, na Irlanda, participa nesta quinta-feira (7) do PrograMaria Summit, evento que promove ações para impulsionar a jornada de mulheres no mundo da tecnologiaA pesquisadora participou de uma conversa sobre gênero, raça e tecnologia com a professora Kizzy Terra. A live vai ao ar partir das 19h (veja aqui). Leia abaixo os principais trechos da conversa.💥️Quem pediu?O maior truque que a indústria da IA aplicou é nos fazer acreditar que a tecnologia foi desenvolvida de bom coração para a sociedade. Na realidade, essa indústria está numa queda braço por dominância e influência. A indústria da IA se tornou rica, poderosa e influente devido a tecnologias que ninguém pediu. Temos que mudar essa mentalidade de que a IA foi generosamente dada pelas empresas para beneficiar as pessoas.Temos que tratá-las como ferramentas do capitalismo que permitem às empresas ganharem mais dinheiro para gerar mais renda ao custo de algoritmos racistas e discriminatórios, do meio ambiente e do trabalho mal pago.Continua após a publicidadeIsso nos permite pensar a indústria da IA como qualquer outra indústria, sejam farmacêuticas ou de mídia.Na engenharia, se uma empreiteira constrói uma rua, ela é sujeita a testes de estresse antes de pedestres ou carros serem autorizados a passar por lá. Por que deveria ser diferente com a indústria de IA? Por que isentá-la de regulamentações, responsabilidade ou de demandas por mais transparência? Não vejo por que ela não deveria ser responsável pelas tecnologias que está produzindo.💥️Benefícios para poucos, danos para o restoAs pessoas dizem que a AI pode beneficiar a sociedade e ajudar a humanidade a avançar. Mas, quando você olha a distribuição de benefícios e danos, há uma disparidade massiva. A IA beneficia poucas pessoas, como CEOs, grandes corporações ou os desenvolvedores dos algoritmos.Toda a IA comete erros. Mas, quando esses sistemas falham, boa parte do dano é descarregado desproporcionalmente nas pessoas que estão à margem da sociedade.Continua após a publicidadeNewsletterMÍDIA E MARKETINGGrandes cases de marketing, entrevistas e notícias sobre mídia e comunicação. Toda sexta.Quero receberOs algoritmos de emprego discriminam com base em nomes, classe, gênero, sexualidade e assim por diante. Análises de como a OpenAI recomenda trabalhos com base em currículos mostram isso. O experimento considerou documentos com conteúdo igual e mudou só o nome dos candidatos, que variava para mulheres e homens e eram associados a pretos, latinos, afroamericanos e asiáticos. Trabalhos top como engenharia de software eram direcionados a homens brancos e asiáticos. Já empregos como os de cuidados domésticos eram enviados a mulheres latinas e negras.💥️Alunos usam IA sem saber como ela é feitaA IA generativa realmente revolucionou a educação, não necessariamente de forma positiva. Algumas instituições de ensino já criaram suas próprias políticas. Umas proíbem a IA, outras liberam o estudante para usar quando quiser. Mas falta uma coisa.Na hora de ensinar, nós tendemos a pensar que há uma hierarquia: por terem mais poder, os professores dizem algo, e os alunos devem apenas fazer. Essa dinâmica tem que mudar. Precisamos treinar os alunos a serem adultos capazes de pensar criticamente. No caso das AI generativas, a avaliação é sobre se são boas ou não, se escrevem bem, se criam bons códigos ou se ajudam com a lição de casa. E isso só leva em conta o algoritmos em si.Nós estamos perdendo a conversa de quão falhas e pouco confiáveis esses sistemas são. Os alunos que querem usá-los até sabem que esses sistemas alucinam, mas ainda assim produzem quantidades massivas de informação não confiável.Continua após a publicidadeTambém não estamos ensinando a enorme quantidade de energia para alimentar esses sistemas. Os sistemas generativos requerem 10 vezes mais energia que uma busca do Google. Essa energia gigantesca está amplificando a crise ambiental.Outra coisa é que os dados, essenciais para qualquer sistema, são fornecidos sem consenso pelas comunidades criativas, acadêmicas ou mesmo por pessoas comuns. Além disso, esses dados são lapidados por trabalhadores explorados e mal pagos da América do Sul, África ou Índia.Temos que ensinar sobre o ecossistema que sustenta a AI generativa, não apenas falar sobre os modelos. Assim, os alunos podem tomar decisões informadas sobre usar ou não esses sistemas.💥️Tecnologias da moda não servem pra nadaEm algumas tecnologias, como a clonagem de voz, os perigos excedem os benefícios. Eu só posso pensar em como ela vai ser usada para espalhar informações erradas, em atividades criminosas ou fraudes. Em resumo: para enganar pessoas. Só vai ser usada para imitar pessoas, celebridades ou políticos. Não há benefício nenhum.Continua após a publicidadeAlém disso, tecnologias que prometem prever motivações políticas, níveis de criminalidade ou estados cognitivos internos (da ansiedade à felicidade) e são baseadas em vídeos ou em expressões faciais são geralmente só pseudociências que se escondem atrás da bandeira da IA. Deveriam ser banidas.💥️Mudar o objetivo da IAMudar o objetivo da IA é uma das maneiras de garantir que ela beneficie a sociedade. Pense no sistema de justiça criminal. A AI é usada para policiar, investigar ou punir pessoas —e geralmente os alvos são aquelas que já são marginalizadas. Até o jeito que o crime é definido segue o status quo: tendemos a mirar os crimes de beira de estrada.Mas, se você olhar os dados, vai ver que os maiores delitos são cometidos por grandes organizações, que roubam a renda de muitas pessoas. Poderíamos usar IA para identificar essas organizações e garantir que fossem responsabilizadas.Ou, em vez de construir um algoritmo que preveja a probabilidade de alguém cometer um crime após sair da prisão, por que não fazer um sistema de IA que ajude ex-detentos a se inserirem na sociedade? Isso requer rejeitar ou repensar estruturas capitalistas.ReportagemTexto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis. O que você está lendo é [Abeba Birhane: Indústria da AI ficou rica com algo que ninguém pediu].Se você quiser saber mais detalhes, leia outros artigos deste site.Links
Poluição causada por antidepressivos está a alterar o comportamento e a reprodução dos peixes & Green Savers
Telescópio XRISM mostra detalhes nunca vistos de buraco negro e remanescente de supernova - Multimédia Tek
Incêndios: GEOTA quer estabilização de emergência dos solos e alerta para alterações climáticas & Green Savers
Wonderful comments