Sete vezes em que a IA foi preconceituosa

Foto: Denis Balibouse/Reuters Inteligência artificial {"vars":{"gtag_id":"G-H1D7PSZ1DW","client_id":"${clientId}","config":{"G-H1D7PSZ1DW":{}}},"extraUrlParams":{"uid":"${cd1}","ep.ambiente":"amp","ep.autor":"","ep.content_group":"link","ep.data_publicacao":"2024-02-23T18:59:12-03:00","ep.editoria":"link","ep.tag":"inteligencia-artificial,google,microsoft,amazon,twitter","ep.tipo_pagina":"webstories","ep.titulo":"Sete vezes em que a inteligência artificial foi preconceituosa","ep.coluna":"","ep.url":"https://www.estadao.com.br/web-stories/link/cultura-digital/sete-vezes-em-que-a-inteligencia-artificial-foi-preconceituosa/","ep.produto":"Estadão","ep.modulos":"","ep.categoria_conteudo":"noticia","ep.id_materia":"DGJUFQWKCFB2XCENPANQEJTCJA","ep.host_name":"www.estadao.com.br","ep.amp_sso":"${cd1}","ep.custom_client_id":"${custom_client_id}","ep.user_cluster":"${cd33}","ep.assinante":"${assinante}","ep.tipo_usuario":"${tipo_usuario}","up.amp_sso":"${cd1}","up.custom_client_id":"${custom_client_id}","up.user_cluster":"${cd33}","up.assinante":"${assinante}","up.tipo_usuario":"${tipo_usuario}"},"triggers":{"shareFacebook":{"on":"click","selector":".share-facebook","vars":{"event_name":"share","method":"facebook","id_materia_destino":"DGJUFQWKCFB2XCENPANQEJTCJA","url_destino_host":"www.estadao.com.br","url_destino_section":"/web-stories/link/cultura-digital/","url_destino_slug":"sete-vezes-em-que-a-inteligencia-artificial-foi-preconceituosa/"}},"shareTwitter":{"on":"click","selector":".share-twitter","vars":{"event_name":"share","method":"twitter","id_materia_destino":"DGJUFQWKCFB2XCENPANQEJTCJA","url_destino_host":"www.estadao.com.br","url_destino_section":"/web-stories/link/cultura-digital/","url_destino_slug":"sete-vezes-em-que-a-inteligencia-artificial-foi-preconceituosa/"}},"shareWhatsApp":{"on":"click","selector":".share-whatsapp","vars":{"event_name":"share","method":"whatsapp","id_materia_destino":"DGJUFQWKCFB2XCENPANQEJTCJA","url_destino_host":"www.estadao.com.br","url_destino_section":"/web-stories/link/cultura-digital/","url_destino_slug":"sete-vezes-em-que-a-inteligencia-artificial-foi-preconceituosa/"}},"shareLinkedin":{"on":"click","selector":".share-linkedin","vars":{"event_name":"share","method":"linkedin","id_materia_destino":"DGJUFQWKCFB2XCENPANQEJTCJA","url_destino_host":"www.estadao.com.br","url_destino_section":"/web-stories/link/cultura-digital/","url_destino_slug":"sete-vezes-em-que-a-inteligencia-artificial-foi-preconceituosa/"}},"shareEmail":{"on":"click","selector":".share-email","vars":{"event_name":"share","method":"email","id_materia_destino":"DGJUFQWKCFB2XCENPANQEJTCJA","url_destino_host":"www.estadao.com.br","url_destino_section":"/web-stories/link/cultura-digital/","url_destino_slug":"sete-vezes-em-que-a-inteligencia-artificial-foi-preconceituosa/"}},"paywallVisible":{"on":"visible","selector":"#softwall","vars":{"event_name":"paywall","tipo_paywall":"paywall_amp","tipo_acao":"show","nome_campo":"","squad":"conversao"}},"paywallOferta":{"on":"click","selector":"#digitalMensal","vars":{"event_name":"paywall","tipo_paywall":"paywall_amp","tipo_acao":"click","nome_campo":"oferta","squad":"conversao"}},"paywallVerOfertas":{"on":"click","selector":"#verOfertas","vars":{"event_name":"paywall","tipo_paywall":"paywall_amp","tipo_acao":"click","nome_campo":"ver_planos","squad":"conversao"}},"paywallLogin":{"on":"click","selector":"#paywallAmpLogin","vars":{"event_name":"paywall","tipo_paywall":"paywall_amp","tipo_acao":"click","nome_campo":"login","squad":"conversao"}}}} {"vars":{"collectorHost":"ivccf.ivcbrasil.org.br","appId":"4"},"triggers":{"trackPageview":{"on":"visible","request":"pageView"}}} {"vars":{"uid":"50621","domain":"estadao.com.br","sections":"link","authors":""}} {"vars":{"account":"23902"}} Ao longo dos anos, plataformas alimentadas por algoritmos tem demonstrado falhas graves ao lidar com temas sensíveis ou históricos

Ajustes

Foto: Latif Kassidi/EFE Nesta semana, o Google entrou para a lista de empresas que tiveram que fazer “ajustes” nas suas IAs. O Gemini retratou negros como nazistas

Erros

Foto: Dado Ruvic/Reuters O caso do Google, porém, é apenas mais um em que a IA errou feio na hora de gerar imagens ou comentários a partir de comandos humanos. Veja sete vezes em que a tecnologia foi preconceituosa

Google Fotos

Foto: Reprodução/Google Fotos/@JACKYALCINE Em 2015, um usuário do Google Fotos descobriu amigos negros estavam sendo marcados pela IA como gorilas em imagens salvas na nuvem. A empresa decidiu retirar os termos “gorila”, “macaco” e “chimpanzé” da busca da plataforma

Tay

Foto: Reprodução/X/@TayandYou O chatbot de IA “Tay”, da Microsoft, foi tirado do ar apenas um dia após o seu lançamento, depois de publicar comentários nazistas, em 2016. A IA aprendia a “falar” com usuários do Twitter, que ensinaram a máquina a se radicalizar

Amazon

Foto: Mike Mareen/Adobe Stock A Amazon descobriu, em 2018, que uma IA de recrutamento interna estava dando preferências para homens. A gigante afirmou que o erro foi cometido porque a IA foi treinada com padrões masculinos e reverteu o algoritmo

Twitter

Foto: Divulgação/X Usuários lotaram o Twitter em 2020 com reclamações sobre a IA dar preferência para imagens de pessoas brancas quando precisava cortar imagens na timeline. A empresa parou de fazer cortes de fotos no app

Microsoft Bing

Foto: Reprodução/Reddit Após o lançamento do IA Bing, da Microsoft, usuários descobriram que a plataforma sugeria saudações nazistas para perguntas sobre o tema. A empresa limitou a interação com o robô até que pudesse eliminar as sugestões

IAs de imagem

Foto: Reprodução/Bulimia Project Pesquisadores do Bulimia Project descobriram que plataformas de geração de imagem com IA como DALL-E, Stable Diffusion e Midjourney priorizaram corpos magros e brancos quando receberam um comando para idealizar a “mulher perfeita”. As empresas não responderam especificamente ao caso

Gemini AI

Foto: Google Gemini O Google suspendeu sua recém lançada IA de geração de imagens depois que usuários identificaram erros históricos e raciais na criação de “fotos”. Em uma delas, a IA retratou um negro como um soldado nazista em 1943

Foto: Dado Ruvic/Reuters Quer saber mais sobre inteligência artificial? Leia mais

Texto e produção

Bruna Arimathea Veja mais Web Stories