Sam Altman prometeu aos criadores que o ChatGPT viria em paz. Na semana passada, ele nos mostrou o que realmente pensa.
O executivo-chefe da OpenAI apresentou recentemente um novo chatbot de áudio equipado com cinco “personas” capazes de decifrar perguntas confusas, contar histórias para dormir e participar de conversas simples. Uma coisa, entretanto, não parecia nada nova: a voz da persona “Sky”. Parecia muito com a Scarlett Johansson.
Seus fãs, seus amigos, sua família e até a própria Johansson concordaram.
A empresa alegou que a voz rouca e sedutora “pertence a uma atriz profissional diferente que usa sua própria voz natural”, mas a OpenAI não quis dizer o nome da atriz, e a ideia de que a surpreendente semelhança foi apenas uma coincidência é mais fantástica do que o apocalipse dos robôs.
Johansson diz que Altman lhe pediu em setembro para emprestar sua voz à ferramenta que seria lançada em breve. Ela considerou a oferta, mas disse não. Dois dias antes da demonstração da tecnologia, Altman pediu novamente, mas antes que ela respondesse, o sistema foi lançado.
Como se isso não fosse motivo suficiente para gritar “ladrão!”, o filme “Ela”, de Spike Jonze, de 2013, apresenta Johansson como uma assistente de IA superinteligente chamada “Samantha”, que seduz um Joaquin Phoenix solitário e faminto por amor (spoiler: o caso termina mal) e tem mais: ele é o filme favorito de Altman.
Os advogados de Johansson enviaram uma carta ameaçando a empresa do ChatGPT com uma ação legal, que suspendeu o acesso à Sky. Ela afirma que não fez nada de errado.
Há muitos métodos pelos quais a OpenAI poderia ter criado a Sky. O pior deles? Treinar seu sistema com trechos da produção profissional ou pública de Johannson. O melhor? Instruir essa suposta atriz diferente a imitar o estilo e a sintaxe de um robô de cinema que, ao que parece, está namorando milhares de usuários desatentos ao mesmo tempo. Nenhuma das opções intermediárias - voz sintética manipulada para imitar Johannson; voz real alterada pela inteligência artificial (IA) para se assemelhar a uma fantasia masculina gerada por Hollywood - também agrada à OpenAI.
Quando o ChatGPT surgiu, a principal questão era o que a nova tecnologia significaria para os trabalhadores de colarinho azul e branco que realizam os tipos de tarefas rotineiras que a IA provavelmente aprenderia a fazer com muito mais eficiência. Em seguida, vieram as preocupações com os efeitos em áreas mais especializadas, como a redação de resumos jurídicos ou trabalhos de pesquisa.
A saga de Johansson se refere a algo talvez mais visceral: o medo de que os grandes modelos de linguagem, como o ChatGPT, tirem de nós aquilo que nos define como humanos: nossa criatividade. Até agora, nossa capacidade de sonhar algo em nossas mentes ou almas e expressá-lo no mundo real era exclusiva nossa. Esse sentimento motivou a greve do Writers Guild of America que atormentou os estúdios durante todo o verão passado - ou, menos notado, a revolta entre os autores de fanfictions quando descobriram que suas obras, que reproduziam obras populares, estavam incluídas em conjuntos de dados de treinamento de IA em massa.
Leia também
É compreensível que os criadores da tecnologia de IA queiram garantir à nossa espécie ansiosa que esses temores são injustificados. Por isso, eles têm afirmado que não têm intenção de capturar as criações humanas para transformar os sistemas de IA em criadores hiperotimizados por direito próprio: A OpenAI disse que “acredita que as vozes da IA não devem imitar deliberadamente a voz distinta de uma celebridade”. Altman já disse antes que a IA não deveria ser antropomorfizada de forma alguma. Mas o que eles estão fazendo, ao que parece, é exatamente o oposto.
Ao tomar Samantha emprestada de forma tão descarada para criar Sky, a OpenAI provou não apenas que pode de fato replicar a voz distinta de uma celebridade, mas que o fará - com ou sem consentimento. Ou, então, os líderes da OpenAI não tinham sequer consciência da reação que provocariam ou não se importavam. Altman deveria ter enviado a mensagem de que a IA é para os humanos aproveitarem, não para serem aproveitados. Em vez disso, ele enviou a mensagem de que nossos pesadelos estão prestes a se tornar realidade.
À medida que uma tecnologia que não entendemos e não podemos entender invade a vida cotidiana, contamos com a integridade das pessoas que a estão construindo para nosso benefício. Historicamente, essa tem sido uma aposta ruim: os queridinhos do Vale do Silício, como o Facebook e o Google, afinal de contas, provaram, escândalo após escândalo, que são mais dedicados aos seus resultados financeiros do que às suas elevadas missões de melhorar o mundo.
Pior ainda, a distopia é exatamente o que o filme amado de Altman retrata. Na semana retrasada, ele se expôs de mais de uma maneira quando tuitou uma única palavra: “ela”.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
Os comentários são exclusivos para assinantes do Estadão.
