Em entrevista ao Wall Street Journal, Mira Murati, diretora de tecnologia da OpenAI (e popularmente conhecida como “mãe do ChatGPT”), deu a entender que imagens de nudez não estão descartadas no Sora, a nova inteligência artificial (IA) da startup capaz de produzir vídeos impressionantes a partir de comandos de texto.
A tecnologia está em fase de testes desde fevereiro e, segundo a executiva, o seu lançamento público deve acontecer ainda em 2024. Até aqui, a OpenAI vem divulgando vídeos de até 60 segundos gerados pela IA.
Em resposta à jornalista do Wall Street Journal, Murati disse ainda não ter certeza sobre a permissão de nudez nos vídeos do Sora. “Você pode imaginar que existem ambientes criativos nos quais os artistas podem querer ter mais controle sobre isso”, explicou. “No momento, estamos trabalhando com artistas, criadores de diferentes áreas para descobrir o que é útil, que nível de flexibilidade a ferramenta deve fornecer.”
IAs generativas populares como Midjourney, DALL-E e Stable Diffusion são programadas para recusar a geração de conteúdos pornográficos, eróticos ou mesmo contendo nudez, embora usuários tenham encontrado brechas no sistema. Isso tem levado à criação de conteúdo adulto realista em plataformas semelhantes, inclusive envolvendo o deepfake de mulheres reais.
Leia também
Murati afirma que Sora será “definitivamente” lançado em 2024, dentro de alguns meses, mas não entrou em detalhes. Quando questionada se seria antes das eleições dos EUA, em novembro, dado o potencial de uso da tecnologia para deep fakes, a executiva disse: “não lançamos nada que não nos deixe confiantes no que diz respeito a como isso pode afetar eleições globais e outras questões”. Murati também confirmou que o Sora seguirá o padrão do DALL-E e não permitirá a geração de imagens com figuras públicas, como políticos ou artistas conhecidos.
A diretora afirmou ainda que o Sora foi treinado a partir de “dados disponíveis publicamente e outros dados licenciados”, além de fotos do Shutterstock, em uma parceria de seis anos anunciada em 2023, mas recusou explicar que dados disponíveis seriam esses, como vídeos de YouTube, por exemplo.A ferramenta disponibilizará uma espécie de editor, permitindo ajustes finos nos vídeos gerados pelos usuários. Em sua primeira versão, contudo, o Sora ainda não será capaz de fazer vídeos com som.
Os comentários são exclusivos para assinantes do Estadão.
