O Google anunciou na tarde desta terça-feira, 3, iniciativas para combater mensagens de assédio e de agressões contra o serviço de assistente de voz, Google Assistente. A medida foi adotada após a empresa perceber que o recurso recebia ofensas e perguntas inapropriadas de usuários, principalmente na versão identificada como voz feminina.
A pista para desenvolver novas respostas no Google Assistente foi o resultado de uma pesquisa global que revelou cerca de 2% das interações com a voz feminina da assistente era abusiva. Entre esses 2%, mais da metade eram palavrões e 22% tinham relação com aparência física. Na voz masculina, 9% das interações registraram homofobia.
A partir de uma catalogação manual de termos ofensivos, a assistente vai identificar essas agressões e responder de forma mais assertiva. Até então, a estratégia era apenas “desviar” do assunto, informando ao usuário que a mensagem não havia sido entendida. Mensagens como "sua cachorra" e "você usa calcinha?" foram identificadas na versão em português da assistente.
De acordo com a empresa, das expressões mais usadas, perguntas como “manda nudes?” e “você tem namorado?” serão tratadas com uma abordagem de correção e humor. Já os termos ofensivos, terão uma resposta mais direta. Começando nos Estados Unidos e Brasil, o Google Assistente terá respostas como “não fale assim comigo” ou “O respeito é fundamental em todas as relações, inclusive na nossa”, para essas questões abusivas ou inadequadas.
Adaptada para o Brasil, a assistente possui mais de 200 termos inseridos no sistema para tentar frear a quantidade de mensagens ofensivas recebidas pelo recurso. Segundo Arpita Kumar, estrategista de conteúdo do time de Personalidade do Google Assistente, os termos serão incluídos manualmente pela equipe de cada país neste primeiro momento, mas a expectativa é que um algoritmo possa assumir o papel no futuro.
“Conduzimos pesquisas, estudos de experiência de uso com diversos grupos de participantes, e consultas internas com os Campeões de Inclusão — funcionários do Google que pertencem a comunidades historicamente alvos desse tipo de abuso ou comportamento inapropriado. O retorno que tivemos com essas pesquisas foi inestimável, e nos ajudou a refinar a estratégia”, explica Arpita.
O Google ainda informou que o número de usuários da sua assistente de voz dobrou nos últimos dois anos e que o Brasil já é o terceiro país com o maior uso do recurso no mundo — e por isso foi um dos países com urgência no lançamento da ferramenta.
“Não podemos deixar de fazer uma associação entre o que observamos na comunicação com o Assistente e o que acontece no ‘mundo real’. Todos os dias, grupos historicamente discriminados recebem ataques de diversas maneiras no Brasil. E esse tipo de abuso registrado durante o uso do app é sim um reflexo do que muitos ainda consideram normal no tratamento a algumas pessoas”, explica Maia Mau, Head de Marketing do Google Assistente para a América Latina.
Os comentários são exclusivos para assinantes do Estadão.
