Google 14 Abr
O Google anunciou um novo posicionamento em suas respostas do Assistente, com o objetivo de desestimular agressões verbais à ferramenta de voz virtual, as quais podem reforçar preconceitos na sociedade.
A atualização contém novas respostas que são ativadas nos momentos em que há insultos ou uso de termos que sejam ligados a assédio ou violência de gênero, nas interações feitas com a personalidade do Google Assistente.
As respostas terão abordagens diferentes, a depender do nível de abuso feito pelo usuário. Caso haja uma ofensa explícita — seja com palavrões ou expressões de conteúdo misógino, homofóbico, racista ou de sexo explícito —, a voz do Google usará frases instrutivas, como “O respeito é fundamental em todas as relações, inclusive na nossa”, ou ainda repelir com um “Não fale assim comigo”.
Já se as mensagens forem consideradas inapropriadas no mundo real, mas sem ser explicitamente ofensivas, como uma pergunta se quer “namorar” ou “casar” com o usuário, a voz do Google dará um “fora” de maneira bem-humorada.
“Entendemos que o Google Assistente pode assumir um papel educativo e de responsabilidade social, mostrando às pessoas que condutas abusivas não podem ser toleradas em nenhum ambiente, incluindo o virtual. Um exemplo são os pedidos para ‘mandar nudes’. Embora isso possa até ser visto por alguns como uma ‘brincadeira’, por se tratar de uma conversa com a voz do aplicativo, não podemos ignorar que essa abordagem também reforça a ideia de que algumas pessoas, especialmente as mulheres, podem ter a sua intimidade invadida. No mundo real, isso é considerado uma forma de assédio. Por isso, o Google Assistente está se posicionando de maneira incisiva contra esse tipo de comportamento.”
Maia Mau
Head de Marketing do Google Assistente para a América Latina
Insultos visam principalmente mulheres
Dados do Google indicam que aproximadamente 2% das interações de personalidade do Google Assistente no Brasil são de mensagens com termos abusivos ou condutas inapropriadas. Dentro desse número, um a cada seis insultos são voltados às mulheres, tanto por expressões misóginas como de assédio sexual.
Já no recorte por cada opção de voz disponível no país, há diferenças na frequência de conteúdo utilizado. Com a voz vermelha — a qual soa como “feminina”, predominam mais os comentários sobre aparência física. Por sua vez, a voz laranja — com tom “masculino” — recebe mais comentários homofóbicos, que somam uma a cada dez ofensas registradas.
Adaptação de expressões no Brasil
A atualização de respostas passou por algumas adaptações pelo time local do Google para o contexto do Brasil, onde muitas expressões podem transmitir um sentido ofensivo — como no caso da frase “Você é uma cachorra”, por exemplo.
O trabalho — que conta com a contribuição de grupos representativos de colaboradores da empresa — tem como foco identificar termos considerados como insultos em diferentes comunidades ou sobre preconceitos culturais. Além disso, há o desafio de separar expressões corretas das usadas de forma pejorativa, como se a pessoa usar a palavra “bicha” no lugar de “gay” ou “homossexual”.
Conscientização a partir das respostas
O novo posicionamento teve como inspiração o relatório “I’d Blush if I Could”, produzido pela Organização das Nações Unidas para a Educação, a Ciência e a Cultura (Unesco), em 2019. O documento alerta sobre a perpetuação de preconceitos de gênero facilitada pelo uso de vozes femininas e o comportamento submisso de assistentes virtuais.
Segundo a estrategista de conteúdo do time de Personalidade do Google Assistente, Arpita Kumar, a fase de testes implantada no ano passado, nos Estados Unidos, já gerou um crescimento de 6% nas tréplicas positivas. Ou seja, as pessoas passaram a pedir desculpas ou perguntar “por quê?” ao receberem respostas incisivas contra ofensas.
“Conduzimos pesquisas, estudos de experiência de uso com diversos grupos de participantes, e consultas internas com os Campeões de Inclusão - funcionários do Google que pertencem a comunidades historicamente alvos desse tipo de abuso ou comportamento inapropriado. O retorno que tivemos com essas pesquisas foi inestimável, e nos ajudou a refinar a estratégia. As tréplicas positivas foram também um grande sinal de que as pessoas queriam entender melhor por que o Assistente estava afastando determinados tipos de conversa. As sequências dessas conversas tornaram-se portas de entrada para se aprofundar em temas como consentimento.”
Arpita Kumar
Estrategista de conteúdo do time de Personalidade do Google Assistente
Disponibilidade
A iniciativa do Google teve início nos Estados Unidos e já começou a ser implantada no Brasil. As novas respostas estão disponíveis em todas as versões do Google Assistente no país – ou seja, tanto em dispositivos como Nest Audio e Nest Mini, quanto nas versões para celular Android.
E aí, você gostou da nova medida da gigante de Mountain View para ajudar no combate ao assédio e à violência de gênero? Deixe sua opinião nos comentários abaixo.
Comentários