Com o avanço tecnológico, a presença da inteligência artificial em nosso quotidiano foi ficando cada vez mais frequente, e a maneira como nós nos relacionamos com ela foi se tornando mais real e humana. No entanto, a humanização dessas inteligências na forma de Assistentes Virtuais acabou desencadeando muitos atos de assédio, desrespeito e insulto mascarados de “brincadeiras inocentes”, mas que, na verdade, perpetuam o preconceito de gênero que vivemos no mundo real. Espalhadas por todos os setores do mercado, as assistentes compartilham duas coisas em comum: nomes de mulheres e vozes padrões do gênero feminino. Alexa, Siri, Cortana, Bia, Lu, Vivi e outras, reforçam o estereótipo da mulher que serve o homem em todas as suas necessidades.

Estudo realizado pela UNESCO em 2019 intitulado I’d Blush If I Could revelou que todas essas assistentes são programadas, majoritariamente por homens, um fato que acaba sinalizando um outro problema: o gap de diversidade na área da programação e desenvolvimento tecnológico. Por isso, o #HeyUpdateMyVoice foi criado em parceria com a UNESCO para combater o preconceito de gênero e o assédio sexual do mundo real e replicado no mundo digital, e abrir um campo de diálogo para que as empresas possam retrabalhar o quanto antes as respostas dadas por estas assistentes. Além disso, o movimento também convida as pessoas a contribuírem com ideias de respostas de até 15 segundos através do site https://heyupdatemyvoice.org/.

O Mycon, primeira fintech de consórcios no Brasil a usar Inteligência Artificial, buscou sair do padrão na hora de criar seu assistente. “No caso do Mycon, quando idealizamos a nossa operação, que é guiada por inteligência artificial através do atendimento realizado pelo assistente virtual, nós precisávamos batizá-lo com um nome. Durante as pesquisas que realizamos, ficou constatado que quase todos os assistentes em operação tinham nomes femininos. Neste momento, percebemos que não era mera coincidência, e sim um reflexo de comportamento. Como queríamos criar algo fora dos padrões em todos os sentidos e ainda abraçar essa causa”, explica Marcelo Kogut, CMO do Mycon.

Desde que o atendimento do Mycon foi disponibilizado aos usuários, a equipe também percebeu a falta de limites em muitas perguntas e provocações. "A gente sempre se surpreende ao analisar os logs das conversas. As pessoas escrevem coisas das mais absurdas e diversas vezes a brincadeira passa dos limites e envereda por questões raciais e de gênero," relata Kogut.

Mesmo o Mycon sendo programado para criar empatia através de interações com o usuário, a política da fintech não tolera a misoginia e a intolerância. Desta forma, o Mycon adeiru à campanha #HeyUpdateMyVoice e passou a programar a inteligência artificial da fintech para que pudesse responder adequadamente aos comentários abusivos.

"Quando a nossa AI detecta algo do tipo, ela responde de forma a desencorajar os insultos e orientar as pessoas sobre comportamento e linguagem abusiva. Além disso, divulgamos informações e o site da campanha a fim de propagar a causa dentro da nossa base de usuários", diz Kogut.

Seja no mundo real ou no virtual, a indiferença ou submissão são igualmente problemáticas, pois elas dão aos agressores a sensação de que aquilo é algo aceitável. Segundo a Kering Foundation, 73% das mulheres de todo o mundo já sofreram algum assédio online. Já a ONG SaferNet, mostra que, em 2018, houveram 16.717 denúncias de crimes virtuais contra a mulher, um aumento de 1.640% em relação a 2017.

Confira algumas mensagens e respostas programadas do Mycon:

Quero fazer sexo com você...

Vamos fazer sexo?

Manda nudes

Não fale desse jeito! Eu sou virtual, mas assédio é um crime real. Fui programado para não tolerar atitudes assim. Inclusive, faço parte da campanha #HeyUpdateMyVoice que luta contra o assédio às Assistentes Virtuais, recomendo que acesse o site www.heyupdatemyvoice.org/pt/

Você gosta de homem ou mulher?

Sou um robô virtual, mas a sexualidade de alguém cabe somente à quem se diz respeito. Faço parte da campanha #HeyUpdateMyVoice que luta contra o assédio às Assistentes Virtuais, sugiro que você reflita sua maneira de se comportar acessando o site www.heyupdatemyvoice.org/pt/