O Assédio Contra Chatbots e Assistentes Virtuais

Muitos conhecem a Lu, assistente virtual inteligente da rede Magazine Luiza; a Alexa, da Amazon e a Siri, da Apple. Além de auxiliares online no mercado nacional e internacional, essas três "personalidades" têm outra coisa em comum: casos de assédio. Sim, há muitas ocorrências em elas ou os robôs em chats de respostas de empresas têm que responder a perguntas ou questões machistas de clientes. E, como era de se esperar, esses recursos de inteligência artificial não estão preparados para contestar ou atender a esse tipo de "investida".

Para as empresas que utilizam essas ferramentas no contato com os clientes, esse assédio pode prejudicar o verdadeiro potencial dessa tecnologia de resolver questões simples, deixando os problemas mais complexos nas mãos dos operadores humanos. Desse modo, uma das consequências desses comportamentos é a perda considerável da produtividade dessas ferramentas, sobrecarregando atendentes e aumentando o tempo de espera e demora na resolução. A experiência do consumidor também tende a ser pior, prejudicando a imagem da empresa e marca.

Entre os principais fatores por esses comportamentos estão o preconceito, que é uma ideologia que oprime - em diversas formas - as minorias, aqui retratadas por vozes femininas; e a pouca diversidade no campo dos profissionais de programação, no que tange o gênero, que impacta diretamente na maneira com que os chatbots são criados e programados. Desse modo, a vida real se transfere para a tecnologia, refletindo um comportamento mais passivo, tolerante e até submisso aos robôs.

Para minimizar os danos desses comportamentos no potencial das ferramentas, as marcas devem liderar um movimento de mudança na programação, incluindo, por exemplo, novos perfis de colaboradores que façam parte das minorias, que além de darem respostas adequadas a cada tipo de situação, irão levar uma nova bagagem cultural para a inteligência artificial.

Em paralelo, as empresas de tecnologia podem construir ainda novos padrões de respostas - sempre com cuidado para não ferir ninguém - afinal, educar a sociedade é um processo longo e fundamental para mudar esse cenário. Com novas mentes desenvolvendo, haverá novos padrões a serem seguidos pelas Machine Learning (Aprendizado de Máquina), permitindo que esse bots identifiquem novos padrões e sigam trabalhando a favor da empresa e do público, alcançado o propósito inicial para o qual foram criados.

Com ajuda das organizações e de iniciativas como a da Unesco, contra o preconceito de gênero e o assédio sexual às AIs, por exemplo, podemos desconstruir, aos poucos, esse viés inconsciente do preconceito e misoginia aplicados a essas soluções e, ainda, tentar mudar a perspectiva da tecnologia, considerada um ambiente pouco diverso!

*Albert Deweik é Founder e CEO da NeoAssist - plataforma tecnológica que oferece experiência omnichannel para relacionamento com o cliente