No início de agosto, houve uma falha na programação dos bots (robôs) da agência de viagens on-line, Decolar.com, quando respostas automáticas foram disparadas com tom ofensivo no perfil do Twitter da empresa.

De acordo com o CEO da Ubots, startup especializada em atendimento via apps de mensagens e inteligência artificial, Rafael Souza, possivelmente a empresa utiliza de dados passados pelo canal de mensagens, no caso o username do usuário da rede social, para tornar a conversa mais amigável. Porém, com a falha técnica, as respostas dadas aos internautas foram compreendidas como grosseiras.

“Quando os seguidores observaram a falha, trocaram os nomes nos perfis pessoais por palavras ofensivas e começaram a enviar perguntas. Dessa maneira, assim que o bot respondia aquele seguidor, o início da mensagem era composto por um xingamento”, explica.

Em nota, a Decolar.com não detalhou o problema técnico. “A existência desse tipo de problema é comum, mas a exploração destas brechas ainda não. Duas formas poderiam minimizar o bug, por exemplo, a Decolar e o Twitter conseguiriam aplicar técnicas de processamento de linguagem natural, para identificar xingamentos nos nomes e outros dados do usuário. A outra forma seria o robô confiar somente em dados que possuem restrições e validações, antes de poderem ser modificados no canal de mensagens”, acrescenta Souza.

Cerca de 248 milhões de interações foram feitas por chatbots em 2019, isso representa um crescimento de 212% comparado a 2018, com 79,5 milhões de interações, segundo a pesquisa FEBRABAN (Federação Brasileira de Bancos) de Tecnologia Bancária 2020, por isso, segurança é essencial diante desse fato. “O que aconteceu com a empresa servirá de alerta para desenvolvedores de chatbots adicionarem mais camadas de validação sob os dados de usuário recebidos pelos bots”, reforça Souza.

Sobre Ubots

Fundada em 2016, a Ubots surgiu da vontade de utilizar a tecnologia para facilitar a comunicação de grandes empresas com seus clientes. Para otimizar esse resultado, a Ubots utiliza plataforma própria desenhada para cenários de atendimentos, tanto para uso de agentes humanos, chatbots ou atendimento híbrido, quanto utiliza inteligência artificial. De origem gaúcha, a startup possui clientes no Brasil, Peru, Chile e já participou de programas de aceleração, como: Scale Up Endevor, BNDES Garagem, StartOut Brasil,WesterWelle Foundation, Cubo do Itaú, entre outros.