Inteligência artificial imitando vozes: quais os perigos desta tecnologia?

A linha entre a realidade e a ficção está cada vez mais tênue. Caminhando a passos velozes, os avanços da inteligência artificial trazem consigo benefícios enormes para uma maior otimização, segurança de dados e, até mesmo, divertimento por meio de sistemas cada vez mais interativos. Mas, quando utilizadas para fins desvirtuosos, podem trazer perigos graves em um efeito cascata para toda a sociedade.

Em um recente anúncio feito pela Amazon, atualizações da Alexa permitiriam que este robô imite vozes de qualquer pessoa, por meio de algoritmos capazes de identificar as entonações e registros únicos de cada pessoa, após ouvir gravações curtas de áudio. Em um primeiro momento, se torna curioso e atrativo ter uma inteligência que consiga replicar vozes de entes queridos que já nos deixaram, amigos com quem temos afinidade ou, ainda, famosos e políticos que idolatramos. Mas, em uma análise mais profunda, existem perigos enormes em se apropriar de tais características em quaisquer sistemas acessíveis à população.

Toda tecnologia traz consigo os dois lados da moeda. Se tratando especificamente da inteligência artificial, cerca de US$ 93,5 bilhões foram investidos para fins privados em 2021 – estimulando uma imensa geração de emprego neste segmento e em áreas correlacionadas e, assim, o desenvolvimento de produtos e serviços robustos que tragam facilidades para o dia a dia da população. Dados e perspectivas inegavelmente positivos, mas, também, mascarados por riscos que muitos deixam de considerar.

Em uma era polarizada de constantes conflitos de opiniões divergentes, contar com uma ferramenta que simule vozes de qualquer pessoa, é a oportunidade perfeita para manipulações de interesses pessoais e profissionais. Como exemplo mais sutil, um adolescente pode utilizar este recurso para reproduzir a voz de seus pais ou responsáveis para adquirir algo de seu interesse. Ou, pensando em cenários mais graves, um defensor político nato pode criar falas e discursos polêmicos de candidatos contrários a seu partido para danificar sua imagem, gerar entraves e, ainda, a possibilidade de desentendimentos sérios.

A disseminação destas fake news, definitivamente, teriam um poder avassalador que, dificilmente, conseguiriam ser contidas. Afinal, em meio a um mar extenso de conectividade através de inúmeras redes sociais e canais de comunicação, se torna cada vez mais complexo distinguir as informações verídicas daquelas manipuladas.

São poucos os que hoje, buscam compreender a fonte de cada notícia lida, a confiabilidade de quem a escreveu e, muito menos, conferir aquele dado em mais de um canal como forma de assegurar sua veracidade. Opiniões incompletas, superficiais e equivocadas vêm se tornando cada vez mais presentes, deixando para trás um senso crítico fundamental para a distinção desses opostos e, como critério de exclusão das tentativas de distorções.

Qualquer sobrevalorização para informações compartilhadas em redes sociais, influenciadores ou conhecidos, ao invés de fontes verídicas e profissionais qualificados, apenas abrirá portas para cada vez mais conflitos e desentendimentos baseados em dados manipulados e divulgados para fins egocêntricos. Em ferramentas capazes de simular vozes de qualquer ser humano, estes cenários podem se tornar ainda mais frequentes – especialmente, em vista de eventos políticos extremamente importantes, como a chegada das eleições.

Ainda não temos perspectivas do lançamento do recurso da Amazon para o público, mas, pouco nos distancia desta realidade. Para que possamos desfrutar ao máximo das vantagens desta tecnologia, é essencial aprimorarmos um senso crítico mais refinado, analisando com maior cuidado toda informação recebida e evitando disseminá-la antes de sua confirmação. Afinal, a única arma que temos contra tais tentativas distorções é a nossa capacidade de reflexão acerca do que ouvimos.

Alexandre Pierro é engenheiro mecânico, físico nuclear e sócio-fundador da PALAS, consultoria pioneira na ISO 56002 na América Latina.

Sobre a PALAS:

A PALAS é uma consultoria de inovação e gestão pioneira na implementação da ISO 56002. Nossa equipe participou ativamente do processo de formatação dessa norma e conquistou a primeira certificação da América Latina. Somos também a primeira consultoria certificada no Brasil. Oferecemos treinamentos, consultorias e implementação de normas ISO com o propósito de preparar as empresas para o futuro.