Empresas se preocupam com viés na adoção da Inteligência Artificial em escala

A confiança na automação baseada em IA, aliás, foi considerada crucial para a escala na sua adoção. O estudo mostrou que é importante que os provedores dessa tecnologia implementem funcionalidades capazes de explicar seus modelos de uso e ferramentas que ajudem na avaliação do grau de assertividade das decisões tomadas, para o desenvolvimento isolado e em implementações de execução em escala.

No Brasil, as empresas ainda estão experimentando o uso da IA e, apesar dessa adoção estar nos primeiros passos para ganhar escala, a preocupação é a mesma, como analisa Claudio Pinheiro, cientista de dados sênior da IBM Brasil. "Todos os setores da economia têm a preocupação em mitigar vieses, mas nem todos têm a maturidade de implementação de IA e uso dos dados. Os setores mais avançados nesse aspecto e que mais demonstram essa preocupação por aqui são o bancário e de telecomunicações, onde já vemos casos de uso que começaram a mais tempo."

A pesquisa mostrou ainda que 18% das empresas possuem modelos de IA em produção, 16% estão em estágio de prova de conceito (POC) e 15% estão experimentando a IA. Dentre os pesquisados, a IBM é a fornecedora líder do setor, sendo responsável por 9,2% do mercado de inteligência artificial.

Ainda segundo a pesquisa, nos últimos 12 meses, o uso mais popular da IA pelas companhias foi em operações de TI, atendimento e suporte ao cliente, finanças e contabilidade e comércio eletrônico. A automação inteligente de tarefas e processos foi a aplicação mais utilizada para operações de TI e os assistentes virtuais, os "chatbots", e mecanismos de recomendações foram as principais utilizações de IA no atendimento e suporte ao cliente. Outra pesquisa, dessa vez feita pela Mobile Time mostrou que a IBM é a fornecedora líder de motores de processamento de linguagem natural, com 21% do mercado (Mapa do Ecossistema Brasileiro de Bots, 2019).

A capacidade de explicação da IA é outro item cada vez mais importante entre os líderes de negócios - 68% acreditam que os clientes exigirão mais nos próximos três anos, de acordo com uma pesquisa do IBM Institute for Business Value.

Para endereçar e ajudar as empresas a adotarem a IA, a IBM possui oferece ferramentas para manter a confiança, a transparência e essa capacidade de explicação na constituição da IA: como a plataforma IBM Watson OpenScale, e a ferramenta AI Explainability 360. O OpenScale otimiza o desenvolvimento da modelagem e o ciclo de vida da implementação, além de abordar a capacidade de detecção e mitigação de viés para ajudar a atender à demanda por maior entendimento das tecnologias de IA. O AI Explainability 360 Open Source Toolkit é um conjunto de ferramentas de código aberto que oferece suporte à interpretabilidade dos modelos de machine learning, para ajudar a criar modelos de IA responsáveis e confiáveis. Este kit foi projetado para traduzir a pesquisa do laboratório para a prática real de domínios tão abrangentes quanto finanças, gerenciamento de capital humano, saúde e educação.