Logo
Imprimir esta página

Por que a inteligência artificial precisa ser regulamentada?

*Por Felipe Senise

Inteligências Artificiais sempre nos fascinaram, desde que eram uma fantasia da ficção científica. Eis que estamos vivendo em plena ficção, com as AIs sendo uma realidade no nosso dia a dia. Mas, tem algo para o que os produtos culturais não nos prepararam: os efeitos colaterais dessas tecnologias sobre uma parcela mal representada da sociedade.

No começo do ano, por exemplo, Nijeer Parks foi o terceiro homem negro erroneamente preso nos EUA após a utilização de uma IA pela força policial, que associou o seu rosto ao de um criminoso. Assim como é preciso considerar que essa tecnologia ainda está nos seus primeiros estágios e apresenta falhas naturais, também é preciso entender que a maneira pela qual as estamos programando é reflexo dos nossos vieses estruturais. Isso porque toda IA é fruto de uma programação, criada por seres humanos. E todos nós carregamos conosco percepções de mundo - e muitas delas são frutos de preconceitos estruturais e enraizados na sociedade.

Em 2019, o Instituto Nacional de Padrões e Tecnologias (NIST) divulgou um estudo que apresentou que esse tipo de tecnologia de reconhecimento facial tende a falhar 10 a 100 vezes mais na hora de identificar rostos de pessoas negras ou de descendência asiática do que quando comparado com pessoas caucasianas. No mesmo ano, a Rede de Observatório da Segurança, aqui no Brasil informou que 90% das 151 pessoas apreendidas com base no reconhecimento facial eram negras.

No mesmo ano, ocorreu outro caso emblemático, dessa vez, envolvendo a Apple, que sofreu acusações de liberar uma quantidade menor de crédito às usuárias do cartão Apple Card, mesmo com rendas similares às de homens. Até mesmo o seu cofundador, Steve Wozniak, tweetou que sua esposa passou pelo problema. O caso precisou ser investigado pelo Departamento de Serviços Financeiros do Estado de Nova York.

Um dos grandes motivos pelos quais essas falhas ocorrem é a falta de diversidade na área de tecnologia. Isso faz com que uma visão de mundo homogênea "infecte" os algoritmos, tornando sua eficácia no mínimo questionável e, no limite, um instrumento de aumento de desigualdade.

Temendo o fortalecimento da segregação, lugares como Nova Iorque já estão avançando nos debates para avaliar as formas mais éticas de uso das IAs. Lá, por exemplo, está sendo debatido um projeto de lei que, caso aprovado, fará com que as empresas revelem aos candidatos quando um processo seletivo estiver sendo realizado via inteligência artificial. Já no velho continente, a Comissão Europeia anunciou recentemente uma proposta que proíbe companhias de utilizar ferramentas de reconhecimento facial para analisar emoções humanas e traços de personalidade de seus funcionários ou candidatos a vagas de emprego.

A medida segue a tendência do território europeu de limitar impactos danosos na sociedade causados pela IA. Vale lembrar que, não há muito tempo, eles se propuseram a estudar a possibilidade de proibir por cinco anos esse tipo de tecnologia em locais públicos durante. No Brasil, ainda estamos lentamente dando os primeiros passos sobre o assunto no Senado Federal.

É fato que o ser humano sempre terá falhas e elas serão naturalmente levadas para suas IAs. Então, para que usemos o melhor da tecnologia e mitiguemos seus efeitos negativos, a sociedade precisa participar do debate. Como seu representante, o Estado precisa criar iniciativas de regulamentação, com pressupostos éticos e uma transparência muito maior do ponto de vista das empresas. Isso aliado a criação de normas e boas práticas, fará com que desfrutaremos do melhor que a tecnologia tem a oferecer, mas de forma harmoniosa, ética e igualitária.

*Felipe Senise é Partner & Head of Strategy da Ilumeo e Sócio Diretor na Sandbox Escola de Estratégia

Sobre a Ilumeo

A Ilumeo é uma consultoria de Data Science sediada em São Paulo que tem a missão de transformar dados em inteligência, utilizando tecnologia e métodos científicos inovadores. Em 8 anos, a consultoria já realizou mais de 500 projetos para grandes empresas e startups. Ciente do poder transformador da Ciência de Dados para além dos negócios, a Ilumeo também atua para gerar inteligência que impacte positivamente a sociedade e o mercado, por meio de projetos voltados à inovação, responsabilidade social e disseminação de conhecimento sobre Data Science. Essa atuação é sustentada pela conexão dos sócios-diretores (Diego Senise, Otávio Freire e Felipe Senise) com a Academia - a qual fortalece a expertise científica e inovadora da consultoria.


Compartilhe:: Participe do GRUPO SEGS - PORTAL NACIONAL no FACEBOOK...:
 
https://www.facebook.com/groups/portalnacional/

<::::::::::::::::::::>
IMPORTANTE.: Voce pode replicar este artigo. desde que respeite a Autoria integralmente e a Fonte...  www.segs.com.br
<::::::::::::::::::::>
No Segs, sempre todos tem seu direito de resposta, basta nos contatar e sera atendido. -  Importante sobre Autoria ou Fonte..: - O Segs atua como intermediario na divulgacao de resumos de noticias (Clipping), atraves de materias, artigos, entrevistas e opinioes. - O conteudo aqui divulgado de forma gratuita, decorrem de informacoes advindas das fontes mencionadas, jamais cabera a responsabilidade pelo seu conteudo ao Segs, tudo que e divulgado e de exclusiva responsabilidade do autor e ou da fonte redatora. - "Acredito que a palavra existe para ser usada em favor do bem. E a inteligencia para nos permitir interpretar os fatos, sem paixao". (Autoria de Lucio Araujo da Cunha) - O Segs, jamais assumira responsabilidade pelo teor, exatidao ou veracidade do conteudo do material divulgado. pois trata-se de uma opiniao exclusiva do autor ou fonte mencionada. - Em caso de controversia, as partes elegem o Foro da Comarca de Santos-SP-Brasil, local oficial da empresa proprietaria do Segs e desde ja renunciam expressamente qualquer outro Foro, por mais privilegiado que seja. O Segs trata-se de uma Ferramenta automatizada e controlada por IP. - "Leia e use esta ferramenta, somente se concordar com todos os TERMOS E CONDICOES DE USO".
<::::::::::::::::::::>

Copyright ©2002-2021 Clipping - Segs - Portal Nacional de Seguros, Saúde, Veículos, Informática, Info, Ti, Educação, Eventos, Agronegócio, Economia, Turismo, Viagens, Vagas, Agro e Entretenimento. - Todos os direitos reservados.- www.SEGS.com.br - IMPORTANTE:: Antes de Usar o Segs, Leia Todos os Termos de Uso.
SEGS é compatível com Browsers Google Chrome, Firefox, Opera, Psafe, Safari, Edge, Internet Explorer 11 - (At: Não use Internet Explorer 10 ou anteriores, além de não ter segurança em seu PC, o SEGS é incompatível)
Por Maior Velocidade e Mais Segurança, ABRA - AQUI E ATUALIZE o seu NAVEGADOR(Browser) é Gratuíto