Inteligência Artificial nos Negócios: Sua Empresa Está Protegida e Segura?

A Inteligência Artificial é presente, se tornou uma realidade cotidiana no mundo dos negócios e, como toda inovação, é preciso refletir não apenas sobre o bônus, mas também o ônus. Por um lado, os assistentes virtuais ajudam na jornada do cliente, enquanto os agentes inteligentes automatizam processos internos, ou seja, nunca foi tão fácil colocar a IA para trabalhar a serviço das organizações. Segundo a McKinsey, mais de 78% das organizações já utilizam a ferramenta em pelo menos uma função de negócios, e 71% adotaram IA Generativa regularmente em 2024.

A contrapartida desse cenário é a reflexão a respeito da segurança dessas plataformas, pois um assistente de IA acessa informações sobre contratos, dados de clientes, resultados financeiros ou até estratégias de mercado. Caso exista falha na configuração de permissões ou ausência de políticas de segurança, essas informações podem chegar às mãos de alguém que não deveria ter acesso.

Parece um cenário abstrato, mas infelizmente, máquinas estão suscetíveis a erros desta magnitude se não forem bem programadas. Segundo o relatório AI Threat Landscape Report 2024 da HiddenLayer, 77% das empresas sofreram violações de segurança relacionadas à IA em 2023.

Empresas que ignorarem essa camada de segurança na adoção de IA estarão suscetíveis a riscos que vão muito além de multas regulatórias. Estão colocando em risco sua reputação, competitividade e sustentabilidade no mercado. E, quando informações são vazadas, a responsabilidade não é da IA, e sim de quem a colocou para rodar sem os devidos controles.

Para que agentes e assistentes inteligentes sejam, de fato, aliados seguros dos negócios, alguns princípios precisam ser tratados como cláusulas inegociáveis. O primeiro é a gestão de acesso e de contexto. Essas ferramentas só respondem dentro do escopo de dados e informações que aquele usuário, ou grupo de usuários, tem permissão para acessar. Sem isso, não há segurança. Também é indispensável a implementação de guard rails de IA, trilhos de segurança que impedem a geração de respostas inadequadas, enviesadas ou que exponham dados sensíveis.

Outro ponto crítico é o isolamento de dados sensíveis. Informações estratégicas e confidenciais não devem trafegar em ambientes externos, APIs (Application Programming Interface) abertas ou modelos públicos. A IA precisa operar sob os mesmos critérios de segurança que regem toda a infraestrutura corporativa.

Além disso, é fundamental garantir auditoria e rastreabilidade. Toda interação precisa ser registrada, permitindo saber quem perguntou, o que foi respondido e quando. Isso não é apenas segurança, é também compliance. Por fim, há a necessidade de avaliação e treinamento constantes.

As ferramentas de IA não são estáticas, elas aprendem, evoluem e, por isso, precisam ser continuamente monitoradas e ajustadas para assegurar que estejam sempre alinhados às diretrizes de segurança e governança da organização. Ou seja, é preciso que os desenvolvedores estejam atentos e atualizem as ferramentas sempre que necessário.

A IA chegou para ficar, não é possível falarmos de TI, sem tratar do impacto dessa tecnologia. O importante é lembrar que não existe meio-termo em segurança. Ou o sistema é projetado desde o início, de forma robusta, ou os riscos rapidamente superam os benefícios. Vazamentos de dados, exposições acidentais de informações estratégicas e falhas de compliance não são falhas da tecnologia, são falhas de quem a implementou sem os devidos controles. Na corrida pela adoção de IA, quem não olhar para segurança e governança, não estará à frente, estará vulnerável. A verdadeira Transformação Digital não é só inteligente. É, acima de tudo, segura.

*Ricardo Recchi regional manager Brasil e Portugal da GeneXus, empresa especializada em plataformas Enterprise Low-Code que simplificam o desenvolvimento e a evolução de softwares por meio da Inteligência Artificial.

Sobre GeneXus

A GeneXus by Globant, é uma empresa líder em plataformas de desenvolvimento de software Low-Code.

Em 2022, a empresa foi adquirida pela Globant, solidificando sua posição como parte integrante do grupo de empresas da multinacional para fortalecer ainda mais sua presença global e seu compromisso com a inovação tecnológica.

Como parte da Globant X, que é a divisão de produtos e plataformas, a GeneXus soma mais de 30 anos de experiência, tem sede no Uruguai e escritórios no Brasil, México, Estados Unidos e Japão, e se tornou a principal plataforma de desenvolvimento de software corporativo, permitindo que os usuários adotem novas tecnologias rapidamente.

Sua abordagem única para a criação de aplicações flexíveis baseadas em modelagem, geração e iteração, combinada com suporte para uma ampla variedade de bancos de dados e linguagens de programação, torna a GeneXus by Globant uma solução ideal para fechar a lacuna entre as infraestruturas de TI legadas e as novas tecnologias.

A empresa ainda mantém foco significativo nas últimas novidades da IA-Generativa, integrando esses recursos em suas ferramentas Low-Code para proporcionar soluções cada vez mais avançadas e alinhadas com as demandas do mercado de tecnologia.

Atualmente, a plataforma é utilizada por mais de nove mil empresas e 150 mil desenvolvedores para criar software empresarial baseado em dados executados em servidores, computadores desktop e na web, assim como em dispositivos móveis. Sua metodologia ágil e acelerada permite automatizar os processos que consomem mais tempo e recursos no desenvolvimento, manutenção, integração e modernização de aplicativos de negócios e sistemas de software.