A velocidade com que empresas incorporam chatbots e sistemas de IA supera a compreensão sobre o impacto jurídico dessas ferramentas. A tecnologia surge como promessa de eficiência, redução de custos e escala, mas, sem governança, não entrega agilidade: entrega risco. Já que o chatbot fala pela empresa.

Para o consumidor, não existe a justificativa “foi a máquina que respondeu”. A manifestação emitida por um modelo automatizado tem o mesmo peso de uma declaração oficial. Assim, quando há erro, promessa indevida, orientação equivocada ou tratamento inadequado, é o fornecedor quem responde, sempre. E isso já aparece repetidamente em processos reais.

Um dos cenários mais comuns é o de ultrapassar seu escopo, orientando de forma errada ou prometendo o que não pode cumprir. O consumidor acredita na resposta, e essa confiança cria vínculo jurídico. Aqui, não se discute falha tecnológica, mas responsabilidade objetiva por prestação inadequada do serviço.

Outro cenário recorrente envolve chatbots que discriminam, ofendem ou reproduzem vieses. Modelos sem curadoria replicam padrões distorcidos e, em setores como crédito, saúde, seguros e consumo, uma frase mal calibrada pode gerar dano moral. A empresa não pode alegar surpresa: quem escolhe, configura e disponibiliza a ferramenta responde por ela.

Há também o risco regulatório quando a ferramenta coleta ou trata dados pessoais sem base legal. Nesse caso, o problema ultrapassa o cível e alcança a LGPD, que não diferencia respostas humanas de automatizadas. Se houve tratamento irregular, a responsabilidade é integral da empresa, independentemente de intenção.

Esses cenários deixam claro que tecnologia sem governança cobra a conta. Implementar IA corporativa não significa simplesmente adotar ferramentas, mas definir limites de responsabilidade e garantir supervisão. Um chat robotizado, não substitui política interna, não improvisa decisão e não opera sozinho. É essencial que a organização estabeleça o que o modelo pode dizer, quem audita seu funcionamento, como mitigar erros e quem responde quando eles acontecem.

No fim, a responsabilidade nunca será do algoritmo. Ela é sempre da empresa que o coloca para falar em seu nome. E é essa consciência que diferencia organizações maduras de vulneráveis. A capacidade de governar a tecnologia antes que a tecnologia governe o risco.

Lucas Henrique Izidoro Marchi é advogado empresarial e especialista em Direito Empresarial e Estratégia Jurídica. Atua com governança corporativa e regulação de empresas públicas e privadas.