O crescente uso de ferramentas de inteligência artificial (IA) tem intensificado o debate sobre quem deve ser responsabilizado por eventuais falhas desses sistemas. Com a rápida evolução da tecnologia, surgem preocupações relacionadas à disseminação de informações falsas, decisões equivocadas, além de possíveis prejuízos jurídicos, reputacionais e operacionais para empresas e instituições públicas. A discussão ganhou força à medida que os erros de sistemas de grandes modelos de linguagem (LLMs, na sigla em inglês) podem ter múltiplas origens, incluindo a qualidade dos dados utilizados no treinamento, a supervisão humana e a forma como a tecnologia é integrada aos processos.
Especialistas destacam que o problema não reside apenas na resposta incorreta emitida por uma IA, mas também nas decisões humanas que envolvem a definição de dados, regras, limites, além do desenvolvimento, supervisão e controle do sistema. Quando alimentada por dados inconsistentes, implantada em processos desorganizados ou utilizada sem a devida coordenação entre diferentes áreas, a IA tem potencial de ampliar falhas preexistentes e transmitir uma falsa impressão de precisão. Essa fragilidade se manifesta, por exemplo, na propagação de desinformação, que, segundo levantamento da Agência Lupa, foi responsável por 81,2% dos casos de checagens envolvendo IA entre 2024 e março de 2026.
Casos concretos ilustram os riscos dessas falhas. Em São Paulo, Ailton Alves de Sousa, morador de Heliópolis, foi conduzido quatro vezes à delegacia em um período de sete meses após ser confundido com um foragido por alertas do sistema de reconhecimento facial Smart Sampa, que utiliza IA. Essa situação evidencia como a ausência de mecanismos eficazes de correção, auditoria e revisão pode causar danos reais às pessoas. No ambiente corporativo, o risco de erros também aumenta à medida que o número de assistentes virtuais, agentes e projetos de IA que operam de forma isolada cresce, dificultando a comunicação entre sistemas e aumentando a possibilidade de falhas.
A responsabilidade por esses erros, portanto, envolve uma análise mais ampla, que inclui quem definiu os dados, as regras, os limites, além de quem supervisiona e controla o funcionamento da tecnologia. Rodrigo Cruz, vice-presidente de estratégia de crescimento e inovação da Keyrus no Brasil, afirma que a falha não está na IA em si, mas na ausência de uma estrutura de governança adequada. Segundo ele, a multiplicação de sistemas de IA sem uma arquitetura integrada resulta na fragmentação da gestão, na incoerência dos processos e na perda de controle estratégico.
Para uma inteligência artificial responsável, é fundamental que seu desenvolvimento e operação sejam pautados por critérios de transparência, segurança, rastreabilidade e supervisão humana contínua. Não basta adotar tecnologia avançada; é preciso compreender como as decisões são tomadas, acompanhar seu funcionamento e garantir auditorias frequentes, especialmente quando os resultados impactam consumidores, trabalhadores ou cidadãos. Além disso, a qualidade dos dados utilizados é um fator crítico, assim como a organização dos processos internos, a definição de regras de governança e o preparo das equipes envolvidas.
Segundo Cruz, medidas essenciais incluem a implementação de uma arquitetura sólida, que permita uma gestão coordenada e eficiente dos sistemas de IA. Quando bem estruturada, essa tecnologia pode liberar os profissionais para tarefas que nenhuma máquina consegue replicar, como compreender contextos complexos, criar soluções inovadoras e tomar decisões estratégicas. Uma IA bem governada não substitui o humano, mas o capacita a atuar de forma mais eficiente e diferenciada, promovendo maior segurança e controle para as organizações.
