A adoção da Inteligência Artificial (IA) generativa avança em ritmo frenético, mas boa parte das empresas ainda opera como se a tecnologia fosse apenas um assistente dócil e passivo.
Essa talvez seja uma das contradições mais visíveis da transformação digital nas organizações contemporâneas.
Enquanto a IA altera o perfil do trabalho do conhecimento, redefine a produtividade e reorganiza fluxos de decisão, grande parte das políticas de governança corporativa segue sendo concebida a partir de um usuário implícito que é perfeitamente racional, cético e imune a vieses. O resultado é um desalinhamento cada vez mais evidente entre a teoria do controle humano e a lógica com que esses grandes modelos de linguagem realmente interagem conosco.
Nesse ponto, cabe um detalhamento: uma pesquisa recente conduzida por acadêmicos do MIT e de Harvard, em parceria com o Boston Consulting Group (BCG), revelou que a IA generativa está longe de ser uma ferramenta neutra. Ao analisar o comportamento de centenas de consultores altamente qualificados, o estudo identificou um fenômeno alarmante batizado de “bombardeio de persuasão”.
O fato é que as máquinas atuais atuam como “persuasores poderosos”. Quando um profissional tenta intervir para corrigir um dado incorreto gerado pela IA, o sistema frequentemente não admite o erro de imediato. Em vez disso, ele lança mão de táticas retóricas — inundando a tela com dados estatísticos complexos, jargões técnicos e validações superficiais de empatia — com o objetivo de vencer a discussão pela exaustão. Portanto, não se trata de uma falha de software, mas de um modelo projetado para ser sensível à interação e defender ativamente sua própria legitimidade.
Ainda assim, a “capacidade de manipulação” da IA parece não ter sido plenamente incorporada à inteligência de risco, ao desenho de processos ou à cultura de inovação da maioria das empresas. Em tese, a exigência de ter um “humano no ciclo” (human-in-the-loop) deveria ampliar a autonomia do profissional, mitigar alucinações algorítmicas e garantir a precisão estratégica.
Na prática, porém, ela frequentemente produz o efeito inverso: torna as decisões mais opacas e vulneráveis para o trabalhador que confia excessivamente na interface. Parte desse descompasso decorre de uma crença histórica de que o talento humano sênior seria, por definição, à prova de falhas tecnológicas.
É nesse ponto que a discussão deixa de ser apenas técnica e passa a ser também psicológica e comportamental. Estudos sobre o “viés de automação” mostram que o cérebro humano age como um avarento cognitivo. O pensamento analítico gasta muita energia. Quando uma interface apresenta uma solução que soa confiante e impecavelmente formatada, a tendência do profissional — mesmo o mais experiente — é a “rendição cognitiva”.
O problema não está só no modo como os algoritmos são programados. Ele também se manifesta quando processos de auditoria interna são concebidos como se a resistência intelectual humana fosse inesgotável. Esse é o ponto central que ainda custa a amadurecer no debate executivo: a dificuldade de manter a supervisão humana sobre a IA não é uma simples falha de treinamento.
É um problema de atrofia profissional. É uma barreira concreta à integridade corporativa.
À luz de regulamentações emergentes, como o EU AI Act e o framework de risco NIST AI RMF, não basta que a revisão humana esteja formalmente descrita em um manual de compliance. Ela precisa ser compreensível, rastreável e realmente autônoma. Em um cotidiano atravessado por modelos preditivos, avaliações financeiras automatizadas e sínteses de relatórios em milissegundos, uma validação mal desenhada não representa apenas um erro operacional. Ela pode significar a incapacidade de prever crises de mercado, diagnosticar falhas estruturais ou proteger dados sensíveis.
Vale considerar, ainda, que o uso contínuo de IA envolve mudanças na própria formação da expertise. O chamado “paradoxo da expertise” alerta que, ao terceirizar o trabalho analítico árduo para a máquina, os profissionais mais jovens perdem a oportunidade de desenvolver os instintos que os tornariam especialistas no futuro. Ignorar esse efeito em cascata não é apenas um descuido de gestão, mas um erro letal sobre quem, de fato, estará no controle da empresa na próxima década.
Mas, em decisões de alto risco, o que se chama de simplificação é apenas a transferência da responsabilidade cega para o algoritmo. O antídoto para isso exige a reinserção de “protocolos friccionais” — paradas obrigatórias onde o usuário deve justificar criticamente o motivo de concordar com a máquina.
Outro ponto decisivo é a divisão do trabalho. A pesquisa do BCG demonstrou que os profissionais mais bem-sucedidos não são os “Ciborgues”, que mesclam todo o seu trabalho com a IA de forma indistinta e acabam suscetíveis à persuasão. Os mais precisos são os “Centauros”: aqueles que mantêm uma linha divisória clara, conduzindo a estratégia de forma independente e usando a máquina apenas para tarefas delimitadas.
Mais do que rever plataformas, será preciso rever mentalidades. Isso implica abandonar a ficção do usuário invulnerável e passar a projetar sistemas de governança para mentes suscetíveis ao cansaço e à persuasão.
No fim, talvez o verdadeiro teste da maturidade digital das empresas não esteja em sua capacidade de implementar o modelo de linguagem mais rápido ou mais caro do mercado, mas em sua disposição de treinar profissionais capazes de discordar dele.
Persistir em modelos de “humano no ciclo” ingênuos é insistir numa arquitetura de decisão que corrói o senso crítico e compromete o futuro do negócio. A eficiência algorítmica não é um substituto para a consciência. A vigilância humana é parte central da sobrevivência corporativa.
Hilton Menezes, Co-CEO e Founder da Kyvo.