ChatGPT: O colega que não sabe do que você está falando

ChatGPT: O colega que não sabe do que você está falando

Toda empresa vive essa cena. Um novo profissional chega, é competente, bem formado, rápido. Ainda assim, nas primeiras semanas, erra mais do que o esperado. Não por incapacidade, mas por falta de contexto. Ele não conhece a história das decisões, as exceções não escritas, os acordos tácitos, os termos que ali significam outra coisa.
É comum tratar isso como curva de aprendizado. Na prática, trata-se de algo mais específico: a ausência de contexto operacional. O novo colega não sabe o que não perguntar, o que não propor e, principalmente, o que não assumir.
O uso cotidiano de modelos de linguagem expõe exatamente o mesmo problema, só que de forma mais explícita e, muitas vezes, mais perigosa.
Modelos de IA generativa não “entram na empresa”. Eles não observam reuniões passadas, não convivem com decisões mal documentadas, não sabem quais discussões já foram encerradas, nem quais temas são politicamente sensíveis. Tudo isso precisa ser fornecido. Sempre. Do zero.
A diferença é que, enquanto o novo colega costuma sinalizar insegurança, a IA responde com fluidez que pode enganar.
Em muitas organizações, o erro recorrente no uso de IA não está no modelo escolhido, nem na qualidade da resposta, mas na impressão de que o sistema entende o ambiente. Não entende!
Sem contexto suficiente, o modelo faz o que foi projetado para fazer: preencher lacunas de forma plausível. Ele completa o cenário da maneira mais estatisticamente coerente com o que recebeu. O problema surge quando o usuário confunde plausibilidade com alinhamento organizacional.
Um novo analista que não conhece a política interna pode sugerir algo tecnicamente correto e estrategicamente desastroso. Um modelo de IA faz o mesmo, com a vantagem (ou desvantagem) de escrever melhor.
Por isso, tratar contexto como algo opcional no prompt é um erro conceitual.
Existe hoje uma obsessão torno do prompt perfeito. Um bom prompt ajuda, mas não resolve o problema central. Mais importante que o prompt é o contexto.
Outro fator que agrava o problema é a sensação de continuidade conversacional. Interfaces de chat podem induzir a ideia de que há memória, acumulação, aprendizado progressivo. Na prática, o que existe é um recorte limitado de contexto ativo, que pode ser truncado, resumido ou descartado sem que o usuário perceba.
Ninguém espera que um novo colaborador tome decisões críticas sem supervisão, documentação e validação. Ainda assim, é comum permitir que um sistema sem qualquer conhecimento institucional produza análises, textos e recomendações que circulam livremente.
Essa é uma assimetria de expectativa.
Contexto, nesse cenário, pode ser um grande mecanismo de controle. É o equivalente organizacional a onboarding, manual interno e histórico de decisões, só que condensado em linguagem operacional.
Do contrário, estamos terceirizando julgamento para um sistema que não sabe onde está.
A IA precisa do mesmo insumo básico que qualquer novo colega: contexto suficiente para não cometer erros previsíveis. Qual é o melhor contexto para fonecer pode ser uma questão muito mais importante do que qual modelo utilizar.

As opiniões dos autores convidados da nossa comunidade são independentes e não necessariamente representam a opinião da Okai.