Estamos entrando em uma fase da inteligência artificial na qual sistemas não apenas respondem perguntas. Eles executam tarefas, utilizam ferramentas, tomam decisões intermediárias e coordenam outros sistemas. A palavra mais usada para descrever esse movimento é autonomia.
Mas autonomia técnica não produz responsabilidade moral, jurídica ou institucional.
Um agente pode realizar uma ação sem que isso o torne responsável por suas consequências. A organização continua escolhendo onde o sistema atua, quais dados recebe, quais limites possui e quais resultados são aceitos.
Essa distinção parece óbvia. Na prática, corremos o risco de apagá-la justamente quando a automação começa a funcionar bem.
A linguagem da substituição é sedutora
Dizemos que a IA analisou, decidiu, atribuiu ou aprovou. Essa linguagem facilita a interação, mas pode esconder uma cadeia de escolhas humanas.
Alguém selecionou o modelo. Alguém definiu as instruções. Alguém concedeu acesso. Alguém decidiu que determinado nível de erro era aceitável. Alguém colocou o sistema em produção.
Quando o resultado é bom, descrevemos a automação como inteligente. Quando é ruim, não podemos tratá-la como uma força externa que simplesmente agiu.
Podemos delegar execução a uma máquina. Não podemos delegar a obrigação de responder por tê-la colocado em ação.
Compliance contém diferentes tipos de decisão
Nem toda atividade regulatória precisa do mesmo nível de intervenção humana. Localizar uma publicação, extrair uma data ou sugerir um resumo pode ser altamente automatizado. Avaliar aplicabilidade, aceitar risco ou declarar uma obrigação cumprida possui outra natureza.
O erro é tratar o processo como um bloco único. Quando fazemos isso, ou limitamos demais a automação ou concedemos autonomia onde ainda não definimos direitos de decisão.
Um desenho mais maduro separa tarefas, recomendações, decisões e atos formais. Para cada etapa, pergunta quem pode executar, quem precisa revisar e quem responde pelo resultado.
O humano no circuito não é uma resposta suficiente
“Human in the loop” se tornou uma expressão confortável. Ela sugere segurança sem explicar o que a pessoa realmente faz.
Uma aprovação automática, realizada sob pressão e sem acesso às fontes, é apenas um clique humano no fim de um processo opaco. Supervisão exige autoridade, tempo, contexto e capacidade de discordar.
Também exige que o sistema deixe claras suas limitações. A pessoa precisa saber se está revisando uma extração objetiva, uma inferência probabilística ou uma recomendação baseada em informações incompletas.
Uma supervisão que realmente funciona
- Define o que está sendo delegado.
- Expõe fontes e premissas relevantes.
- Permite corrigir, rejeitar ou interromper.
- Registra quem tomou a decisão final.
- Preserva evidências para revisão posterior.
- Aprende com erros sem ocultar responsabilidades.
Responsabilidade precisa ser desenhada
As empresas já possuem estruturas para distribuir autoridade: cargos, alçadas, segregação de funções, políticas e comitês. A era dos agentes exigirá que essas estruturas sejam traduzidas para sistemas digitais.
Agentes precisarão de identidades. Permissões precisarão ser mínimas e temporárias. Ações materiais precisarão de aprovações proporcionais ao risco. E cada execução precisará deixar uma trilha que permita reconstruir o que aconteceu.
Isso não é burocracia adicionada à IA. É a infraestrutura que permitirá usar IA em processos cada vez mais importantes.
A oportunidade é ampliar a responsabilidade humana
Automatizar tarefas repetitivas pode criar mais espaço para julgamento. Um analista que não precisa mapear manualmente cada trecho de uma norma pode dedicar mais atenção à aplicabilidade e ao impacto. Uma equipe que não precisa cobrar prazos por e-mail pode se concentrar nos bloqueios reais.
Mas esse resultado não é automático. Se a organização usar IA apenas para aumentar volume e velocidade, pode terminar com mais decisões e menos compreensão.
Na Okai, buscamos um desenho em que a IA prepare, estruture e recomende; pessoas avaliem, priorizem e decidam; e o sistema preserve o caminho completo. A tecnologia amplia a capacidade de execução sem esconder a responsabilidade institucional.
O avanço da automação é desejável. Há muito trabalho mecânico que pode e deve ser reduzido. O princípio que precisamos preservar é simples: quanto mais um sistema consegue fazer, mais claramente devemos saber quem permitiu, quem supervisionou e quem responde.
Documento localizado por meio da Okai.
