Durante muito tempo, autoria e responsabilidade caminharam praticamente juntas. Quem desenhava uma política frequentemente era quem a aprovava. Quem a aprovava normalmente respondia por ela. Quem executava o processo fazia isso dentro de limites relativamente claros. Mesmo quando existiam erros, havia uma narrativa plausível sobre como aquela decisão havia sido construída. Essa correspondência começa a desaparecer. A Inteligência Artificial não elimina essa narrativa. Ela a fragmenta.
A verdadeira ruptura não está em máquinas tomando decisões. Está no fato de que decisões passam a ser produzidas por arquiteturas híbridas, compostas por pessoas, modelos, agentes, regras, sistemas e processos, até que se torne cada vez menos evidente quem, afinal, pode ser considerado o autor daquela decisão.
Essa diferença parece sutil. Não é. E talvez nenhum caso ilustre isso melhor do que um dos maiores escândalos administrativos da história recente da Europa.
Um caso que não começou com IA generativa
Em 2013, a Belastingdienst, autoridade tributária da Holanda, implantou um sistema algorítmico para auxiliar na identificação de possíveis fraudes em pedidos de auxílio-creche. O modelo classificava famílias segundo perfis de risco e utilizava, entre outros fatores, a nacionalidade. Anos depois, investigações da Autoridade Holandesa de Proteção de Dados e da Amnesty International concluíram que esse uso produzia discriminação e violava princípios fundamentais de proteção de dados e igualdade de tratamento.
As consequências foram devastadoras. Milhares de famílias foram tratadas como suspeitas de fraude, sofreram cobranças incompatíveis com sua capacidade financeira, enfrentaram endividamento, perda de emprego, despejos e graves impactos sociais. Em janeiro de 2021, o gabinete do primeiro-ministro Mark Rutte renunciou coletivamente em razão do escândalo.
O aspecto mais interessante dessa história, porém, não é o algoritmo. É a autoria. Quem foi o autor daquela decisão? Foi o modelo que classificava os pedidos? Foi o servidor público que analisava os casos? Foi quem desenvolveu o sistema? Foi quem definiu seus parâmetros? Foi quem estabeleceu uma política pública de combate rigoroso à fraude? Foi quem aprovou o orçamento do projeto? Ou foi a própria organização que, ao integrar todas essas decisões, produziu um resultado que nenhum indivíduo, isoladamente, teria produzido?
Cada uma dessas respostas parece parcialmente correta. E justamente por isso nenhuma delas parece suficiente.
Um problema que a filosofia já via chegar em 1996
Muito antes dos grandes modelos de linguagem, dos agentes autônomos e das cadeias de decisão baseadas em IA, a filósofa Helen Nissenbaum já chamava a atenção para um fenômeno semelhante. Em seu clássico “Accountability in a Computerized Society”, publicado em 1996, ela descreveu o chamado problem of many hands: situações em que tantas pessoas participam da construção de uma decisão que se torna extremamente difícil identificar quem deve responder por ela. Não porque ninguém tenha participado. Mas porque todos participaram apenas parcialmente.
O caso holandês é esse problema em ação, décadas depois de descrito, só que em escala de Estado, não de departamento. A Inteligência Artificial não cria esse problema. Ela o potencializa dando um verniz de sofisticação jamais antes visto.
De “onde a IA pode ser usada” para “quem tem o direito de decidir”
Um software tradicional executava regras previamente definidas. Um agente de IA interpreta contexto, produz inferências, escolhe caminhos possíveis, aciona outros sistemas e devolve recomendações que frequentemente já não podem ser explicadas apenas pela lógica linear de quem programou seu funcionamento. Quanto maior a autonomia concedida a essas arquiteturas, maior a distância entre quem desenhou o processo e aquilo que efetivamente acontece quando ele entra em operação.
É por isso que o debate corporativo está mudando de pergunta. Não basta mais decidir quais tarefas uma IA pode executar. É preciso definir quem tem o direito de decidir o quê, e essa é justamente a lacuna que um estudo recente do MIT Center for Information Systems Research tenta preencher.
Publicado em junho de 2026, com base em 30 entrevistas com 27 executivos de nove empresas globais, o AI Decision Matrix organiza as decisões em duas dimensões: ambiguidade e risco. Aprovar uma nota fiscal repetitiva não é o mesmo que decidir uma demissão. Quanto mais previsível e reversível a decisão, maior o espaço de autonomia possível para a IA. Quanto mais ambígua e consequente, maior a necessidade de julgamento e responsabilidade humana explícitos.
A One NZ, operadora de telecomunicações neozelandesa citada no estudo, ilustra bem essa régua na prática: já operava, no início de 2026, com mais de 50 agentes de IA. Em tarefas de baixo risco, os agentes automatizam o processo quase inteiro. Em decisões estratégicas, a IA analisa e apresenta alternativas, mas a decisão final continua sendo humana, de forma deliberada. Seguindo esta lógica: quanto menor a ambiguidade e menor o impacto da decisão, maior pode ser a autonomia concedida à IA. Quanto maior a incerteza ou as consequências envolvidas, maior deve ser a presença explícita de julgamento humano.
A governança que chega depois da adoção
Enquanto empresas discutem matrizes de decisão, boa parte da adoção real de IA já está acontecendo por fora delas. Um levantamento do MIT Project NANDA, publicado em 2025, identificou que funcionários de mais de 90% das empresas pesquisadas já usam ferramentas pessoais de IA para tarefas de trabalho, enquanto apenas 40% das empresas têm assinaturas corporativas oficiais de LLMs.
A diferença entre esses dois números é reveladora: a tecnologia costuma entrar na organização muito antes de a organização decidir, formalmente, como vai governá-la. E é exatamente nesse intervalo, entre o uso real e a política que ainda não existe, que a autoria de uma decisão começa a se perder de vista.
A tecnologia entrou nas organizações antes da governança. E talvez isso explique por que tantas empresas ainda estejam tentando responder uma pergunta que parece simples, mas já deixou de ser: quando uma decisão passa por um colaborador, por um modelo de IA, por um agente que consulta outros sistemas, por políticas escritas meses antes e por critérios definidos por pessoas que sequer participaram da execução, quem é, afinal, o autor daquela decisão?
O déficit de autoria da decisão
É nesse espaço que proponho o conceito de déficit de autoria da decisão.
Chamo de déficit de autoria da decisão o descolamento progressivo entre quatro elementos que, durante muito tempo, caminharam praticamente juntos dentro das organizações: quem desenha uma decisão, quem decide, quem executa e quem responde por ela.
O déficit de autoria não significa ausência de responsabilidade. Também não significa ausência de rastreabilidade. Na maioria dos sistemas modernos, reconstruir tecnicamente uma decisão é perfeitamente possível. Existem logs, registros, prompts, modelos, fluxos de aprovação e trilhas completas de auditoria. O problema não é descobrir o que aconteceu. O problema é descobrir quem, legitimamente, pode reconhecer aquela decisão como sua.
É possível, portanto, ter uma trilha de auditoria perfeita e, ainda assim, ter um déficit de autoria completo. Essa é a parte que mais escapa quando se discute governança de IA: todos conseguem explicar como a decisão aconteceu. Poucos conseguem afirmar, sem ressalvas, que foram seus autores.
E é nesse espaço que nasce uma assimetria curiosa. Quando olhamos para dentro da organização, a autoria parece dissolver-se.
O agente apenas executou um processo previamente definido. O gestor apenas aprovou uma política elaborada por outra área. O arquiteto apenas implementou requisitos que recebeu do negócio. O jurídico apenas validou riscos regulatórios. A alta liderança definiu metas estratégicas, mas não participou daquela decisão específica. Cada uma dessas afirmações pode ser verdadeira. E, paradoxalmente, todas elas podem ser insuficientes para identificar um único autor.
A cada novo nível hierárquico surge uma decisão anterior que condiciona a seguinte. A autoria deixa de parecer um ponto e passa a parecer uma cadeia. Internamente, portanto, o déficit de autoria produz algo bastante específico: uma organização repleta de autores parciais, mas incapaz de apontar um autor completo.
O problema é que essa lógica desaparece completamente quando olhamos para fora da empresa. O mercado tampouco diferencia a decisão do arquiteto, do gestor, do operador ou da ferramenta utilizada. Todos olham para uma única entidade: a empresa. É ela quem responde.
É exatamente aqui que o déficit de autoria revela sua face mais perigosa. Quando algo dá errado, a organização procura um responsável interno. E, na ausência de um autor evidente, a responsabilidade frequentemente escorre pela estrutura hierárquica até encontrar o elo mais vulnerável da cadeia: quem executou a última etapa visível do processo.
Enquanto isso, do lado de fora, acontece exatamente o movimento oposto. O mercado, os clientes, os acionistas e os reguladores ignoram essa fragmentação interna e concentram toda a responsabilidade na própria organização. Internamente, a autoria se fragmenta. Externamente, a responsabilidade se concentra.
A mudança de conceito de responsabilidade e autoria
Durante décadas, responsabilizar alguém significou uma coisa simples: encontrar quem apertou o botão. Funcionava, porque decisão e execução quase sempre aconteciam em poucas pessoas ou na mesma pessoa, no mesmo instante.
E se a maior revolução tecnológica da história estiver tornando a autoria progressivamente distribuída, enquanto a responsabilidade permanece concentrada? Talvez a pergunta mais importante da transformação em IA nunca tenha sido “até onde uma máquina pode decidir”. Talvez seja outra. Como uma organização, seja ela pública ou privada, pretende atribuir autoria quando suas decisões deixarem definitivamente de possuir um único autor?
Essa é uma pergunta que ultrapassa a tecnologia. Ela alcança o direito, a administração, a filosofia, a governança corporativa e a própria teoria das organizações. Porque sociedades não responsabilizam algoritmos. Não responsabilizam modelos. Não responsabilizam agentes.
É possível, então, que o verdadeiro desafio não seja construir inteligências artificiais mais capazes, afinal, nós já sabemos que conseguimos solucionar isso. Precisamos reconstruir a própria ideia de autoria e responsabilidade, antes que deixemos definitivamente de saber quem responde pelo quê, e esse déficit de autoria se torne, no final das contas, o maior risco da Inteligência Artificial no futuro próximo.
O post O maior risco da Inteligência Artificial não é ela errar. É ninguém saber quem decidiu. apareceu primeiro em MIT Technology Review - Brasil.