A organização na era da IA vista pela "teoria dos limites da empresa na era da IA"

As discussões sobre agentes de IA tendem a girar em torno de como devem ser as organizações e os gestores dentro das empresas. Provavelmente porque a "organização" é aquilo com que executivos e profissionais lidam no dia a dia.

No entanto, a forma da organização interna de uma empresa é determinada, antes de tudo, pela forma da própria empresa.

Sendo assim, antes de pensar na organização interna, deveríamos primeiro pensar na forma e nos contornos da empresa na era da IA — em outras palavras, em "como os agentes de IA vão redesenhar a fronteira entre uma empresa e outra".

Ao assumir esse ponto de vista um nível mais meta e só então pensar na organização, acredito que a discussão possa se ligar não a uma mera eficiência operacional, mas a uma teoria da organização como elemento da estratégia competitiva na era da IA.

Por isso, neste texto, quero ensaiar uma "teoria dos limites da empresa na era da IA" e, a partir dela, pensar a teoria da organização.

Concretamente, vou examinar os contornos da empresa na era dos agentes de IA sob perspectivas como: com a difusão dos agentes de IA, que tipos de empresa conseguirão reduzir seu tamanho, e as grandes empresas de plataforma ficarão ainda mais fortes ou mais fracas? Acredito que isso também traga implicações do ponto de vista da estratégia de gestão de startups.

Mas atenção: este é apenas um ensaio para propor uma mudança de perspectiva, não uma previsão do tipo "as coisas serão assim". Além disso, a resposta a essa pergunta muda muito conforme o desempenho que os agentes de IA venham a ter. Neste texto, parto do pressuposto de uma IA um pouco melhor que a atual, do tipo "os agentes de IA são bastante úteis, mas não é possível confiar totalmente neles sem avaliação, auditoria e gestão de permissões".

Por que as empresas existiram

Para pensar a empresa na era dos agentes de IA, é preciso considerar por que as empresas existiram até hoje, ou seja, como se traçam as fronteiras da empresa.

O ponto de partida a que devemos recorrer para pensar a empresa é, provavelmente, The Nature of the Firm, de Ronald Coase. Coase buscou a razão de existir das empresas no custo das transações de mercado. Procurar uma contraparte, negociar, contratar e verificar o cumprimento dão trabalho. As atividades em que esse trabalho é grande acabam incorporadas ao interior da empresa.

Oliver Williamson desenvolveu esse argumento como uma questão de governança. Em investimentos que dependem de uma contraparte específica, em transações contínuas e em atividades com muita incerteza, coordenar dentro de uma organização é mais estável do que contratar no mercado a cada vez.

Contudo, trazer o trabalho para dentro da empresa não torna tudo mais barato. Dentro da empresa também existem custos de outro tipo, como o custo de coordenação interna e o custo da burocracia.

Essa forma de pensar da economia dos custos de transação deve continuar valendo na era da IA. A fronteira da empresa muda conforme a comparação entre o custo de transacionar no mercado e o custo de coordenar dentro da organização. Se for assim, observar como a IA altera cada um desses custos facilita pensar em como mudarão os contornos da empresa.

Além disso, Theory of the Firm: Managerial Behavior, Agency Costs and Ownership Structure, de Jensen e Meckling, enxergou a empresa como um problema de agência entre as partes interessadas. Como os interesses de acionistas, executivos, funcionários e clientes não coincidem totalmente, tornam-se necessários remuneração, monitoramento e prestação de contas. Já a teoria dos contratos incompletos, de Grossman e Hart, mostrou que, justamente porque há um futuro que não cabe por inteiro no contrato, é importante quem detém os direitos residuais de decisão.

Resumindo tudo isso, temos o seguinte.

Internaliza atividades que seriam caras demais para contratar no mercado a cada vez.
Protege investimentos de longo prazo e conhecimento tácito.
Controla o acesso a recursos importantes.
Torna-se o destinatário das perdas e das responsabilidades.
Garante qualidade e continuidade a clientes e à sociedade.
Num contexto de contratos incompletos, detém a autoridade para a decisão final.

Ou seja, a empresa pode ser entendida não como um mero conjunto de pessoas, mas como uma instituição que reúne várias funções.

Na era dos agentes de IA, esse recipiente chamado empresa passará a reunir não só os elementos tradicionais — pessoas, capital, marca e responsabilidade jurídica —, mas também agentes de IA, dados e modelos.

Os agentes de IA alteram vários custos ao mesmo tempo

Com base nessas teorias, vamos pensar em como os agentes de IA mudarão a forma da empresa.

Primeiro, consideremos que custos tendem a mudar.

(1) O custo de busca diminui

Os compradores conseguem comparar rapidamente fornecedores, preços, qualidade, histórico e alternativas. Os vendedores também podem usar a IA para pesquisar potenciais clientes, conteúdo de propostas, definição de preços e informações sobre concorrentes. Aumenta o número de participantes do mercado, e transações mais granulares passam a se concretizar com mais facilidade.

(2) O custo de contratação diminui

A IA passa a poder se encarregar, até certo ponto, da redação preliminar de especificações, contratos, cláusulas de risco, condições de aceite e similares. Com isso, fica mais fácil contratar até mesmo transações pequenas, que antes não compensavam.

(3) Os custos de execução e monitoramento diminuem em parte

Os agentes de IA conseguem decompor tarefas, verificar o andamento, detectar anomalias, produzir relatórios e chegar até o processamento de pagamentos. Com isso, o custo de combinar profissionais e empresas externas diminui em parte.

(4) Surgem custos de transação entre agentes

Passamos de um mercado em que humanos olham sites e escolhem para um mercado em que agentes de IA leem e negociam APIs, permissões, reputação, preços, prazos e condições contratuais. Nesse mercado surgem custos de transação entre IAs e custos como o histórico de desempenho e os logs de auditoria necessários para isso.

(5) Os custos de confiança, responsabilidade e auditoria aumentam

À medida que a IA executa uma tarefa atrás da outra, as entregas aumentam na mesma proporção e, com o aumento das entregas, aumentam as responsabilidades; por isso, a responsabilidade em caso de falha se torna um problema. Os custos de verificação e auditoria para isso aumentarão.

Resumindo até aqui, fica mais fácil entender a fronteira da empresa da seguinte forma.

Condição em que a terceirização (mercado) tende a avançar

Custo de transação de mercado + custo de confiança, auditoria e responsabilidade < custo de coordenação interna + custo da burocracia

Condição em que a internalização (empresa) tende a avançar

Custo de transação de mercado + custo de confiança, auditoria e responsabilidade > custo de coordenação interna + custo da burocracia

A IA reduz o custo de transação de mercado, do lado esquerdo. Ao mesmo tempo, pode aumentar o custo de confiança, auditoria e responsabilidade, também do lado esquerdo. Além disso, reduz o custo de coordenação interna, do lado direito.

Portanto, o que se pode dizer a partir daqui é que, embora não se determine em uma única direção se os agentes de IA farão as empresas encolherem ou fortalecerão as grandes empresas e plataformas, o importante é observar qual custo cai, em que área e em que medida.

Além disso, dependendo do desempenho futuro dos agentes de IA, o custo de qualquer um dos lados da fórmula pode mudar, e isso altera se avançará a mercantilização ou a concentração. Se for possível estimar corretamente até onde irá essa melhora de desempenho, deverá ficar visível uma forma de empresa mais adequada.

Que empresas ficarão menores e quais ficarão mais fortes

O quadro geral é o descrito acima, mas, se olharmos de forma um pouco mais micro para as áreas de atuação das empresas, acredito que surjam tendências aproximadas por tipo de empresa.

(1) As microempresas aumentam

Quando, graças aos agentes de IA, uma pessoa ou uma equipe de poucas pessoas passar a executar um trabalho que antes exigiria dez ou cem pessoas, a empresa deixará de ser uma organização com muitos empregados e se tornará uma pequena entidade de negócios que reúne IAs e outros recursos.

Essa tendência se reforça especialmente em áreas com características como:

as entregas são verificáveis;
o dano em caso de falha é limitado;
a regulação é leve;
o acesso aos dados é claro;
é fácil combinar ferramentas externas.

Exemplos são consultoria, software, educação, mídia, pesquisa, design e parte dos serviços especializados.

Em empresas desse tipo, o número de pessoas que pertencem a elas será pequeno, mas, como os agentes de IA serão relativamente mais numerosos, será preciso adotar uma forma de gestão organizacional adequada a isso.

Contudo, é preciso atentar para o fato de que essas microempresas provavelmente dependerão de plataformas como nuvem, pagamentos, modelos de IA, autenticação, seguros e marketplaces. Por exemplo, os atuais freelancers deixariam de ser indivíduos e se firmariam como microempresas formadas por "poucos indivíduos + um conjunto de agentes de IA", que assumiriam diversas execuções em plataformas de crowdsourcing — algo próximo disso.

(2) As empresas com infraestrutura de transação entre agentes ficam mais fortes

Quanto mais agentes de IA existirem, mais será necessário verificar se o agente de IA e a parte que está por trás dele são genuínos, se têm autoridade, se têm capacidade de pagamento e se a entrega é segura. Como resultado, aumenta o valor das plataformas que reúnem e garantem identidade, autenticação, pagamentos, reputação, logs, seguros e resolução de disputas.

Isso, em termos coasianos, parece uma mercantilização decorrente da queda do custo de transação de mercado. Na prática, porém, significa que o próprio mercado pode passar a depender de um pequeno número de infraestruturas. Para que agentes de IA transacionem entre si, são necessários protocolos comuns, APIs, gestão de permissões e logs de auditoria, e as bolsas dessa economia de agentes têm efeitos de rede, de modo que alguma plataforma tenderá a se aproximar de um cenário em que o vencedor leva tudo.

Portanto, os agentes de IA dispersam parte dos mercados e, ao mesmo tempo, concentram a infraestrutura do mercado. E, quanto mais o mercado se expande, maior o valor da base de confiança que o faz funcionar.

(3) As empresas que assumem responsabilidade ficam mais fortes

Empresas em que um pequeno número de pessoas permanece no núcleo e delega a execução periférica a agentes de IA e a especialistas externos tornam-se empresas que assumem responsabilidade, marca, relacionamento com o cliente, autoridade sobre dados, garantia de qualidade e o seguro para casos de dano.

Por exemplo, é possível que uma empresa de dez pessoas faça, com agentes de IA, o trabalho que antes exigiria cem. O importante então não é que as dez pessoas processem diretamente cem tarefas de execução, mas que, depois de distribuir autoridade aos agentes de IA, verifiquem os resultados e assumam a responsabilidade final por eles.

Quanto mais dispersa a execução, mais clara precisa ser a pessoa responsável. Isso porque, para o cliente, mais importante do que saber se foi feito por IA ou por um humano é saber quem dá a garantia.

E, quanto mais a IA executa e mais resultados são gerados, maior se torna a responsabilidade que essa empresa carrega. Se algumas entregas falharem e o valor da indenização aos clientes superar o que a empresa consegue pagar, ela quebra.

Ou seja, por mais que se consiga executar, muitas empresas provavelmente só se expandirão até o grau de responsabilidade que conseguem suportar. Portanto, mesmo que a IA amplie a capacidade de execução, a expansão da empresa acaba limitada pela capacidade de assumir responsabilidade.

(Aliás, a responsabilidade limitada da sociedade anônima é, originalmente, uma instituição social que permite enfrentar negócios de alta incerteza, e deveria ser possível assumir esse tipo de risco dentro de uma faixa racional, mas na prática não são muitas as empresas que chegam a assumir tanto risco. Já as startups são, relativamente, um recipiente que assume risco com mais facilidade; assim, pisando mais fundo no acelerador do que as empresas estabelecidas e assumindo riscos maiores que os anteriores — "se usarmos os agentes de IA ao máximo, podemos assumir risco e responsabilidade até este ponto" —, talvez consigam crescer.)

Esse formato tende a se difundir em serviços especializados, software B2B, pesquisa, consultoria, áreas auxiliares de jurídico e contabilidade e serviços voltados a indústrias de nicho.

(4) As empresas que conseguem governar dados ficam mais fortes

O desempenho de um agente de IA não é determinado apenas pela capacidade geral do modelo. Gerenciar dados de clientes e logs operacionais, aprender com o histórico de falhas, às vezes tratar exceções e ter acesso a conhecimento especializado e ao contexto de uso fazem grande diferença quanto a conseguir ou não aproveitar o modelo.

Power in a Theory of the Firm, de Rajan e Zingales, explica o poder dentro da empresa não só pela propriedade, mas também pelo acesso a recursos importantes; a fronteira da empresa é determinada não apenas por "quem está empregado", mas por "quem pode fazer com que dados sejam usados, para qual finalidade e por qual modelo". Contudo, na era dos agentes de IA, em vez de bastar à empresa ser dona de dados próprios, talvez o que determine o aproveitamento da IA seja se ela consegue administrar o círculo de permissões para o uso dos dados. Isso porque os dados a que se tem acesso determinam as entregas da IA.

Nesse caso, a capacidade de gerenciar dados com segurança — consentimento, autoridade, reutilização e auditoria — passa a ser uma vantagem competitiva da empresa. Quanto mais os agentes de IA substituem o trabalho, mais o desenho do acesso a dados define a fronteira e a vantagem competitiva da empresa.

Acredito que essa direção será importante em áreas como saúde, finanças, educação, manufatura, pesquisa e desenvolvimento e atendimento ao cliente.

(5) Aumenta a necessidade de empresas de AgentOps

Muitas empresas deixarão de conseguir assumir sozinhas a avaliação de modelos de agentes de IA, a gestão de permissões, a auditoria de logs e a resposta a incidentes. Isso significa que, quanto mais uma empresa passa a usar agentes de IA, mais surge demanda por especialistas que sustentem seu ambiente de execução.

O que se exige aqui não é a mera operação de modelos, mas a operação de todo o ambiente de execução dos agentes de IA. Não basta olhar a precisão do modelo: é preciso gerenciar quais dados o agente lê, quais ferramentas usa, até onde executa automaticamente e em que ponto volta para a aprovação humana — se o modelo está conectado ao trabalho e aos dados, se os acidentes são reduzidos, se é auditável e se pode ser interrompido quando necessário.

É, por assim dizer, o território do AgentOps, e não do MLOps.

Parte disso poderá ser internalizada, com especialistas em AgentOps alocados dentro da empresa. Por outro lado, também surgirão terceirizadas que sustentem o AgentOps de fora. Não serão meras integradoras de sistemas (SIers), mas empresas a quem se confia o AgentOps de construir com segurança, monitorar e melhorar o ambiente de execução de IA das empresas. É como a versão para IA das empresas que, numa fábrica da indústria de transformação, prestam serviços de implantação e manutenção de robôs.

É claro que também é muito provável que empresas de plataforma como a OpenAI fortaleçam essas funções de operação de modelos.

(6) Em áreas de alto risco, permanece a empresa como recipiente de responsabilidade

Em áreas regulamentadas, como saúde, finanças, jurídico, compras públicas e infraestrutura, mesmo que a IA auxilie, permanecem a autorização, a prestação de contas, a supervisão, a indenização e o seguro.

A empresa se torna menos uma executora e mais um recipiente de responsabilidade perante a sociedade e, por isso, em áreas de alto risco, os agentes de IA, em vez de desmontar a empresa, reforçam sua função de assumir responsabilidade.

Resumindo a discussão até aqui, obtemos o seguinte diagrama.

A organização interna se aproxima de projetos por entrega

O que foi dito até aqui são conjecturas aproximadas. Ainda assim, acredito ser melhor, depois de discutir dessa forma e pensar em como mudarão as fronteiras e a forma das empresas, pensar como mudará a forma da empresa na nossa própria área e, a partir daí, como mudará a organização interna, fazendo isso área por área.

Em princípio, poderíamos parar na discussão até aqui, mas vou dar mais um passo e discutir também a teoria da organização interna.

Seguindo esse fluxo, como grande direção, talvez atue mais do que antes uma força segundo a qual os departamentos que detêm responsabilidade permanecem de forma duradoura, enquanto as organizações encarregadas da execução passam a ser por projeto.

Por exemplo, os departamentos que detêm responsabilidade, como gestão, jurídico, gestão de riscos e segurança, passarão a definir o escopo a confiar aos agentes de IA, as condições de interrupção, os logs a manter, os aprovadores e os responsáveis.

Já os departamentos de execução serão divididos em pequenos projetos com objetivo específico, prazo, orçamento, autoridade sobre dados, agentes de IA, responsável humano e critérios de aceite, criados para cada objetivo — como "validar a hipótese de cliente de um novo mercado" ou "migrar o código existente" — e tendem a assumir a forma de se dissolver quando a entrega é aceita. Nesse caso, os logs e o aprendizado permanecem na empresa e são usados no aprendizado seguinte.

O papel dos departamentos funcionais também terá uma coloração mais de autoridade e responsabilidade do que de execução.

Por exemplo, em desenvolvimento, a maior parte da execução fica com os agentes de IA, e os humanos, em compensação, detêm a arquitetura, os padrões de qualidade, a segurança e a autoridade de levar à produção. (Isso talvez já esteja acontecendo.)

O jurídico define modelos de contrato, classificação de riscos e condições de escalonamento, e assume a responsabilidade. Já o RH passa a projetar quais capacidades manter nos humanos, quais complementar com IA e quais comprar do mercado. O fato de o responsável de RH acumular também a função de responsável por IA, algo que ocorreu recentemente também no Japão, parece refletir esse tipo de desenho organizacional.

O papel dos gestores também muda.

A função de roteamento de informações para o funcionamento da organização, como acompanhar o andamento e receber relatórios, tenderá a se enfraquecer gradualmente. O que passa a ser importante, em vez disso, é decompor propósito e metas para gerar resultados, decidir a autoridade e o trabalho a repassar à IA e definir as exceções que os humanos devem examinar. O "número de subordinados humanos" talvez diminua, mas o desenho e a operação de equipes mistas de pessoas e IA tornam-se, ao contrário, mais importantes.

Além disso, permanece para os gestores o papel de decidir com informações incompletas e assumir a responsabilidade em caso de falha. A negociação política em torno da alocação de recursos dentro da organização também não desaparece. Por exemplo, uma negociação como "como meu time tem esta importância para o negócio, quero um orçamento de uso de IA maior que o de outros departamentos" ocorrerá enquanto os recursos forem limitados e, como parte das informações sobre as premissas necessárias para a decisão é incompleta, a IA não consegue derivar de forma única uma solução ótima.

Contudo, a transformação em projetos também tem efeitos colaterais. A formação de pessoas no longo prazo se torna difícil, e o conhecimento tácito e a cultura organizacional podem se enfraquecer. Além disso, pode haver uma inclinação a resultados de curto prazo. Por isso, a organização na era dos agentes de IA é desafiada a conciliar a capacidade de execução dos projetos de curto prazo com a formação de capacidades no longo prazo.

E, quanto mais a IA substitui a execução, menos oportunidades os jovens têm de aprender errando. Por isso, talvez as empresas precisem projetar separadamente o trabalho que será tornado mais eficiente e o trabalho que será mantido de propósito para a formação das pessoas. (Ou, então, terceirizar a educação para fora da empresa e contratar apenas quem já é pronto para atuar.)

De qualquer modo, o desenho organizacional deixa de ser apenas a alocação de pessoal e passa a ser a questão de como alocar autoridade, responsabilidade, dados e IA.

Além do organograma, serão necessários o mapa de autoridade e o mapa de responsabilidade

O aumento da interação com entes que agem de forma autônoma, como os agentes, significa, no trabalho de hoje, que ocorrerá em grande quantidade a tarefa de "freelancers e terceirizados humanos entrando e saindo da empresa numa velocidade inédita, aos quais é preciso delegar bem o trabalho e depois aceitar as entregas".

Mesmo hoje, em situações com muitos terceirizados, surgem problemas como deixar claro o que se espera que façam e até onde divulgar informações a membros temporários; a organização com agentes de IA é a versão ampliada disso.

E, se esse desenho for errado, os agentes de IA podem enviar involuntariamente informações confidenciais a serviços externos como o GitHub, alterar o ambiente de produção mantendo permissões excessivas ou executar operações inadequadas por instruções embutidas em documentos externos.

Ou seja, na era dos agentes de IA, em vez da alocação de pessoas, algo concreto e fácil de entender, torna-se mais importante lidar com coisas de alto grau de abstração, como autoridade e responsabilidade.

Em outras palavras, o que se deve fazer é, além do organograma tradicional em unidades de "pessoas",

Organograma: quem pertence a onde
Mapa de autoridade: quem pode delegar a quais agentes e pessoas quais ações (incluindo dados)
Mapa de responsabilidade: quem assume acidentes e danos, explicações a clientes e atendimento a auditorias

preparar, em granularidade mais fina, vários mapeamentos como esses.

Em especial, o que os agentes de IA precisam não é da autoridade abrangente que os funcionários têm, mas de uma autoridade temporária, limitada a cada finalidade. É preciso definir, por unidade de trabalho confiada à IA, quais dados ela pode ler, quais ferramentas pode chamar, até que valor pode pagar, em que ambientes pode gravar e quais operações exigem aprovação humana.

Hoje, são as pessoas que julgam coisas como "este dado pode ser lido por uma IA externa à organização" ou "esta tarefa deve ser feita com um modelo de maior nível". O importante será até onde conseguiremos criar algo como metadados para que a própria IA possa fazer esses julgamentos automaticamente, e um mecanismo pelo qual o trabalho flua de maneira suave para a IA.

O que projetar primeiro

Os agentes de IA decompõem e redistribuem as funções que as empresas vinham desempenhando.

Nesse processo, como na organização da teoria no início, ao enxergar a empresa como um problema de "como institucionalizar a delegação responsável", no momento em que a empresa migrar para a era dos agentes de IA será preciso fazer novamente as seguintes perguntas.

O que deve ser mantido dentro da empresa
O que deve ser comprado do mercado
A quais agentes de IA dar quais autoridades de execução
Quais dados usar e para qual finalidade
Quais decisões exigem aprovação humana
Quem assume a responsabilidade em caso de falha
Onde acumular, como aprendizado da organização, os resultados e as falhas dos agentes de IA

Quanto mais uma empresa conseguir responder a essas perguntas, mais poderá usar os agentes de IA não como mera ferramenta de eficiência operacional, mas como força para redesenhar a própria forma da empresa.

E a conclusão deste ensaio é que a empresa forte na era da IA talvez não seja a que usa muita IA, mas a que consegue projetar a delegação responsável como instituição.