Quando a produtividade cai numa organização que distribuiu IA a todos

(Nota: em 10 de agosto, mudei bastante a estrutura da explicação.)

No projeto de restauração do Cheonggyecheon, em Seul, concluído em 2005, a via elevada que atravessava o centro da cidade foi removida e o rio que estava enterrado sob ela foi restaurado. Eliminar a grande artéria do centro parece algo que paralisaria o trânsito.

De fato, parece ter havido uma queda temporária de velocidade logo após a obra. Mas, depois disso, o uso do metrô aumentou, os deslocamentos por estrada diminuíram, e o grande congestionamento que se temia não se consolidou. (Contudo, na mesma época também foram feitas reformas no transporte público, como a reorganização das linhas de ônibus e a implantação de faixas exclusivas centrais para ônibus. Não se deve atribuir o resultado apenas à remoção da via.)

Na área de transporte, sabe-se que, mesmo ao aumentar as vias, o volume de tráfego cresce na proporção da capacidade adicional e o congestionamento não se resolve facilmente (demanda induzida). Inversamente, também já foi observado repetidamente que, ao reduzir as vias, não ocorre o congestionamento que se temia e parte do tráfego simplesmente desaparece (evaporação do tráfego). O que aconteceu no Cheonggyecheon pode ser visto como um exemplo dessa evaporação. Ou seja, o congestionamento muitas vezes não é um problema da quantidade total de vias, mas do desenho do fluxo.

Olhando de volta para a sociedade atual, muitas empresas procuram difundir de uma só vez, dentro da organização, novos veículos e vias de informação, na forma de "distribuir IA a todos os funcionários". Mas, dependendo do caso, isso pode gerar congestionamento dentro da organização e, ao contrário, deixar o conjunto mais lento.

Sendo assim, assim como nas estradas, é preciso medir separadamente a produtividade individual e a produtividade do percurso inteiro. E, indo um passo além, talvez a principal tarefa da gestão na era da IA seja, ao mesmo tempo em que se introduz a IA, medir o fluxo de todo o trabalho e otimizá-lo.

Neste texto, apresento essa hipótese.

Vias que não congestionam e vias que congestionam dentro da empresa

Comecemos vendo a empresa como uma "rede por onde fluem trabalho e informação". Então, o que corresponde às vias se divide em dois tipos.

O principal exemplo de via relativamente pouco sujeita a congestionamento é a geração por IA. Redigir rascunhos de textos, elaborar materiais, gerar código e fazer o processamento preliminar de análises são atividades em que o fato de uma pessoa usá-las dentro da organização não prolonga muito o tempo de criação de outra.

Já as vias que congestionam são: ser revisado, obter aprovação, chegar a um acordo numa reunião, passar pela verificação do jurídico ou da garantia de qualidade e conquistar a atenção do cliente. Todas têm um limite de capacidade de processamento e, quanto mais gente as usa, mais cresce o tempo de espera por pessoa.

Nesse quadro, a medida de distribuir IA a todos os funcionários equivale a "dar a todos um veículo ou uma via que leva praticamente zero de tempo". Nas vias existentes, cada funcionário elabora propostas com IA, prepara materiais com IA e redige respostas com IA, e o fluxo fica mais rápido e maior.

Além disso, com o uso da IA, passam a existir vias que antes não eram possíveis. Por exemplo, pessoas que não são engenheiras de TI passam a conseguir criar aplicativos.

O problema é que as saídas de todas essas vias desembocam no mesmo caminho estreito, como a revisão e a aprovação.

Em trabalhos ligados a comunicação externa, contratos, segurança, regulação e dinheiro, o resultado da IA só vira trabalho depois de passar pela aprovação de alguém, pela verificação de alguém e pela assunção de responsabilidade de alguém. Como ninguém entrega à IA a responsabilidade final, o trabalho que correu pela ampla via da geração acaba confluindo, no fim, para a ponte estreita da aprovação e da verificação.

Por exemplo, num cálculo bastante simplificado, suponha que o tempo gasto em cada proposta caia para um décimo e que o número de submissões aumente várias vezes. Mas o dia de quem aprova continua tendo 24 horas. Assim, o que determina o tempo da organização inteira não é a velocidade da geração, mas a fila na ponte estreita. Ocorre o fenômeno estranho de "o rascunho fica pronto num instante, mas o tempo até o lançamento ficou maior do que antes".

Além disso, em atividades nas quais a queda do custo de produção leva ao aumento das submissões, esse aumento de volume pode fazer crescer o fluxo de entrada. Se o custo por item cai, aumentar as submissões passa a ser racional para cada um. É a mesma dinâmica da demanda induzida no mundo das estradas, em que aumentar as faixas faz o tráfego crescer na mesma medida.

Pior ainda: quando a sobrecarga causa queda de precisão e retrabalho, ocorrem acidentes por falhas não detectadas. Como contramedida, acrescentam-se etapas de verificação, e a ponte se torna permanentemente ainda mais estreita. É como uma estrada que perdeu faixas por causa de um acidente.

Claro, a IA também pode alargar o lado da ponte estreita. Em um estudo com 5.172 atendentes de suporte ao cliente, o apoio da IA (um assistente baseado no GPT-3, introduzido em 2020–21) aumentou em média 15% o número de problemas resolvidos por hora. Esse estudo trata do processamento do atendimento a consultas, mas, se for possível acelerar com IA até a revisão, a verificação e o atendimento, a organização inteira também se torna mais rápida. O problema surge quando o crescimento da capacidade de geração supera o crescimento da capacidade de análise e verificação.

Não se resolve com a racionalidade individual

Pode-se pensar que essa discussão sobre gargalos e a teoria das restrições não é nenhuma novidade. De fato, o grande problema que ocorre com a IA é o fluxo, e deveria ser tratado, em essência, como um problema de controle desse fluxo.

Porém, esse congestionamento tem uma propriedade incômoda. O aumento do fluxo ocorre não por falha ou negligência de alguém, mas como resultado da escolha racional de cada pessoa. Uma submissão prolonga um pouco o tempo de espera de todos que estão na mesma fila de revisão ou aprovação, mas quem submete não paga esse custo. Na economia, isso se chama "externalidade de congestionamento". Quanto mais racionalmente cada um se comporta, mais cresce a fila na ponte estreita compartilhada.

E essa estrutura não se resolve com autocontrole individual. Um funcionário que, sozinho, deixa de elaborar propostas com IA vira apenas um funcionário lento. Se só uma pessoa reduz suas submissões, apenas a produção dela diminui. Se todos contivessem o fluxo, o conjunto ficaria mais rápido, mas ninguém consegue fazer isso sozinho.

A engenharia de tráfego trata desde longa data dessa estrutura em que "escolhas racionais individuais deixam o conjunto mais lento". O exemplo mais vívido é o "paradoxo de Braess". É o paradoxo em que, mesmo sem nenhum aumento do volume total de tráfego, o simples acréscimo de uma via pode deixar todos mais lentos.

Trata-se de uma questão de estrutura: o equilíbrio de indivíduos racionais se afasta do ótimo global. De fato, mesmo em estudos de modelagem que usam informações de trânsito em tempo real, mostrou-se que a navegação nem sempre elimina esse tipo de piora (Bittihn & Schadschneider, 2021). Portanto, mesmo que todos tenham um bom GPS, esse congestionamento não se resolve.

No entanto, a maior parte dos congestionamentos causados pela introdução de IA nas organizações provavelmente não é, a rigor, o paradoxo de Braess. O paradoxo de Braess é um fenômeno em que, com o volume total de tráfego constante, o conjunto fica mais lento apenas porque cada pessoa troca de rota. Além disso, ele exige uma forma de rede especial, em que todos abandonam a via larga e passam a um desvio que atravessa duas pontes estreitas em série.

Já o congestionamento organizacional descrito até aqui é um fenômeno em que a geração fica barata, o próprio fluxo aumenta e a fila cresce nas pontes de aprovação e verificação, que são obrigatórias desde o início e não têm desvio. Por isso, é mais preciso explicar o congestionamento organizacional não como uma reprodução do paradoxo de Braess, mas como uma combinação de demanda induzida, gargalo e externalidade de congestionamento.

Ainda assim, apresentei esse exemplo porque acredito que dele se podem tirar duas lições gerais. A primeira é que o fluxo numa rede pode ser contraintuitivo: "aumentar" pode prejudicar e "reduzir" pode beneficiar. Enquanto a teoria dos gargalos, que pressupõe o fluxo linear de uma fábrica, tende a levar a "reforçar o ponto congestionado", numa organização entendida como rede, eliminar ou restringir rotas também é uma possível solução. A outra é que, mesmo quando todos escolhem corretamente o caminho mais curto, pode-se não sair de um mau equilíbrio, e a solução exige uma intervenção de nível superior, que é o desenho de rotas e de tarifas.

Ou seja, a produtividade na era da IA não depende apenas do letramento individual, mas é um problema de desenho de rotas.

Quanto mais forte a linha de frente, mais fácil cair nessa armadilha

Na introdução da IA, costuma-se dizer: "comece usando em pequena escala na linha de frente" e "expanda a partir da base". Costuma-se também apontar que, se a tecnologia for introduzida só parcialmente, sem mudar ao mesmo tempo as tarefas e as atribuições, o efeito dificilmente aparece.

De fato, num experimento com 7.137 pessoas em 66 empresas, os usuários de IA generativa (Copilot) reduziram em cerca de 2 horas por semana o tempo gasto com e-mails, mas parece que não se detectou mudança clara no volume nem na composição do trabalho. Isso sugere que, mesmo que as tarefas concluídas individualmente possam ser encurtadas, a coordenação com outras pessoas e as dependências dentro da organização não diminuem necessariamente de forma automática.

Além disso, a discussão sobre congestionamento até aqui sugere algo a mais. É que a adoção de base conduzida pela linha de frente não apenas pode ter efeito nulo, como pode, pelo congestionamento dos processos de revisão compartilhados, piorar o tempo da empresa inteira.

Claro, não se trata de dizer que "uma organização top-down é segura". Pelo contrário, se o centro errar a rota, o impacto atinge de uma vez uma área ampla. Mesmo assim, é plenamente possível formular a hipótese de que uma falha do tipo "congestionamento" tende a ocorrer mais em organizações com pontos de entrada dispersos e processos de revisão compartilhados por vários departamentos.

Contra o senso comum de que "nossa empresa vai perder porque está atrasada na adoção de IA", essa ideia oferece um ponto de vista um pouco diferente.

(※ Contudo, as pesquisas até aqui não demonstraram que a adoção de IA em toda a empresa piora o tempo da organização como um todo. O estudo do call center mediu o processamento de consultas, e o estudo do Copilot mediu os padrões de trabalho individuais. Eles não mediram o lead time nem a qualidade dos resultados do trabalho como um todo, incluindo revisão, aprovação e tomada de decisão. O que este texto apresenta é uma hipótese ainda não verificada: se o fluxo de entrada a montante crescer mais rápido que a capacidade de processamento a jusante, o tempo de espera pode aumentar. Acrescentado em 12 de agosto)

A chateação era um pedágio imposto implicitamente pela sociedade

Ampliando a visão para a sociedade, a mesma estrutura aparece em escala ainda maior.

Tome-se, por exemplo, a busca de emprego. Se a IA tornar quase gratuita a elaboração das fichas de inscrição, passa a ser racional que cada pessoa aumente bastante o número de empresas a que se candidata. Mas a capacidade da ponte estreita, as vagas de seleção das empresas populares, não muda, de modo que, no equilíbrio em que todos aumentam as candidaturas, a taxa de aprovação cai. As empresas se defendem com seleção por IA e os candidatos aumentam ainda mais as candidaturas. Como resultado de todos agirem racionalmente, o custo de contratação da sociedade como um todo só cresce. Aqui também opera a estrutura da externalidade de congestionamento: cada candidatura é racional, e seu custo se dilui entre todos que estão na fila de seleção.

O mesmo esquema vale para e-mails de vendas, canais de atendimento, consultas públicas e pedidos de acesso à informação. Esse tipo de jogo de provocar e remediar não apenas aumenta os custos mútuos, mas também eleva em espiral os custos sociais, como a eletricidade que move a IA. Foi assim que, com a queda do custo do e-mail, o spam aumentou e passou a ser regulado.

Aqui incorporo outra perspectiva: o que protegeu até agora a capacidade de processamento desses sistemas. Uma das respostas é a chateação do acesso: o trabalho de escrever documentos, o trabalho de ir ao guichê e o trabalho de sequer saber que o sistema existe.

Muitos sistemas da sociedade foram protegidos de fluxos que excedem sua capacidade de processamento por um pedágio implícito chamado "chateação". Em outras palavras, pode-se dizer que a ignorância e a chateação funcionaram como dispositivos de controle de fluxo embutidos na sociedade. Isso também pode ser lido como o sludge (nudge negativo), da economia comportamental, funcionando para o bem ou para o mal (embora, na maioria das vezes, para o mal).

O que distingue a IA das tecnologias anteriores é que ela reduz ao mesmo tempo, em ampla escala, tanto a ignorância quanto a carga de trabalho. Fluxos que dormiam em toda parte da sociedade melhoram de uma só vez. E o que se observará então deve parecer fadiga institucional pontual, como "a repartição pública ficou lenta" ou "o processo seletivo quebrou", e dificilmente se fará o diagnóstico de que o equilíbrio de toda a rede piorou.

Então, depois que o pedágio implícito desaparece, o que os sistemas podem fazer? Há, em linhas gerais, quatro opções.

1. Aumentar a capacidade de processamento - automatizar a triagem inicial e transferir o processamento padronizado às máquinas
2. Estabelecer prioridades - fazer a triagem por agendamento, sorteio, vagas de atendimento ou grau de urgência
3. Cobrar um pedágio - cobrar taxas, exigir depósitos de garantia ou pedir ao solicitante certas comprovações
4. Fechar rotas - passar a sistemas por indicação, por convite ou só para membros.

Aqui se vê uma consequência um tanto irônica: a IA, uma tecnologia de abertura do acesso, pode trazer de volta as redes fechadas. Num mundo em que as candidaturas chegam sem limite, aceitar apenas indicações de pessoas de confiança passa a ser uma defesa racional para quem recebe.

O trabalho da gestão é administrar o fluxo

Então, o que as empresas e organizações devem fazer?

Primeiro, naturalmente, medir o fluxo do trabalho da entrada à saída. Verificar, com a introdução da IA, em quais etapas a entrada aumentou e onde surgiram tempos de espera e acúmulos. É preciso distinguir entre o trabalho individual ficar mais rápido e a organização concluir uma tarefa mais rápido.

A partir daí, o conhecimento do tráfego traz mais quatro receitas.

A primeira é alargar a própria ponte congestionada, eliminando o gargalo da capacidade de fluxo. Por exemplo, revisão preliminar por IA, testes automáticos, padronização e delegação de autoridade. Se, além da geração a montante, a análise e a verificação a jusante também forem aceleradas ao mesmo tempo, o congestionamento tende a ocorrer menos. Porém, sem cuidado, pode ocorrer demanda induzida.

A segunda é restringir rotas e pontos de entrada. Assim como o tráfego de Seul não se paralisou com a remoção da via elevada, sabe-se que, no mundo do trânsito, quando a capacidade é reduzida, a demanda se adapta. Nas organizações também é possível unificar o canal de submissão e agrupar o recebimento de revisões em lotes em horários fixos. Se a fila se torna uma só, também é possível priorizar. Restringir deliberadamente pode tornar o conjunto mais rápido.

A terceira é introduzir um custo para controlar o fluxo. A receita padrão da economia dos transportes para a externalidade de congestionamento era a cobrança sobre as vias congestionadas. Sabe-se que, com uma cobrança adequada, é possível aproximar o equilíbrio das escolhas individuais de um estado desejável para a sociedade como um todo.

Aplicando às organizações, isso significa atribuir um preço interno às rotas congestionadas. Por exemplo, estabelecer cotas orçamentárias por departamento para pedidos de revisão, impor um limite ao volume de documentos enviados para aprovação ou obrigar o autor a apresentar evidências de autoverificação. Se a IA aboliu o pedágio da chateação, agora se reintroduz de propósito um pedágio projetado. O ponto é poder pensar nisso não como mera burocracia, mas como medida contra o congestionamento da capacidade de julgamento compartilhada. Contudo, imagino que isso provocará objeções consideráveis na linha de frente, então a introdução exige cuidado.

A quarta é o controle central parcial. Um método em que o centro aloca apenas parte dos fluxos e deixa o restante ao julgamento de cada agente é tratado, nos estudos de escolha de rota, como Stackelberg routing (um método de otimização que aplica o modelo de Stackelberg, da teoria dos jogos, ao controle de rotas numa rede). O efeito depende da forma da rede, mas a centralização total não é a única opção. Para uma empresa, significa, por exemplo, coordenar de forma global apenas os processos compartilhados por vários departamentos, como jurídico, garantia de qualidade, reunião da diretoria e propostas a clientes importantes.

Pensando assim, também se enxergam oportunidades de negócio: o trabalho de medir onde se acumula trabalho em andamento na organização, o trabalho de precificar os mercados internos de aprovação e revisão, o trabalho de projetar e operar redes fechadas por indicação ou convite. Com a IA, passa a ser necessária a capacidade sob a perspectiva da "engenharia de tráfego organizacional", e surgem novas funções para a camada gerencial. Nesse caso, o conhecimento sobre congestionamentos espontâneos e a ciência do congestionamento também pode, conforme o caso, ser útil.

A IA entrará na rede do trabalho intelectual humano. Quando isso acontecer, será preciso continuar, numa organização em que humanos e IA se misturam, a medir e a mudar para melhorar toda a complexa rede do trabalho intelectual, assim como se pensa no fluxo de trabalho de uma fábrica.

Além disso, como é preciso mudar continuamente esses desenhos acompanhando a evolução do desempenho da própria IA, é necessária, ao que tudo indica, a integração da estratégia de IA com a estratégia de pessoas.

Conclusão

Com base no conhecimento do tráfego, como demanda induzida, gargalo e externalidade de congestionamento, refleti sobre o congestionamento que pode ocorrer nas organizações depois da introdução da IA.

No curto prazo, distribuir IA será em si uma competição, e não penso que isso deva ser interrompido. Mas, com o tempo, será preciso verificar se esse fenômeno de difícil explicação, o "distribuímos e ficou mais lento", está ocorrendo entre as empresas que a adotaram.

Nesse momento, creio que a diferença entre as empresas capazes ou não de otimizar a estrutura da rede e controlar o fluxo aparecerá como uma diferença maior que a de desempenho dos modelos. Assim como a pesquisa sobre congestionamento avançou de "construa mais estradas" para "projete o fluxo", a gestão com IA também deve acabar seguindo na mesma direção.

Depois de distribuir a IA, acho que verificar se o fenômeno do "distribuímos e ficou mais lento" não está realmente ocorrendo aumentaria o seu efeito. E o que separará a competitividade na era da IA talvez não seja apenas o desempenho dos modelos, mas a capacidade de medir e redesenhar o fluxo da organização inteira. Quando determinadas vias e veículos ficarem rapidamente mais velozes por causa da IA, lembrar da engenharia de tráfego e começar medindo em que ponte estreita o trabalho da própria empresa está acumulado pode ser um caminho.

(Acrescentado em 9 de agosto, reescrito em 10 de agosto: na primeira publicação, o paradoxo de Braess era o eixo do artigo, mas recebi de várias pessoas comentários no sentido de que "isto, a rigor, não é o paradoxo de Braess". Após analisar, considero que esses comentários são pertinentes. Por isso, este artigo foi reestruturado com demanda induzida, gargalo e externalidade de congestionamento como eixo, e o paradoxo de Braess passou a ser um exemplo de onde se tomam lições gerais. Cheguei a pensar em cortá-lo, mas, como o texto já foi muito lido, optei por mantê-lo. Agradeço mais uma vez os comentários.)

(Reescrito em 12 de agosto: após receber um comentário, reescrevi novamente. Acrescentei a ressalva de que se trata de uma hipótese ainda não verificada. Além disso, fiz pequenos acréscimos e correções.)