La organización en la era de la IA vista desde la «teoría de los límites de la empresa con IA»

Los debates sobre los agentes de IA suelen derivar hacia cómo deben ser la organización interna de las empresas y el papel de los directivos. Probablemente se deba a que la «organización» es lo que los empresarios y los profesionales ven a diario.

Sin embargo, la forma de la organización interna de una empresa está determinada, en primer lugar, por la forma de la propia empresa.

Siendo así, antes de pensar en la organización interna, deberíamos pensar primero en la forma y el contorno de la empresa en la era de la IA; es decir, en «cómo se volverán a trazar las fronteras entre empresas a causa de los agentes de IA».

Creo que, si nos situamos así un nivel por encima y desde ahí pensamos la organización, esta reflexión no quedará en una simple mejora de la eficiencia del trabajo, sino que podrá conectar con una teoría de la organización como elemento de la estrategia competitiva en la era de la IA.

Por eso, en este artículo quiero ensayar una propuesta: pensar primero una «teoría de los límites de la empresa en la era de la IA» y, a partir de ella, pensar la organización.

Concretamente, examinaré el contorno de la empresa en la era de los agentes de IA desde perspectivas como qué tipo de empresas podrán reducir su tamaño cuando se generalicen los agentes de IA, o si las enormes empresas de plataforma se harán aún más fuertes o más débiles. Creo que, al hacerlo, también podría haber implicaciones desde el punto de vista de la estrategia empresarial de las startups.

Ahora bien, conviene tener presente que esto es solo un ensayo para invitar a cambiar de perspectiva y no una predicción del tipo «esto es lo que va a ocurrir». Además, la respuesta a esta pregunta cambia mucho según el nivel de rendimiento que alcancen los agentes de IA. En este artículo parto de una IA algo mejor que la actual, del tipo «los agentes de IA son bastante útiles, pero no se les puede confiar todo sin evaluación, auditoría ni gestión de permisos».

¿Por qué han existido las empresas?

Para pensar la empresa en la era de los agentes de IA, hace falta preguntarse por qué han existido las empresas y cómo se trazan sus límites.

El punto de partida al que conviene recurrir para pensar la empresa es, probablemente, The Nature of the Firm de Ronald Coase. Coase buscó la razón de ser de la empresa en el costo de las transacciones de mercado. Buscar a la contraparte, negociar, firmar el contrato y verificar su cumplimiento requieren esfuerzo. Las actividades en las que ese esfuerzo es grande se incorporan al interior de la empresa.

Oliver Williamson desarrolló este argumento como un problema de gobernanza. En las inversiones que dependen de una contraparte concreta, en las transacciones continuas y en las tareas con mucha incertidumbre, coordinar dentro de una organización es más estable que contratar en el mercado cada vez.

Pero incorporar el trabajo a la empresa no lo abarata todo. Dentro de la empresa también hay otros tipos de costos, por ejemplo, los costos de coordinación interna y los costos de la burocracia.

Esta forma de pensar de la economía de los costos de transacción seguirá siendo válida en la era de la IA. Los límites de la empresa cambian según la comparación entre el costo de transar en el mercado y el costo de coordinar dentro de la organización. Si es así, observar cómo cambia la IA cada uno de esos costos nos facilita pensar cómo cambiará el contorno de la empresa.

Además, Theory of the Firm: Managerial Behavior, Agency Costs and Ownership Structure, de Jensen y Meckling, concibió la empresa como un problema de agencia entre las partes interesadas. Como los intereses de los accionistas, los directivos, los empleados y los clientes no coinciden por completo, hacen falta remuneración, supervisión y rendición de cuentas. Por su parte, la teoría de los contratos incompletos de Grossman y Hart mostró que, precisamente porque hay un futuro que no cabe en el contrato, importa quién posee los derechos de decisión residuales.

Resumiendo todo esto, queda lo siguiente.

• Internaliza las actividades cuya contratación en el mercado cada vez resultaría demasiado cara.
• Protege las inversiones de largo plazo y el conocimiento tácito.
• Gestiona el acceso a los recursos importantes.
• Es el destinatario de las pérdidas y de la responsabilidad.
• Garantiza la calidad y la continuidad ante los clientes y la sociedad.
• Dentro de contratos incompletos, posee la autoridad de decidir en última instancia.

Es decir, la empresa no es una mera reunión de personas, sino que puede entenderse como una institución que agrupa varias funciones.

En la era de los agentes de IA, en ese recipiente que es la empresa no solo se agruparán los elementos tradicionales, como las personas, el capital, la marca y la responsabilidad legal, sino también los agentes de IA, los datos y los modelos.

Los agentes de IA cambian varios costos a la vez

Con estas teorías como referencia, pensemos cómo cambiarán los agentes de IA la forma de la empresa.

Primero, consideremos qué costos es probable que cambien.

(1) Baja el costo de búsqueda

Los compradores pueden comparar a gran velocidad proveedores, precios, calidad, antecedentes y alternativas. Los vendedores también pueden investigar con IA a posibles clientes, contenido de las propuestas, fijación de precios e información de la competencia. Aumentan los participantes del mercado y resulta más fácil que se concreten transacciones más pequeñas.

(2) Baja el costo de contratación

La IA podrá encargarse hasta cierto punto de los borradores de especificaciones, contratos, cláusulas de riesgo, condiciones de aceptación y similares. Con ello, resulta más fácil contratar incluso transacciones pequeñas, que hasta ahora no se contrataban.

(3) Baja en parte el costo de ejecución y supervisión

Los agentes de IA pueden descomponer tareas, comprobar el avance, detectar anomalías, elaborar informes e incluso encadenar el procesamiento de pagos. Con ello, baja en parte el costo de combinar talento externo y empresas externas.

(4) Surgen costos de transacción entre agentes

Se pasa de un mercado en el que las personas miran sitios web y eligen a un mercado en el que los agentes de IA leen y negocian API, permisos, reputación, precios, plazos de entrega y condiciones contractuales. En este mercado surgen los costos de transacción entre IA y los costos asociados, como el historial de desempeño y los registros de auditoría.

(5) Aumentan los costos de confianza, responsabilidad y auditoría

Cuando la IA ejecuta una tarea tras otra, los entregables aumentan en la misma medida y, con ellos, la responsabilidad, por lo que la responsabilidad en caso de fallo se vuelve un problema. Los costos de verificación y auditoría para ello aumentarán.

Con lo anterior resumido, los límites de la empresa se entienden mejor si se piensan así.

Condición en la que avanza la mercantilización (externalización)

Costo de transacción de mercado + costo de confianza, auditoría y responsabilidad < costo de coordinación interna + costo de la burocracia

Condición en la que avanza la empresarialización (internalización)

Costo de transacción de mercado + costo de confianza, auditoría y responsabilidad > costo de coordinación interna + costo de la burocracia

La IA reduce el costo de transacción de mercado del lado izquierdo. Al mismo tiempo, en algunos casos aumenta el costo de confianza, auditoría y responsabilidad, también del lado izquierdo. Además, reduce el costo de coordinación interna del lado derecho.

Por lo tanto, lo que se puede decir a partir de aquí es que no se determina en una sola dirección si los agentes de IA harán más pequeñas a las empresas o fortalecerán a las grandes empresas y a las plataformas; lo importante es ver qué costos bajan, en qué ámbitos y en qué medida.

Además, según el rendimiento futuro de los agentes de IA, pueden cambiar los costos de cualquiera de los dos lados de la fórmula, y de ello depende que avance la mercantilización o la concentración. Si se pudiera estimar correctamente hasta dónde llegará esa mejora de rendimiento, debería verse con más claridad la forma de empresa más óptima.

¿Qué empresas se harán más pequeñas y cuáles se harán más fuertes?

Lo anterior es el panorama general, pero si se observa con algo más de detalle el ámbito de negocio de las empresas, creo que sí aparecen tendencias aproximadas en las formas de empresa.

(1) Aumentan las microempresas

Cuando, gracias a los agentes de IA, una persona o un equipo de unas pocas personas puedan ejecutar tareas que antes requerían a diez o a cien personas, las empresas dejarán de ser organizaciones con muchos empleados y pasarán a ser pequeñas entidades de negocio que agrupan IA y otros recursos.

Esta tendencia se intensifica sobre todo en ámbitos con características como estas:

• Los entregables son verificables.
• El daño en caso de fallo es limitado.
• La regulación es ligera.
• El acceso a los datos es claro.
• Es fácil combinar herramientas externas.

Algunos ejemplos son la consultoría, el software, la educación, los medios, la investigación, el diseño y una parte de los servicios profesionales.

En el caso de este tipo de entidades, el número de personas que pertenecen a la empresa será menor, pero, como los agentes de IA aumentarán en términos relativos, será necesario adoptar una forma de gestión de la organización adecuada para ello.

Ahora bien, hay que tener en cuenta que estas microempresas probablemente dependerán de plataformas como la nube, los pagos, los modelos de IA, la autenticación, los seguros y los marketplaces. Por ejemplo, se parecería a que quienes hoy trabajan como freelancers se erijan no como individuos, sino como microempresas formadas por «un pequeño número de personas más un conjunto de agentes de IA», y que esas microempresas asuman diversas tareas de ejecución en plataformas de crowdsourcing.

(2) Se fortalecen las empresas con infraestructura de transacciones entre agentes

Cuantos más agentes de IA haya, más necesario será confirmar si el agente de IA y el sujeto que está detrás son auténticos, si tienen autoridad, si tienen capacidad de pago y si los entregables son seguros. Como resultado, aumenta el valor de las plataformas que agrupan y garantizan elementos como la identidad y la autenticación, los pagos y la reputación, los registros, los seguros y la resolución de disputas.

Desde la óptica de Coase, esto parece una mercantilización causada por la caída del costo de transacción de mercado. Pero, en realidad, significa que el propio mercado podría pasar a depender de un pequeño número de infraestructuras. Para que los agentes de IA transen entre sí hacen falta protocolos comunes, API, gestión de permisos y registros de auditoría, y como los mercados de esa economía de agentes tienen efectos de red, alguna plataforma terminará acercándose a un modelo en el que el ganador se lo lleva todo.

Por lo tanto, los agentes de IA dispersan una parte de los mercados y, al mismo tiempo, concentran la infraestructura del mercado. Y cuanto más se amplía el mercado, más aumenta el valor de la infraestructura de confianza que lo hace posible.

(3) Se fortalecen las empresas que asumen la responsabilidad

Las empresas en las que un pequeño número de personas permanece en el núcleo y delega la ejecución periférica en agentes de IA y en especialistas externos pasan a ser empresas que asumen la responsabilidad, la marca, la relación con los clientes, los derechos sobre los datos, el aseguramiento de la calidad y el seguro ante daños.

Por ejemplo, es posible que una empresa de diez personas, usando agentes de IA, haga el trabajo que antes correspondía a una de cien. Lo importante entonces no es que las diez personas procesen directamente cien tareas de ejecución, sino que, tras repartir permisos entre los agentes de IA, verifiquen los resultados y asuman la responsabilidad final por ellos.

Cuanto más se dispersa la ejecución, más clara debe ser la persona que tiene la responsabilidad. Porque, para el cliente, más que si lo hizo una IA o una persona, importa quién lo garantiza.

Y cuanto más se hace ejecutar a los agentes de IA y más resultados se generan, mayor es la responsabilidad que asume esa empresa. Y si, por ejemplo, algunos entregables fallan y el monto de la compensación a los clientes supera lo que la empresa puede pagar, esa empresa quiebra.

Es decir, por mucho que se pueda ejecutar, lo más probable es que muchas empresas solo se expandan hasta el grado de responsabilidad que puedan asumir por sí mismas. Por lo tanto, aunque la IA amplíe la capacidad de ejecución, la expansión de la empresa queda limitada, en última instancia, por su capacidad de asumir responsabilidad.

(Por cierto, en principio, la responsabilidad limitada de las sociedades anónimas es una institución social que hace posible emprender negocios de alta incertidumbre, y dentro de un margen razonable debería estar bien asumir esos riesgos, pero en la práctica no son muchas las empresas que llegan a asumir tanto riesgo. En cambio, las startups son un recipiente en el que es relativamente fácil asumir riesgos, de modo que, pisando el acelerador más que las empresas existentes y asumiendo riesgos mayores que antes, con la idea de «si aprovechamos los agentes de IA al máximo, podemos asumir este nivel de riesgo y responsabilidad», quizá puedan crecer).

Es probable que esta forma se extienda en los servicios profesionales, el software B2B, la investigación, la consultoría, los ámbitos auxiliares de lo jurídico y lo contable, y los servicios para industrias de nicho.

(4) Se fortalecen las empresas que pueden gobernar los datos

El rendimiento de un agente de IA no depende solo de la capacidad general del modelo. Que se pueda aprovechar el modelo cambia mucho según se gestionen los datos de clientes y los registros de operaciones, se aprenda del historial de fallos, se manejen en ocasiones los casos excepcionales y se tenga acceso al conocimiento especializado y al contexto de uso.

Power in a Theory of the Firm, de Rajan y Zingales, explica el poder dentro de la empresa no solo por la propiedad, sino también por el acceso a los recursos importantes; los límites de la empresa se determinan no solo por «quién está empleado», sino por «quién puede hacer que qué datos se usen, con qué fin y en qué modelo». Sin embargo, en la era de los agentes de IA, quizá lo que condicione el aprovechamiento de la IA no sea tanto que la empresa sea propietaria de datos propios, como que pueda gestionar el ámbito de usos permitidos de los datos. Porque a qué datos se puede acceder determina los entregables de la IA.

En este caso, la capacidad de gestionar los datos de forma segura, en aspectos como el consentimiento, los permisos, la reutilización y la auditoría, se convierte en una ventaja competitiva de la empresa. Porque, cuanto más sustituyen los agentes de IA al trabajo, más define el diseño del acceso a los datos los límites de la empresa y su ventaja competitiva.

Creo que esta dirección será importante en ámbitos como la salud, las finanzas, la educación, la manufactura, la I+D y la atención al cliente.

(5) Aumenta la necesidad de empresas de AgentOps

Muchas empresas dejarán de poder encargarse por sí solas de la evaluación de modelos, la gestión de permisos, la auditoría de registros y la respuesta a incidentes de los agentes de IA. Esto significa que cuanto más usa una empresa agentes de IA, más demanda hay de especialistas que sostengan su entorno de ejecución.

Lo que se necesita aquí no es una mera operación de modelos, sino la operación de todo el entorno de ejecución de los agentes de IA. No basta con mirar la precisión del modelo: hay que gestionar qué datos lee el agente, qué herramientas usa, hasta dónde se ejecuta automáticamente y en qué punto se devuelve a la aprobación humana; es decir, si se puede conectar el modelo con las tareas y los datos, reducir los accidentes, hacerlo auditable y detenerlo cuando sea necesario.

Es, por así decirlo, el terreno de AgentOps y no de MLOps.

Una parte podría internalizarse y colocar dentro de la empresa a especialistas encargados de AgentOps. Por otro lado, también surgirán proveedores externos que respalden AgentOps desde fuera. No serán meros integradores de sistemas (SIer), sino empresas a las que se encomienda AgentOps: construir, supervisar y mejorar de forma segura el entorno de ejecución de IA de las empresas. Serían, por así decirlo, la versión para la IA de las empresas que, en las fábricas de la industria manufacturera, prestan servicios de implantación y mantenimiento de robots.

Por supuesto, también es muy posible que empresas de plataforma como OpenAI refuercen estas funciones de operación de modelos.

(6) En los ámbitos de alto riesgo, la empresa permanece como recipiente de la responsabilidad

En los ámbitos regulados, como la salud, las finanzas, lo jurídico, las compras públicas y las infraestructuras, aunque la IA ayude, siguen existiendo la autorización, la rendición de cuentas, la supervisión, la indemnización y el seguro.

La empresa pasa a ser, más que un ejecutor, un recipiente de la responsabilidad ante la sociedad y, por tanto, en los ámbitos de alto riesgo los agentes de IA, en lugar de desmantelar la empresa, refuerzan su función de asumir la responsabilidad.

Resumiendo el argumento hasta aquí, se obtiene un esquema como el siguiente.

La organización interna se acerca a proyectos por entregable

Lo anterior son conjeturas aproximadas. Pero creo que sería mejor, tras debatir así y pensar cómo cambiarán los límites y la forma de las empresas, pensar cómo cambiará la forma de la empresa en el ámbito propio y, a partir de ahí, cómo cambiará la forma de la organización interna, ámbito por ámbito.

En principio podríamos quedarnos en el argumento hasta aquí, pero daré un paso más y trataré también la teoría de la organización interna.

Si seguimos esta corriente, como gran dirección es probable que actúe, más que antes, la fuerza de que los departamentos que tienen la responsabilidad permanezcan de forma sostenida, mientras que las organizaciones que se encargan de la ejecución pasan a funcionar por proyectos.

Por ejemplo, los departamentos con responsabilidad se encargarán de la dirección, lo jurídico, la gestión de riesgos y la seguridad, y decidirán el ámbito que se confía a los agentes de IA, las condiciones de detención, los registros que se conservan, los aprobadores y los responsables.

Y los departamentos de ejecución se dividirán en pequeños proyectos con un objetivo, un plazo, un presupuesto, permisos de datos, agentes de IA, un responsable humano y criterios de aceptación concretos; se crearán para cada objetivo, como «verificar las hipótesis de clientes de un mercado nuevo» o «migrar el código existente», y tenderán a adoptar un formato en el que se disuelven cuando se aceptan los resultados. En ese caso, los registros y lo aprendido se quedan en la empresa y se usan para el aprendizaje siguiente.

El papel de los departamentos funcionales también tendrá un carácter más marcado de autoridad y responsabilidad que de ejecución.

Por ejemplo, en desarrollo, gran parte de la ejecución se confía a los agentes de IA, y las personas, en su lugar, tienen la arquitectura, los estándares de calidad, la seguridad y los permisos de despliegue a producción. (Esto quizá ya esté ocurriendo).

El área jurídica decide las plantillas de contratos, la clasificación de riesgos y las condiciones de escalamiento, y asume la responsabilidad. Y recursos humanos pasa a diseñar qué capacidades se dejan en las personas, cuáles se complementan con IA y cuáles se compran en el mercado. El hecho de que en Japón, recientemente, quien está a cargo de recursos humanos asuma también la responsabilidad de la IA parece reflejar esta forma de diseño organizativo.

El papel de los directivos también cambia.

La función de enrutamiento de información para operar la organización, como la comprobación del avance y los informes, irá perdiendo peso poco a poco. En su lugar, lo importante pasa a ser descomponer los propósitos y los objetivos para producir resultados, decidir los permisos y el trabajo que se entregan a la IA y definir las excepciones que deben ver las personas. Puede que disminuya el «número de subordinados humanos», pero el diseño y la operación de equipos mixtos de personas e IA serán, más bien, más importantes.

Además, a los directivos les sigue correspondiendo decidir con información incompleta y asumir la responsabilidad cuando se falla. Tampoco desaparecen los ajustes políticos en torno a la asignación de recursos dentro de la organización. Por ejemplo, una negociación como «mi equipo tiene esta importancia para el negocio, así que quiero más presupuesto de uso de IA que otros departamentos» se dará mientras los recursos sean limitados, y, como parte de la información sobre las condiciones previas necesarias para decidir es incompleta, la IA no puede derivar de forma unívoca la solución óptima.

Sin embargo, la conversión en proyectos también tiene efectos secundarios. La formación de talento a largo plazo se vuelve difícil y el conocimiento tácito y la cultura organizativa podrían diluirse. Además, quizá se tienda a sesgarse hacia los resultados de corto plazo. Por lo tanto, a la organización de la era de los agentes de IA se le exigirá cómo compatibilizar la capacidad de ejecución mediante proyectos de corto plazo con la formación de capacidades a largo plazo.

Y cuanto más se sustituye la ejecución por IA, menos oportunidades tienen los jóvenes de aprender fallando. Por ello, puede que las empresas tengan que diseñar por separado las tareas que se vuelven más eficientes y las que se dejan deliberadamente para formar a las personas. (O bien externalizar la educación fuera de la empresa y contratar solo a personas que puedan rendir de inmediato).

En cualquier caso, el diseño de la organización pasa a ser no solo la asignación de personal, sino el problema de cómo disponer los permisos, las responsabilidades, los datos y la IA.

Se necesitan no solo organigramas, sino también mapas de permisos y de responsabilidades

Que aumente la interacción con entidades que actúan de forma autónoma, como los agentes, significa, en el trabajo actual, que se darán muchas situaciones en las que «freelancers y contratistas externos entran y salen de la empresa a una velocidad sin precedentes, y hay que delegarles bien el trabajo y aceptar sus resultados».

Ya hoy, en situaciones con muchos contratistas externos, surgen problemas como aclarar qué se les pedirá que hagan y hasta dónde se revela información a miembros temporales; la organización con agentes de IA es la versión ampliada de eso.

Y si se equivoca este diseño, un agente de IA podría enviar sin querer información confidencial a servicios externos como GitHub, modificar el entorno de producción conservando permisos excesivos o realizar operaciones inapropiadas por instrucciones incrustadas en documentos externos.

Es decir, en la era de los agentes de IA, lo que pasa a ser más importante no es algo concreto y fácil de entender como la asignación de personas, sino el manejo de cosas de mayor nivel de abstracción, como los permisos y las responsabilidades.

Es decir, lo que hay que hacer es preparar, además del organigrama tradicional por «persona», varios mapeos como los siguientes, con mayor granularidad:

1. Organigrama: quién pertenece a dónde
2. Mapa de permisos: quién puede delegar qué acciones en qué agentes o personas (incluidos los datos)
3. Mapa de responsabilidades: quién asume los accidentes, los daños, las explicaciones a los clientes y la atención a las auditorías

Lo que necesitan especialmente los agentes de IA no son los permisos amplios que tiene un empleado, sino permisos temporales limitados a cada propósito. Hay que definir, por unidad de trabajo que se confía a la IA, qué datos puede leer, qué herramientas puede invocar, hasta qué monto puede pagar, en qué entornos puede escribir y qué operaciones requieren aprobación humana.

Hoy son las personas quienes juzgan cosas como «estos datos se pueden dejar leer a una IA externa a la organización» o «esta tarea debería hacerse con un modelo de gama más alta»; lo importante será hasta dónde se pueda preparar algo como metadatos para que la IA lo juzgue automáticamente y construir un mecanismo por el que el trabajo fluya con suavidad para la IA.

Lo que hay que diseñar primero

Los agentes de IA descomponen y redistribuyen las funciones que han desempeñado las empresas.

Entonces, como en el repaso teórico del inicio, cuando se concibe la empresa como un problema de «cómo institucionalizar la delegación responsable», en el momento en que las empresas pasen a la era de los agentes de IA habrá que volver a plantearse las siguientes preguntas.

• Qué se debe conservar dentro de la empresa
• Qué se debe comprar en el mercado
• A qué agente de IA se le da qué permiso de ejecución
• Qué datos se usan y con qué fin
• Qué decisiones requieren aprobación humana
• Quién asume la responsabilidad en caso de fallo
• Dónde se acumulan, como aprendizaje de la organización, los resultados y los fallos de los agentes de IA

Cuanto mejor puedan responder a estas preguntas, más podrán las empresas usar los agentes de IA no como una mera herramienta de eficiencia del trabajo, sino como una fuerza para rediseñar la propia forma de empresa.

Y la conclusión de este ensayo es que la empresa fuerte en la era de la IA no es la que usa mucha IA, sino la que puede diseñar como institución la delegación responsable.