La ética de la tecnología de defensa - Pensar el Defense Tech en Japón / la tecnología de defensa (4)

Voy a participar como ponente en un evento sobre Defense Tech el lunes 29 de junio, así que escribo de antemano mis ideas para ordenarlas. Como el artículo se hizo largo, lo he dividido en varias partes.

Cabe señalar que mis ideas y opiniones pueden cambiar en el futuro a partir de los comentarios que reciba.

Para pensar el Defense Tech en Japón, una vez ordenados los supuestos de partida, creo que hay tres grandes puntos que debatir.

Capacidad de defensa - ¿Aumenta ese negocio la capacidad de defensa efectiva de Japón?
Viabilidad comercial - ¿Puede ese negocio crecer rápidamente como startup?
Ética - ¿Debe hacerse ese negocio?

En este artículo trato la «ética».

Los riesgos sociales del auge de la tecnología de defensa y la importancia de la ética

Quiero plantear, con un escenario algo exagerado, por qué es necesario pensar en la ética en la tecnología de defensa.

Para empezar, el momento en que más crecerá la capitalización bursátil de las empresas de tecnología de defensa será probablemente «cuando estalle un conflicto» o «cuando aumente la confrontación y con ella la percepción de crisis». Es de suponer que la demanda de los productos de estas empresas y su valor de mercado suben cuando ocurre un incidente.

En particular, los fondos de capital riesgo que invierten en tecnología de defensa tienen una estructura en la que, con independencia de si ellos desean o no la guerra, el retorno de la inversión puede ser mayor cuanto más se tense el entorno de seguridad durante la vida del fondo, más aumente el presupuesto de defensa y más suba la valoración de las empresas en cartera.

Así, aunque resulte bastante conspirativo, existe el incentivo de crear una estructura y una narrativa en las que se recupere la inversión y se obtenga el retorno justo cuando el valor de las empresas sube por una guerra u otro motivo, y se traslade a la sociedad el costo de la reconstrucción posterior…

Aun sin una participación tan activa, también ocurre que «para justificar el presupuesto asegurado, resulta más difícil detener la guerra». Por ejemplo, se dice que, en la Segunda Guerra Mundial, la Armada japonesa era muy consciente de que no tenía suficientes probabilidades de ganar una guerra contra Estados Unidos, pero, como durante años había organizado su armamento, su formación, sus planes de operaciones y su presupuesto tomando a «Estados Unidos como enemigo hipotético», sus dirigentes evitaron oponerse claramente al inicio de la guerra y se refugiaron en actitudes ambiguas como «dejarlo en manos del primer ministro», con lo que finalmente se decidió entrar en guerra (reportajes especiales de NHK, entre otros).

Esto no significa que las personas implicadas sean malvadas. Aun sin mala intención, los seres humanos tendemos a ser codiciosos y débiles en los detalles, de modo que, si hay incentivos, resulta fácil dejarse llevar hacia ellos.

Precisamente porque existe esa debilidad humana, necesitamos atarnos y disciplinarnos de forma adecuada, y quienes son objeto de esas sospechas tienen la obligación de rendir cuentas. Creo que, justamente ahora que crece la inversión como apuesta sobre «que ocurran conflictos», esa responsabilidad es mayor.

Precisamente porque ha crecido el poder de las empresas privadas, se exige una ética del sector privado

El sector privado como nuevo actor

Creo que cada vez hay más razones para que este debate se dé también en las propias empresas privadas.

Tradicionalmente, la ética la debatían sobre todo dos partes: el «mundo académico», es decir, las universidades y otras instituciones que desarrollan tecnologías de vanguardia, y el «ejército», que las aplica. Por supuesto, la ciudadanía también participaba como parte interesada, pero me parece que su posición era más bien pasiva.

Hoy, en cambio, las empresas privadas lideran en parte las tecnologías de vanguardia y sus aplicaciones por delante de las universidades, y su presencia como actores va en aumento.

En ese caso, controlar solo al «mundo académico» no resulta muy eficaz y hay que pensar qué hacer con el «sector privado». Y cada vez son más las cosas que el propio sector privado debe plantearse de igual modo.

Precisamente porque el sector privado ha ganado poder, surge en él una gran responsabilidad.

Las startups dentro del sector privado

En ese sentido, las startups también deben reflexionar. Precisamente porque se espera que las startups, como empresas privadas, sean las protagonistas de la tecnología de defensa, nace en ellas una responsabilidad acorde.

Las startups de antes operaban en ámbitos en los que bastaba con seguir las reglas del mercado, pero ha llegado el momento de cambiar eso.

Desde hace tiempo, las startups entran cada vez más en diversos sectores regulados y allí también se les ha exigido la responsabilidad correspondiente, pero ahora esto se extiende a ámbitos que afectan a la vida y la muerte de las personas. Si es así, se les exigirá una responsabilidad aún mayor.

El cambio cualitativo de la implicación por la tecnología de la información

Además, con el desarrollo de la tecnología de la información, a diferencia del suministro de armas por parte de las empresas privadas de antes, aumenta el margen para que la voluntad de las empresas privadas intervenga en las decisiones de combate, por lo que la influencia de las empresas privadas sobre lo militar parece mayor que antes. A ello se suma otro gran cambio: en el contexto de la globalización, una sola empresa, como las grandes tecnológicas, puede llegar a tener una influencia que trasciende a los Estados.

Ahora que las empresas privadas controlan partes importantes de la información y su influencia crece, será cada vez más necesario, como debate público, cómo crear mecanismos para que esas empresas se autorregulen y para controlarlas desde fuera.

Un gran poder conlleva una gran responsabilidad de previsión, de contención y de rendición de cuentas. Es necesario prepararse de nuevo para ello.

En el Silicon Valley tradicional existía una mentalidad como «Move fast and break things», pero eso era posible porque se trataba de ámbitos de negocio en los que se podía dar marcha atrás y que no estaban tan relacionados con la vida de las personas. Si se hiciera lo mismo en el ámbito militar, sería Move fast, kill things, y las vidas humanas no se recuperan.

Por eso creo que es necesario debatir sobre la ética.

Ahora bien, como ya se ha dicho, pensar en términos de la disyuntiva «complicidad con la guerra o retirada total» es demasiado simplista. Si se pierde la capacidad de defensa efectiva, podría incluso ponerse en peligro las vidas humanas y la sociedad.

Lo que hay que preguntarse no es si negar todo lo relacionado con la tecnología de defensa o ese negocio, sino examinar el complejo gradiente de lo bueno y lo malo: qué se puede hacer y qué no se debe hacer.

Ética y velocidad

Por otro lado, quizá algunas personas piensen que, si se da demasiado peso a la ética, se retrasará el desarrollo tecnológico de los países democráticos y, como resultado, disminuirá la disuasión frente a los regímenes autoritarios. Pero si la ética es débil, más adelante pueden producirse suspensiones de compras o de exportaciones. También podrían derivarse litigios o una menor interoperabilidad con los países aliados. Como resultado, el negocio se vuelve más frágil.

Como suele decirse también en el ámbito científico-tecnológico, para poder pisar el acelerador como es debido hay que tener preparados los frenos, y si no se puede maniobrar el volante ni hay guardarraíles instalados, no se obtendrá la confianza de la sociedad.

En el artículo anterior también escribí que, si no se reforman las adquisiciones militares y el mercado, probablemente no surgirán grandes startups. Si se quiere impulsar ese diseño de mercado, debatir y diseñar la ética por cuenta propia debería conducir también a maximizar el valor de la propia empresa.

Desde esa perspectiva, y por eso mismo, junto con pensar «¿es militarmente eficaz esta tecnología?» y «¿es atractivo este negocio como startup?», es importante que las propias personas implicadas se pregunten y den a conocer «¿es correcto hacer este negocio? (¿es correcto invertir en él o apoyarlo?)» y «¿hasta dónde es aceptable?». Y aunque ellas mismas no se lo planteen, creo que es muy necesario que desde su entorno se les formulen esas preguntas y se les ponga freno.

Por ello, en este texto no quiero negar sin más la tecnología de defensa, ni considerar la ética como «un motivo para detener el desarrollo», sino pensarla como una condición de diseño que aumenta la legitimidad social y la posibilidad de adopción a largo plazo. Y, al hacerlo, quiero abordar la ética no como una cuestión emocional, sino, en la medida de lo posible, como un asunto de gestión de riesgos en la práctica, de diseño institucional y de legitimidad democrática.

Llevar la ética a la práctica

Los puntos de debate éticos y los riesgos cambian según el negocio

Aun hablando de la ética de la tecnología de defensa, los puntos de debate y los riesgos éticos varían según el negocio al que se dedique esa tecnología. Por ejemplo, se podría clasificar de la siguiente manera.

Tipo	Ejemplos	Riesgo ético
Apoyo logístico	Abastecimiento, mantenimiento, gestión de inventario, apoyo a la instrucción	Relativamente bajo, pero contribuye a la capacidad de hacer la guerra
Infraestructura de defensa	Ciberdefensa, comunicaciones por satélite, seguridad de bases, respuesta a desastres	Riesgo de reconversión civil, reconversión a la vigilancia y dependencia
Recopilación y análisis de información	ISR, OSINT, análisis de imágenes, IA de conciencia situacional	Identificación errónea, vigilancia, selección discriminatoria de objetivos, dispersión de la responsabilidad
Mando y control / apoyo a la toma de decisiones	C2, priorización de objetivos, apoyo a la planificación de operaciones	Vaciamiento del juicio humano, imposibilidad de explicación
Armas letales y armas autónomas	Drones de ataque, selección autónoma de objetivos, control de fuego	Violación del DIH, ataques excesivos, falta de claridad sobre quién es responsable

Sobre esa base, en la práctica creo que habrá que empezar por estos tres frentes.

Empresa: cómo diseñar la gobernanza
Individuo: cómo exigir virtud a fundadores e inversores
Políticas: cómo diseñar las instituciones del conjunto del mercado

(1) Diseño de la gobernanza empresarial

Un método es cómo construir un sistema de gobernanza ética en la empresa.

Por ejemplo, Skydio, una empresa de drones, publicó sus Engagement and Responsible Use Principles en 2020, cuando reforzó su negocio dirigido a empresas (B2B) desde el de consumo. Helsing, una startup alemana de IA de defensa, también ha ordenado información sobre ética. Palantir tiene asimismo una Human Rights Policy.

Para no cruzar la línea ética, el hecho de que empresas e inversores establezcan reglas e instituciones sobre «con qué usos, clientes y condiciones operativas se puede participar éticamente» debería funcionar, para las empresas que están a punto de entrar en un terreno peligroso, como una armadura y una disciplina que las protejan a sí mismas.

Si se va a hacer Defense Tech, creo que una solución práctica es que empresas, inversores y quienes las apoyan preparen este tipo de mecanismos.

Por ejemplo, una opción sería revisar una lista de verificación como la siguiente (es solo un ejemplo).

Pregunta	Aspectos concretos que verificar
¿A quién se vende?	¿El cliente está bajo control democrático? ¿No es un organismo de seguridad, un ejército o un gobierno con alto riesgo de violaciones de derechos humanos?
¿Para qué se usará?	¿Defensa, prevención de desastres, vigilancia, selección de objetivos o apoyo a ataques?
¿Hasta dónde se participa?	¿Suministro de información, apoyo a la toma de decisiones, selección de objetivos o ejecución de ataques?
¿Se conserva el juicio humano?	¿Está diseñado para que las personas puedan ejercer un juicio significativo? La directiva del Departamento de Defensa de EE. UU. sobre armas autónomas también hace hincapié en el diseño y en el régimen de responsabilidad para reducir el riesgo de enfrentamientos no deseados. (U.S. Department of War)
¿Se puede auditar?	¿Quedan registros, historial de actualizaciones del modelo, origen de los datos, motivos de las decisiones y verificación posterior a los accidentes?
¿Se puede detener?	¿Es posible detenerlo ante un fallo, rescindir el contrato si el cliente lo incumple y restringir el acceso si se desvía el uso?
¿No se están externalizando los costos?	¿No se traslada a la sociedad el costo de la reconstrucción, los daños a civiles, los bombardeos erróneos ni los daños por vigilancia?

Sin embargo, hay que ver hasta qué punto son efectivos. Por ejemplo, recientemente, en junio de 2026, Palantir rechazó en su junta de accionistas la realización de una revisión de derechos humanos, pese a que el 56 % de los accionistas externos la apoyaba. Esto se debió a que tenía una estructura accionarial que otorga a los fundadores un fuerte poder de voto. En el caso de Helsing, puedo confirmar que lo declara, pero, sinceramente, no sé qué hay detrás.

Lo que muestra este caso es que tener gobernanza y que el control externo sea efectivo son cosas distintas. Hace falta debatir qué reglas preparar al respecto.

(2) La virtud y el buen juicio individuales

El segundo punto de vista es debatir sobre la virtud y la ética.

En las startups, los mecanismos institucionales como los anteriores tienden a estar poco desarrollados dentro de la empresa. Por eso se exige la virtud y el buen juicio personales de los fundadores e inversores. En consecuencia, sería deseable evaluar si los fundadores e inversores poseen la personalidad y la cultura organizativa adecuadas para manejar un poder relacionado con la guerra, y que existan muchos espacios para ese debate.

Aun así, creo que es peligroso depender solo de la virtud. En situaciones de presión competitiva, el buen juicio individual por sí solo no puede detener a una organización.

(3) Diseño del mercado

Por eso es importante el diseño del mercado externo. El mercado de la tecnología de defensa se justifica porque suministra de forma más eficiente y adecuada la capacidad de defensa que el Estado y la sociedad necesitan. Hay que diseñar un mercado que funcione con ese propósito.

Joseph Heath, autor de «¿Qué es la ética para el capitalismo?», entre otros, sostiene que las empresas son agentes a quienes se ha encomendado competir y que no corresponde exigirles que mejoren la sociedad, pero concluye que competir con medios contrarios a la finalidad de las instituciones del mercado no es ético.

En ese sentido, si se compite mediante una puesta en escena excesiva de las narrativas de crisis, una influencia desmedida sobre el sistema de adquisiciones, el vendor lock-in o la externalización de responsabilidades y costos, es una competencia que perjudica la finalidad del mercado. Para evitarlo, hay que plasmarlo en reglas de competencia que no aprovechen los fallos del mercado, en sistemas de adquisición, contratos de inversión, revisión de usos y capacidad de auditoría.

(No obstante, al mismo tiempo, mientras ámbitos que antes no eran mercado, como el de la defensa, se van convirtiendo en mercado, me parece que hasta que se creen instituciones de mercado capaces de dominar a las empresas, no hay más remedio que exigirles ética a ellas.)

Debates sobre la ética

Además, aunque sean puntos de cierto nivel de abstracción, menciono algunos que me preocupan desde el punto de vista de la ética.

(1) Lo básico

Lo mínimo que hay que tener presente son perspectivas como el derecho internacional humanitario, los derechos humanos y la teoría de la guerra justa.

Las empresas de Defense Tech y los inversores deberían comprender los principios básicos que exige el derecho internacional humanitario. Me parece muy peligroso decir «es bueno porque sirve a la defensa» sin esa reflexión.

En particular, en los ámbitos de defensa, seguridad e información, hay que diseñar los productos partiendo del riesgo de que se desvíen hacia la vigilancia de civiles, la represión de disidentes, el uso excesivo de la fuerza y la selección discriminatoria de objetivos.

Sin embargo, no parece que se debata mucho sobre esto, y eso me deja inquieto.

Además, hay que prestar atención no a debates abstractos sobre el Estado u otras entidades, sino también a aspectos de la ética del cuidado, como quién resulta herido y cómo, pero tengo la impresión de que tampoco hay mucho debate al respecto.

(2) El debate sobre la legitimidad y la responsabilidad

Con las armas de antes, las decisiones las tomaba el ejército. Pero en los procesos de decisión actuales, que emplean tecnologías de la información, las empresas privadas participan también de forma indirecta en esas decisiones. Con tecnologías centradas en compartir información, como las de antes, el ejército aún conservaba la iniciativa en la decisión. Pero si decide una IA creada por una empresa privada, surgen problemas como hasta qué punto tiene legitimidad una decisión basada en algo creado por una empresa privada y cómo debe tratarse.

Además, mientras la defensa estuviera en manos del Estado, se habían incorporado en forma de leyes mecanismos que ejercían cierto contrapeso sobre el Estado. Pero cuando pasa a ser una empresa privada, resulta bastante difícil aplicar una gobernanza externa. El caso de Palantir mencionado antes es un ejemplo. Habría que pensar qué hacer con ello.

También surge el problema de dónde reside la responsabilidad. Lo peligroso de la tecnología de defensa actual es que la responsabilidad se dispersa. El ingeniero puede decir que solo creó el modelo, la empresa que solo siguió los requisitos del gobierno, el ejército que confió en la evaluación del proveedor y el operador que confió en el sistema. Es un sistema en el que nadie asume plenamente la responsabilidad. Con las armas autónomas, el problema sería aún mayor.

Hay que ordenar el debate antes de que la responsabilidad quede diluida de ese modo.

(3) La dependencia de plataformas privadas y la soberanía

También hay que prestar atención a que las empresas de tecnología de defensa tienden a no limitarse a vender armas o software, sino a intentar crear plataformas que sirvan de base de las operaciones militares. La plataformización significa también que los ejércitos de cada país pasan a depender de unas pocas empresas, lo que facilita el lock-in, los monopolios y los oligopolios.

Es fácil imaginar que tarde o temprano esas empresas privadas venderán sus productos a diversos países como «War (guerra) as a Service» o «capacidad de defensa/disuasión as a Service», y, una vez implantados, existe también el riesgo de que la defensa nacional deje de funcionar si la empresa rescinde el contrato.

De hecho, en torno a Starlink se informó de que en febrero de 2026 se restringió el acceso de terminales que supuestamente el ejército ruso utilizaba de forma indebida, lo que afectó a las comunicaciones del lado ruso. Además, en 2025, en el contexto de las negociaciones sobre recursos con Ucrania, se dice que se mencionó la posibilidad de suspender el acceso a Starlink. Los hechos requieren un análisis cuidadoso, pero cuando las plataformas privadas pueden llegar a tener tal influencia sobre las comunicaciones y la continuidad de las operaciones en tiempos de guerra, hay que tomar medidas sobre cómo responder.

(4) Cómo relacionarse con los nuevos actores

Hasta aquí he hablado del lado de las startups, pero creo que también se exigirá una nueva ética y una nueva visión del mercado al lado del gobierno que quiere implicar a las startups.

Como se ha dicho, las startups y los fondos de capital riesgo tienen incentivos con plazo limitado y son actores movidos por la lógica del capital, algo distinta de la de los actores tradicionales de la defensa. Incorporar al ecosistema de defensa las innovaciones que esas personas impulsan tiene ventajas, pero también desventajas. Si no se logra controlarlo bien, podría ocurrir que el gobierno sea absorbido por las narrativas de esas personas y que la confrontación se agudice con más facilidad.

Por ejemplo, a16z, entre otros, ha escrito un texto en el que considera «enemiga» la ética tecnológica. Que se puedan controlar los discursos y las tecnologías de esas personas dependerá también de la capacidad que tenga el gobierno.

(5) La narrativa excesiva sobre el grado de contribución al país

También creo que es importante no ver la tecnología de defensa únicamente como una «contribución al país».

Ben Buchheim-Jurisson, también inversor en tecnología de defensa, destaca, desde su trayectoria como exmilitar, la diferencia entre las empresas privadas e inversores, que tienen «libertad para abandonar» y además grandes ganancias, y los militares, que actúan bajo las restricciones de una estricta sujeción al Estado y bajos salarios, y que además se enfrentan realmente al peligro. Advierte de que, cuando empresas como Palantir o Anduril usan la expresión «servicio a la nación», las élites privadas que en realidad no cargan con el costo de la guerra podrían acabar tomando prestada solo la autoridad moral de la guerra. Creo que esta lógica es válida también para la tecnología de defensa de Japón.

Entre las empresas privadas y los inversores que participan en la defensa habrá quienes realmente quieran proteger a la sociedad y al país, pero, aun así, no hay que justificarlo todo con la narrativa de la «contribución al país»; me parece necesario examinar quién asume qué responsabilidades.

(6) Cómo quiere ser Japón

Y por último, para pensar la ética de la tecnología de defensa en Japón, creo que es necesario reflexionar de nuevo sobre la forma de Japón como país y sobre qué significa la seguridad para Japón. Esto incluye debates que van más allá de la ética, pero se trata de pensar, ahora que la protección de Estados Unidos retrocede, qué quiere proteger Japón como mínimo, cuánto costo puede aportar y qué líneas no debe cruzar, y, a partir de ahí, qué se puede hacer dentro de ese marco.

Ahora bien, no basta con que esa ética la diseñe Japón por su cuenta: también debe compartirse hasta cierto punto con la ética de los países con los que se coopera. Hay además una razón comercial: con países con los que no se comparte la visión ética, es difícil incluso exportar lo que se ha fabricado en el propio país. Si se quiere vender a la UE, habrá que cuidar que se ajuste también a la ética y a los debates éticos de la UE.

En Estados Unidos, como movimientos que reclaman esa «ética», parece que se debaten cosas como el regreso al cristianismo y el bien común.

Y, al pensar la forma de Japón, creo también que no hay que dejarse arrastrar por el ambiente actual de Silicon Valley. La corriente actual del Defense Tech en Estados Unidos parece haber surgido de una mezcla de pensamiento hegemónico estadounidense, mercadismo tecnolibertario y el optimismo tecnológico propio de Silicon Valley. No necesariamente es siempre correcta.

No se trata de negar la tecnología de defensa

Hasta aquí he reflexionado desde varios puntos de vista.

Con esto no quiero decir que sea mejor no dedicarse a la tecnología de defensa. Lo que quiero decir es que, si se hace, tanto la sociedad como el negocio necesitan que se haga bien. Por ejemplo, si se hace cabildeo para mejorar el entorno del mercado, creo que se debe pedir al gobierno que prepare ese entorno con la debida determinación y con razones sólidas.

Si se participa después de haber reflexionado a fondo sobre estas cuestiones, creo que la tecnología de defensa puede ser no solo un mero negocio de la guerra, sino también una tecnología para mantener la paz. Pero para ello hace falta diseño.

Por otra parte, aunque no niego el esfuerzo de defensa, personalmente pienso que sería mejor dedicar mi tiempo y mis capacidades a crear un mundo en paz. La defensa puede ser importante en el corto plazo, pero si una fortaleza del individuo, como en la inversión bursátil general, es poder apostar a medio y largo plazo, creo que dedicar el tiempo a crear la paz que hay más allá de la agitación de corto plazo daría un retorno total mayor, y también quiero apostar no por las tendencias del mercado, sino por crear el futuro que deseo aprovechando el mercado, y por que la sociedad humana avance en una dirección mejor.

Lista de artículos relacionados

Ordenar los supuestos de partida: Defense Tech, doble uso, diferencias entre Japón y EE. UU.

Capacidad de defensa - ¿Aumenta ese negocio la capacidad de defensa efectiva de Japón?
Viabilidad comercial - ¿Puede ese negocio crecer rápidamente como startup?
Ética - ¿Debe hacerse ese negocio?