防务科技的伦理 - 思考日本的 Defense Tech / 防务科技（4）
本文由 AI（Claude）从日语机器翻译而成，可能存在错误。 阅读日语原文。
我将于6 月 29 日（周一）在一场与 Defense Tech 相关的活动上发言，因此事先把自己的想法写下来整理一番。文章篇幅较长，所以分成了多篇。
此外，根据收到的反馈，我的想法和意见今后可能会有所变化。
在思考日本的 Defense Tech 时，我认为在梳理前提之后，需要重点讨论的有以下三点。
本文讨论的是“伦理”。
防务科技兴起带来的社会风险，与伦理的重要性
为什么在防务科技中需要思考伦理？我想通过一个略显夸张的情景来谈谈这个问题。
首先，防务科技企业市值上涨的时机，大概是**“冲突发生”或“对立加剧、危机意识升高”**的时候。因为防务科技企业产品的需求增加、市场价值上升，想必是在事态发生之时。
尤其是投资防务科技的风险投资机构，且不论他们本人是否希望发生战争，其结构决定了：如果在基金存续期内安全保障环境趋于紧张、防卫预算增加、被投企业的估值上升，投资回报就可能变得更大。
这样一来，在战争等因素推高企业价值的时点收回投资、获得投资回报，再把战后的重建成本转嫁给社会……这样的说法固然带有很强的阴谋论色彩，但确实存在着制造这种结构和叙事的动机。
即便不是这种积极的介入，也还有“为了证明已经确保的预算是正当的，而难以停止战争”的情形。例如，据说第二次世界大战时的日本海军相当清楚自己对美作战缺乏足够的胜算，但由于多年来一直以“美国为假想敌”来构建军备、教育、作战计划和预算，海军高层回避了明确反对开战，转而采取“交由首相定夺”之类含糊的态度，结果开战得以决定（NHK 的专题节目等）。
这并不是说相关的每一个人都是恶人。即使没有恶意，人在细微之处也往往贪婪而软弱，一旦有了动机，就容易流向那一边。
正因为存在这样的人性弱点，我们才需要恰当地约束和规范自己，而被怀疑的一方则负有说明责任。我认为，尤其是在如今这个把投资当作“冲突发生”之赌注的资金不断增加的时候，这样的责任正在变得更重。
正因为民间企业的力量增强，才需要民间的伦理
作为新参与者的民间
我认为，如今在民间企业一侧开展这类讨论的理由越来越充分。
过去，伦理的讨论主要由开发尖端技术的大学等“学”与应用这些技术的“军”两方为中心进行。市民当然也作为利益相关方参与其中，但我觉得其位置更偏被动。
而现在，在尖端技术及其应用方面，民间企业在某些部分已经走在大学等机构之前，作为参与者的存在感不断增强。
这样一来，只抓住“学”就不太有效，必须考虑如何对待“民”。与此同时，需要“民”一侧同样去思考这些问题的情形也在增多。
正因为民间拥有了力量，其中才产生了巨大的责任。
民间当中的初创企业
从这个意义上说，初创企业一方也需要思考。正因为初创企业这一民间企业被寄望成为防务科技的承担者，才会产生相应的责任。
以往的初创企业，是在只要遵守市场规则即可的领域开展业务的，而现在到了需要改变这一点的时候。
一直以来，初创企业进入各种受监管行业的情形越来越多，在那里也被要求承担相应的责任，而如今这已经扩展到了关乎人的生死的领域。既然如此，就会被要求承担更多的责任。
信息技术带来的参与方式的质变
此外，随着信息技术的发展，与过去民间企业提供武器的情形不同，民间企业的意志介入作战决策的余地在增大，因此民间企业对军事的影响力看起来比过去更大。再加上，在全球化的潮流中，像大型科技公司那样，一家企业就能拥有超越国家的影响力，这也是一个重大变化。
在信息的重要部分被民间企业掌握、其影响力不断提高的今天，如何建立这类民间企业自我约束的机制以及来自外部的控制机制，作为今后的公共讨论议题，其必要性将会越来越高。
巨大的力量伴随着巨大的预见责任、抑制责任和说明责任。我们需要为此做好新的准备。
过去硅谷有过“Move fast and break things”这样的理念，但那是因为当时的业务领域可以回头，而且与人的生命关系不大。如果在军事领域这样做，就会变成 Move fast, kill things，而人的生命是回不来的。
正因如此，我认为才需要有关伦理的讨论。
不过，如前所述，把问题看成“要么参与战争，要么彻底撤出”这样的二选一，实在过于简单。因为一旦失去切实有效的防卫力，反而可能让人的生命和社会陷入危险。
真正应该追问的，不是全盘否定参与防卫技术或相关业务，而是去审视什么可以做、什么不可以做，这种复杂的善恶渐变。
伦理与速度
另一方面，也许有人会认为，过于看重伦理，会使民主国家一方的技术开发落后，结果削弱对威权国家的威慑力。然而，如果伦理薄弱，事后也可能出现停止采购或停止出口。还可能招致诉讼，以及与盟国之间互操作性的下降。结果反而会使业务变得脆弱。
在科学技术领域也常有人说，为了能够放心地踩下油门，就应该备好刹车；如果不具备转向能力、没有设置护栏，就得不到社会的信任。
在之前的文章中我也写过，如果不进行军事采购改革和市场改革，恐怕就不会诞生大型的初创企业。如果要推动这样的市场设计，那么自己主动讨论并设计伦理，也应当有助于实现自身价值的最大化。
从这个角度来看，在思考“这项技术在军事上有效吗？”“这项业务作为初创企业有吸引力吗？”的同时，相关人员自己去思考并主动发声：“可以做这项业务吗？（可以投资、支持这项业务吗？）”“做到哪一步是可以的？”也很重要；即使当事人自己并不在意，来自周围的这类提问和制动的必要性也很大。
因此，本文并不一概否定防务科技，也不把伦理视为“停止开发的理由”，而是想把伦理作为提高社会正当性与长期可采用性的设计条件来思考。在此过程中，我希望尽可能不把伦理当作情绪化的议论，而是将其视为实务上的风险管理、制度设计和民主正当性的问题。
把伦理落实到实务中
随业务而变的伦理议题与风险
即使同样说是防务科技的伦理，该防务科技开展什么样的业务，伦理上的议题和风险也会不同。例如，可以做如下分类。
类型 | 示例 | 伦理风险 |
后方支援、物流 | 补给、维修、库存管理、训练支援 | 相对较低，但对战争执行能力有所贡献 |
防卫基础设施 | 网络防御、卫星通信、基地警卫、灾害应对 | 民用转用、监控转用、依赖风险 |
情报收集与分析 | ISR、OSINT、图像分析、态势感知 AI | 误判、监控、歧视性瞄准、责任分散 |
指挥控制与决策支援 | C2、目标优先级排序、作战计划支援 | 人类判断流于形式、无法解释 |
致命性武器与自主武器 | 攻击型无人机、自主选定目标、火控 | 违反 IHL、过度攻击、责任归属不明 |
在此基础上，我认为在实务上需要从以下三个方面入手。
- 企业：如何设计治理
- 个人：如何要求创始人和投资人的德行
- 政策：如何设计整个市场的制度
(1) 企业的治理设计
一种方法是，如何建立企业的伦理治理体系。
例如，无人机企业 Skydio 在 2020 年从面向消费者转向加强 B2B 业务的时候，公开了 Engagement and Responsible Use Principles。德国的防务 AI 初创企业 Helsing 也整理了有关 Ethics 的信息。Palantir 也准备了 Human Rights Policy。
为了不越过伦理底线，企业和投资人事先制定“在什么用途、客户和运营条件下可以在伦理上参与”之类的规则和制度，对于正要踏入危险领域的企业来说，应当会成为保护自身的护具和纪律。
如果要做 Defense Tech，那么企业、投资人和支持方都准备好这样的机制，我认为是一种实务上的解决办法。
例如，可以对照下面这样的清单逐项检查。（仅为示例）
问题 | 具体确认事项 |
卖给谁 | 客户是否处于民主控制之下。是否是侵犯人权风险较高的治安机构、军队或政府。 |
用来做什么 | 是防卫、防灾、监控、瞄准、攻击支援中的哪一种。 |
参与到什么程度 | 是提供信息、决策支援、选定目标，还是实施攻击。 |
是否保留人的判断 | 设计上是否让人能够做出有意义的判断。美国国防部的自主武器指令也重视为降低非预期交战风险而设的设计与责任体制。(U.S. Department of War) |
能否审计 | 日志、模型更新历史、数据来源、判断理由、事故后的检验是否有留存。 |
能否叫停 | 能否在发生故障时停止、客户违规时解除合同、用途偏离时限制访问。 |
有没有外部化 | 是否把重建成本、平民受害、误炸、监控受害转嫁给了社会。 |
不过，需要看清这些措施在多大程度上真正有效。例如最近，2026 年 6 月，Palantir 虽然有外部股东中的 56% 支持开展人权审查，却据说在股东大会上否决了该提案。这是因为其采用了赋予创始人强大表决权的股权结构。Helsing 也确实提出了相关主张，但其实质如何，说实话我并不清楚。
这个事例所表明的是，有治理与来自外部的控制能够生效，是两回事。对此要准备什么样的规则，需要讨论。
(2) 个人的德行与良知
第二个视角是讨论德行与伦理。
初创企业往往在公司内部缺乏上述那样的制度。因此，就需要创始人和投资人个人的德行与良知。所以，评估创始人和投资人是否具备与掌握涉及战争的权力相称的人格与组织文化，并且拥有更多这样的讨论场合，是值得期待的。
不过，我也认为只依靠德行是危险的。因为在竞争压力之下，仅凭个人的良知是无法让组织停下来的。
(3) 市场设计
正因如此，外部的市场设计才很重要。防务科技市场之所以正当，是因为它能够更高效、更恰当地提供国家与社会所需要的防卫力。我们需要设计出这样合目的地运转的市场。
写了《资本主义的伦理是什么》的约瑟夫·希思（Joseph Heath）等人，在论证企业是被赋予竞争职责的主体、要求企业去改善社会并不恰当之后，又整理出这样的看法：不过，以违背市场制度目的的手段进行竞争，在伦理上是不可取的。
从这个意义上说，如果靠过度渲染危机叙事、对采购制度施加过度影响、供应商锁定、把责任和成本外部化来竞争，那就是损害市场目的的竞争。为了防止这些，需要把不利用市场失灵的竞争规则、采购制度、投资合同、用途审查和可审计性落实下来。
（不过另一方面，我也觉得，在防卫领域这样过去不属于市场的地方逐步市场化的过程中，在形成足以驾驭企业的市场制度之前，也有不得不要求企业承担伦理责任的地方。）
有关伦理的讨论
此外，虽然抽象程度略高，我还想列举几个从伦理角度值得关注的点。
(1) 基本
首先，至少应当把握的是国际人道法、人权和正义战争论等视角。
Defense Tech 企业和投资人需要理解国际人道法所要求的基本原则。没有这样的检讨，就说“对防卫有用所以是好的”，在我看来非常危险。
尤其是在防卫、治安和情报领域，设计时必须以产品可能被转用于监控平民、镇压异见人士、过度使用武力和歧视性瞄准为前提。
然而，这类讨论看起来并不多，这让人感到不安。
此外，也需要关注关怀伦理的层面，即不是国家之类的抽象讨论，而是谁会以什么方式受到伤害，但我的印象是这方面的讨论也很少。
(2) 关于正当性与责任的讨论
以前的武器，决策是由军队做出的。然而，在如今利用信息技术的决策过程中，民间企业会间接参与到这些决策当中。如果是过去那种以信息共享为主的技术，决策的主导权还在军队手中。但如果由民间企业制造的 AI 来做判断，那么民间企业所造之物做出的决策有多大程度的正当性，又应当如何对待，也会成为问题。
另外，只要防卫是由国家来担当，以法律的形式就内置了对国家施加一定牵制的机制。但一旦变成私营企业，要从外部施加治理就会相当困难。前面提到的 Palantir 的例子就是一例。对此该怎么办，是值得思考的。
责任归属的问题也会出现。近来防务科技的危险之处在于责任会被分散。工程师可能会说自己只是做了模型，企业可能会说只是遵从了政府的要求，军队可能会说是相信了供应商的评估，操作员可能会说是信任了系统。这是一个没有人完全承担责任的体系。到了自主武器，这个问题会更大。
需要在责任变得含糊不清之前，把讨论整理好。
(3) 对民间平台的依赖与主权
另外，还需要注意，防务科技企业的倾向并不只是出售武器或软件，而是试图打造成为军事行动基础的平台。平台化也意味着各国军队会依赖少数企业，容易出现锁定以及垄断、寡头垄断。
不难想象，这类民间企业迟早会以“战争即服务（War as a Service）”或“防卫力/威慑力即服务（as a Service）”的形式向各国出售自家产品；而且在引入之后，也存在这样的风险：一旦企业终止合同，国防就无法运转。
实际上，关于 Starlink，有报道称 2026 年 2 月，被认为遭俄军不正当使用的终端被限制了访问，对俄方的通信造成了影响。另外据说在 2025 年，它在与乌克兰进行资源谈判的背景下，还提到了停止 Starlink 访问的可能性。事实关系需要谨慎梳理，但当民间平台对战时的通信和作战持续能够产生重大影响时，应当如何应对，需要事先做好对策。
(4) 与新参与者相处的方式
到这里谈的都是初创企业一方的事，但我认为，想要拉初创企业入局的政府一方，同样需要新的伦理观和市场观。
如前所述，初创企业和 VC 带有限时的动机，是受资本逻辑驱动、与以往的防卫相关人士略有不同的参与者。把这些人推动的创新纳入防卫生态系统，既有好处也有坏处。如果不能很好地驾驭，就可能被这些人的叙事所吞没，使对立更容易趋于尖锐。
例如 a16z 等就写过把技术伦理视为“敌人”的文章。能否驾驭这些人的言行和技术，也将取决于政府一方拥有多大的能力。
(5) 过度渲染对国家贡献程度的叙事
我认为，同样重要的是，不要过度地把防务科技看作“对国家的贡献”。
同为防务科技投资人的 Ben Buchheim-Jurisson 凭借其前军人的经历强调了这样的差别：民间企业和投资人有“退出的自由”，而且获利也大；而军人则是在受国家严格约束、报酬低等限制之中行动，并且实际面对危险。他警告说，当 Palantir 和 Anduril 之类的企业使用“为国家服务”这样的说法时，实际上并不承担战争成本的民间精英，可能只是在借用战争的道德权威。这一逻辑对日本的防务科技也同样适用。
在参与防卫的民间企业和投资人当中，也有人是真心想要保护社会和国家的，但即便如此，也不能用“对国家的贡献”这一叙事把一切都加以肯定，我认为需要看清究竟是谁承担着什么样的责任。
(6) 日本想成为什么样的国家
最后，我认为在思考日本的防务科技伦理时，仍然有必要重新思考日本作为国家的形态，以及对日本而言安全保障究竟是什么。这其中包含超出伦理范畴的讨论，但在美国的保护逐渐后退的情况下，要思考的是：作为日本，最低限度想守住什么，能够拿出多少费用，什么是绝不能越过的；在此基础上，再思考在这些前提之内能做什么。
不过，这样的伦理并不是由日本独自设计就可以的，也需要在一定程度上与合作国家的伦理共享。在伦理观无法共享的国家，自己国家制造的东西连出口都很困难，这也是业务上的理由。如果想卖给欧盟，就需要考虑让产品符合欧盟的伦理观和伦理讨论。
在美国，作为寻求这类“伦理”的动向，似乎有人在讨论回归基督教以及共同善之类的主张。
而且，在思考日本的形态时，我也认为不能被现在硅谷的氛围所裹挟。美国的霸权思维、技术自由意志主义（techno-libertarian）式的市场主义，以及硅谷特有的技术乐观论等混合在一起，才形成了当今美国 Defense Tech 的潮流。这并不意味着它始终正确。
并不是在否定防务科技
以上，我从几个角度进行了思考。
所以，并不是说最好不要做防务科技。而是说，如果要做，那么无论对社会还是对业务，都有必要认真地做。例如，如果要开展游说以改善市场环境，就应当在具备相应的觉悟和道理的前提下，向政府提出完善环境等要求。
如果是在对这些问题想透之后再参与，防务科技就不仅仅是战争生意，也可能成为维护和平的技术。但为此需要设计。
另外，我并不否定防卫方面的努力，但就我个人而言，我觉得把自己的时间和能力用在创造和平的世界上更好。防卫在短期内也许很重要，但如果能够押注于中长期，这与一般的股票投资等一样，也是个人的优势所在；那么，把时间用在创造短期动荡之后的和平上，综合回报应该会更大，而且我也希望不是押注于市场趋势，而是在利用市场的同时创造自己想要的未来，押注于人类社会朝着更好的方向前进。
相关文章列表
整理前提：Defense Tech、双重用途、日美差异