A ética da tecnologia de defesa - Pensando o Defense Tech do Japão / tecnologia de defesa (4)

Vou participar como palestrante de um evento sobre Defense Tech na segunda-feira, 29 de junho, por isso escrevo e organizo de antemão as minhas ideias. Como o texto ficou longo, ele foi dividido em várias partes.

Além disso, com base nos comentários que receber, é possível que as minhas ideias e opiniões mudem daqui em diante.

Para pensar o Defense Tech do Japão, depois de organizar as premissas, considero que há três grandes pontos a discutir.

Capacidade de defesa - Esse negócio aumenta a capacidade de defesa efetiva do Japão?
Viabilidade comercial - Esse negócio consegue crescer rapidamente como uma startup?
Ética - Esse negócio deve ser feito?

Neste artigo, trato da "ética".

Os riscos sociais da ascensão da tecnologia de defesa e a importância da ética

Quero pensar em por que é preciso considerar a ética na tecnologia de defesa por meio de um cenário um pouco exagerado.

Em primeiro lugar, o momento em que o valor de mercado das empresas de tecnologia de defesa sobe seria "quando ocorre um conflito" ou "quando a oposição se intensifica e a percepção de crise aumenta". Isso porque é quando acontece algum episódio que a demanda pelos produtos dessas empresas cresce e o valor de mercado aumenta.

Em especial, os fundos de venture capital que investem em tecnologia de defesa têm uma estrutura em que, independentemente de seus integrantes desejarem ou não a guerra, quanto mais o ambiente de segurança se tensiona durante o prazo do fundo, mais o orçamento de defesa cresce e mais as empresas investidas se valorizam, maior pode ser o retorno do investimento.

Nesse caso, recuperar o investimento e obter retorno no momento em que o valor das empresas sobe por causa de uma guerra ou algo semelhante, e depois empurrar para a sociedade o custo da reconstrução do pós-guerra... isso é, em grande medida, algo de teoria da conspiração, mas existe o incentivo para criar esse tipo de estrutura e de narrativa.

Mesmo sem uma atuação tão ativa, também acontece de "ficar difícil parar a guerra para justificar o orçamento obtido". Por exemplo, diz-se que a Marinha Imperial Japonesa na Segunda Guerra Mundial tinha plena consciência de que não tinha perspectivas suficientes de vitória numa guerra contra os Estados Unidos, mas, como durante muitos anos havia estruturado armamentos, educação, planos de operações e orçamento tomando "os Estados Unidos como inimigo hipotético", a cúpula da Marinha evitou se opor claramente ao início da guerra, refugiou-se numa postura ambígua como "deixar a decisão ao primeiro-ministro" e, no fim, a guerra acabou sendo decidida (reportagem especial da NHK e outras).

Isso não quer dizer que as pessoas envolvidas sejam más individualmente. Mesmo sem má-fé, os seres humanos tendem a ser ambiciosos e fracos em pequenos detalhes, então, se há um incentivo, é fácil ser levado nessa direção.

Justamente por existir essa fraqueza humana, precisamos nos limitar e nos disciplinar de maneira adequada, e quem é alvo dessas suspeitas passa a ter o dever de prestar contas. Penso que, sobretudo agora, quando crescem os investimentos como apostas sobre "a ocorrência de conflitos", essa responsabilidade aumenta.

Justamente porque o poder das empresas privadas cresceu, exige-se uma ética do setor privado

O setor privado como novo ator

Acho que aumentaram as razões para que esse tipo de discussão seja feito especialmente do lado das empresas privadas.

Tradicionalmente, a discussão sobre ética girava principalmente em torno de dois polos: a "academia", como as universidades que desenvolvem tecnologias de ponta, e as "forças armadas", que as aplicam. Os cidadãos também faziam parte, claro, como partes interessadas, mas tinham, a meu ver, uma posição mais passiva.

Hoje, as empresas privadas passaram a liderar em parte as tecnologias de ponta e suas aplicações, mais do que as universidades, e vêm ganhando presença como atores.

Assim, não é muito eficaz controlar apenas a "academia"; é preciso pensar no que fazer com o "setor privado". E, nesse momento, aumentam também as coisas que o próprio lado "privado" precisa pensar da mesma forma.

Justamente porque o setor privado ganhou poder, surge aí uma grande responsabilidade.

As startups dentro do setor privado

Nesse sentido, as startups também precisam refletir. Justamente porque as startups, como empresas privadas, são esperadas como protagonistas da tecnologia de defesa, surge para elas uma responsabilidade correspondente.

As startups tradicionais atuavam em áreas em que bastava seguir as regras do mercado, mas chegou o momento de mudar isso.

Há tempos as startups vêm entrando em diversos setores regulados, e também ali lhes foram exigidas responsabilidades correspondentes; agora isso se estende a áreas que envolvem a vida e a morte de pessoas. Sendo assim, passa-se a exigir delas uma responsabilidade ainda maior.

Mudança qualitativa na forma de envolvimento causada pela tecnologia da informação

Além disso, com o avanço da tecnologia da informação, diferentemente do fornecimento de armas por empresas privadas no passado, aumentou o espaço para que a vontade das empresas privadas entre na tomada de decisão em combate, de modo que a influência das empresas privadas sobre os assuntos militares parece maior do que antes. Soma-se a isso outra grande mudança: no curso da globalização, uma única empresa, como as Big Techs, passou a poder ter uma influência que ultrapassa a de países.

Agora que as empresas privadas detêm partes importantes da informação e sua influência cresce, a necessidade de uma discussão pública sobre como criar mecanismos para que essas empresas se disciplinem e mecanismos para controlá-las de fora tende a aumentar daqui para frente.

Um grande poder vem acompanhado de grandes responsabilidades de previsão, de contenção e de prestação de contas. É preciso uma nova preparação para isso.

No Vale do Silício tradicional havia uma mentalidade como "Move fast and break things", mas isso era possível porque se tratava de áreas de negócio em que era possível voltar atrás e que não estavam tão ligadas à vida das pessoas. Se isso for feito na área militar, vira Move fast, kill things, e a vida das pessoas não volta.

Por isso penso que a discussão sobre ética é necessária.

No entanto, como mencionado antes, pensar na alternativa binária de "cumplicidade com a guerra ou retirada completa" é simples demais. Isso porque, se perdermos a capacidade de defesa efetiva, podemos, ao contrário, colocar em risco vidas humanas e a sociedade.

O que deve ser questionado não é negar todo o envolvimento com tecnologias de defesa nem esse negócio como um todo, mas olhar para o complexo gradiente do que é bom e ruim, isto é, o que se pode fazer e o que não se deve fazer.

Ética e velocidade

Por outro lado, algumas pessoas talvez pensem que, se dermos peso excessivo à ética, o desenvolvimento tecnológico dos países democráticos se atrasará e, como resultado, a capacidade de dissuasão contra os Estados autoritários diminuirá. Porém, se a ética for fraca, pode haver mais tarde a suspensão de compras ou de exportações. Também pode haver processos judiciais e queda da interoperabilidade com países aliados. Como resultado, o negócio se torna, ao contrário, mais frágil.

Como também se diz com frequência na área de ciência e tecnologia, para pisar de verdade no acelerador é preciso ter freios, ter a possibilidade de dirigir e ter guard-rails instalados; sem isso, não se obterá a confiança da sociedade.

No artigo anterior também escrevi que, sem reformas nas compras militares e no mercado, provavelmente não surgirão grandes startups. Se quisermos promover esse tipo de desenho de mercado, discutir e projetar a ética por conta própria deve levar também à maximização do valor da própria empresa.

Também desse ponto de vista, ao mesmo tempo em que se pergunta "Essa tecnologia é militarmente eficaz?" e "Esse negócio é atraente como startup?", é importante que as próprias pessoas envolvidas pensem e divulguem por conta própria "Podemos fazer esse negócio? (Podemos investir nele e apoiá-lo?)" e "Até onde é aceitável?"; e, mesmo que elas próprias não se preocupem, é grande a necessidade de que as pessoas ao redor lancem essas perguntas e ponham um freio.

Por isso, neste texto, em vez de negar de forma uniforme a tecnologia de defesa, e considerando a ética não como um motivo para parar o desenvolvimento, quero pensar a ética como uma condição de projeto que aumenta a legitimidade social e a possibilidade de adoção a longo prazo. Nesse processo, quero tratar a ética, na medida do possível, não como emoção, mas como uma questão de gestão de riscos na prática, de desenho institucional e de legitimidade democrática.

Concretizando a ética na prática

Os pontos de debate e os riscos éticos mudam conforme o negócio

Mesmo falando em ética da tecnologia de defesa, os pontos de debate e os riscos éticos mudam conforme o tipo de negócio dessa tecnologia de defesa. Por exemplo, é possível fazer a seguinte classificação.

Tipo	Exemplos	Risco ético
Apoio logístico	Suprimento, manutenção, gestão de estoque, apoio ao treinamento	Relativamente baixo, mas contribui para a capacidade de conduzir a guerra
Infraestrutura de defesa	Ciberdefesa, comunicação por satélite, segurança de bases, resposta a desastres	Riscos de conversão para uso civil, conversão para vigilância e dependência
Coleta e análise de informações	ISR, OSINT, análise de imagens, IA de consciência situacional	Identificação errada, vigilância, seleção discriminatória de alvos, diluição da responsabilidade
Comando e controle e apoio à tomada de decisão	C2, priorização de alvos, apoio ao planejamento de operações	Esvaziamento do julgamento humano, inexplicabilidade
Armas letais e armas autônomas	Drones de ataque, seleção autônoma de alvos, controle de tiro	Violação do DIH, ataque excessivo, indefinição de quem é responsável

Feito isso, na prática, acho que é preciso começar por estes três pontos.

Empresa: como desenhar a governança
Indivíduo: como exigir virtude de fundadores e investidores
Política: como desenhar o sistema institucional do mercado como um todo

(1) O desenho da governança da empresa

Um dos métodos é como construir uma estrutura de governança ética na empresa.

Por exemplo, a Skydio, empresa de drones, publicou os Engagement and Responsible Use Principles em 2020, quando fortaleceu o negócio voltado ao B2B, saindo do consumidor final. A Helsing, startup alemã de IA para defesa, também organizou informações sobre ética. A Palantir também preparou uma Human Rights Policy.

Para não ultrapassar limites éticos, é de se esperar que empresas e investidores que criam regras e sistemas sobre "para quais usos, clientes e condições de operação é possível se envolver de forma ética" obtenham, para as empresas que estão prestes a entrar em territórios perigosos, uma proteção e uma disciplina que as guardam.

Se for atuar com Defense Tech, preparar esse tipo de mecanismo, tanto do lado das empresas quanto dos investidores e de quem as apoia, seria uma das soluções práticas.

Por exemplo, verificar uma lista de checagem como a seguinte também seria uma das opções. (É apenas um exemplo.)

Pergunta	Pontos concretos a verificar
Para quem vende?	O cliente está sob controle democrático? Não é uma agência de segurança, uma força armada ou um governo com alto risco de violação de direitos humanos?
Para que será usado?	Defesa, prevenção de desastres, vigilância, seleção de alvos ou apoio a ataques: qual deles?
Até onde se envolve?	Fornecimento de informações, apoio à tomada de decisão, seleção de alvos ou execução de ataques?
O julgamento humano permanece?	O desenho permite que humanos façam um julgamento significativo? A diretiva do DoD sobre armas autônomas também enfatiza o desenho e a estrutura de responsabilidade para reduzir o risco de engajamentos não intencionais. (U.S. Department of War)
É possível auditar?	Permanecem registros (logs), histórico de atualização de modelos, origem dos dados, motivos das decisões e verificação posterior a acidentes?
É possível parar?	É possível interromper em caso de mau funcionamento, rescindir o contrato em caso de violação pelo cliente e restringir o acesso em caso de desvio de uso?
Não está externalizando?	Não está empurrando para a sociedade os custos de reconstrução, os danos a civis, os bombardeios por engano e os danos da vigilância?

Contudo, é preciso observar até que ponto isso é efetivo. Por exemplo, recentemente, em junho de 2026, a Palantir, embora 56% dos acionistas externos apoiassem a realização de uma revisão de direitos humanos, parece tê-la rejeitado na assembleia de acionistas. Isso porque ela adotava uma estrutura de ações que dá forte poder de voto aos fundadores. Quanto à Helsing, é possível confirmar o que ela declara, mas, para ser sincero, não sei o que há de concreto por trás.

O que esse caso mostra é que ter governança e ter controle externo eficaz são coisas diferentes. Que regras preparar a esse respeito precisa ser discutido.

(2) A virtude e o bom senso individuais

O segundo ponto de vista é discutir a virtude e a ética.

Nas startups, os sistemas descritos acima tendem a ser imaturos dentro da empresa. Por isso, passam a ser exigidas a virtude e o bom senso individuais de fundadores e investidores. Assim, seria desejável avaliar se fundadores e investidores têm a personalidade e a cultura organizacional adequadas para lidar com o poder ligado à guerra, e que existam muitos espaços para esse tipo de discussão.

No entanto, também acho arriscado depender apenas da virtude. Isso porque, em situações de pressão competitiva, o bom senso individual sozinho não consegue deter a organização.

(3) O desenho do mercado

Por isso mesmo, o desenho do mercado externo é importante. O mercado de tecnologia de defesa se justifica por fornecer, de forma mais eficiente e adequada, a capacidade de defesa necessária ao Estado e à sociedade. É preciso desenhar um mercado que funcione de modo condizente com essa finalidade.

Joseph Heath, que escreveu Morality, Competition, and the Firm, entre outros, argumenta que a empresa é um agente a quem foi atribuído o papel de competir e que exigir dela que melhore a sociedade seria equivocado; e, em seguida, organiza o tema dizendo que competir por meios contrários à finalidade das instituições de mercado não é ético.

Nesse sentido, competir por meio da encenação excessiva de narrativas de crise, da influência indevida sobre o sistema de compras, do vendor lock-in e da externalização de responsabilidades e custos é uma competição que prejudica a finalidade do mercado. Para evitar isso, é preciso traduzir em regras de competição, sistemas de compras, contratos de investimento, avaliação de uso e auditabilidade que não explorem as falhas de mercado.

(Por outro lado, parece-me que, à medida que áreas que antes não eram mercado, como a de defesa, vão sendo transformadas em mercado, até que se crie um sistema de mercado capaz de controlar as empresas, será inevitável exigir ética delas.)

Discussões sobre ética

Além disso, embora num nível um tanto mais abstrato, listo alguns pontos que me preocupam do ponto de vista da ética.

(1) O básico

Primeiro, o mínimo que se deve ter em mente são perspectivas como o direito internacional humanitário, os direitos humanos e a teoria da guerra justa.

As empresas de Defense Tech e os investidores precisarão entender os princípios básicos exigidos pelo direito internacional humanitário. Falar que "é bom porque ajuda a defesa" sem esse tipo de análise parece-me muito perigoso.

Em particular, nas áreas de defesa, segurança e informação, é preciso projetar os produtos partindo do pressuposto do risco de que sejam desviados para a vigilância de civis, a repressão de dissidentes, o uso excessivo da força e a seleção discriminatória de alvos.

Contudo, não parece que esse tipo de discussão esteja sendo muito feito, e isso deixa uma preocupação.

Além disso, é preciso prestar atenção também a aspectos de ética do cuidado, como quem se fere e de que maneira, em vez de discussões abstratas sobre o Estado e afins, mas tenho a impressão de que essa discussão também é escassa.

(2) A discussão sobre legitimidade e responsabilidade

Com as armas do passado, a tomada de decisão cabia às forças armadas. Mas, nos processos de decisão que usam a tecnologia da informação de hoje, as empresas privadas passam a se envolver indiretamente também na tomada de decisão. Com tecnologias centradas no compartilhamento de informações, como as do passado, a iniciativa da decisão ainda ficava com as forças armadas. Mas, quando uma IA criada por uma empresa privada passa a julgar, tornam-se questões até que ponto uma decisão tomada por algo criado por uma empresa privada tem legitimidade e como isso será tratado.

Além disso, enquanto a defesa era realizada pelo Estado, havia mecanismos embutidos, na forma de leis, para exercer certa contenção sobre o Estado. Mas, quando se trata de uma empresa privada, impor uma governança externa passa a ser correspondentemente difícil. O exemplo da Palantir mencionado há pouco é um deles. Como lidar com isso é algo a ser pensado.

Surge também o problema de onde está a responsabilidade. O perigo da tecnologia de defesa atual é que a responsabilidade se dispersa. Os engenheiros podem dizer que apenas criaram o modelo, a empresa pode dizer que apenas seguiu os requisitos do governo, as forças armadas podem dizer que confiaram na avaliação do fornecedor, e o operador pode dizer que confiou no sistema. Esse é um sistema em que ninguém assume plenamente a responsabilidade. Com armas autônomas, esse problema se agrava.

Antes que a responsabilidade se dilua dessa forma, é preciso organizar a discussão.

(3) A dependência de plataformas privadas e a soberania

Também é preciso atenção ao fato de que as empresas de tecnologia de defesa tendem a procurar construir não simplesmente armas ou software, mas plataformas que se tornem a base das operações militares. Isso significa também que, com a plataformização, as forças armadas de cada país passam a depender de poucas empresas, e o lock-in, o monopólio e o oligopólio tendem a ocorrer.

É fácil imaginar que, mais cedo ou mais tarde, essas empresas privadas passem a vender seus produtos a vários países como "War as a Service" ou "capacidade de defesa/dissuasão as a Service", e há também o risco de que, mesmo depois da adoção, se a empresa rescindir o contrato, a defesa nacional deixe de funcionar.

De fato, a respeito da Starlink, noticiou-se que, em fevereiro de 2026, o acesso de terminais supostamente usados de forma indevida pelas forças russas foi restringido, afetando as comunicações do lado russo. Além disso, em 2025, no contexto de negociações sobre recursos com a Ucrânia, teria sido mencionada a possibilidade de suspender o acesso à Starlink. Os fatos exigem uma análise cuidadosa, mas, quando plataformas privadas passam a poder ter grande influência sobre a comunicação e a continuidade das operações em tempo de guerra, é preciso se preparar com antecedência sobre como responder.

(4) Como lidar com os novos atores

Até aqui falei do lado das startups, mas acredito que também o lado do governo, que procura envolver as startups, precisará de uma nova ética e de uma nova visão de mercado.

Como mencionado, as startups e os VCs têm incentivos com prazo determinado e são atores movidos pela lógica do capital, um pouco diferentes dos agentes tradicionais da defesa. Trazer para o ecossistema de defesa a inovação que essas pessoas promovem tem vantagens e desvantagens. Se não for possível controlá-las bem, o governo pode ser engolido pela narrativa dessas pessoas, e a oposição pode se acirrar com facilidade.

Por exemplo, a a16z, entre outras, escreveu um texto que considera a ética da tecnologia um "inimigo". Se será possível controlar as palavras, as ações e a tecnologia dessas pessoas dependerá também da capacidade que o lado do governo tiver.

(5) A narrativa excessiva sobre o grau de contribuição ao país

Também acho importante não ver a tecnologia de defesa excessivamente como "contribuição ao país".

Ben Buchheim-Jurisson, que também é investidor em tecnologia de defesa, a partir de sua trajetória como ex-militar, enfatiza a diferença: as empresas privadas e os investidores têm a "liberdade de sair" e também lucros grandes, ao passo que os militares atuam sob restrições como a rigorosa vinculação ao Estado e a baixa remuneração, e ainda enfrentam crises de fato. Ele alerta que, quando empresas como a Palantir e a Anduril usam a expressão "serviço à nação", as elites privadas, que na realidade não arcam com os custos da guerra, podem acabar tomando emprestada apenas a autoridade moral da guerra. Essa é uma lógica que também vale para a tecnologia de defesa do Japão.

Entre as empresas privadas e os investidores envolvidos com defesa, há pessoas que realmente querem proteger a sociedade e o Estado, mas, ainda assim, não se deve afirmar tudo com a narrativa de "contribuição ao país"; parece-me necessário observar quem arca com que responsabilidades.

(6) Como o Japão quer ser

E, por fim, para pensar a ética da tecnologia de defesa no Japão, acho que é necessário, mais uma vez, refletir sobre a forma do Japão como país e sobre o que é segurança para o Japão. Isso inclui um tipo de discussão que vai além da ética, mas, num momento em que a proteção dos Estados Unidos está recuando, trata-se de pensar o que o Japão quer proteger no mínimo, quanto pode arcar de custos e o que não deve ultrapassar, e, a partir daí, o que é possível fazer dentro desse quadro.

Contudo, não basta que essa ética seja desenhada de modo exclusivo pelo Japão; é preciso compartilhá-la até certo ponto com a ética dos países com os quais se coopera. Há também uma razão de negócios: em países com os quais não se compartilha a visão ética, é difícil até exportar o que foi produzido no próprio país. Se se quer vender para a UE, será necessário ter cuidado, por exemplo, em se adequar à ética e à discussão ética da UE.

Nos Estados Unidos, como movimentos que buscam essa "ética", parece que se discutem coisas como o retorno ao cristianismo e o bem comum.

E, ao pensar a forma do Japão, também acho que não devemos nos deixar engolir pelo clima atual do Vale do Silício. A atual tendência do Defense Tech americano parece ter surgido da mistura de pensamento hegemônico americano, mercadismo tecnolibertário e o otimismo tecnológico peculiar do Vale do Silício. Isso não é necessariamente sempre correto.

Não estou negando a tecnologia de defesa

Até aqui, pensei a partir de vários pontos de vista.

Isso não significa que seria melhor não fazer tecnologia de defesa. Significa que, se for fazer, é preciso fazer direito, tanto para a sociedade quanto para o negócio. Por exemplo, se for fazer lobby para melhorar o ambiente de mercado, penso que se deve pedir ao governo a preparação do ambiente com a devida determinação e com argumentos sólidos.

Se alguém se envolver depois de ter pensado a fundo nessas questões, acredito que a tecnologia de defesa pode ser não um mero negócio de guerra, mas também uma tecnologia para manter a paz. Mas, para isso, é preciso desenho.

Além disso, sem negar o esforço de defesa, eu pessoalmente penso que seria melhor usar meu tempo e minha capacidade para criar um mundo pacífico. A defesa pode ser importante no curto prazo, mas, se a capacidade de apostar a médio e longo prazo é também uma força do indivíduo, tal como no investimento comum em ações, acho que o retorno total seria maior se eu usasse meu tempo para criar a paz que está além das turbulências de curto prazo; e quero apostar não em tendências de mercado, mas em construir o futuro que desejo, usando o mercado, e em que a sociedade humana avance numa direção melhor.

Lista de artigos relacionados

Organização das premissas: Defense Tech, uso dual, diferenças entre Japão e Estados Unidos

Capacidade de defesa - Esse negócio aumenta a capacidade de defesa efetiva do Japão?
Viabilidade comercial - Esse negócio consegue crescer rapidamente como uma startup?
Ética - Esse negócio deve ser feito?