大多数关于自动化的公共讨论都与就业有关，这就是为什么我们花了这么多时间来研究它。第二个发生实质性讨论的领域是机器人在战争中的应用。在过去的几千年里，技术已经几十次改变了战争的面貌。冶金、马、战车、火药、马镫、大炮、飞机、原子武器和计算机都对我们互相残杀的方式产生了重大影响。机器人和AI将再次改变它。

我们是否应该制造能够根据编程设定的要素做出自主杀戮决定的机器人武器？支持者坚持认为，机器人可以减少平民死亡人数，因为机器人将精准地遵守协议，不会滥杀无辜。在一瞬间，一个士兵，由于遭受疲劳或恐惧，可能会犯一个致命的错误。然而，对于机器人来说，它所需的刹那间就能完成任务，没有疲劳、恐惧，更没有致命错误。

这很可能是真的，但这并不是世界各国军队采用AI机器人的主要动机。这些武器之所以吸引他们，有三个原因。首先，它们在执行任务时比人类士兵更有效；其次，军队担心潜在的对手正在开发这些技术，所以想先发制人；最后，他们将通过部署机器人来减少军队的人员伤亡。最后一个原因有一个令人不寒而栗的副作用：它可以降低战争的政治成本，从而使战争变得更加普遍。

目前的核心问题是，是否应该允许机器独立决定杀死谁和放过谁。当我说眼前的决定是我们是否应该建造杀手机器人时，并没有过于夸张。这里没有“我们是否有能力建造”的疑问，没有人怀疑我们能做到。问题是：我们应该吗？

许多从事人工智能研究但不与军方合作的人认为我们不应该这样做。1000多名科学家签署了一封公开信，敦促禁止完全自主的武器系统。史蒂芬·霍金在2014年撰写的一篇社论中表示，这些武器最终可能会通过AI军备竞赛的形式毁灭整个人类。

尽管关于是否建立这些系统看似存在着激烈的争论，但似乎又有些言不由衷。机器人应该被允许做出杀戮决定吗？从某种意义上说，它们的杀戮行为已经存在了一个多世纪了。人类很乐意埋下数百万颗地雷，以无差别的方式炸掉一名士兵或一名儿童的腿。这些武器有AI的基本形式：如果某物的重量超过50磅，它们就会引爆。假设一家公司在市场上推出了一种地雷，它可以区分儿童和士兵，也许是通过重量或步幅来判断的吧。那么这种地雷就会被投入实战，因为它们提高了杀伤效力。这样会更好，对吧？出于同样的原因，如果一种新的地雷模型能在爆炸前嗅出火药的气味，它也会被广泛使用。以市场为导向，很快你就能以这种方式让机器人在没有人类参与的情况下做出杀戮决定。诚然，目前地雷是被条约禁止的，但它们在如此长时间内的广泛使用表明，我们默许了武器系统中相当多的附带损害。无人机战争、导弹和炸弹都同样不精确。它们都是一种类型的杀手机器人。我们不太可能拒绝更有鉴别能力的杀人机器。然而，我渴望在这一点上被证明是错误的。北卡罗来纳大学(UniversityofNorthCarolina)的物理学家，和平、战争与国防课程副教授马克·古布鲁德(MarkGubrud)教授表示：对于自主武器，美国有一个“假装谨慎和负责的政策，但实际上该政策为自主武器的蓬勃发展和早期使用扫清了道路”。