读人工智能时代与人类未来笔记12

1. 安全与世界秩序

1.1. 自有记载的人类历史起，安全始终是一个有组织的社会追求的最低目标

1.1.1. 任何不能自卫的社会都无法避免覆亡的命运

1.2. 在每一个时代，寻求安全的社会都试图将技术进步转化为日益有效的方法，用以监视威胁，练兵备战，施影响于国界之外，战时则用于加强军事力量以取得胜利

1.2.1. 对最早期的有组织社会来说，冶金、防御工事、战马蓄养和造船等方面的进步往往具有决定性的意义

1.2.2. 到了近代早期，火器枪炮、海军舰船、航海工具和技术方面的创新也发挥了类似的作用

1.2.2.1. 修建城墙和护城河，有利于防御

1.2.3. 到美国南北战争(1861-1865)和普法战争(1870 —1871)时期，军事冲突已进入机器时代，并越来越具有全面战争的特征

1.2.3.1. 工业化武器生产、通过电报传送命令，以及通过铁路横跨大陆运送军队和物资

1.2.4. 在当今时代，网络和人工智能的出现又为这些战略计算增加了超乎寻常的复杂性和抽象性

1.3. 为了对抗敌对的力量，力量用艺术和科学的发明来武装自己。

1.3.1. 卡尔·冯·克劳塞维茨的《战争论》

1.4. 随着力量的增强，主要大国之间会相互衡量，以评估哪一方会在冲突中获胜，取得这样的胜利会带来什么风险和损失，开战有什么正当的理由，以及另一个大国及其军事力量介入冲突会对结果产生什么影响

1.5. 在过去的一个世纪里，对手段和目的的战略调整已然出现了脱节

1.5.1. 用于追求安全的技术层出不穷，破坏性也越来越大，而运用这些技术实现既定目标的战略却变得越来越难以捉摸

1.6. 第一次世界大战(1914-1918)标志着一次重大分裂

1.6.1. 可通过火车运输的大量物资，包括机枪和其他可快速装填的火器装备军

1.6.2. 发展了先进的生产方法，能够以“机器速度”补充其武器装备，还发明了化学武器（化学武器现已被禁止使用，大多数国家都接受了这一禁令，但也不是所有国家）、铁甲舰和初代坦克

1.6.3. 制定了“通过迅速动员取得优势”的周密战略，构建了以“在盟友受到挑衅的情况下，将迅速、全面地动员起来”的坚定承诺为基础的同盟

1.7. 尽管各大强国高度重视扩充军备，严格纪律并为此不惜斥巨资，却进一步凸显了现代战略的难解谜题

1.8. 在第二次世界大战结束后和冷战初期的几十年里，美苏两个超级大国争相建造核武器和洲际运载系统，其巨大的破坏力似乎只有最严肃和最全面的战略目标才能与之匹配

1.8.1. 冷战战略的核心悖论：武器技术在这个时代占据主导地位，却从未被使用过

1.8.2. 除了确保生存的目标，武器的破坏力始终与其他可实现目标不相称

1.8.3. 在整个冷战时期，军事能力和目标之间始终处于脱节状态，或者至少二者的关系不利于制定明确的战略

1.9. 现在我成了死亡本身，世界的毁灭者。

1.9.1. 印度教经典《薄伽梵歌》

2. 网络战争和人工智能时代

2.1. 在冷战结束后的今天，主要大国和其他国家都利用网络能力增强了本国的武器库，这些网络能力的效用主要源自其不透明性和可否认性，在某些情况下，也源自对其在散播虚假信息、收集情报、蓄意破坏和传统冲突的模糊边界上的运用

2.2. 人工智能时代可能使现代战略之谜更趋复杂化，这并非人类本意，也许还完全超出人类的理解

2.2.1. 人工智能仍有可能增强常规武器、核武器和网络能力，从而使对手之间的安全关系更加难以预测和维护，冲突更加难以限制

2.3. 人工智能的潜在防御功能在多个层面上发挥作用，可能很快就会被证明是不可或缺的

2.3.1. 人工智能驾驶的喷气式战斗机在模拟空战中显示出相比人类飞行员的压倒性优势

2.3.2. 人工智能可能会识别出其对手甚至都没有计划或注意到的行为模式，然后给出相应的反击方法

2.3.3. 人工智能可以进行同声翻译，或向危机地区的人员即时传递其他关键信息，而让这些人员了解周围环境或使自己被他人理解，可能对其完成任务或个人安全至关重要

2.4. 随着对他国正在获得某些人工智能能力的认知或猜疑日益蔓延，将会有更多国家寻求获得这些能力

2.4.1. 一旦被引入，这些能力就会快速扩散

2.4.2. 虽然创造一种复杂的人工智能需要大量的算力，但对其进行增殖扩散或使用它通常并不需要

2.5. 核技术、网络技术和人工智能技术已经存在，其中每一项技术都将不可避免地在战略中发挥作用

2.5.1. 我们已不可能退回到这些技术“未被发明”的时代

2.5.2. 这些领域的进步和竞争所带来的转变将对传统的安全概念构成考验

2.6. 即使是在彼此竞争中，人工智能领域的对手们也应致力于限制极具破坏性、不稳定性和不可预测性的人工智能能力的开发和使用

2.6.1. 在人工智能军备控制方面的清醒努力与国家安全并不冲突，它是一种尝试，为的是确保在人类未来的框架下寻求和实现安全

3. 核武器与核威慑

3.1. 世界主要大国一面加倍努力掌握新的武器技术并将其纳入自己的武器库，一面就使用这种武器的战略和道德影响进行了不同寻常的公开和透彻的辩论

3.2. 核武器的威力远远超过当时其他任何形式的武器装备

3.3. 即使是在拥有核垄断地位的短暂时期（1945-1949年）和拥有相当有效的核投射系统的较长时期内，美国也从未发展出一种战略理论或确定一种道德原则，来说服自己在二战后的实际冲突中使用核武器

3.4. 在冷战期间，核战略的首要目标变成了威慑，这主要是通过公开宣称部署核武器的意愿来防止对手采取行动，比如挑起冲突，或是在冲突中使用自己的核武器

3.4.1. 核威慑的核心是一种消极目标的心理战，目的是通过掌握一种有威胁的反击手段来实现“不战而屈人之兵”

3.4.2. 潜在挑衅者的心理状态及其对手对这种状态施加影响的能力

3.4.3. 从威慑的角度来看，表面上的软弱可能会产生与实际的弱点同样的后果

3.4.4. 被认真对待的虚张声势，可能会比被无视的真实威胁更有威慑作用

3.4.5. 在安全战略中（至少到目前为止），核威慑是独一无二的，它建立在一系列无法验证的抽象概念之上：核威慑力量无法证明它到底如何或在多大程度上阻止了某些事情的发生

3.5. 苏联一旦跨过核门槛，两个超级大国拥核的主要目的就越发变为阻止对方使用这些武器

3.5.1. “可生存的”核打击能力的存在，即在对手假想的第一波攻击后可以发动反击的核武器，则被用来阻止核战争本身

3.5.2. 在预防超级大国间冲突方面，它确实实现了这一目标

3.6. 冷战时期的霸权国家在扩大核能力上耗费了大量资源

3.6.1. 拥有这些武器并没能阻止那些无核国家，比如越南、阿富汗各行其是，也没有阻止中东欧各国向苏联寻求自治

3.7. 在朝鲜战争期间，苏联是美国之外唯一拥有核武器的国家，而美国在核武器数量和投射工具方面拥有绝对优势

3.7.1. 每一个面对非核对手的有核国家都与美国一样，即使在面临被非核对手击败时也没有动用核武器

3.8. 一些战略家提出了允许在有限度的核战争中使用战术核武器的理论

3.8.1. 核战略仍然侧重于威慑和确保威胁的可信度，即使其最终结果将是人类在以往战争中从未经历过的末日浩劫

3.9. 具有讽刺意味的是，对防御系统的追求反而加大了对可以穿透对方防御的进攻性武器的需求

3.9.1. 随着两个超级大国核武器的不断增长，切实利用核武器来阻止或惩罚另一方行动的可能性变得越来越渺茫和不真实，这对威慑本身的逻辑构成了潜在威胁

3.9.2. 对这一核僵局的认识催生了一种新理论，其名称“相互确保摧毁”(MAD)半含威胁，半含嘲讽