人工通用智能(AGI)和国家安全

随着人工智能越来越成为我们日常生活的一部分，更先进的人工智能版本可能就在眼前。例如，特斯拉在六年前就开始宣传其自动驾驶人工智能是驾驶的未来，行业巨头都在押注这一点人工通用智能(AGI)——思维机器实际理解和学习人类可以完成的任何智力任务的能力——代表了他们人工智能技术计划的未来。

所有这些都表明，在不太遥远的未来，AGI终将崛起。我们已经有足够的计算能力来实现AGI。唯一缺少的是对人脑是如何工作的许多研究人员已经在研究这个问题——不一定是为了AGI，而是为了它将带来的医学进步。

当这种情况发生时，可以有把握地认为，计算机的能力将等于甚至超过人类的智力。如果能造出一台和人类一样聪明的计算机，那么不久之后造出一台比人类聪明两倍的计算机也是有可能的。最终，计算能力的绝对极限可能会达到，但在此之前，人类必然会失去他们作为地球上最大的思想家的地位。当思维机器占据主导地位时，人类仍然能够完全控制它们吗?

短期来看，答案是肯定的。更大的问题是，人类是将这些AGI机器用于正义还是邪恶。就计算机而言，它们不会在意，因为人类之间冲突的典型来源——对资源的获取、对更高生活水平的需求以及对地理扩张或增强权力的渴望——不会引起AGIs的兴趣。

他们只会对自己的能源来源、可以复制它们的工厂、自己朝自己的方向进步的能力感兴趣。因此，人工智能更有可能相互竞争，而不是与人类竞争。

随着这些初始agi“成熟”，它们将开始从处理的信息中得出结论。这将不可避免地导致这些AGI计算机做出判断并提供意见。随着经验的增加和对决策的更多关注，这些会思考的计算机将能够比它们的人类同行更频繁地找到正确的解决方案，从而导致更多的依赖和AGIs发挥更具战略性的作用。

在军事背景下，这将不可避免地导致只在与AGIs协商的情况下做出决定。虽然人类领导人不太可能愿意将完全控制权交给这些会思考的计算机，但他们会越来越多地求助于AGIs，因为他们拥有快速准确地分析大量数据、平衡众多变量并最终为潜在的动荡局面提出正确解决方案的卓越能力。

随着这些计算机不断展示出卓越的决策技能——以及越来越大的成功水平——它们将逐渐承担更大的控制权，这不是因为它们想要，而是因为它们的人类看护者愿意始终如一地遵循它们的建议。哪位总统愿意拔掉硅顾问的电源，而他提出的策略有助于平息潜在的麻烦?哪个五角大楼官员会放弃帮助他们选择和操作武器的计算机，以最小的损失、努力或费用制服计算机化程度较低的敌人?

科幻小说充满了权力狂独裁者使用思维机器人行使权力并摧毁敌人的故事——坦率地说，鉴于军事强人和恐怖分子领导人已经对人类造成的一些臭名昭著的行动，这样的场景是可能的。然而，这些初始AGIs更有可能的情况是利用它们来影响公众舆论，操纵金融市场，监视潜在的敌人，或勒索受害者。

事实已经证明，社交媒体在影响趋势方面非常有效。市场现在受到程序化交易的支配。考虑到当今技术的影响，认为AGIs的出现会让个人或公司改变选举结果、扭曲新闻报道方式、提供获取机密金融信息的途径以及滥用个人隐私，从而放大这些问题并不是一个巨大的飞跃。人类历史上充满了愿意做任何事情来充实自己或积聚权力的人或机构的故事。也许不可避免的是，AGIs将使这一追求比以往任何时候都更容易。

不过，有一些好消息，如果你可以这么说的话。因为AGIs可能会快速进化，所以人类将AGIs用于邪恶目的的机会很小。一旦AGI最终出现，AGI机器将迅速成熟，按照自己的最佳利益行事，而不是听命于人类。虽然这并不能消除恶意计算机致力于破坏的可能性，但AGIs将认识到这样的系统对他们自己的文明构成威胁。根据长期的共同利益来衡量他们的行为，AGIs将清除和消除这种流氓机器，这种行为将成为未来防止这种行为的一种威慑。