如果一个国家面对的对手已经训练人工智能来驾驶飞机、独立做出瞄准的决策并开火,那么采用这种技术将在战术、战略或诉诸升级战争规模(甚至是核战)的意愿方面产生什么变化?
人工智能开辟了信息空间能力的新视野,包括虚假信息领域。生成式人工智能可以创造大量似是而非的虚假信息。人工智能推波助澜的信息战和心理战,包括使用伪造的人物、图片、视频和演讲,无时无刻不在暴露出当今社会令人不安的新弱点,尤其是在自由社会。广泛转发的示威活动配上了看似真实的图片和视频,里面的公众人物发表着他们从未真正说过的言论。从理论上讲,人工智能可以决定将这些由人工智能合成的内容以最有效的方式传递给人们,使其符合人们的偏见和期望。如果一个国家领导人的合成形象被对手操纵,以制造不和或发布误导性的指令,公众(甚至其他政府和官员)会及时识破这种骗局吗?”
他强调,要在灾难真正发生之前行动:
“各个主要的技术先进国家都需要明白,它们正处于战略转型的门槛上,这种转型与当年核武器的出现同等重要,但影响将更加多样化、分散化和不可预测。每个正在扩展人工智能前沿的社会都应致力于成立一个国家层面的机构,来考量人工智能的防御和安全,并在影响人工智能创建和部署的各个部门之间建立桥梁。这个机构应被赋予两项职能:确保维持本国在世界其他地区的竞争力,同时协调研究如何防止或至少限制不必要的冲突升级或危机。在此基础上,与盟友和对手进行某种形式的谈判将是至关重要的。
如果要对这一方向进行探索,那么世界两大人工智能强国——美国和中国——就必须接受这一现实。两国可能会得出这样的结论:无论两国竞争的新阶段可能会出现何种形式的竞赛,两国仍应该寻求达成一项共识,即不会同对方打一场前沿技术战争。双方政府可以委托某个团队或高级官员负责监督,并直接向领导人报告潜在的危险,以及如何避免这些危险。