争议的核心，在于协议中关于AI使用范围的模糊界定——“任何合法政府用途”。法律专家指出，这一条款赋予了军方极大的自由裁量权。在美国法律框架下，“合法”的定义往往由行政分支在国家安全名义下进行宽泛解释。这意味着，这些AI不仅可以用于防御性的情报分析，理论上也可以用于进攻性的自主武器系统（LAWS），甚至参与核打击链路的模拟计算。

“一旦我们允许AI介入杀伤链，‘合法’与‘战争罪行’的界限就变得极其模糊。”斯坦福大学以人为本AI研究院的一份报告警告道。如果AI在分析情报时出现“幻觉”，错误地将一所医院标记为导弹发射井，并自动触发打击指令，责任该由谁承担？是编写代码的工程师，是下达宽泛指令的将军，还是算法本身？

更令人不安的是“目标识别”的自动化。此前美军使用的“梅文”项目主要依赖计算机视觉识别车辆和人员，而新一代生成式AI具备了“推理”能力。如果AI被授权在网络战中自动植入病毒，或者在无人僚机群中自主分配打击目标，这种“去人性化”的杀戮决策过程，正在突破《日内瓦公约》关于“区分原则”和“比例原则”的底线。

这一幕对科技行业并不陌生。2018年，谷歌员工因公司参与“梅文计划”（利用AI分析无人机视频）而爆发大规模抗议，最终迫使谷歌承诺“不将AI用于武器开发”。然而，随着地缘政治紧张加剧和商业利益驱动，这道防线正在全面崩溃。

尽管谷歌在公开场合仍坚持“不开发用于武器的AI”原则，但其云计算部门早已通过与国防承包商合作的方式曲线入局。而此次英伟达和微软的态度则更为直接——黄仁勋在内部会议上直言：“国家安全是我们的责任，我们的芯片就是现代战争的军火。”