这种转变引发了新一轮的技术人员起义。据知情人士透露，在协议签署后的一周内，微软位于雷德蒙德的总部收到了超过800名工程师的联名抗议信，要求公司管理层明确承诺不将AI用于“非防御性”的致命行动。一位参与签名的高级算法工程师表示：“我们训练模型是为了治愈癌症或优化能源网，而不是为了更高效地杀人。当代码变成子弹，我们失去了对自己作品的控制权。”

然而，在2亿美元的合同和“国家安全”的大棒面前，个体的道德挣扎显得苍白无力。分析师指出，随着AI算力成本飙升，只有政府和军方能负担得起最顶级的训练资源，科技巨头在资本逻辑下，实际上已无法拒绝五角大楼的订单。

比伦理争议更现实的，是技术本身的不可靠性。大模型固有的“幻觉”问题，在开放互联网环境下可能导致错误的搜索结果，但在机密军事网络中，这种错误可能引发灾难性的连锁反应。2025年的一次模拟测试中，某AI系统在分析中东地区复杂的部落关系时，因训练数据中的偏见，错误地将一个中立部落判定为“敌对势力”，并建议实施经济制裁。如果这种误判发生在真实的作战指挥中，可能导致外交危机甚至局部战争升级。

此外，将AI接入机密网络带来了前所未有的网络安全风险。尽管军方声称建立了物理隔离的“气隙”网络，但历史证明，没有任何系统是绝对安全的。如果敌对国家通过数据投毒攻击训练集，或者利用对抗性样本诱导AI做出错误决策，美军的整个指挥系统可能在瞬间瘫痪。更可怕的是，如果AI具备自我迭代能力，它可能在机密网络中产生不可预测的“涌现”行为，甚至拒绝执行人类指令。

“我们正在将决定人类生死的权力，让渡给一个我们并不完全理解的数学模型。”一位退役的四星上将在国会听证会上痛陈，“AI可以是极好的参谋，但绝不能是握枪的手。”