2025年5月13日，一家美国联邦法院发出了一项令人震惊的命令，要求OpenAI“保存并隔离所有用户活动记录”，即使用户或企业希望删除这些记录。这意味着全球超过3亿用户每天发送的超过10亿条与ChatGPT的对话正在被无限期保存，即便用户点击了“删除”。

这项命令源于《纽约时报》对OpenAI提起的一起版权诉讼。法院的理由是：“删除数据的用户很可能是试图抹去痕迹的版权侵权者。”换言之，行使删除权这一基本隐私保护措施正被法院视为犯罪嫌疑的证据。

OpenAI首席执行官萨姆·奥尔特曼在社交媒体上警告称，这一决定“损害了用户隐私”并“开创了一个糟糕的先例”。他指出，这些被强制保存的对话中包含医疗症状、财务困难、职业规划和个人秘密，都可能被出售或赠与，被黑客侵入，或泄露给执法部门。

这不是假设性的威胁。2023年，三星员工通过ChatGPT泄露了公司的机密源代码。律师警告说，这些数据无法恢复，因为它们存储在OpenAI的服务器上。苹果、亚马逊、摩根大通、高盛和德意志银行等公司都在限制员工使用ChatGPT以保护机密信息。研究显示，近70%的公司为保护机密信息而阻止使用此工具。

企业监控仅仅是冰山一角。当爱德华·斯诺登揭露美国大规模监控计划“棱镜”时，我们必须意识到问题远比企业数据泄露严重得多。2024年6月，OpenAI任命美国国家安全局前局长保罗·中曾根为其董事会成员。斯诺登对此发出严厉警告：“永远不要信任OpenAI或其产品。这是对地球上每个人权利的有意识的、精心策划的背叛。”

斯诺登认为，ChatGPT是一个比“棱镜”更强大的监控工具。“棱镜”被动收集通信数据，而ChatGPT让用户主动提供最私密的想法。“棱镜”主要收集元数据，ChatGPT则收集完整内容——人们的思想、计划、担忧和秘密。“棱镜”涉及数百万用户，而ChatGPT拥有超过3亿用户，每天处理超过10亿条信息。更重要的是，“棱镜”的曝光引发了抵抗和法律改革，而ChatGPT的监控行为已被公之于众，却继续被广泛接受和使用。