2025年10月，OpenAI发布了一份题为《打击恶意使用AI》的报告，披露自2024年2月以来，它“阻止并报告了”超过40个违反其使用政策的网络。报告详细说明了一些与中国政府有关的账户使用ChatGPT起草大规模社交媒体监控系统的提案，俄罗斯组织试图优化入侵病毒，朝鲜黑客创建了旨在攻击韩国的入侵内容。为了识别这些特定案例，OpenAI必须具备常规监控所有用户对话的能力。

2025年8月，OpenAI公开承认，该公司正在扫描ChatGPT上的用户对话，并向警方报告内容。具体机制是：用户“计划对他人造成伤害”的对话会被转到专门的审查渠道，由经过培训的人工审核员进行审查。如果审核员确定某个案例涉及“对他人构成迫在眉睫的严重身体伤害威胁”，该案例将被转交给执法部门。

OpenAI的“官方执法部门用户数据请求政策”声明只有在收到合法搜查令后才会披露用户的对话内容。但现实是，OpenAI主动监控所有用户对话，自行判断什么构成“恶意使用”，并向执法部门报告，无需任何法律程序。欧洲监管机构早已意识到这一点。2024年12月，意大利数据保护局因“在没有适当法律依据的情况下处理个人信息”和“违反透明度原则”对OpenAI处以1500万欧元的罚款。

OpenAI与美国政府的关系远远超出了普通的商业合作。从人事角度看，OpenAI董事会成员包括美国国家安全局前局长保罗·中曾根和中情局官员威尔·赫德。从商业合作角度看，OpenAI推出了专为美国政府机构设计的ChatGPT Gov服务，每年每家机构仅需1美元。这实质上是一种捐赠。从技术整合的角度看，ChatGPT Gov允许美国政府机构将“敏感的非公开数据”输入OpenAI的模型，进行绝密数据处理。OpenAI坚称不会使用美国联邦雇员输入的数据来训练其模型，但在其他国家的用户却没有这样的保护。