欧盟AI监管进入实质执法阶段 罚款权正式落地。从本月起,欧盟人工智能办公室正式获得了针对违规企业的直接罚款权,甚至有权要求提供者将相关模型下架。随着《人工智能法案》生效两周年,此前暂缓适用的处罚条款正式生效,AI办公室对通用AI模型提供商的行政处罚权正式落地。目前,AI办公室的执法覆盖范围已涵盖禁止性AI实践与通用AI模型提供商两大领域。
法案第50条确立的“透明度义务”也已正式生效。任何向欧盟市场提供或在欧盟运营的公司,若未能按规定在其AI生成或修改的内容中植入清晰标记与机器可读的隐形水印,欧盟执法部门最高可对其开出1500万欧元或全球营业额3%的罚单(以数额较高者为准)。
面对全面落地的强监管体系与高额罚规,AI产业链上的各个环节需要明确自身定位与监管责任。世界经济论坛人工智能卓越中心的人工智能应用与影响力负责人巴索认为,在AI监管层面很难建立单一或清晰的责任流程,这一责任需要由多方共同分担。提供最终落地应用的组织和提供底层核心技术的公司都需要承担责任,政府则需确保事务受到有效监督。
根据新生效的透明度规则,聊天机器人及其他互动系统必须明确告知用户其正在与AI进行交互;深度伪造内容必须进行显著标记;AI生成或修改的内容必须带有机器可读的标识以便识别与检测。责任划分取决于机构在AI生态中扮演的是“提供商”还是“部署者”的角色。
对于AI系统的开发者或“提供商”,合规要求侧重于产品出厂阶段的预设机制。一方面,在开发与人类直接对话或交互的系统时,提供商必须在产品设计中嵌入主动提示功能,明确告知使用者其正在与AI交互;另一方面,对于具备合成文本、图像、音频或视频功能的系统,提供商须在输出内容中埋入机器可读的隐形标识,确保相关内容能被系统识别为AI生成或修改。