《欧盟人工智能法案》规范了欧盟境内人工智能 (AI) 的开发和/或使用,经欧洲议会批准后于 2024 年 8 月 1 日生效。
为了保障业务连续性并让组织有机会适应新法规,该法案针对深度伪造、通用 AI 模型、AI 监管沙盒、被归类为极高风险的系统等相关规定设置了一系列滚动截止日期。
《AI 法案》生效后,根据公司规模和 AI 的预期用途等因素设定了多个截止日期,要求公司遵守各项严格规定。2025 年 2 月 2 日,第一个 AI 法规截止日期到期。除 AI 素养条款等规定外,在该日期生效的还有多项针对“不可接受风险”类用途的禁令,例如社会信用评分、利用大规模数据抓取构建人脸识别数据库、情绪识别,以及利用操纵或欺骗手段恶意扭曲个人行为的AI系统。
2025 年 8 月 2 日,第二个滚动截止日期到期。除了强制要求设立欧盟咨询论坛和 AI 委员会等各种人工智能治理机构外,还有多项针对通用 AI 模型提供商的《AI 法案》义务开始适用,涵盖开发透明度、版权材料处理等议题,同时还有多项针对具有“系统性风险”的系统的额外要求开始生效。2026 年 8 月 2 日,《人工智能法案》全面适用,最引入注明的是关于系统透明度义务的规定,涵盖聊天机器人、执法以及支持欧盟成员国创新的措施。
但是,还有几个截止日期即将到来,并且这些截止日期可能会有所变动。《AI 综合法案》于 2026 年 7 月 27 日生效,对《AI 法案》做出了修订,旨在简化一些针对中小型企业 (SME) 和初创企业的规定。还调整了部分规定的实施时间表,涉及生物识别、关键基础设施和执法等敏感场景中使用的 AI 系统,以及与玩具或电梯等其他强监管产品配套使用的 AI 系统。此外,还延长了成员国建立至少一个国家级 AI 监管沙盒的最后期限。
以下列出了根据《AI 综合法案》修订后的剩余截止日期,以及将在每个日期生效的规定:
通过 Think 时事通讯,了解有关 AI、自动化、数据等方面最重要且最有趣的行业趋势。请参阅 IBM 隐私声明。
2026 年 12 月 2 日,《AI 综合法案》新增的两项要求将生效:禁止两种特定的 AI 用途,以及对于 2026 年 8 月 2 日之前进入市场的特定 AI 系统,要求确保其输出内容具有机器可读性且可检测为 AI。
根据《AI 法案》第 5 条,自 2026 年 12 月 2 日起,禁止将下述 AI 系统投放市场、投入使用或加以利用:未经可识别自然人自愿、特定、知情、明确且清晰的许可,生成或处理该自然人私密部位或其参与露骨性活动的逼真图像、视频、音频或类似材料,以及属于欧盟法律所规定的虐待儿童相关材料。
针对本项禁令,该法案对 AI 系统的提供商和部署者进行了区分:对于提供商而言,如果制作此类材料是该系统的“预期目的”或“可合理预见且可复制的结果”,且该系统缺乏合理的保障措施,则将该系统投放市场是违法的。
对于部署者而言,如果其使用 AI 系统的目的是生成或处理上述违禁材料,则该禁令适用。意外生成不在禁止范围内,但故意滥用、规避保障措施或将其他合法系统用于违禁目的均受本禁令约束。
《AI 法案》第 111 条第 (4) 款规定,对于 2026 年 8 月 2 日之前投放市场、能够生成合成音频、图像、视频或文本的旧版生成式 AI 系统,其提供商必须确保其 AI 生成的内容和输出均具有机器可读性,且“可检测为人工生成或处理”。该规定不适用于用于辅助“标准编辑”任务的系统或经授权用于执法目的的系统。
这是旧系统的过渡期限;2026 年 8 月 2 日之后上市的 AI 系统自该日起已受到这些要求的约束。
2027 年 8 月 2 日,《AI 法案》的两项新增限制条款将生效:
· “旧版”通用 AI (GPAI) 模型的滚动合规截止日期
· 成员国必须能够使用 AI 监管沙盒
《欧盟 AI 法案》将通用AI模型定义为“一种AI模型,包括使用大量数据通过自监督进行训练的 AI 模型,该模型具有显著的通用性,无论以何种方式投放市场都能胜任各种不同的任务,并且可以集成到各种下游系统或应用程序中。”
《欧盟 AI 法案》为 GPAI 制定了单独的规定,其中包括遵守欧盟版权法的政策,并要求编制并公开用于训练模型的内容的详细摘要。GPAI 模型通常由欧盟 AI 办公室监督,该办公室发布了通用 AI 行为准则,提供商可遵循该准则以减少管理开销。如果 GPAI 模型被归类为构成系统性风险,则提供商将承担额外的义务。
2027 年 8 月 2 日这一最后期限标志着在 2025 年 8 月 2 日之前投放市场的 GPAI 模型为期两年的过渡期结束。届时,提供商必须遵守《AI 法案》的所有适用法规。2025 年 8 月 2 日之后投放市场的模型已经受到这些法规的约束。
自 2027 年 8 月 2 日起,欧盟各成员国必须至少设立一个可投入运行的 AI 监管沙盒。
《AI 法案》将监管沙盒定义为“一个受控环境,旨在促进创新,并在创新型 AI 系统投放市场前的有限时间内,推动系统的开发、训练、测试和验证工作”。在这类环境中,服务提供商仍须遵守适用的数据保护和产品安全要求,以及其他法律限制。
沙盒必须制定以下规则:
· 资格、选拔和准入
· 参与、监控和终止
· 沙盒中测试和开发的内容
· 退出报告
· 条款和条件
· 与国家当局合作
此外,在 2027 年 8 月 2 日之前,欧盟委员会还必须通过立法明确在哪些情况下,当现行法律提供了“同等或更高级别的保护”时,可对某些高风险系统适用的《AI 法案》特定要求或义务予以限缩。
2027 年 12 月 2 日,《AI 法案》附件 III 中有关高风险系统的规定生效。
该截止日期原定于 2026 年 8 月 2 日,但因《AI 综合法案》而被推迟。附件 III 涉及针对以下领域高风险系统的特别规定:
· 生物识别
· 关键基础设施,包括关键数字基础设施、道路交通以及水、燃气、供暖或电力供应设施
· 教育和职业培训
· 雇佣和员工管理
· 基本的私人和公共服务,包括医疗保健服务、保险、消费信贷和紧急呼叫
· 执法部门
· 移民、庇护和边境管制
· 司法和民主程序
自 2027 年 12 月 2 日起,附件 III 所列系统的提供商必须实施:
提供商必须在高风险 AI 系统的整个生命周期中建立、实施并记录风险管理系统。必须识别、分析、评估因系统预期用途和任何“可合理预见的滥用”而产生的风险,同时采取适当的风险管理措施。
高风险系统用于训练的数据集需符合以下质量与治理要求:
· 数据收集
· 检测和减少偏见
· 相关性和代表性
· 适当的统计属性
· 考虑系统使用的特定环境
提供商必须编制技术文档,说明该系统如何符合《AI 法案》,并向当局提供必要的信息,用于检查其系统的合规性。
根据《AI 法案》第三章第 2 节第 12 条,高风险 AI 系统必须“在技术层面支持在系统生命周期内自动记录事件(日志)”。
这类系统必须提供可追溯的日志,用于跟踪系统运行情况以及《AI 法案》所定义的各种风险情况。
该法案规定,“高风险 AI 系统的设计和开发应确保其运行具有足够的透明度,使部署者能够解读并妥善利用系统的输出。”
其中包括使用说明,以及以下内容的描述信息:
· 系统的预期用途
· 功能和性能
· 已知局限性
· 任何可能影响性能的情况
· 人工监督
· 维护、监控和记录
高风险 AI 系统的“设计和开发,应确保自然人在使用期间通过适当的人机交互界面等工具对其进行有效监督”。
监督措施应根据高风险 AI 系统的“风险、自主水平和使用环境”来调整,并确保监督人员能够了解系统的功能和局限性,检测自动化偏差,解读输出,在必要时丢弃、覆盖或撤销输出,或在必要时干预或停止系统。
该法案规定,高风险系统的提供商在设计和开发这些系统时,应建立准确性指标,并具备足够的弹性,能够抵御“错误、故障或不一致”以及第三方试图利用系统漏洞的行为。
除了这些系统要求外,提供商和运营商还需要提供:
提供商必须建立质量管理体系,通过监控设计和开发、测试、数据管理、风险管理、上市后监控、事件报告和纠正措施,确保遵守与系统相关的各项政策。
在将系统投放市场之前,提供商必须进行注册,并根据系统的特点和适用规定完成符合性评估。
提供商必须证明其有能力在系统上市后进行系统监控,并在不合规时采取适当的纠正措施,包括纠正系统、撤销系统、禁用系统或召回系统。
提供商必须报告符合条件的“严重事件”,即直接或间接导致以下四种结果中至少一种的事件:
· 死亡或严重损害健康
· 对关键基础设施的管理和运行造成严重且不可逆转的中断
· 违反旨在保护基本权利的欧盟法律规定的义务
· 对财产或环境造成严重破坏
部署者须遵守一套单独的义务,包括遵循使用说明、提供人工监督、监控系统、保留日志以及在发现风险或严重事件后采取特定行动。根据部署者和用例的不同,可能还需承担其他义务。
2028 年 8 月 2 日,相关的高风险要求将适用于根据第 6 条第 (1) 款被归为高风险的 AI 系统。当同时满足以下两个条件时,AI 系统即可归为这一类别:
· 系统拟作为附件 I A 部分所列欧盟协调立法所涵盖产品的安全组件,或系统本身就是此类产品。
· 该法规要求所涵盖产品在上市或投入使用前,必须接受第三方符合性评估。
属于此风险类别的产品示例包括某些类型的玩具和电梯。机械设备适用于附件 I B 部分项下独立的行业方法。欧盟 2023/1230 法规必须通过授权法案纳入相应的 AI 相关健康和安全要求,相关授权法案将于 2028 年 8 月 2 日生效。
根据《AI 综合法案》修订的《AI 法案》第 2 条第 (13) 款,如果现行法规能够提供与《AI 法案》“同等或更高级别的保护”,欧盟委员会可通过授权法案,对针对高风险系统的某些要求予以限缩。根据一项附加规定,已受行业法规约束的某些机械和运输相关产品,将由该行业的监管机构给予专项处理。
利用面向智能资产管理和供应链的 AI 解决方案,构建更具弹性的业务。
借助 IBM 利用丰富的数据和强大的 AI 技术来集成优化流程,从而实现业务运营转型。
IBM Cloud Pak for Business Automation 是一套模块化的集成软件组件,用于运营管理和实现自动化。