法国提议对欧盟《人工智能法案》进行修改

2022年4月25日，目前领导欧洲理事会工作的轮值主席国法国分享了一份关于《人工智能法案》的新的折中方案，提议对该法案进行几项修改，以确保更好地与新的法律框架保持一致。新的法律框架是欧盟关于市场监督和合格评定程序的立法。这些变化还与指定的主管机关和高风险人工智能数据库相关。

法国已在4月28日召开的电信工作小组会议上与其他成员国的代表讨论了该方案。

公告机构和主管机关

公告机构将在《人工智能法案》的执行中发挥关键作用，因为它们将由欧盟成员国指定，并在人工智能系统上市前评估其是否符合欧盟法则。

新的文本明确提到了欧盟关于制定资格认证和市场监督要求的法规，以及已经增加的关于公告机构必须遵守保密义务的说明。

该方案还引入了一项新的条款，规定了公告机构的运作方式，特别是在高风险系统的合格评定方面。新条款还说明了公告机构必须与主管机关——负责监督整个合格评定过程的国家机关合作的方式。

如果国家机关“有充分理由认为”某个公告机构未能履行其义务，则应采取与其未能履行义务的程度相当的适当措施，尤其是限制、暂停或撤销该机构公告的资格。

要成为公告机构，可以通过一个由相关机构管理的申请程序申请。除此之外，国家机关也可以提名公告机构，但在这种情况下，它们需要向欧盟委员会和其他成员国提供文件，以证明该机构的能力以及它将如何满足相关要求。

同样，欧盟委员会将有权对公告机构的能力提出质疑。修改内容增加了一项判决的权限，赋予欧盟行政部门在某些情况下可根据类似《医疗器械监督管理条例》的规定，通过二级立法暂停、限制或撤销公告机构的权力。

《人工智能法案》的一个重要部分将通过统一的标准执行，该标准将规定法规中的“公平”和“安全”等一般概念如何在实践中应用于人工智能。

当人工智能系统遵循此类标准时，将推定其符合法规要求。同理，还有一项新的条款明确了这种一致性推定也适用于遵循统一标准的公告机构。

整个欧盟的公告机构必须在特定工作组中协调其合格评定程序，但仅针对高风险人工智能系统。国家机关对各机构之间的有效合作予以监督。

 欧盟以外的国家／地区的合格评定机构也有可能获得欧盟各成员国国家机关的授权以执行与欧盟公告机构相同的工作，只要其遵守法律规定的相同要求。

欧盟各国的灵活性

关于指定国家主管机关的相关内容已经修改，以便欧盟国家在根据其需要组织此类主管机关方面具有更大的灵活性，只要其尊重客观性和公正性原则即可。

此外，法国提议减少关于欧盟国家应如何向欧盟委员会通报此类指定程序的规定。

要求主管机关提供足够资源的部分条款的约束力有所下降。报告国家机关资源状况的频率也有所降低。

高风险数据库和报告义务

关于欧盟高风险人工智能系统数据库的条款现在还涵盖了在真实世界条件下测试的高风险系统（将其作为监管沙箱的一部分），并要求“视角提供者（perspective provider）”将其纳入数据库。

此外，该方案还专门有一个新的段落指出，欧盟数据库中关于市场上已经存在的高风险系统的信息应该向公众开放。对于正在监管沙箱中测试的系统，除非提供商同意，否则信息不会公开。该方案还澄清欧盟数据库将不包含个人数据。

关于对已在市场上推出的系统进行监管的条款已经明确只适用于高风险系统。供应商收集、记录和分析合格评定程序所需的相关数据的灵活性大大提高。

高风险系统故障已经被排除在严重事件的报告义务之外。同时，该方案扩大了将公告义务覆盖到金融机构的可能性，这些义务可能会在后续阶段被纳入高风险系统的范围。