欧盟批准的眼科AI医疗设备和首个AI法案

根据预测，到 2030 年，人工智能市场总额将达到 3833 亿美元，高于 2022 年的 813 亿美元。全球不同行业的公司都将人工智能视为颠覆性主题。而最近的一项民意调查显示，49% 的受访者认为人工智能将对其行业产生重大颠覆，25% 的受访者认为人工智能造成的颠覆已经开始。

数字技术正在彻底改变医疗保健，远程医疗、医疗物联网和人工智能 (AI) 健康诊断的增长就证明了这种转变。在眼科领域，深度学习模型在眼部疾病筛查方面表现出了出色的诊断功能，例如对糖尿病视网膜病变、青光眼和白内障等疾病。

在欧盟，AI技术的医疗设备早已商业化。欧盟在立法层面与FDA形成鲜明对比，总的来说，之前是非常“开放“，而未来将趋于严谨和规范。

美国 FDA 的做法：会在其网站上发布了经批准的人工智能和机器学习医疗设备清单，并向所有人开放。尽管相关注册程序可能很复杂，但验证基于人工智能的医疗系统是否合法运行很简单，只需几分钟，并且不需要联系个别公司，也不需要对周围的要求和立法机构有复杂的了解。

欧盟之前的做法：引入和使用医疗人工智能设备的法规与美国不同。欧盟对医疗器械按照风险程度实行分类管理，分为Ⅰ、Ⅱa、Ⅱb、Ⅲ四类。医疗器械由独立的非政府机构进行认证，有些甚至可以自我证明其符合欧盟标准。欧洲的“开放”做法与 FDA 的严格观点的差异，从可用的医疗人工智能设备的数量上就可以看出。

所以，之前对于大多数公司来说，在获得 FDA 批准之前首先选择 CE 认证是个明智之选。无论从评估严谨度还是财务成本上的考虑。

比如在眼科领域就有2款产品是很好的例子。目前有两款眼科人工智能医疗设备获准在美国和欧洲使用—IDx-DR和 EyeArt。这些是唯一在美国获得批准的此类设备，但在欧洲还有更多此类设备。另外，IDx-DR 和 EyeArt 都需要特定型号的眼底相机才能在美国应用，如 Topcon TRC-NW400，并且必须与其配对才能合法使用。欧洲没有此类限制，任何眼底相机都可以使用。这个例子很好地体现了美国和欧洲注册法规方面的整体差异，美国FDA的管控更加严格，态度更加谨慎。

下表介绍欧盟批准的眼科人工智能眼科医疗设备及其认证类别。

但欧盟的注册法规环境已经在发生变化：现在其根据 MDR 立法引入了新的数据库EUDAMED，是一个在线信息技术 (IT) 系统和数据库，旨在提高欧盟市场医疗器械信息的透明度和协调性。EUDAMED 目前正在自愿基础上运作，当前的开发时间表估计在 2026 年左右强制使用。一旦全面投入运行，EUDAMED 将既充当已批准医疗器械的数据库，又充当管理认证流程及其他要求（例如临床研究和上市后监督）的集中系统。

另外，欧盟在今年6月份，也针对人工智能软件和设备专门立法讨论，通过了《议会关于《人工智能法案》的谈判立场》，有望在今年年底达成协议，这项全新的 AIA 提案，也被誉为“全球首个为人工智能 (AI) 提供法律框架的倡议”。

下面来详细了解下这项AI法案：即不同风险级别有不同规则。新规则根据人工智能的风险程度规定了提供商和用户的义务。虽然许多人工智能系统带来的风险很小，但仍需要对其进行评估。

不可接受的风险

不可接受的风险人工智能系统被认为对人类构成威胁并将被禁止。他们包括：

对人或特定弱势群体的认知行为操纵：例如鼓励儿童危险行为的声控玩具

社会评分：根据行为、社会经济地位或个人特征对人们进行分类

实时和远程生物识别系统，例如面部识别

可能允许一些例外：例如，“滞后”远程生物识别系统（在严重延迟后进行识别）将只有经法院认定批准后被允许起诉为严重犯罪。

高风险

对安全或基本权利产生负面影响的人工智能系统将被视为高风险，并将分为两类：

1) 用于符合欧盟产品安全立法的产品中的人工智能系统。这包括玩具、航空、汽车、医疗设备和电梯。

2）属于八个特定领域的人工智能系统必须在欧盟数据库中注册：

自然人的生物特征识别和分类

关键基础设施的管理和运营

教育和职业培训

就业、工人管理和自营职业机会

获得和享受基本私人服务以及公共服务和福利

执法

移民、庇护和边境管制管理

协助法律解释和法律适用。

所有高风险人工智能系统在投放市场之前及其整个生命周期都将接受评估。

生成式人工智能

生成式人工智能，如 ChatGPT，必须遵守透明度要求：

披露内容是由人工智能生成的

设计模型以防止其生成非法内容

发布用于培训的受版权保护数据的摘要

有限风险

有限风险的人工智能系统应遵守最低透明度要求，以便用户做出明智的决策。与应用程序交互后，用户可以决定是否继续使用它。用户在与人工智能交互时应该意识到这一点。这包括生成或操纵图像、音频或视频内容（例如深度伪造）的人工智能系统。

总结：如何既“管控风险”又“促进创新”？不仅仅是欧盟，这个课题是全球性的挑战。人工智能作为革命性技术不言而喻，将带来更好的医疗保健，更安全更清晰的信息传送，更高效的生产开发，以及更经济和更持久的续航。作为数字战略的一部分，每个国家都在对人工智能既开放拥抱又探索立法边界，以确保为这一创新技术的开发和应用提供更好的政策法规环境。