警示 ·第十四期 | 人工智能医疗器械详解版（五）

在医疗领域，人工智能被广泛地应用于临床诊断、医学治疗、医疗康复以及疾病预测和医学研究等多个方面。人工智能医疗器械在赋能网络安全的同时，也会带来前所未有的安全风险。紧接上一期，本文接着对人工智能医疗器械网络安全的问题进行详细介绍。全文比较干货，欢迎阅读讨论！

人工智能医疗器械网络安全的风险级别有哪些？

网络安全风险作为软件风险的重要组成部分，其风险级别亦可参照软件采用安全性级别进行表述 。

通常情形下，人工智能医学软件网络安全的安全性级别与所属人工智能医学软件的安全性级别相同；在特殊情形下，网络安全的安全性级别可低于软件的安全性级别（如软件运行于不同公网的环境或软件运行于完全受控的环境）时，此时需详述理由并按网络安全的安全性级别提交相应注册申报资料。

人工智能医疗器械软件产品的网络安全风险的评判标准也需要结合软件的预期用途、使用场景、核心功能进行综合判定。

不同使用场景的网络环境不同，对人工智能医疗器械软件产品网络安全的影响也不同（如门诊、手术、住院、急救、家庭、转运、公共场所）等使用场景的网络环境均有所不同。

因此，对于适用于多个使用场景的人工智能医疗器械软件，注册申请人需保证软件在每个使用场景的网络安全。

人工智能医疗器械网络安全的风险控制的措施有哪些？

数据采集

采集的数据应进行数据脱敏以保护患者隐私。如医疗数据在转移到医疗企业前应进行数据脱敏，可通过对图像数据进行加密压缩、再通过硬盘拷贝进行转移，同时应确保密码掌控者使用密码的场景和方式。

数据整理

需在封闭或受控的网络环境下开展以防止数据污染。如医疗数据从临床机构转移至企业后，企业内部设计开发活动应当在封闭的网络环境下开展，来控制数据被窃取风险。

数据标注

在开放网络的环境下一定要做好防止数据污染的防护措施。如可将数据标注软件部署在云端服务器上，在云服务器中安装云盾程序【包括SSL 证书(应用安全)、定期木马查杀、主机异常提醒、 DDos 攻击防御等功能】，并对用户的登录进行实名认证和过程记录。

数据集构建

需要在封闭的网络环境下开展以防止数据被窃取，描述数据集存储方式与存储路径、安全控制、备份（方法、频次）、恢复方式；若数据集使用云服务存储，应提供云服务商的名称、住所和资质、访问路径、使用权限等。（如企业可通过将数据库划分在本地电脑上进行风险控制，数据应定期及时完整备份）。

算法训练

可在封闭或受控的网络环境下开展，避免训练数据的被污染。

算法性能评估

需要在封闭或受控的环境下进行，若是基于第三方数据库开展算法性能评估，应保证第三方测评数据库的网络安全与数据安全。

软件验证

需在封闭或受控的网络环境下开展来描述网络能力的验证过程。

软件确认

在开放网络下时进行软件确认需要模拟实际情况时，应做好防止数据污染的措施，同时要描述网络能力的确认过程。

上市后使用

上市后产品在医疗机构内部环境下运行，需要考虑医疗机构关于网络安全与数据安全的接口要求。产品使用时应有用户访问控制措施、数据传输过程、应有加密措施等来保证网络安全。

目前，我国尚有大量的人工智能医疗器械处于处于研发和申报上市阶段。在此过程中，应当在网络安全方面有更多的考量。

打赏