“我国有庞大的临床资源和完善的公立医院体系,在医疗AI赛道具备领跑潜力,这片万亿级蓝海更是带动产业升级、服务民生的强劲引擎。但机遇之下,医疗AI隐藏的安全风险同样不容忽视?!比薄⒄憬笱б窖г焊绞舻诙皆涸撼ね踅ò仓毖?,因医疗AI自带“算法黑箱”“模型漂移”“数据依赖”等特性,其安全隐患更隐蔽、更动态。
他在调研中发现,不少AI诊断系统只给结论、不说逻辑,医生难判是否适配患者;医疗数据在采集、共享中存在隐私泄露风险;模型上线后“一劳永逸”,性能衰减无人察觉;与医院系统绑定的AI平台,更是网络攻击的重点目标,入侵后可能直接干扰诊断、危及患者生命。
如何让医疗AI既发挥效能,又守住安全底线?王建安建议,建立医疗AI安全可追溯强制标准及全生命周期安全监管体系,将“可解释性、可追溯性、可审核性”作为高风险产品准入核心要求;强化医疗数据全链条治理,完善分类分级、推广隐私?;ぜ际?、建立使用负面清单;落实准入测试、运行监测及复评熔断机制,筑牢监管防线;加强网络安全防护,建立隔离机制及国家级应急响应中心,构建多方协同的主动防御体系。(记者 刘喜梅)