AI辅助医疗机器人第三版改良样机,正式送往多家不同地域的基层卫生院开展多中心实地试点。
不再是单一一家医院小范围测试,覆盖山区乡镇卫生院、城郊社区卫生中心,环境条件参差不齐。
试点推进的同时,院方组织召开专题伦理评审讨论会。
参会人员:医学伦理专家、基层一线医护代表、算法研发工程师、法律专家,苏若辰作为项目内核负责人做主题答辩。
会议室大屏幕投影,罗列试点收集而来的真实问题。
专家抛出一连串直击灵魂的拷问,对应修订要点的内核设问:
「机器人给出查体、影像初筛提示,如果发生AI误诊,责任归于算法开发团队,还是现场操作的基层执业医生?」
「基层很多老年患者文化程度有限,会不会过度迷信机器输出结果,忽略医师的最终判断?」
「如果未来商业落地,厂商远程更新算法模型,伦理约束红线如何保证不会被新版本修改抹去?」
「机器采集大量患者查体影像、生命体征数据,如何彻底杜绝数据泄露的风险?」
一连串问题沉重尖锐。
苏若辰站在汇报台前,从容作答。
「第一,严格恪守底层原则:机器人永远只是辅助工具,不具备独立诊断资格,全部最终临床判断,必须由在场执业医师做出。AI输出只作为参考提示。发生医疗事故,主要医疗责任归属运行诊疗的执业医师;算法如果存在固有设计缺陷,则追究开发方产品责任,两类责任清晰切割,写入使用协议。
第二,所有投入基层的设备,开机强制弹出风险提示弹窗,对医护人员、患者双向告知AI的辅助定位,配套面向老年人的通俗宣教手册。
第三,算法重大版本叠代更新,必须提交医学伦理委员会覆核审查,内核伦理约束模块禁止厂商单方面远程篡改。
第四,所有采集的患者原始生物影像数据,设备本地加密存储,禁止非必要云端回传;脱敏之后才允许用于模型叠代,创建完整数据访问审计日志。」
完整的整套风控体系,逐条展开论述。
基层医护代表也结合一线工作实际,补充大量落地层面的实操建议。
整场伦理讨论会结束,形成正式的《AI医疗机器人基层试点伦理补充条例》,作为样机投放的硬性约束文档。
试点数据源源不断回传实验室。样机依旧会偶发小故障,但是整体可用性大幅度提升,实实在在减轻基层医护查体、初筛的工作负担。
项目没有追求完美的仿真指针,追求的是在现实粗糙的人间环境里面,做到「可用、安全、可控」。
