机长副驾关系喻AI出错问责 「医生应掌最终决策权」
发布 : 2025-3-30 来源 : 明报新闻网 用微信扫描二维码，分享至好友和朋友圈 | 加关注  明声网温哥华 微信公众号 |
【明报专讯】现时不少医学程序已可借助AI工具处理，例如是助医生判断大肠瘜肉是否恶性、审视药物之间有否交互反应等。医生若有医疗失误可由医务委员会监督，但如AI出错向谁问责，属重要伦理问题之一。新加坡南洋理工大学高级副校长（健康及生命科学）沈祖尧昨出席公众讲座回应提问，他认为医生与AI医疗工具应分别是机长与副驾驶关系，医生应掌「最终决策权」。
沈祖尧表示，不少研究曾向普罗大众问意见，在医疗程序使用AI，如有医疗事故，责任由谁承担，「大部分人答案都认为是医生」。因此，他认为较理想模式是科技辅助，但最终仍由医生做判断。他以无人驾驶为例，驾驶座上不一定要有人，但设计上仍要留有?盘、油门及煞车脚踏，「当系统出错，准备冲落山时，仍预留空间让人可以取回系统手动的控制权，由人去承担最后责任」。
他形容，医疗体系的安排亦应类同，并按人为操控程度分不同等级；有更多控制权，所需承担责任就更多。「理论上完全没人为控制，医生只是坐?拖住病人的手的话，（医生）就没理由需要承担责任，但我们不希望这种情?发生。」
AI代工 医者须辨系统良莠
操刀技术必然荒疏 核心知识必须维持
未来医生将无可避免更多地使用AI，沈表示，因此现时医学训练，愈来愈?重学生要对数据分析及AI有起码认识。他说，不需要所有医生懂得编程，但要有能力判断AI系统优劣，如某模型用了较差的数据训练，要能够判断不应取信。医生亦要能够处理使用AI可能产生的伦理问题。
至于在AI辅助下，部分医疗程序毋须再由医生处理，沈表示，「deskilling（技能丧失）将必然发生」，暂未能完全解决。但他以数学运算比喻，当计数机故障时，仍要确保运算者「懂用九因歌、心算计到条数」，医生亦须维持具核心知识。
AI取代部分程序仍有正面价值，他认为一个比喻贴切，科技有如「食肉虫」可将烂肉吃掉，留空间长出新肉；同理地，当AI协助医生处理一些程序，例如在医生向病人问症后可自动生成报告，就可让医生腾出时间，处理更重要事情。
沈祖尧表示，不少研究曾向普罗大众问意见，在医疗程序使用AI，如有医疗事故，责任由谁承担，「大部分人答案都认为是医生」。因此，他认为较理想模式是科技辅助，但最终仍由医生做判断。他以无人驾驶为例，驾驶座上不一定要有人，但设计上仍要留有?盘、油门及煞车脚踏，「当系统出错，准备冲落山时，仍预留空间让人可以取回系统手动的控制权，由人去承担最后责任」。
他形容，医疗体系的安排亦应类同，并按人为操控程度分不同等级；有更多控制权，所需承担责任就更多。「理论上完全没人为控制，医生只是坐?拖住病人的手的话，（医生）就没理由需要承担责任，但我们不希望这种情?发生。」
AI代工 医者须辨系统良莠
操刀技术必然荒疏 核心知识必须维持
未来医生将无可避免更多地使用AI，沈表示，因此现时医学训练，愈来愈?重学生要对数据分析及AI有起码认识。他说，不需要所有医生懂得编程，但要有能力判断AI系统优劣，如某模型用了较差的数据训练，要能够判断不应取信。医生亦要能够处理使用AI可能产生的伦理问题。
至于在AI辅助下，部分医疗程序毋须再由医生处理，沈表示，「deskilling（技能丧失）将必然发生」，暂未能完全解决。但他以数学运算比喻，当计数机故障时，仍要确保运算者「懂用九因歌、心算计到条数」，医生亦须维持具核心知识。
AI取代部分程序仍有正面价值，他认为一个比喻贴切，科技有如「食肉虫」可将烂肉吃掉，留空间长出新肉；同理地，当AI协助医生处理一些程序，例如在医生向病人问症后可自动生成报告，就可让医生腾出时间，处理更重要事情。