随着人工智能的快速发展，AI在医疗领域的应用也广泛落地，引得跨国科技巨头、药企、创新企业纷纷入局。然而当各类医疗AI产品层出不穷，看似为就医带来便利的同时，也有不少人提出了质疑：什么样的医疗AI值得信赖？它给出的建议会不会有“幻觉”、靠不靠谱？医疗诊治事关生命健康，可目前医疗AI产品在伦理、应用安全等方面还存在灰色地带。今年两会，上海市政协委员蒋欣泉就关注到医疗AI的应用。

上个月，上海爱尔眼科医院副院长李勇的一条朋友圈引发了热议，一位患者在白内障手术后擅自停了必须滴的眼药水，导致视力下降、角膜轻微褶皱，病人表示，是因为AI告诉它，眼药水会有副作用。

“我说你为什么不相信医生的话，而去相信AI？他说AI是综合了很多专家的意见，我相信它是更权威的。”李勇医生回忆道，“后来我就说，那我‘求求你’，这一次你先相信我。”他解释，所谓眼药水的副作用通常有特定前提，如长期使用含激素的眼药水或患者有禁忌症。术后短期使用是符合临床指南的必要措施，擅自停用反而影响了伤口愈合。“AI它不会去分辨你真正的这个症状和主诉。”李勇感叹。

对于AI在医疗领域的应用，市政协委员、复旦大学附属口腔医院院长蒋欣泉也长期关注，在他看来，当前公众能使用到的AI工具，基本是通用型AI，通过在网上爬取过往信息来给出回应，但是每个个体的情况不同，病症的症状也有差异，很容易差之毫厘，谬以千里。

蒋欣泉委员举例说，曾有患者因口腔黏膜不适、舌根长包块，通过AI自查后怀疑是恶性肿瘤，焦虑万分。“医院就诊后才发现，患上的只是黏液性囊肿。当前的AI健康助手往往是基于概率和文本匹配生成，缺乏医学的严谨性和个体化考量。”

张文宏医生也曾公开表示，拒绝把AI直接引入病例系统，当然，不是说完全不使用，而是必须要有成熟医生来做最终判断。“我是拒绝把AI引入我们医生的日常生活，”他表示，“（使用AI）造成最大的一个问题，对疾病的诊断没有经过系统的训练，他就不能鉴别AI对或者错。”

事实上，有不少三甲医院都有在各自探索研发一些专科类的医学AI。最出名的应该是去年11月亮相的上海首个“胃肠多模态医学AI”，系统还公开和三甲医生进行了一次挑战。时隔两个月，上海人工智能实验室的项目负责人张容肇表示，目前这款AI，仍在通过大量投喂真实临床病例，做测试优化，而“投喂”的患者检查，其实都已经是经过大量的人工标注、数据对齐和人工审核、修订工作，来保证AI学习的语料的准确性。

“至少是副主任医生水平的专家来做最后的一个终审，如果这个时候发现没有问题了，OK，才能保证它的数据不会有一种‘噪声’。”张容肇强调。

上海人工智能实验室介绍，开发这款AI，是希望它能帮忙医生做病例初筛，帮着分析胃肠镜报告、CT影像等等，但绝不是为了取代医生，“我觉得AI即使发展到最后，能达到一些主任级别医师的这个水平，在医疗这个严肃场景之下，它也应该是辅助的一个角色，而不是替代的一个角色。”上海人工智能实验室青年科学家徐捷说。

蒋欣泉委员表示生成式人工智能模型在医院的落地到底应该怎么做，目前还没有明确规矩，数据安全、伦理规范、内容安全等，都有待更细化的行业指导方案出台，来为整个医疗AI行业健康发展保驾护航。但能肯定的是，AI医疗产品，需要聚焦临床痛点来做研发，来协助医生筛选读片等，而不是鼓励让不具备充足医疗知识的患者用来据此自行下诊断。

“最好的AI医疗产品，一定是从临床需求中‘长’出来的，而不是在实验室里‘造’出来的。”蒋欣泉委员建议，“呼吁AI企业工程师们能更深入地走进医院，与一线医生紧密合作，推动高质量医疗数据集的开放共享，建立行业统一的技术标准和伦理规范，确保AI浪潮真正地、可持续地造福于每一位患者。”

AI在医疗领域的角色，必须设置安全底线，患者信息要规范脱敏，用循证医学数据训练医疗AI，保证其提供的建议是安全的。只有厘清人机协作边界，让技术真正赋能医疗，才能守护好老百姓的生命健康。