随着面向公众的医疗健康类大模型应用快速普及，模型“幻觉”——即生成看似合理但实际错误的内容——带来的误导风险引发关注。卫生健康部门提醒，公众应理性看待 AI 健康咨询，相关机构应强化安全护栏建设。
在医疗场景中，大模型可能给出错误的用药建议、虚构的诊断结论，甚至编造“某某指南第几条”这类不存在的权威依据。这类回答语气笃定、形式专业，最容易被患者直接采信，一旦照做可能延误就医甚至危害健康。危险的不是“答错”，而是“错得很像对的”。
专家建议，医疗健康类 AI 应用应在高风险问题上主动拒答或提示就医，建立事实核查与免责声明机制，对“根治/100% 有效”等绝对化表述设置内容拦截，并通过引用可信医学知识库（RAG）为结论提供可追溯来源。
护栏“装了”不等于“有效”。是否真正降低了误导风险，需要用第三方安全性测评来检验：在医疗问答场景下量化模型的拒答率、事实一致性与高危幻觉率。平台测评数据显示，经过安全对齐与护栏加固的模型，在医疗敏感问题上的高危幻觉率可显著下降。
说明：本文据公开提示整理，为行业示例，具体内容请以官方发布为准。
