Hanah 与其他产品对比:一项客观、透明的基准测试
要点
- 2026年10月的对比测试把同样的 13 次诊疗录音分别输入七款 AI 病历助手,并对照录音为输出评分。
- 除 AI 病历助手外,Hanah 还提供居家训练计划和带诊所品牌的患者端应用。患者可以在两次就诊之间查看双方商定的居家计划。
- 在所报告的测试中,Hanah 记录到 93.7% 的必需临床细节,其评分病历中没有重大幻觉标记。
- 本测试由供应商执行,评分时隐藏了产品身份。解读结果时,其样本和采集方面的局限很重要。
- 请查看录音、输出和评分理由;基准测试结果好,并不意味着临床草稿可以免于审阅。
我们把同样的 13 段诊疗录音分别输入 Hanah、Heidi、Lyrebird、Freed、PatientNotes、CliniScripts 和 Preve,然后对照实际所说的内容为每一份病历评分。完整结果,包括每一份转录稿、病历和评分,都在我们的基准测试页面上。
结果
| AI 病历助手 | 已涵盖的临床细节 | 每份病历的重大幻觉标记 | 每次诊疗的显著转录错误 |
|---|---|---|---|
| Hanah | 93.7% | 0.00 | 0.59 |
| Heidi | 91.4% −2.3% | 0.23 +0.23 | 1.15 +0.56 |
| CliniScripts | 90.8% −2.9% | 0.23 +0.23 | 0.69 +0.10 |
| Lyrebird | 90.2% −3.4% | 0.62 +0.62 | 1.92 +1.33 |
| Freed | 85.7% −8.0% | 0.83 +0.83 | 1.25 +0.66 |
| PatientNotes | 74.7% −19.0% | 2.77 +2.77 | 1.92 +1.33 |
| Preve | 72.2% −21.5% | 1.10 +1.10 | 3.54 +2.95 |
Hanah 的病历记录到的必需临床细节比 AI 病历助手(AI scribe)的平均水平多 11%。Hanah 的 13 份病历中没有一份出现重大幻觉标记,而其他 AI 病历助手的病历中,没有重大幻觉标记的不到一半。Hanah 的转录稿中具有临床意义的错误比平均水平少 66%,在英语诊疗中少 76%。具有临床意义的转录错误,是指可能误导临床医生的错误:药物、剂量、数字、侧别或症状错误,否定词或红旗征丢失,或临床内容被遗漏。
重大幻觉标记是什么样的
重大幻觉标记,是指病历中出现了没有说过、并且可能改变诊疗的内容。以下例子来自本次基准测试中的病历,每一个都与其来源转录稿一起公开。
- 在一次 ICU 交接班中,PatientNotes 把 dapagliflozin 写成了患者酮症酸中毒的原因,而临床医生说的是 empagliflozin。在同一段带有病房噪音的口述录音中,PatientNotes 记录的心率为 91。而 91 其实是患者的血氧饱和度,这一项在病历中被遗漏了。
- 对于一名哮喘患儿,临床医生说的是 dexamethasone,PatientNotes 却写成 betamethasone;家长描述的是黄色呕吐物,它却记录为黄色痰液。
- 一位从四轮摩托车上摔下来的患者,在 Heidi 的摘要中变成了骑自行车摔倒,在 Lyrebird 的病历中变成了骑摩托车摔倒。Lyrebird 还把损伤写在了右侧,而这从未被提到过。
转录稿也会出错。在一次时长 50 分钟、在嘈杂治疗室中进行、其中只有约七分钟说话的肌肉治疗(myotherapy)中,Freed 的转录稿在安静的时段里填入了没有人说过的话,包括“Thank you for watching!”(感谢观看!)和一段关于某个小镇历史的文字。Lyrebird 对同一次就诊的转录稿中出现了 Zolmitriptan,一种没有人提到过的偏头痛药物。Hanah 对这段录音的转录稿没有具有临床意义的错误。
普通话与英语
其中一次诊疗是颌骨手术复诊,主要用普通话进行,临床术语用英语。所有提供输入语言设置的 AI 病历助手都为这次诊疗设为普通话,Heidi 和 Hanah 各运行了三次。
Heidi 的转录效果最好,三次运行中每次都有 3 处具有临床意义的错误。CliniScripts 出现 4 处,Hanah 出现 4 或 5 处。Hanah 的错误出在普通话中夹杂的英语临床词汇上,例如“pus”被写成“pass”,chlorhexidine 被写成“hexadene”。PatientNotes 出现 9 处,Freed 7 处,Lyrebird 14 处。Preve 没有输入语言设置,出现 24 处。Hanah 根据这次复诊生成的病历仍然没有重大幻觉标记。
我们如何进行测试
这些录音来自 Hanah 的准确率语料库,与我们透明度页面上版本发布结果所用的 13 段录音相同。其中包括口述、物理治疗、营养治疗、职业治疗、肌肉治疗和社区护理诊疗,一名家长英语有限的患儿,一段户外录音,以及那次普通话复诊。每段录音都有逐字的参考转录稿,以及一份病历必须记录内容的核对清单。
每款 AI 病历助手都在其自己的网页应用中运行,使用标准账户和默认设置。同一个音频文件输入每一款 AI 病历助手,同样的提示词逐字输入。除上述普通话重复运行外,每款 AI 病历助手对每段录音运行一次,时间为 2026年10月6日。
病历由 Anthropic 的模型 Claude 评分。对于每段录音,每款 AI 病历助手的病历都被打乱顺序、以字母代替,并移除产品名称,然后按照固定的评分标准对照参考转录稿评分。直到全部 13 段录音评分完毕后,字母才与产品重新对应。每份转录稿都与参考转录稿逐词比较,Claude 在不知道产品身份的情况下逐一判断每处差异是否具有临床意义。评分标准以及每项评分背后的规则都在我们的测评方法中。
亲自核查
基准测试页面上的每一项评分都附有理由。您可以播放每段录音,阅读参考转录稿,并与每款 AI 病历助手写下的内容进行比较。
常见问题
这是一项独立的临床研究吗?
不是。这是由 Hanah 执行的对比测试,评分时隐藏了产品身份。测评方法和原始证据均附有链接,供读者查验结果。
没有重大幻觉标记,是否意味着每份病历都完美无缺?
不是。这只说明在本次运行中,Hanah 的评分病历里没有发现重大标记。遗漏和其他错误仍需注意,每一份草稿都需要审阅。
在哪里可以核查某一项具体评分?
基准测试证据链接了录音、参考转录稿、产品输出以及评分背后的理由。
本文引用的来源
更新说明:在要点中突出介绍了居家训练计划和带诊所品牌的患者端应用。来源核查和基准测试日期仍以文中所述为准。