安大略省审计长 Shelley Spence 在一份最新报告中指出，计划供医生使用的人工智能病历记录工具在测试中出现大量错误，包括生成不完整信息以及所谓的“幻觉”（hallucinations），即系统凭空编造医疗内容。
该发现来自审计长办公室对省政府公共部门使用人工智能情况的整体调查。报告显示，在为医生和患者会诊自动生成病历记录的AI系统采购过程中，政府评估人员对20个候选程序进行了测试，并在生成的医疗记录中发现严重问题。
审计人员通过两段模拟医生与患者的对话来测试系统表现。结果发现，其中9个系统出现“幻觉”，会在记录中添加医生并未提出的治疗建议，例如建议患者接受心理治疗或安排血液检测。
此外，20个系统中有12个在转录中出现错误信息，例如记录了与医生实际处方不同的药物；17个系统未能准确记录患者心理健康相关的重要细节。报告警告，这类错误可能导致不恰当甚至有害的治疗方案，从而影响患者的健康结果。
审计还发现，一些系统供应商在采购过程中未提交第三方审计报告、安全认证或风险评估文件，但仍有4个系统获得政府批准。
目前，这些AI转录工具已在安省部分医疗环境中使用。省政府表示，审计报告中指出的错误主要出现在测试阶段。政府已向医生发布指导，要求对AI生成的病历记录进行人工审核，以确保信息准确。
审计长同时建议，政府应在系统中建立更严格的IT控制措施，例如要求医生确认已审阅AI生成的记录，以减少潜在风险。
🔗 来源：CBC
发表回复