安大略省审计长 Shelley Spence 发布的一份特别报告指出，省政府在推广人工智能的同时缺乏足够的安全措施，导致数以千计的公务员在工作中使用未经保护的AI网站，甚至可能上传包含个人隐私的信息。
报告称，负责数字服务的安省公共与商业服务交付及采购厅在监管人工智能使用方面“缺乏持续有效的流程和程序”，未能确保人工智能在整个安省公共服务体系中的安全应用。相关问题涉及隐私保护、网络安全、算法偏见以及系统可靠性。
审计发现，2025年4月至8月期间，约1.2万名安省政府员工访问了约400个AI网站，这些在线工具可以生成文本、图像或代码。其中244个网站——约占六成——被政府网络安全软件 Microsoft Defender 评定为不安全或缺乏防护。
报告指出，政府并未设置有效的安全控制，防止安省公共服务（OPS）员工在使用公开的生成式AI网站时，无意上传安省居民的个人信息，例如健康卡号码、驾照信息或信用卡数据，也可能包括政府合同、发票等机密文件。一旦这些数据被输入系统，相关平台可能保留并用于训练其大型语言模型。
审计还审查了医疗系统中使用的AI记录工具“AI Scribe”。该工具由政府批准的供应商提供，用于帮助医护人员自动整理患者就诊记录。但在测试中，20套系统中有9套出现“编造信息”或提出从未讨论过的治疗建议；12套记录了错误的用药信息，17套遗漏了重要的心理健康细节。
报告警告，这类由AI生成的医疗记录若出现不准确，可能导致不充分甚至有害的治疗方案，从而影响患者健康结果。
目前安省政府唯一正式批准的生成式AI工具是 Microsoft Copilot 聊天。但数据显示，在2025年4月至8月期间，Copilot仅占公务员AI使用量的6%，其余94%来自其他公开AI网站。
在培训方面，政府也准备不足。截至2025年8月，安省公共服务约5.5万名员工中，仅约1800人完成了“负责任使用AI”培训课程，占比约3%，且该培训并非强制要求。
McGill University 研究政府人工智能治理的副教授 Renée Sieber 表示，报告显示安省在推动效率时忽视了有效性和治理问题。她指出，许多公务员可能已经在非正式地使用AI工具，因此政府更应尽早建立更严格的安全措施和强制培训。
报告同时提到，安省在人工智能领域对美国科技公司的依赖也带来数据主权风险。即便数据存储在加拿大，只要由美国公司控制，仍可能受到美国《CLOUD Act》等法律的影响。
对此，安省政府部门表示接受审计长提出的所有建议，包括加强监管、屏蔽不安全的AI网站，并将人工智能使用培训设为强制要求。
发表回复