加拿大联邦人工智能和数字创新部长Evan Solomon表示，在与OpenAI的CEO Sam Altman会谈后，该公司同意采取多项措施来增强AI技术的安全性。这些措施包括为高风险用户和政策违规者开发新的识别系统，并提供相关报告。此外，加拿大AI安全研究所将受邀审查OpenAI的模型并为政府提供技术建议。本次会谈背景是此前OpenAI在未通知警方的情况下禁止大规模枪击案犯罪嫌疑人使用其ChatGPT聊天机器人。OpenAI承诺新的协议能够确保此类互动会被及时报告给警方。Solomon指出，这一悲剧事件显示出在强大AI技术领域需要更为严密的安全防护。OpenAI除了计划与加拿大皇家骑警建立直接联系外，还将把安全标准追溯应用到之前的案件中，并审核这些案件是否被漏报。此外，该公司还将评估如何将加拿大的隐私、心理健康和执法专家纳入其高风险案例的审查过程中。
发表回复