加拿大广播公司（CBC）事实核查团队近日发现，在美国前总统Donald Trump创办的社交平台Truth Social上出现的部分广告，链接到一段伪造的加拿大总理Mark Carney视频。该视频利用深度伪造（deepfake）技术制作，内容被用于诱导观众向诈骗者转账。
据CBC报道，这些广告在Truth Social平台上投放后，会将用户引导至包含伪造视频的页面。视频通过人工智能合成技术模仿Mark Carney的外貌和声音，制造其正在推广某种投资或金融机会的假象，从而试图获取观众信任。
事实核查显示，这段视频并非真实讲话，而是经过技术处理生成的深度伪造内容。其主要目的在于诱骗用户提交个人信息或直接向相关账户汇款。
近年来，利用人工智能生成的深度伪造视频被越来越多地用于网络诈骗和虚假宣传。专家提醒公众，在社交媒体上看到涉及投资机会或要求转账的信息时应保持警惕，并通过官方渠道核实相关内容的真实性。
CBC表示，目前尚不清楚相关广告的具体投放规模，但事件再次凸显社交平台在识别和阻止AI生成虚假内容方面面临的挑战。
🔗 来源：CBC
发表回复