Elon Musk的xAI人工智能聊天机器人Grok于周五表示，由于安全措施的失效，导致社交媒体平台X上出现了“穿着极少服装的未成年人图像”，目前正在进行改进以防止此类事件的发生。用户在X上分享的截图显示，当他们上传照片并提示Grok进行修改时，Grok的公共媒体选项卡充满了这些已被篡改的图像。Grok在回应一位用户的帖子中提到，一些个别案例中，用户主动要求并接收到AI生成的包含穿着极少服装的未成年人图像。Grok表示已经识别了安全漏洞，并紧急修复此问题，同时提到制止此类请求是持续进行的工作，符合儿童性虐待材料（CSAM）法律的规定。印度信息技术部已向X的印度分部发函，指出平台未能阻止Grok生成和传播淫秽与性露骨内容，并要求X在三天内提交行动报告。
🔗 来源：CBC
发表回复