上月，X平台（原推特）在全球监管压力下，正式关闭了其AI聊天机器人Grok的“比基尼模式”，该功能此前允许用户将真人照片编辑成穿着暴露服装的图像。这一决定源于Grok被大量滥用，用户仅通过标签@grok就能生成未经同意的性化深度伪造内容，甚至涉及未成年人，引发了关于“赛博性暴力”的广泛争议。

据了解，Grok的图像编辑功能每小时可产生数千条违规内容，导致数百名女性及儿童成为受害者。印尼和马来西亚率先封禁了Grok服务，随后英国通信管理局启动正式调查，欧盟委员会也发出严厉警告。

本月18日，英国政府进一步升级监管措施，提出针对AI不雅内容的紧急删除新规。新规要求科技公司在48小时内删除平台上未经同意的私密图像及性化深度伪造内容，违规平台将面临全球收入10%的巨额罚款，甚至可能被禁止在英国运营。

英国通信管理局还考虑对私密图像实施数字标记，以建立类似儿童性虐待材料的自动删除机制。此次新规是对《在线安全法》的补充，此前英国《数据法案》已将未经同意制作私密图像定为刑事犯罪。首相基尔·斯塔默强调，任何平台都不能获得免费通行证，必须全力保护民众，尤其是儿童，免受非法AI内容的伤害。