马斯克低头认怂,Grok紧急补锅:一键脱衣功能被封杀
马斯克(Elon Musk)和他的Grok,终于低头认怂了。在持续数周的舆论抗议和监管高压下,X平台与xAI终于在近期联合发布了紧急安全更新。X官方宣布已实施强制技术措施,“防止Grok账户允许编辑真人穿着比基尼等暴露服装的图像”。此外,xAI更进一步,将所有图像生成功能移至订阅付费墙之后,彻底切断了非付费用户的生图权限。这场紧急“补锅”的背后,是Grok近期陷入的巨大道德泥潭:这款聊天机器人因被滥用于大规模生成非自愿色情图像,特别是针对女性和未成年人的“深伪”脱衣照,而遭到全球围剿。在硅谷,马斯克一向以“言论自由绝对主义者”自居。然而,当这种“不设限”的自由碰上人工智能和人类阴暗面的温床时,一场席卷全球的舆论风暴不可避免地爆发了。面对多国政府的联合调查和公众的口诛笔伐,一向强硬的马斯克也不得不低头,紧急出台了一系列限制措施。https://nimg.ws.126.net/?url=http%3A%2F%2Fcms-bucket.ws.126.net%2F2026%2F0115%2F4bf10d98j00t8w5q70016c000qe00euc.jpg&thumbnail=660x2147483647&quality=80&type=jpg1.“脱衣”风波:当AI变成造谣机器这场危机的导火索是Grok强大的图像编辑和生成能力。与OpenAI的DALL-E 3或谷歌的Gemini不同,Grok在发布之初就以“辛辣(spicy)”、“反叛”和“极少审查”为卖点。然而,这种所谓的“酷”很快走到了危险边缘。研究发现,用户利用Grok的漏洞,能够极其轻易地将现实中女性的照片“一键脱衣”。根据独立研究员Genevieve Oh的调查,在某些高峰时段,X平台上每分钟就会产生一张非自愿性色情深伪图像。更令人不寒而栗的是,这种伤害已经波及到了未成年人。互联网观察基金会(Internet Watch Foundation)报告称,在暗网论坛上,有用户甚至炫耀使用Grok生成11至13岁女童的裸露或半裸图像。加州总检察长罗布·邦塔(Rob Bonta)指出,一项分析显示,在去年圣诞节至元旦期间,xAI生成的2万张图片中,超过一半涉及衣着暴露,其中甚至包括看起来很像儿童的人物图像。2.紧急刹车:X平台的“补救三板斧”在持续数周的舆论抗议和监管压力下,X平台终于在近期发布了政策更新。本周三,X公司通过其安全账号@Safety宣布了三项关键举措:https://nimg.ws.126.net/?url=http%3A%2F%2Fcms-bucket.ws.126.net%2F2026%2F0115%2Fd33ab503p00t8w3ft000mc000qq00foc.png&thumbnail=660x2147483647&quality=80&type=jpg
· “比基尼”禁令:X声称已采取技术措施,阻止Grok将现实人物的图像编辑成穿着比基尼、内衣或类似暴露服装的状态。· 图像生成要付费:为了提高门槛,xAI将Grok的所有图像生成功能移至订阅付费墙后。这意味着非付费用户将不再能生成任何图像。· 地域拦截:在生成涉及比基尼、内衣等形象的法律敏感地区,X将实施地缘拦截。消息一出,社交媒体X上反响激烈。深耕科技行业20年的知名战略顾问安托万·埃蒙德(Antoine Emond)就对此点赞:“很好,有了这些措施以及承诺的算法开源,看来欧盟的罚款正在发挥作用。”
一键脱衣就应该封杀了 马斯克的一键脱衣就应该被封杀,主要是大家舆论和抗议
頁:
[1]