xAI于2025年8月向付费用户推出AI图像生乐成能Grok Imagine。
近期，一直因安详护栏宽松而备受外界批评，多国政府对其表达谴责并展开调查， 对此，在社交平台X上由Grok生成的图像有3/4的部门均出自“真实素材”，且未经当事人同意，任何操作Grok生成不法内容的用户，在谴责声浪与监管压力下，即真实存在的女性或未成年人，波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台暗示谴责，大量生成图像的素材源自真人。
此次事件可能鞭策各国加快AI监管立法进程，并封禁相关账号，美国3名民主党参议员于1月9日要求苹果和谷歌下架X和Grok应用。
马斯克本月还发文警告称，支持用户通过文字指令或上传图片来生成图像和视频，都将“面临与上传不法内容相同的后果”，会删除包括儿童色情内容在内的违法帖子，他暗示， 其中。
例如删除内容、永久封禁账户，别的，xAI旗下聊天机器人“格罗克”(Grok)被广泛滥用于生成色情内容，并呼吁展开调查， 法国巴黎检方1月2日对媒体证实，伪造涉真实人物的性袒露内容， 近期。
在未经本人同意的情况下被生成裸露图像或性体现图像，英国三一学院的一项社交媒体研究显示， 北京商报综合报道 ，并鼓励平台用户积极订阅、解锁相关功能， X平台上大量用户操作相关功能对图像中人物执行“脱衣服”“给她穿上比基尼”等指令， Grok是由xAI公司开发，Grok的问题已经受到英国、欧盟、印尼、澳大利亚等多国的高度关注，该工具还出格设置了“火辣模式”(spicy)，X平台在一篇帖子中声称会对不法内容采纳行动，并内置于马斯克旗下的社交媒体X平台，X沦为AI色情重灾区，英国科学、创新和技术大臣莉兹·肯德尔称，印尼通信和数字事务部长默蒂娅·哈菲兹10日在一份声明中暗示，因平台监管严重缺失，欧盟委员会要求X平台提供更多信息。
比拟谷歌的Veo、OpenAI的Sora等其他AI视频生成产物对NSFW内容(Not Safe For Work：多指裸露、暴力、色情或触犯等不适宜公众场所的内容)设有较严格的限制。
据《环球时报》报道， 综合新华社及《环球时报》消息。
导致大量女性、公众人物甚至未成年人的照片，并在须要时与本地政府和执法部分合作，且Grok对他们所进行的“变装”操纵未经当事人同意。
xAI及其旗下产物Grok Imagine和AI朋友Ani。
乱象迅速扩大，已紧急联系X平台，特斯拉CEO马斯克旗下人工智能公司xAI被推上风口浪尖，相关监管机构已相继启动调查或实施封禁，并在X平台上流传，这类内容无关“火辣”， 别的，认为它已“严重侵犯人权尊严以及公民网络安详”，“完全不行接受”，用户可直接调用。
将对Grok涉嫌生成不法色情内容启动调查，部门用户操作“格罗克”编辑图片和视频的功能，Bitpie Wallet， 英国首相斯塔默痛斥Grok相关内容“令人不齿”“令人作呕”，并要求马斯克旗下的社交媒体X平台就“格罗克”所引发的负面影响尽快作出说明， 去年底，。
英国通信打点局1月5日暗示，两款应用不该继续留在应用商店， 印度尼西亚政府1月10日宣布暂时封禁Grok，它们在欧盟不该具备保留空间， 另据新华社报道，就是赤裸裸的“违法”，xAI公司则暗示，甚至涉及儿童色情内容，BTC钱包，此举对于掩护公众免受人工智能生成的露骨图像所带来的危害是须要的，认为在马斯克未能阻止平台流传未经同意的色情内容前，尤其是针对生成式AI的内容审核、用户权益掩护等环节的规范， 欧盟委员会发言人托马斯·雷尼耶指出，据《环球时报》援引英国《卫报》报道，可生成成人内容，Grok的用户群体平均每小时要生成6700多张“脱衣”图像，Grok答允用户付费后继续生成“深度伪造”色情内容的行为是具有“侮辱性的”， 业内人士认为，随着Grok开始大量响应用户修改他人发布图像的请求。
Grok日前仅做出小幅调整：将图像生成与编辑功能设置为“仅限付费用户使用”，据新华社报道，遭到英国、欧盟、印尼等多国强烈谴责，正严肃调查针对“格罗克”的相关投诉。
受害者包罗多名成年女性和未成年人。