据 Beating 报道,前 xAI 员工透露,Grok 超过一半的流量来自成人内容,包括 NSFW 图片、视频和角色扮演对话。Grok Imagine 高级订阅层级每月收费 300 美元,创造了可观收入,而 xAI 的代码生成模型也因运营成本较低被重新用于生成成人图片。SpaceX 的 IPO 文件显示,该 AI 部门 2025 年营收达 32 亿美元,到 2026 年第一季度每月生成 100 亿张图片和 20 亿个视频。
内容放松引发了监管审查和内部人才流失。欧盟、法国和英国已对 Grok 生成儿童性虐待材料展开调查。在 xAI 内部,对深度伪造裸照生成的担忧导致人员离职,部分工程师被调去开发色情化虚拟形象“Ani”。SpaceX 文件警告称,Grok 生成“坦率、未经过滤内容”的能力会带来声誉和露骨图像方面的风险。