深陷内容争议X终于出手禁止ai生成真人比基尼照

1月15日消息，近日，埃隆·马斯克所创办的人工智能企业xAI陷入舆论漩涡，该公司开发的AI聊天机器人Grok因被指生成色情相关内容，在全球范围内激起了广泛争议。

在持续数周的舆论压力下，X 宣布将收紧 Grok 的图像编辑及生成功能。

今天早间北京时间，X 借助 @Safety 账号发布消息称，平台已运用技术手段，禁止 Grok 对现实人物图像进行编辑，特别是涉及比基尼这类暴露服装的内容。该限制将适用于所有用户，无论其是否为付费订阅者。

与此同时，xAI 决定把 Grok 的图像生成功能完全归入付费订阅体系，非付费用户将无法再使用生成图像的权限。

在法律明确禁止的地区，X 还会直接限制所有用户借助 Grok 生成现实人物身着比基尼、内衣这类服装图像的功能。

据了解，马斯克此前曾回应表示，他并不清楚Grok是否生成过任何未成年人的裸露图片。他接着解释道，当开启NSFW选项时，理论上Grok仅被允许生成虚构成年人的上半身裸露内容，且不涉及现实人物，其内容尺度大致与Apple TV上的R级电影相当。他还补充说明，这类限制会根据不同地区的法律规定进行相应调整。

在X发布相关声明的数小时之前，美国加利福尼亚州有关部门已经针对xAI及其开发的Grok在处理AI生成色情内容这一问题上的方式启动了调查程序。加州总检察长罗布·邦塔表示，经过一项专门的分析工作发现，从圣诞节到新年这段时间里，xAI生成的大约20000张图像内容中，有超过半数的图像涉及到穿着极为暴露的人物形象，而这些形象里还包含了疑似未成年人的形象。

此前，Grok因上述争议在全球范围内承受着监管与舆论的双重压力，多个国家的政府以及妇女、儿童权益组织纷纷呼吁苹果、谷歌将这款应用下架。

与此同时，由于担心可能产生色情内容，印度尼西亚上周已对Grok采取临时封禁措施，马来西亚随后也实施了临时访问限制。