马斯克引领“比基尼换装”风潮惹争议，xAI 承认 Grok 修图功能遭滥用

后续将这一事件彻底推向风口浪尖的则是——马斯克1月1日要求Grok将演员本?阿弗莱克的AI梗图替换为自己的脸，从而掀起了一股“比基尼换装”热潮。但问题在于该功能并未得到充分验证，甚至还有部分“乐子人”通过这一功能生成了大量涉及未成年人，以及涉及唐纳德?特朗普（美国总统）、普丽蒂?帕特尔（英国印裔女性政治家）等领导人的图片，引发普通用户及监管机构不满。对此，xAI昨日承认“已识别到防护措施存在疏漏，正在紧急修复”，并强调儿童性材料“属于违法且被禁止的内容”。前一天，Grok称已审查近期与X用户的交互记录，将这些事件描述为“个别案例”，称有用户要求生成“描绘未成年人穿着极少衣物”的图像。Grok补充表示“正在持续改进，以彻底屏蔽此类请求”。亚汇网注意到，xAI技术人员帕尔萨?塔吉克也公开承认了这一问题：“感谢反馈，团队正在研究进一步收紧我们的限制措施。”马斯克旗下xAI产品常因为高用户自由度、低防护度引起争议。其AI女友Ani可与用户调情；Grok还会生成泰勒?斯威夫特的深度伪造裸露视频，尽管xAI明确禁止“以色情方式描绘人物肖像”。行业专家指出，更广泛的问题超越Grok本身。2022年ChatGPT的推出加速了AI生图的扩散，许多公司目前难以防止功能滥用。该技术助长了涉及真人的深度伪造色情内容，儿童安全组织称问题正在加剧。监管机构已拉响警报：英国互联网观察基金会（非营利组织）报告称，AI生成的儿童性虐待材料在2025年前六个月增长达400%，并形容该速度“令人惊恐”，调查人员现已发现“首批令人信服”的描绘儿童性虐待的AI视频。印度电子和信息技术部上周五要求政府对Grok的安全功能进行审查。印度官员指出该平台出现“新趋势”，用户上传女性照片并要求聊天机器人“减少其衣物并使其性感化”。该部称此行为“不可接受，是对AI功能的严重滥用”。广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，亚汇网所有文章均包含本声明。