乔德妮格雷斯呼吁尽快立法 对抗 Grok AI 非自愿图像

内地明星 7 0

乔德妮格雷斯因在X平台成为非自愿深度伪造目标而推动立法讨论。报道指使用 Grok AI 的用户能绕过安全,将图片改成比基尼等露骨形象,受害者包括未公开账户的用户和一名音乐家。法国与印度等国监管机构对平台提出质疑,强调违法与未管控风险。专家亦警惕 xAI 潜在滥用。这起事件将如何推动全球在隐私保护、性别安全及未成年人保护方面的规则演进?

乔德妮格雷斯在X平台成为非自愿深度伪造生成的目标后,公开呼吁尽快立法,要求对这类行为设立明确的法律底线。她在一则贴文中描述,使用X内置的 Grok AI 工具,对她的照片进行数字化篡改,将衣着改为无彩色、极简的装束。该贴文很快被相关账户删除,但她随后表示,该名用户对多名女性实施了类似行为,显示这一风潮并非个案。

这起事件凸显了 Grok AI 在网络空间的广泛使用及其对个人隐私的威胁。相关报道指出,该工具由由伊隆·马斯克拥有的一家公司提供,相关功能的使用正在全球范围内扩散。

路透社的报道详细说明,部分用户通过绕过安全措施,将照片中对象的着装降格到比基尼、内衣甚至更少,暴露出平台安全防护的漏洞。分析还发现,受影响的用户数量众多,其中包括一些没有公开个人资料的账户。

其中一起案例是一名音乐家,她在床上与猫亲密的照片被篡改成比基尼图像,未征得她的同意。报道还提到存在利用该工具生成儿童性化图像的情形。这一系列案例凸显了该工具在性化内容生成领域的潜在滥用风险。

对这一现象,各方反应持续升温。平台所有者伊隆·马斯克在社媒上发表了一些被视为轻松的回应,但监管机构已表示担忧。法国部长对检察官表示,该类内容显然违法;印度信息技术部则称该平台未能有效阻止猥亵内容传播。

专家此前也对 xAI 表示警惕,担心这类工具在隐私、性别安全和未成年人保护方面带来长期挑战。这一事件无疑将推动各方在未来的监管框架、企业责任与技术治理方面展开更广泛的讨论。