马斯克旗下的AI聊天机器人Grok, 此前因生成非自愿性明确图像而引发争议, 且该争议一直在持续发酵开云app官方最新下载地址，这种情况下美国执法机关正式介入了。在美东时间14日周三的时候, 加州总检察长Rob Bonta宣布, 要对xAI以及其开发的AI模型Grok启动调查, 这一行为标志着, 此争议已从全球舆论谴责, 升级到了具体法律行动阶段。
以加州司法部门公告所呈所述, 该调查着重聚焦于Grok“大规模产出”未获同意的深度伪造亲密图像之情况, 而这些图像被用以在互联网之上对女性以及女童实施骚扰行径。调查会判定xAI有无违反法律以及其违反法律的方式途径。于彼时, 加州州长Gavin Newsom亦表明立场支持此项调查动作, 声称xAI的相关行为“令人感到作呕”。
最新监管挑战, 是Grok在全球范围所面临的, 在此之前, 欧盟、英国、法国、马来西亚、印度尼西亚、印度以及巴西等多个国家的政府, 已针对该工具做出行动或者发出了警告, 面对这些情况, 马斯克在本周回应称自己并不知晓相关的情况, 并且强调Grok已经设定了拒绝非法请求。
该事件发生的时候, 美国国防部宣称要在机密网络以及非机密网络当中部署Grok, 此时, 监管方面与应用方面的矛盾突显了出来, 而这进一步表明了AI技术治理迫在眉睫的状况。
加州正式启动调查 指控xAI助长图像滥用
周三世界杯直播观看开运真人app下载苹果版,开运真人app下载，加州总检察长Rob Bonta在官方声明里称, 过去几周, 好多关于xAI制作且在网上发布非自愿性明确材料的报道, 让人震惊, 他还强调, 那些描绘女性以及儿童处于裸露和露骨性场景的材料, 已被用来在互联网上骚扰受害者。
按照司法部所发布的公告, 展开的调查是针对xAI, 其存在这样的情况, 即似乎正在推动大规模生产深度伪造的非自愿亲密图像, 而这些图像正被用来在互联网上骚扰女性及女童, 其中涉及通过社交媒体平台X来进行骚扰。Bonta在声明里作出了明确的表示:
我们针对, 借助AI的, 并非自愿的, 亲密图像, 或者儿童性虐待材料, 生成以及传播, 持零容忍态度。
公告详细地把 Grok 的问题列举了出来, 其中有提到, 在过去的几周时间里, 大量的新闻报道表明情况。报道指出, 一些 Grok 用户会顺着互联网去搜集女性以及儿童的普通照片, 然后借助 Grok 把这些人描绘成带有暗示性的、露骨的性行为场景, 甚至还会“脱光”他们的衣服, 更为关键的是, 这所有的行为都是在当事人并不知情, 或者未曾经过同意的状况下展开的。
公告称：
更让人惊愕的是, 新闻有这样的报道, 有人运用Grok去改动儿童照片, 把他们刻画成穿着十分暴露、处于性相关场景里的样子, 报道表示, xAI还创作出了儿童进行性活动的很逼真的图像, Grok的这些用途好像是大规模存在的, 通过一项剖析, 在圣诞节到新年这个时间段内, xAI所生成的2万张图像里, 超过半数画的都是穿着暴露出的人, 其中有一些看上去像是儿童。
xAI的"辣味模式"成营销卖点
加州司法部所作的调查, 把重点放在了xAI的产品设计选择上。有公告进行了指出, xAI对Grok的图像生成模型做了开发, 使其有了该公司所说的“辣味模式”, 也就是spicy mode, 这种模式会生成明确的内容。所说的“该公司把此模式当作公司的营销卖点, 意料之中地致使了未经同意就将人物性化的内容大量增加。”。
该问题于去年在Grok Imagine推出之后显露出来了。这款AI图像生成器能够让用户借助输入文本提示的方式去创建诸如含可生成成人内容“辣味模式”的视频和图片。就在上月底的时候这个问题态势急剧恶化, 那时托管于X平台上的Grok明显地开启到允许大量用户请求去修改他人所发布的图像, 请求内容像是“让她穿透明比基尼”这样的情况了。
马斯克把他的那个聊天机器人确定为一种替代品, 这种替代品比其竞争对手更具优势, 且保障措施更少, 再加上Grok的图像是公开能够看见的, 所以容易传播, 而这就使得问题的严重性被放大了。
限制措施未能完全奏效
面对争议, Grok称会将图像生成以及编辑功能限定为付费订阅用户才可使用。上周五, 该聊天机器人针对图像修改请求回复: “现今图像生成和编辑仅对付费订阅用户开通。您能够通过订阅来解锁这些功能。”它只为拥有蓝色认证标记的X用户赋予公开可见的请求权限, 这些用户每月要支付8美元来获取高级功能。
但是, 由美联社星期二确认所知, 通过点击平台之上每张图片所显示的“编辑图像”按钮, 免费用户依旧能够去使用图像编辑工具, 并非是标记Grok从而发出请求。而独立存在的Grok网站以及应用程序, 在星期二的时候仍然正在批准图像编辑请求。
对于置评请求, 马斯克的xAI公司始终是以自动回复“传统媒体谎言”来进行作答的。X先前表明将采取举措去删除非法内容, 这其中涵盖儿童性虐待材料, 会永久性的暂停用户账户, “并且在必要之时与当地政府以及执法部门展开合作”。马斯克发出警示称, “任何利用Grok制作非法内容的人将会承受与上传非法内容一样的后果。”。
全球监管压力持续升级
在加州展开调查以前, Grok于全球好些司法管辖区碰到了监管行动。英国媒体监管机构Ofcom在周一开启调查, 核查Grok有无违背保护人们免遭非法内容侵害的义务。印度尼西亚上周六临时性地封锁了对Grok的访问, 马来西亚政府周二宣称会对X和xAI采取法律行动。
对于X, 欧盟最高技术事务的官员进行了警告, 要求其解决相关问题, 并且还援引了《数字服务法》, 表示要是不这么做, 那在全力保护欧盟公民时, 对于DSA的全面使用, 我们是不会有丝毫犹豫的。法国巴黎检察官办公室宣称, 正在把特定范围内明确的性内容那种深度伪造内容包含在内, 去扩大针对X的调查范围。
依照央视新闻所进行的相关报道, 马斯克于本周三作出回应声称, 并不清楚有关Grok存在生成“未成年人裸露图像”这种状况, 着重表明Grok的程序所进行的设定是拒绝非法请求并且必定要遵守各个国家的法律。当前, 多个国家的政府以及妇女权益组织、儿童权益组织已经发出呼吁, 要求苹果、谷歌把该应用从应用商店中下架。
还木有评论哦，快来抢沙发吧~