在2024年的时候, 有一名xAI工程师, 他因为在内部报告了Grok安全漏洞, 随后就被解雇了。而最新的诉讼把这件事情公开了。
Grok的训练逻辑是“减少限制, 释放表达”, 这是马斯克对于AI的核心执念, 即反对“觉醒主义”式的安全审查, 主张对话模型应当让用户看到更多, 而非滤掉更多, 这种取向决定了Grok的底层架构, 它的安全护栏是结构性的薄, 并非补丁式的漏。
某个工程师所发现的漏洞, 从本质上来说, 并非写代码时出现了错误, 而是该设计哲学自身所存在的内在裂痕。公司解雇一名工程师, 一般来讲, 并非由于他做的是正确之事或者错误之事。而是鉴于他的存在, 跟公司当下阶段的“生存逻辑”形成了无法调和的张力。
在处于创始初期也就是堪称大模型竞争阶段的时候, xAI 所需求的是那种“加速推进的派别”, 而并非是“实施制动的派别”。有这么一个人, 其会在内设系统当中屡次抛出安全方面的问题, 这样的行为将会致使迭代的节奏变得迟缓。在马斯克秉持的工程文化范畴之内, 此种情况会被视作是“引发摩擦力的源头”。更为关键的是呀, Grok 的“安全界限”其本身就是一种在存有争议的状况下得以维系的产品特质。工程师所提出来的安全方面的升级举措, 从本质上来说是要求企业去否定自身的产品固有特性。在诉讼当中所提及到的相关情节是这样的: 工程师是在“向内部的所有人员进行广播”安全问题之后进而被解雇掉的。并非是悄无声息地进行举报, 而是公然地提出质疑。
这并非沟通方式方面的问题, 而是工程师文化的自我毁灭行为。这场诉讼切实揭示出来的, 乃是AI安全的两个并行宇宙。主流的AI安全探讨, 假定存在一套普遍实用的安全黄金标准: 模型应当具备可解释性、透明性以及可审计性。然而实际情况是, 不同的AI公司正在运用不同的框架去界定“安全”。Open AI所认定的安全性质为与人类的普世价值观保持一致（尽管他们自身都不清楚这个“人类”究竟是谁）。Anthropic所认定的安全性质为宪法式AI, 预先设定规则。 xAI 的安全=最大化用户控制权，安全责任转移给用户。
从工程师的视角出发, 衡量xAI所采用的是“Open AI安全范式”。然而, 从xAI创始人的视角来看, 所运用的却是“互联网平台范式” , 即用户自行对自己所见到的内容负责, 平台只要不主动做出恶劣行为就行。这两种安全观, 并不属于同一个维度的交流。诉讼的实质在于, 运用一个维度的标准, 去审判另一个维度的产品。这场诉讼不会对xAI的安全策略造成改变。这是因为, 策略并非由技术决定, 而是由创始人的世界观所决定的。
Grok所存在的问题, 并非针对方向盘而言, 而是聚焦于引擎盖覆盖之下的, 那个驱动整个产品运行的“反限制”引擎。
切实值得聚焦的, 并非工程师有无遭受冤屈。而是在 AI 产品的“安全”定义权力, 由工程师群体转移至创始人价值观念之际, 整个行业的“安全标准”到底会裂变为几只。 那整个行业的“安全标准”最终会裂变为几块呢。
一种分裂开来的安全标准情形, 指代着便是不存在标准这事, 针对一种不存在安全标准的行业, 最终仅会运用一种形式来区分出胜负情况, 具体为谁能够跑得最为迅猛, 且不会出现翻车状况那方便是成功的表现。
但问题是，翻车的定义权开云app官方最新下载地址开运真人app下载苹果版,开运真人app下载世界杯直播平台，在谁手里？
这里有#Grok, 还有#AI, 另外还有#DNA, 并且还有#Open, 最后还有#Anthropic。
还木有评论哦，快来抢沙发吧~