Ilya曝光70页OpenAI绝密文件

内地明星 1 0

梦瑶 发自 凹非寺

Ilya偷拍备份的OpenAI机密文件,刚刚曝光。

70页

内部证据、

200+页

私人笔记,

偷拍视频

绕开公司系统

、用

阅后即焚

的方式传递消息,甚至上来直接一个大暴击:

Sam Altman撒谎成性!!!(大声.jpg)

《纽约客》刚刚披露这一事件详情,里面的内容堪称抓马:

从OpenAI董事会到微软高级高管,跨越20年、横跨多个组织,大家对奥特曼的核心评价几乎都是

撒谎成性

。OpenAI的非营利使命要求CEO必须具备诚信的品质,但Ilya后来发现奥特曼恰恰

不具备这种品质

,甚至恰恰相反…奥特曼被解雇后的5天,在自家豪宅搞了个

宫斗备战室

,资本、员工、舆论三线齐发,最终董事会无力抵抗!宫斗事件之后,奥特曼不仅没有收敛,反而

加速了安全承诺的瓦解

,SuperAlignment团队被边缘化。

谁成想呢,本以为再无瓜葛的硅谷甄嬛传,奥特曼和llya的爱恨情仇又又又更新了。

为啥OpenAI首席科学家要用间谍片手法搜集CEO的罪证?

这份备忘录里到底写了什么,让董事会成员回忆时只说了三个字——“He was terrified”?

准备好瓜子儿,大家伙儿边嗑边看吧…

只能说,OpenAI从一开始,就给自己设了一道几乎不留余地的门槛。

这份70页机密备忘录中提到,OpenAI从创建之初的时候就被被设计成一个的

安全性拉满

的组织——

非营利结构、董事会优先对人类负责,甚至在极端情况下,可以牺牲公司本身。

也正因如此具备公共利益的性质,所以OpenAI对于CEO的要求同样具备一定特殊性,那就是,必须

非常非常非常非常的有信用

好巧不巧,问题恰恰出在这里。

2019年,Ilya还在OpenAI办公室的时候,为Greg Brockman主持婚礼,甚至安排了一只机械手来担任捧环人。

那个时候,技术、理想、人与人之间的信任看起来是统一的,但随着模型能力不断临界线,他开始重新思考同一个问题:

如果这项技术真的被做出来,谁在控制它,他的答案变得越来越明确,甚至冷静到只剩一句判断:

“我不认为奥特曼是那个能为OpenAI拍板儿的人。”

理由嘛——

llya倒不是怀疑奥特曼能力有问题,主要吧,还是怀疑这个人的

人性

于是乎,接下来llya的一系列操作,只能说已经不太像一家科技公司的内部讨论了,正如我们看到的:

70页材料被系统整理出来,包含Slack记录与内部文件,关键内容用手机拍下,刻意避开公司设备,再通过会自动消失的消息发送给董事会。

一位收到材料的董事后来回忆,看到这个大爆料的时候,他直言:我是真被吓得没边了…

在Ilya那份70页机密备忘录里,当年的OpenAI

宫斗事件

被还原得更加具体,也更抓马。(doge)

而且这事儿的开端,本身就带着一点《荒诞感》——

当时奥特曼人在拉斯维加斯看F1,被一通视频电话叫走,电话那头儿,Ilya读了一段极其简短的声明——

他(奥特曼)已经不再是OpenAI的CEO。

没有铺垫,也没有证据披露,更离谱的是,连微软里德·霍夫曼这种级别的核心投资人,事前也完全不知情。

(甚至一度以为是挪用资金这种级别的大雷,结果啥也没查到??)

听到自己被“斩立决”的消息,当晚奥特曼直接连夜在自己豪宅里直接搭起了一个堪称“拯救奥特曼”主题的临时指挥部。

奥特曼的目的,是迅速推进三件事:

第一,资本施压。

Thrive冻结关键投资,微软直接放话可以另起炉灶:你们可以换CEO,但OpenAI也可以从此消失。

第二,员工站队。

联名信迅速扩散,几乎全员签字,甚至连临时接任CEO、最初站在董事会一侧的Murati,最终也倒向奥特曼,签下支持回归的联名信。

紧接着,便是舆论失控。

董事会选择沉默,奥特曼一方持续释放信息,掌控舆论大局。

结果嘛,就是Ilya最后也不得不松口:如果奥特曼不回来,公司可能会直接崩掉。

五天之后,结局落定—奥特曼回宫,董事会出局。

甚至,OpenAI内部员工还给这场硅谷史上最经典的宫斗反转,起了个名字——

The Blip

(意为“小插曲”或“短暂失常”)。

The Blip结束后,OpenAI所发生的变化没有停在权力层面,那套用来“限制权力”的机制,开始逐步松动。

最先出问题的,是资源。

OpenAI曾对外承诺,会拿出20%的算力,用于长期安全研究,这是OpenAI当时最核心的安全底牌。

但实际执行,很快变了味儿——算力占比一路下滑到1%-2%,分到的还是最老的集群、最差的芯片。

当负责人Jan Leike提出异议时,得到的回应是:这件事从一开始就不现实。

从优先事项,变成象征性存在,安全开始失去真正的投入。

第二步,就是流程开始被绕开。

在OpenAI里,原本涉及高风险能力的发布,正常应该需要经过安全委员会审核。

但在后续产品迭代中,一些争议最大的功能都没有走完整审批流程就直接上线,甚至连地区版本的产品,也在安全评估尚未完成的情况下发布。

(流程不流程的,似乎也没那么重要了…)

第三步,是调查失去约束力。

事实上董事会风波之后,OpenAI请来了一家参与过多起公司丑闻调查的律所“WilmerHale”做独立调查。

按这家律所的正常工作流程和外界普遍预期来说,OpenAI的事情会有一份正式、可追溯的书面报告。

但最终的结果是——没有报告。(doge)

调查结论,只以口头形式汇报给新董事会,而不写报告的建议,恰恰来自奥特曼参与选择的董事的私人律师。

三件事儿——

先削资源,再松流程,最后弱化调查

看起来每一步都是轻微调整,但是吧,当系统可以绕过限制,限制本身也就不再存在了。

u1s1,围绕奥特曼好的坏的一箩筐评价,并不是在OpenAI才出现的。

事实上跨越20年、横跨多个组织,对奥特曼的核心评价惊人一致,那就是——

这小子,嘴里忒没实话,干事儿忒不着边儿。(doge)

最早的一次,可以追溯到2013年。

当时已故的天才程序员Aaron Swartz,在私下对朋友留下过一句对奥特曼非常极端判断:

你必须明白,奥特曼这个人永远不值得信任,他是个

反社会人格

的人,为了目的什么都做得出来。

他第一次创业阶段,问题已经出现。

公司内部员工曾两次推动董事会撤换他,甚至需要投资人亲自下场,在公司里盯着他。

到了后来,当他开始进入更核心的

创业与投资圈层

,问题开始升级——

从内部矛盾,变成信任危机。

内部有人后来直接承认,奥特曼一直在隐瞒事情,比如对外公告不断修改说法, 职位描述一改再改,甚至最后干脆删除等等。

但在正式的监管文件里,他依然被标注在原来的位置上??

换句话说就是表面在变化,实际关系却没有同步调整。

这些分散在不同阶段的口碑,到了OpenAI,开始集中爆发——

董事会成员给出的评价是:

他不受事实的约束

,甚至奥特曼还被大家形容为,对欺骗可能带来的后果缺乏基本顾虑。

而另一位高管给出的说法是:

他未来,有可能会被放进那些重大商业丑闻人物的序列中被讨论。

喜欢写日记的不正经人还有一个,后来成为Anthropic CEO的

Dario Amodei

也留下了200多页笔记内容,笔记中包含大量对于OpenAI和奥特曼本人的评价。

尽管和llya算不上啥关系多好的朋友,但是吧,人家和Ilya得出了同一个结论——

那就是OpenAI内部出现的一箩筐问题不在公司系统本身,而是奥特曼本人有问题。

甚至,Amodei的措辞更为激烈,对奥特曼的评价是——他说的话几乎可以确定是胡扯!!!

咋说呢,来源不同、阶段不同,但指向高度一致。

更微妙的是,别看差评如此之多,架不住奥特曼自己的腰板直,在被质疑时,人家奥特曼只是说:

不好意思哈,我无法改变我的性格~(好牛的精神状态)

最后颇值得一提的是,在llya的70页机密备忘录中,还有个蛮值得一瞧的事情,那就是——

在OpenAI的办公区里,”Feel the AGI”的标语随处可见。

这句话最早是Ilya用来警告同事AGI风险的,但是吧,The Blip宫变事件之后,变成了庆祝未来的口号。

家人们,这瓜还没完。

就在刚刚,曝光此备忘录的《纽约客》记者在x上表示,当他们想采访“研究AI生存风险”的研究员时,OpenAI官方回应是:

你说的存在性安全是啥?这东西压根不存在哈~

但是吧,还得是OpenAI,说归说,做归做,这是两码事儿:

就在这篇调查报告发布几个小时后, OpenAI刚巧推出了支持安全研究的项目。(doge)

还得是OpenAI,还得是奥特曼。