奥特曼遭燃烧瓶突袭!他深夜回应:AGI魔戒已让人疯狂

欧美明星 1 0

4月11日消息,当地时间周五凌晨3点45分左右,一人嫌疑人接近OpenAI CEO奥特曼(Sam Altman)位于旧金山俄罗斯山街区的住宅,并向其住所投掷了一枚莫洛托夫鸡尾酒(一种简易燃烧瓶)。

幸运的是,燃烧瓶从房子上弹开,家人没有受伤。奥特曼在博客里罕见地贴出了全家福照片,说希望这张照片能让下一个想动手的人犹豫一下。

不久之后,一名20岁的嫌疑人,出现在OpenAI位于旧金山的总部,附近此人针对OpenAI总部大楼发出了威胁性言论,随后被旧金山警察局拘留。

OpenAI发言人表示,此次事件中没有人员受伤。该公司在发给员工的备忘录中称,旧金山的全部办公室周五仍照常开放,同时大楼周边已加强警方和安保力量部署。

今晨,奥特曼在其博客中发长文回应此事,并对AGI进行了进一步解释。

奥特曼把这次袭击和几天前一篇关于他的争议文章联系在一起,他认为是此前一篇极具煽动性的文章,叠加当下社会对 AI 的焦虑,让自己陷入真实危险,意识到言论和舆论叙事的巨大破坏力。

曾有人提醒他,在公众对 AI 的焦虑情绪高涨的当下,那篇文章可能会让他变得更危险。他当时没当回事,现在凌晨坐在家里后悔了。

“我希望图像是有力量的。平日里我们一向非常注重隐私,但这次我选择公开一张照片,希望能借此劝阻下一个人——无论他对我有什么看法,都不要向我家投掷燃烧瓶。

语言同样有力量。几天前有一篇极具煽动性的文章针对我。昨天有人跟我说,眼下正是人们对AI充满极度焦虑的时期,那篇文章会让我的处境变得更加危险。我当时并没放在心上。

而现在,我在深夜惊醒,怒火中烧,意识到自己低估了言论和叙事的威力。此刻似乎也正是合适的时机,来澄清几件事。”

奥特曼指出,AI是人类最强大工具,世界需要大量AI,需求几乎无上限;而且,AI 风险真实存在,必须重视安全,需要全社会、政策层面共同应对;反对少数公司垄断AI,主张AI民主化、权力分散;因此,我们要保持灵活认知,随技术发展及时调整观点。

具体来说,奥特曼提到了三点意见:

首先是信念。

- 为所有人谋求发展、赋能每一个人、推动科技进步,对我而言是道德责任。

- AI将成为人类有史以来拓展自身能力与潜能最强大的工具。对它的需求几乎没有上限,人们会用它做出不可思议的成就。这个世界理应拥有海量的AI,我们必须想办法实现这一点。

- 前路不会一帆风顺。人们对AI的恐惧与焦虑合情合理;我们正见证社会长期以来、甚至可能是有史以来最巨大的变革。我们必须做好安全工作,这不仅关乎模型对齐——整个社会亟需做出应对,以抵御全新的威胁。这包括出台新政策,帮助社会渡过艰难的经济转型,最终走向更美好的未来。

- AI必须民主化,权力不能过度集中。未来的掌控权属于所有人及其所属机构。AI需要赋能每一个个体,而关于未来与新规则的决策,应当由我们共同做出。我不认为,少数几家AI实验室有权决定人类未来走向这类最重大的抉择。

- 适应性至关重要。我们都在飞速学习全新事物,有些信念正确,有些则不然。随着技术发展与社会演变,我们有时必须迅速转变想法。目前尚无人能完全理解超级智能的影响,但它必将无比深远。

其次,一些个人反思。

回顾我在OpenAI第一个十年的工作,有很多让我自豪的成就,也犯下了不少错误。

想到即将与埃隆·马斯克对簿公堂,他仍记得自己当时坚决拒绝他想要单方面掌控OpenAI的要求。对此深感自豪,正是当年我们在这条险路上的坚持,才让OpenAI得以存续,并迎来之后的所有成就。

他对自己回避冲突的性格感到羞愧,这给他和OpenAI都带来了巨大伤害。他也对自己在上一届董事会冲突中处理不当、导致公司陷入巨大混乱而感到愧疚。

“在OpenAI这段近乎疯狂的发展历程中,我还犯过许多其他错误。我身处极度复杂的漩涡中心,并不完美,只是每年都努力变得更好一点,始终为使命而奋斗。我们从一开始就知道,AI事关重大,那些我所关心、初衷善良的人们之间的私人分歧,会被无限放大。但亲身经历这些尖锐的冲突、时常还要从中调停,又是另一回事,代价十分沉重。我向所有被我伤害过的人致歉,只希望自己当初能更快成长。

我也清楚,如今的OpenAI已是一个重要平台,不再是当年那个初创小团队,我们需要以更稳健、更可预期的方式运营。过去几年,一切都极度紧张、混乱且高压。

但最重要的是,我无比自豪我们正在兑现使命——这在创立之初看起来几乎不可能实现。我们克服重重困难,研发出了极具威力的AI,筹集到足够资金搭建配套基础设施,打造出产品与商业模式,实现了大规模、相对安全稳定的服务运营,还有更多成就。

很多公司都宣称要改变世界,而我们真的做到了。”奥特曼称。

第三,对行业的一些看法。

过去几年我最大的感悟,也是行业内各家公司上演如此多狗血大戏的原因,归根结底就是一句话:“一旦你见过AGI,就再也无法视而不见。”

它自带一种“魔戒”般的魔力,会让人做出疯狂举动。我不是说AGI本身是魔戒,而是那种“由我独掌AGI”的极端执念。

我能想到的唯一解法,就是让技术广泛惠及大众,不让任何人持有这枚“魔戒”。实现这一点最直接的两条路:一是赋能个体,二是确保民主制度始终掌握主导权。

民主进程必须比企业更有力量。法律与规范会不断变革,但我们必须在民主框架内行动,即便过程混乱、速度不及预期。我们希望成为参与者与发声者,而非独掌大权。

行业受到的诸多批评,源于人们对这项技术极高风险的真切担忧。这完全合理,我们也欢迎真诚的批评与辩论。我理解反科技情绪,也清楚科技并非对所有人都有益。但总体而言,我相信科技进步能让未来美好到难以想象,惠及你我的家庭。

在展开辩论的同时,我们应当缓和言辞与行动,无论从象征意义还是现实层面,都不要再让更多家庭遭遇爆炸袭击。