早期邮件公开 马斯克为何退出OpenAI 怎样保证你不是AGI独裁者

机器之心报道

:佳琪

今年,OpenAI 可以说是大事不断:内斗、离职等等一系列事件吸引着大家的眼球。

其中,OpenAI 与马斯克的诉讼、纠纷也一直备受大家关注。

今年 3 月份,马斯克这位前 OpenAI 联合创始人在一份长达 46 页、总字数超过 1.4 万字的诉讼文件中,指控 OpenAI 不计后果地开发人类级别的人工智能。(参见:《马斯克起诉 OpenAI:他们做出了 AGI 还授权给微软,这是对创始协议赤裸裸的背叛》)

后来,OpenAI 自曝 8 年间邮件往来截图,用一篇长文《OpenAI and Elon Musk》,正式驳斥了马斯克的所有指控。(参见:《刚刚,OpenAI 官方发文驳斥马斯克,自曝 8 年间邮件往来截图》)

其中,OpenAI 反驳称马斯克承诺投资 10 亿美元,但实际只投了不到 4500 万美元,双方都认识到需要一个营利性实体支持烧钱的 AI 训练,但马斯克希望完全控制 OpenAI 或将其并入特斯拉而被拒绝。

数月过去,大家以为风波已平。

谁料到,这个瓜还在继续。

当地时间 11 月 14 日,马斯克针对 OpenAI 的起诉升级,增加了新的原告和被告。

随着起诉文件的更新, Elon Musk、Sam Altman、Ilya Sutskever 和 Greg Brockman 之间的往来邮件已经作为法庭诉讼程序的一部分公开。

马斯克为了证明 OpenAI 违反反垄断法,才有这些邮件的曝光。同时,他也在某种程度上表达了他对 OpenAI 背离最初愿景 —— 以非营利为宗旨,且由特斯拉 CEO 担任领导的背叛感。

论坛 LessWrong 整理了 2015 年 5 月 25 日到 2019 年 3 月 11 日的约 50 篇邮件。从中,我们可以窥见这个这个声称要保护人类福祉的非营利组织在诞生之初便埋下的裂痕与分歧。

链接:https://www.lesswrong.com/posts/5jjk4CDnj9tA7ugxr/openai-email-archives-from-musk-v-altman

一致的「敌人」,一致的目标

在第一批曝光的邮件中,引起最大讨论的要数马斯克发给 Ilya 和 Greg 的这封邮件:

在这封主题为「我觉得有必要重申一下的邮件中」,马斯克说道:

「我对 OpenAI 的资源没有重大变化的情况下,与 DeepMind/Google 相抗衡的可能性评估是:0%。不是 1%。

即便筹集到几亿美元也不够。这需要每年数十亿美元的投入,否则就别想了。

不幸的是,人类的未来掌握在■■■手中。」

众多网友纷纷猜测■■■中是谁?谷歌吗?

从第二批曝光的邮件来看,这个答案大概可以锁定了。

从开始筹建 OpenAI 开始,Google 与 DeepMind 就是马斯克最担心的竞争者。

在 2016 年的一封邮件中,他直言「DeepMind 正在给我带来极大的精神压力。如果他们赢了,凭借他们一个思想统治世界的理念,这将非常糟糕。」

2015 年 7 月,YC 总裁 Sam Altman 举办了一场晚宴,在那里,Elon Musk、Greg Brockman、Ilya Sutskever 相聚在一起。

当时谷歌在 AI 技术上遥遥领先,具有断层式的先发者优势,AI 可能会被科技巨头垄断,并使其发展停滞不前。

这些即将改变世界的人超前地意识到了:人工智能需要一个非营利组织,让 AI 普惠世人。这个组织不需要任何竞争性的激励措施,需要的只是世界上最好的 AI 研究人员。

于是,他们聚集在了一起,开始设计非营利组织,但很快,他们就发现了各种各样的困难:特别是,由于 OpenAI 不赚钱,给人才提供的薪水没有别的公司高。

2015 年底,DeepMind 开出了高价工资,在 NIPS 会场「抢夺」OpenAI 看中的人才,「Sam Altman 担心「OpenAI 会这么被扼杀在摇篮里。」他主动给每个人每年增加了 10-20 万的薪酬,这引来了马斯克的疑问。

马斯克以开放的姿态拥抱了涨薪计划,他回复:

「我们需要尽一切努力来获得顶尖人才。让我们更上一层楼。如果在某个时候我们需要重新审视现有员工的薪酬,那也没关系。要么我们能找到世界上最优秀的人才,要么我们就会被 Deepmind 打败。无论需要做什么,只要能培养出顶尖人才,我都愿意。Deepmind 让我精神压力很大。如果他们赢了,那对他们一心一意统治世界的理念来说将是一个坏消息。他们显然正在取得重大进展,而且他们应该取得进展,因为那里的人才水平很高。」

AGI 的「独裁者」

但在 2017 年秋天,OpenAI 创始团队一开始融洽的关系好像出现了裂痕。

根据 Shivon Zilis(现 Neuralink 的总监)发给马斯克的邮件,Greg 和 Ilya 开了一个小会,最终汇总为 7 个问题:

1. 公司的绝对控制权

是否有人有公司的绝对控制权?他们希望知道,如果未来在方向上出现分歧(不仅限于三人,也可能涉及更广泛的董事会成员),是否会设立某种具有创造性的否决机制?

2. 控制权和过渡时间

Greg 和 Ilya 提出了「不可协商」的条款,即 AGI 出现时,不会让任何一个人拥有绝对控制权。这一条件的满足意味着,无论这三人之间发生什么,权力分配都将在最初的 2-3 年阶段之后平稳过渡。

3. 马斯克愿意花多少时间?

马斯克愿意花多少时间在 OpenAI?实际上又能花多少时间?具体的时间范围是什么?是每周一小时,十小时,还是介于两者之间

4. 马斯克具体如何分配时间?

OpenAI 的团队并不清楚马斯克在其他公司如何分配时间,也不确定他希望如何在 OpenAI 中投入时间。Greg 和 Ilya 相信他们在软件 / 机器学习方面可以很好地推进工作,但对硬件方面缺乏信心。他们希望马斯克能够在硬件领域投入一些时间,这是他们的薄弱环节,同时也希望他能在感兴趣的所有领域提供帮助。

5. 时间与控制权的比例

OpenAI 的团队倾向于谁花的时间多就有更多控制权的模式,而不希望花一点时间就有很多控制权。他们担心如果分给 OpenAI 的时间太少,就没有足够的时间讨论相关背景信息,从而做出正确的决定。

6. 股权分割

Greg 坚持平等分配。Greg 指出,Ilya 通过在 Google 的工作已经证明了自己的经济潜力,从某种程度上说,Ilya 已经贡献了价值数百万美元。

他们担心能获得的股权的员工数量太少。

7. 融资目标

他们倾向于在初期筹集超过 1 亿美元的资金,认为仅数据中心的需求就需要这么多,因此他们更愿意筹集更多资金。最后,他们给出了自己心目中的解决方案:

马斯克的回复是:「这太烦人了。请让他们去创业。我受够了。」

于是 Ilya Sutskever 在这封主题为「Honest Thoughts」的邮件中进一步提出了对马斯克担任公司领导者的顾虑:

这不仅仅是关于谁是 CEO,谁能控制公司的问题;Ilya 担忧的是,如果 AI 威胁人类之时,可能只有一个人能够左右事件的走向。

Ilya 还和 Greg 一起对奥特曼表达了类似的疑问,用词与去年 OpenAI「宫斗事件」中,董事会指责阿尔特曼「不够坦诚」时如出一辙:

结合后来的事件发展,奥特曼正在将 OpenAI 引向更传统的企业级 SaaS(软件即服务)方向来看,他的目标似乎更多偏向商业,而非哲学。

Elon 回复表示对目前的谈判彻底失望,称不再为 OpenAI 提供资金,要求团队做出明确承诺。

Sam Altman 强调自己仍支持非营利结构,同时对 Greg 和 Ilya 的不一致行为表示不满,他随后宣布需要 10 天时间来「思考是否能够继续信任他们」。

这件事发生在 OpenAI 为了解决没钱的问题,要不要改变非营利组织的架构,为此,他们也考虑过 ICO 上市。

同时,在谷歌在谷歌「一骑绝尘」的状态下,OpenAI 的努力在当时看上去就像是「以卵击石」。

Andrej Karpathy 给出了几份对标谷歌的详细分析:

Karpathy 认为,如果不能在规模上与 Google 竞争,OpenAI 的开放研究可能反而在「免费」帮助竞争对手。

马斯克并不赞同 ICO 方案,这相当于直接宣告「非营利」破产

而 Karpathy 给出了他理想的解决方案。在他单独发给马斯克的邮件中,Karpathy 认为最有希望的选择是 OpenAI 把特斯拉作为摇钱树。他相信,与其他大型科技巨头(例如苹果、亚马逊)的合作会因为公司 DNA 不兼容而失败。

马斯克随即表示:

这可能也解释了为什么 Karpathy 选择了接马斯克的 offer,成为特斯拉人工智能和自动驾驶部门负责人。

与此同时,为了拯救 OpenAI 的困境,Sam Altman 正在设计另一套模式「让 4-5 家有兴趣的大型企业投资的方式,该工具的回报上限为 50 倍」。由于缺少上下文,只能从这封邮件中得知,马斯克被要求正式从董事会辞职:

「您在技术上仍然是董事会成员,需要向 Sam Altman 发送一句简单的邮件,比如:通过此邮件,我在此正式辞去 OpenAI 董事职务,自 2018 年 2 月 20 日起生效。」

后面的故事我们就很熟悉了,在 Sam Altman 的亲自设计之下,OpenAI Inc. 搭建了一家「有收益上限」的有限合伙企业 ——OpenAI LP,并以此为主体对外融资,根据协议安排,创始人团队收益上限为 100 倍,微软的收益上限为 5-10 倍,其他投资人的收益上限为 20 倍,员工为 10 倍。

而马斯克退出了 OpenAI 董事会,并在公开场合表示,离开的原因是利益冲突:当时特斯拉正在开发自动驾驶人工智能,他们需要与 OpenAI 争夺人才。

然而不到六个月后,OpenAI 就获得了微软 10 亿美元的投资,微软还提供了基础设施技术,二者一起搭建了一台超级计算机来训练 ChatGPT 以及图像生成器 DALL-E 的大型模型,如 GPT-4 有 1 万亿个参数。

ChatGPT 一经推出,OpenAI 立即成为最热门的新兴技术创业公司,甚至给谷歌造成了压力。据知情人士透露,马斯克对此非常愤怒。

虽然马斯克发起的这场诉讼才刚开始,但目前披露的诉讼材料已经够商战电视剧演上一季了。至于未来还会有什么更精彩剧情上演,让我们一起见证!


openai是马斯克的吗

openai是马斯克的。

OpenAI公司是马斯克和投资人SamAltman等人于2015年共同成立的非营利性AI研究组织,由于组织内部对于AI的观点有所分歧,马斯克于2018年离开了OpenAI的董事会,此后他专心致力于脑机接口公司Neuralink。

在双方的合作声明中,微软和OpenAI的目标是让通用人工智能与人合作,共同解决目前棘手的跨领域、跨专业的问题,包括气候变化、个人健康、以及教育等全球的挑战。

OpenAI介绍:

在美国成立的人工智能研究公司,核心宗旨在于“实现安全的通用人工智能(AGI)”,使其有益于人类。

OpenAI于2015年由一群科技领袖,包括山姆·阿尔特曼(Sam Altman)、彼得·泰尔(Peter Thiel)、里德·霍夫曼(Reid Hoffman)和埃隆·马斯克(Elon Musk)等人创办。

openai是马斯克的吗

openai是马斯克的。

马斯克是ChatGPT背后人工智能技术公司OpenAI的创始人之一。 但是似乎没有相关证据可以表明openai是马斯克的。

而且有外媒报道的信息显示早在2018年,马斯克就退出了OpenAI董事会,但是估计还是占有一定的股份,所以后来者微软如果想要获得收益也会排在马斯克之后,根据OpenAI的分红条款,第一阶段将优先保证马斯克为首的第一批投资人收回资本,然后才轮到微软。

openai介绍:

openai创始人包括阿尔特曼、彼得·泰尔(PeterThiel)、里德·霍夫曼(ReidHoffman)和埃隆·马斯克(ElonMusk)等人。

早在2015年,或者也可能是在2014年,待考证,阿尔特曼联合特斯拉CEO马斯克、领英创始人霍夫曼、YC合伙人利文斯顿等人在加州共同创办了人工智能研究公司OpenAI,OpenAI公司致力于新一代人工智能产品的开发。

马斯克追问openai首席科学家:你到底看到了什么要炒掉奥特曼

2023年11月29日,马斯克呼吁OpenAI公开解雇萨姆·奥特曼的原因:在他被解雇前,公司有数名研究员联合向董事会发布了一封信,警告称一项强大的人工智能(AI)发现可能会威胁到人类。 奥特曼是OpenAI内力推AGI(生成式人工智能)的典型代表,而正是由于这封信,导致了他被解雇。

OpenAI在Q(音同Q-Star)取得了重大进展,这被认为是通用人工智能(AGI)领域的突破,而OpenAI更是将AGI定义为比人类更聪明的AI系统。

虽然目前Q能力有限,数学成绩仅为小学生水平,但鉴于大模型的加持,不少人对它非常看好,认为其未来必将成功。

奥特曼本身是个技术狂人,一直在积极寻求资金来扩大AI技术的发展,但公司其他几位董事会成员则呼吁采取更多措施来减轻潜在的威胁,于是双方就产生了分歧和隔阂。 所以这封信的出现,成为了董事会辞退奥特曼的催化剂和导火索,不过随着奥特曼的回归,这番“夺权”大剧也落下了帷幕。

值得一提的是,2023年11月29日,在DealBook峰会上,马斯克对于OpenAI最近的“政变”风波发表了自己的猜测。 马斯克表示,虽然自己不清楚这场闹剧的内情,但他担忧这一切对于AI将意味着什么,并希望能够知晓旧董事会罢免奥特曼的真实原因。

马斯克补充道,他很想知道OpenAI的旧董事会罢免奥特曼的原因到底是什么,还曾联系过OpenAI的联合创办人之一、前董事会成员兼首席科学家伊尔亚·苏茨克维(Ilya Sutskever),但没有得到回应。

马斯克称苏茨克维有“坚定的道德指南”,好奇是什么让苏茨克维“产生如此强烈的反应并与萨姆对抗”:“这听起来很严重,我认为不是什么小事。 而且我非常担心,他们可能发现了AI的一些危险元素。 ”

萨姆·奥尔特曼早年经历:

萨姆·奥尔特曼是现任人工智能实验室OpenAI首席执行官。 被媒体称为ChatGPT之父。 1985年4月22日,萨姆·奥尔特曼出生于美国伊利诺伊州的芝加哥。 他在密苏里州的圣路易斯长大,上幼儿园的时候就能自己总结出电话区号的编码规律,8岁的时候,奥尔特曼学会了编程。

9岁生日时,奥尔特曼收到一台电脑作为生日礼物,这使他在很小的时候就对信息技术和互联网产生了兴趣。 萨姆·奥尔特曼在约翰·巴勒斯学校接受高中教育,后来斯坦福大学录取,开始专心研究人工智能和计算机科学。

以上内容参考:网络百科-萨姆·奥尔特曼

马斯克在削减成本上毫不手软 无视各种规则和惯例
又丑又土的打底衫快扔掉!今冬厚外套里这么穿 美极了!