OpenAI AGI革命日程外泄?揭秘神秘模型Q*的细节曝光

马斯克的一纸诉状再次将 OpenAI 推上风口浪尖,或许还把 GPT-5 的发布时间推迟了。

这场官司的焦点主要归纳为以下几个方面:

OpenAI 的开源承诺和实际行动之间的矛盾;

OpenAI 与微软的合作是否背离了其最初的开源原则;

OpenAI 的治理结构和决策过程,特别是与 AGI 相关的发展。

开源和闭源的较量

作为联合创始人,埃隆·马斯克在 OpenAI 创立之初,便致力于打造一个开放的人工智能研究机构,推动技术的透明度和共享,确保人工智能的进步能够惠及全人类。

他曾在采访中透露,OpenAI 的名字是他所起,并强调自己在招募关键科学家和工程师方面发挥了重要作用。

据《纽约时报》报道,在 Google 收购 DeepMind 后,虽然马斯克凭借投资大赚了一笔,但他并不希望 AI 被 Google 这样的大型公司所控制。

因此,马斯克在 2015 年联合他的前 PayPal 伙伴以及其他投资者承诺向 OpenAI 这个项目投入 10 亿美元,并让当时 30 岁的 Sam Altman 协助运营。为了启动这个项目,他们甚至从 Google 挖来了 Ilya Sutskever。

将时间拨回上个月,马斯克还在 X 平台上分享了多张 OpenAI 早期的珍贵照片,记录了英伟达 CEO 黄仁勋在 2016 年向马斯克和 OpenAI 捐赠首台 DGX-1 AI 系统的场景。

To Elon & the OpenAI Team! To the future of computing and humanity. I present you the World’s First DGX-1!            

致埃隆和 OpenAI 团队!致计算和人类的未来。我为你们呈上全球首台 DGX-1!

诉讼文件还详细列出了他在 OpenAI 起步阶段的财务支持,在 2016 年至 2020 年间总计捐赠超过 4400 万美元,并成为当时最大的捐赠者。

起诉风波发酵之后,迅速卷起了舆论风暴,不少赞成马斯克的网友们纷纷成为了马斯克的忠实粉丝,而反对者则纷纷发声,不乏“格局小了”等批评言论。

但随着马斯克公开一份秘密的“电子邮件”,舆论的风向标开始迅速调转。

这封邮件是在 OpenAI 成立前夕,马斯克于 2015 年 6 月发给 Sam Altman 的,内容涉及了 OpenAI 的使命、团队规模、治理结构、技术所有权、研究人员的回报以及监管信函的发布策略。同时邮件中提到的内容也与 OpenAI 现在官网上的宗旨相呼应。

OpenAI AGI革命日程外泄?揭秘神秘模型Q*的细节曝光

1. 我们的使命是创造首个通用人工智能,并将其用于增强个人能力,即创建一个看似最安全的分布式未来版本。更广泛地说,安全性应该是我们的首要考虑。

2. 我认为我们最好从一个 7 到 10 人的小团队开始,并计划从此基础上扩大。我们在 Mountain View 有一座额外的建筑,可以供他们使用。

3. 关于治理结构,我建议我们起初由5人组成,包括你、[空白]、[空白]、[空白]和我。技术归基金会所有,旨在“造福世界”。对于如何应用这些技术的不明确情况,由我们五人作出决定。

研究人员将获得重大的财务回报,但这与他们的研发成果无关,这样可以避免一些利益冲突(我们会提供具有竞争力的薪酬,并通过 YC 股权分享增值收益)。我们将持续讨论哪些成果应公开,哪些不应公开。我们计划最终找人来负责团队,但这个人最好不要参与治理委员会。

4. 除了参与治理,你是否还会以其他方式参与?我认为这对于确保工作朝着正确的方向发展、吸引顶尖人才非常重要。理想情况下,你能定期来访,每月或根据需要与他们讨论进展。我们通常称这种有限参与 YC 的人为“兼职合伙人”(例如,我们和 Peter Thiei 就是这样合作的,虽然他现在参与得非常深入),但我们可以根据你的偏好来命名。即使你实际上没有太多时间参与,但如果能公开表示支持,也将极大助力于团队的招募工作。

5. 关于监管信函,我认为最好的策略是等到这个项目启动后再发布,届时我可以附上一条信息,比如“现在我们已经开始这项工作,我深入思考了世界为了安全需要设定的限制。”我完全尊重你选择不作为签名人。我也相信,一旦信函发布,会有更多人愿意支持我们的立场。

尽管曝光邮件的行为引发了一些争议,但这封邮件无疑将马斯克置于道德的制高点上。

被“伤透了心”的马斯克不仅要求赔偿,更关键的是质疑 OpenAI 不够 Open,要求恢复开源的状态。在他眼中,在 Altman 带领下的 OpenAI 成为微软旗下的“闭源子公司”,是对成立初衷的“背叛”。

更何况,自诩 Open 的 OpenAI 最近似乎也越来越封闭了。

今年 1 月,《连线》杂志注意到 OpenAI 在透明度方面就有所降低。自成立之初,OpenAI 一直对外承诺开放其内部文件。

然而,当《连线》杂志试图获取这些文件时遭到了 OpenAI 的拒绝,后者解释称,根据 2022 年起的新政策,OpenAI 将不再对外公布除必要信息之外的内部资料。

与此同时,截然相反的是,譬如 Meta 的 LLaMA、 AI 界开源黑马 Mistral AI 等开源模型的发展却如火如荼。相比之下,OpenAI 的闭源做法显得尤为突出,一度成为了口诛笔伐的对象。

作为开源理念的拥趸,图灵奖得主 Yann Le Cun 也曾多次批评 OpenAI,此前的采访中,在之前的访谈中,他与马斯克一样,公开表达了对 OpenAI 的不满,认为尽管 OpenAI 保持了一定程度的自主性,但实际上已经成为了微软的合同研究机构。

他进一步强调,OpenAI 已经“不再开放”,并预测 OpenAI 不会成为首个实现通用人工智能 AGI 的公司。

除了外部的批评,OpenAI 的资深员工也表达了自己的看法。前 OpenAI 开发者关系主管 Lenny Rachitsky 在一连串风波之中发布了一条耐人寻味的推文:“开源人工智能对开发者、企业和整个人类社会都是有益的。”

OpenAI AGI革命日程外泄?揭秘神秘模型Q*的细节曝光

随后他解释说:“这并不是批评那些不开放源代码的公司。这并不意味着开源人工智能模型没有潜在风险。开放性是一个范围,很多人没有意识到这一点。这并不是我立场的转变,我在职业生涯早期就投身于开源工作。”

微妙的是,马斯克旗下的 xAI 团队即将发布 GroK 1.5。如今,无论马斯克的动机是为了人类还是个人利益,他现在起诉 OpenAI,更像是一场关于安全和开源的宫斗大戏的重演。

通往 AGI 之路,还有五年?

诉讼文件有一个论点格外显眼,即马斯克认为 GPT-4 已经具备 AGI 的雏形。而对于 AGI 的到来日期,AI 业界的大佬们一直有不同的看法。

例如,在人工智能博客节目上,DeepMind 联合创始人兼 CEO Demis Hassabis 则表示:“如果我们在未来十年内拥有类似 AGI 的系统,我不会感到惊讶。”

近日,英伟达创始人黄仁勋在斯坦福经济政策研究峰会上表示,AGI 的实现时间很大程度上取决于目标的定义。如果定义是通过人类测试的能力,那么这一目标可能在五年内实现。

作为目前最接近 AGI 的 OpenAI,一份疑似内部人士泄露的文件显示,他们的目标则是在 2027 年内实现 AGI。

OpenAI AGI革命日程外泄?揭秘神秘模型Q*的细节曝光

OpenAI 在 2022 年 8 月开始训练一个拥有 125 万亿参数的多模态模型。第一阶段被称为 Arrakis 或 Q*。该模型在 2023 年 12 月完成训练,但由于高推理成本过高而取消发布。

Gobi(GPT-4.5)被重新命名为 GPT-5,因为原计划在 2025 年发布的 GPT-5 已被取消。Q* 的下一阶段原计划为 GPT-6,后更名为 GPT-7(计划在 2026 年发布),但因马斯克的诉讼而被搁置。

GPT-8 则计划在 2027 年发布,旨在实现完全的 AGI。

  • Q* 2023 = IQ 达到 48    
  • Q* 2024 = IQ 达到 96(延迟)    
  • Q* 2025 = IQ 达到 145(延迟)

这份长达 53 页的文件指出,参数类似于生物大脑中的突触,是神经元之间的链接,人类大脑中的突触数量大约为 100 万亿个,而 AI 模型的性能似乎可以通过参数数量来预测。大约 100 万亿参数的规模被认为足以达到人脑的水平。

OpenAI AGI革命日程外泄?揭秘神秘模型Q*的细节曝光

文件还提到了 OpenAI 的新策略———Chinchilla 缩放定律,它表明即使模型参数数量不是最优的,但通过在更多数据上进行训练,性能可以轻松超越人类水平,而 OpenAI 正在将这一缩放定律应用于 Q* 模型的训练。

云帆号所有文章资讯、展示的图片素材等内容均为注册用户上传(部分报媒/平媒内容转载自网络合作媒体),仅供学习参考。用户通过本站上传、发布的任何内容的知识产权归属用户或原始著作权人所有。如有侵犯您的版权,请联系我们44669190@qq.com 反馈 本站将在三个工作日内改正。转转请注明出处:https://www.yunfanhao.com/n/4440.html

(0)
小阿开的头像小阿开
上一篇 2024年 3月 5日 上午12:42
下一篇 2024年 3月 5日 上午11:58

相关推荐

  • 看到Sora,好莱坞的老板砍掉了投资8亿美元的新工作室

    “这将成为一场疯狂的竞争,没有人能赢,”概念艺术家 Karla Ortiz 说,她曾参与多部漫作品的制作,并被认为是奇异博士的主要角色设计者。“这将摧毁我们的行业。” 另一位因《饥饿游戏》《变形金刚:最后的骑士》和《女国王》而受到赞誉的概念艺术家 Reid Southen 强调,许多同行感受到作品需求正在减少,“很多人准备要离开电影行业了,我也一直在想,如果…

    2024年 3月 5日 上午10:49
    1300
  • 刚刚曝光的 Claude3,直击 OpenAI 最大弱点

    作为 OpenAI GPT3 研发负责人的创业项目,Anthropic 被视为最能与 OpenAI 抗衡的一家创业公司。 当地时间周一,Anthropic 发布了一组 Claude 3 系列大模型,称其功能最强大的模型在各种基准测试中均优于 OpenAI 的 GPT-4 和 Google 的 Gemini 1.0 Ultra。 但是,能处理更复杂的推理任务、…

    2024年 3月 5日 上午10:49
    1300
  • 看完Claude 3创作的OpenAI连续剧,我都替马斯克委屈

    有的企业官司缠身,有的企业“弯道超车”。 3月4日,OpenAI最强竞争对手Anthropic发布Claude 3,一夜之间成为“全球最强大模型”。有网友当即就按耐不住了,公开叫嚣OpenAI,“GPT-5呢?”、“Q*在哪里”、“Sora什么时候发布”,压力直接给到Sam Altman。 Sam你可以发布GPT5了 3月6日,有网友率先提出,Claude似…

    2024年 3月 5日 上午10:49
    1300
  • 谷歌离职工程师:创业一年,我才发现训练大模型有这么多坑

    如何在不到一年的时间里创办一家公司、筹集资金、购买芯片,并搭建出追赶 Gemini pro/GPT 3.5 的 LLM? 很多人都对构建基础架构和训练大语言模型和多模态模型感到好奇,但真正走完“从零开始”这一流程的人很少。我们普遍认为,储备技术人才是前提,掌握核心算法是关键,但实际上,工程实践中冒出来的挑战,也实在令人头疼。 一年前,乘着大模型的热潮,Yi …

    2024年 3月 5日 上午10:49
    1300
  • AI革命日程外泄?揭秘神秘模型Q*的细节曝光

    在 ChatGPT 发布之后,有哪些 AI 产品同样开始崭露头角,并吸引了用户的关注?目前的 GenAI 产品领域,有哪些发展趋向和动态值得业内人士关注?不妨来看看本文的拆解和数据分析。 ChatGPT 发布已有 9 个月,成为最快月活跃达到 1 亿的产品,开启了生成式 AI 的新时代。 除了 ChatGPT 之外,用户还在使用哪些 AI 产品,有哪些产品已…

    2024年 3月 5日 上午10:49
    1300

发表回复

登录后才能评论

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信