最先进的封闭模型将继续以显著优势胜过最先进的开放模型

最先进的封闭模型将继续以显著优势胜过最先进的开放模型

当今人工智能讨论中的一个重要话题是围绕开源和闭源人工智能模型的辩论。虽然大多数尖端人工智能模型开发者——如OpenAI、Google DeepMind、Anthropic、Cohere等——保留其最先进的模型的专有权,但包括Meta和备受关注的新创企业Mistral在内的少数公司选择公开其最先进的模型权重。

如今,性能最优秀的基础模型(例如OpenAI的GPT-4)是闭源的。但许多开源倡导者认为,闭源和开源模型之间的性能差距正在缩小,开源模型有望在性能上超越闭源模型,也许在明年之前。(最近这张图表广为流传。)

我们不同意。我们预测,最好的封闭模型将在2024年(以及以后)继续显著优于最好的开放模型。

基于基础模型性能的最新技术是一个快速发展的前沿。Mistral最近宣称将在2024年某个时候开源一个GPT-4级别的模型,这一说法在开源社区引起了激动。但OpenAI在2023年初就发布了GPT-4。等Mistral推出这个新模型时,很可能已经落后了一年以上。届时,OpenAI很可能已经发布了GPT-4.5甚至GPT-5,开创了全新的性能前沿。(有传言称GPT-4.5甚至可能在2023年年底之前发布。)

在许多其他领域一样,跟随者在另一组人定义了前沿之后追赶前沿要比在任何人展示可能之前建立新的前沿更容易实现。例如,OpenAI在此前未有人展示这种规模下的专家混合架构可行之前构建GPT-4是相当冒险、具有挑战性和昂贵的,而Mistral在几个月后跟随OpenAI的步伐使用自己的专家混合模型要容易得多。

有一个基本的结构性原因让人怀疑开放模型在2024年会超越封闭模型的性能。开发一个推动技术前沿的新模型所需的投资是巨大的,并且随着模型能力的每一次跨越式增长,这种投资只会不断膨胀。一些行业观察者估计OpenAI将花费大约20亿美元来开发GPT-5。

Meta是一家上市公司,最终要对股东负责。该公司似乎并不指望从其开源模型发布中获得直接收入。据报道,Llama 2的建造成本约为2000万美元;即使没有任何相关的收入增长,这种投资水平也可能是合理的,考虑到战略利益。但Meta真的会投入近20亿美元来建立一个超越现有任何其他模型的人工智能模型,然后开源它,而不指望有任何具体的投资回报吗?

像Mistral这样的新兴公司面临着类似的困境。开源基金会模式没有明确的收入模式(正如Stability AI已经吃过苦头)。例如,为托管开源模型收费最终会变成价格战,就像我们最近在Mistral的新Mixtral模型中看到的那样。因此,即使Mistral有数十亿美元来构建一个超越OpenAI的新模型,它真的会选择把该模型免费提供吗?

我们隐约感觉到,随着像Mistral这样的公司投入越来越多的资金来构建更强大的人工智能模型,他们可能会放松对开源的立场,将他们最先进的模型保留为专有,以便收费。

要明确一点:这并不是反对开源人工智能的优点的论点。这也不是说开源人工智能在未来的人工智能世界中不重要。相反,我们预计开源模型将在未来几年中在人工智能的普及中发挥关键作用。然而:我们预测,最先进的人工智能系统,那些推动人工智能可能性边界的系统,将继续是专有的。

原创文章,作者:校长,如若转载,请注明出处:https://www.yundongfang.com/Yun271941.html

(0)
打赏 微信扫一扫不于多少! 微信扫一扫不于多少! 支付宝扫一扫礼轻情意重 支付宝扫一扫礼轻情意重
上一篇 2023年12月30日
下一篇 2023年12月30日

相关推荐

  • 阿里开源支持视频理解的多模态 LLM Qwen2-VL

    阿里开源支持视频理解的多模态 LLM Qwen2-VL 国内现在还没有特别好的多模态闭源模型尤其是支持视频理解的,阿里这就开源了。不过最大的Qwen2-VL 72B 没有开源,只开…

    工具软件 2024年9月20日
  • 一亿上下文长度的 LLM:LTM-2-Mini

    一亿上下文长度的 LLM:LTM-2-Mini Magic 发布了一个具有 1 亿 Token 上下文的模型 LTM-2-mini。1 亿 Token相当于大约 1000 万行代码…

    工具软件 2024年9月20日
  • Open AI 新的推理模型已经训练完成

    Open AI 新的推理模型已经训练完成 高质量合成数据的重要性再一次被证明。 Open AI 的逻辑是使用一个足够庞大且非常不经济的推理模型(Strawberry)生产优质合成数…

    工具软件 2024年9月20日
  • FLUX 的周边生态发展迅速

    FLUX 的周边生态发展迅速 前段时间由于 SD3 的问题,开源的图片生态发展一度停滞,值得关注的新项目和模型几乎没有。 FLUX 上周发布后这个态势被快速改变了,由于其优秀的图片…

    2024年8月31日
  • xAI 发布 Grok-2 系列模型

    xAI 发布 Grok-2 系列模型 老马的 XAI 发布 Grok-2 Beta 版本。在LMSYS的成绩超过了Claude 3.5 Sonnet 和 GPT-4-Turbo。 …

    2024年8月31日
  • Jamba 1.5系列模型:非 Transformer 模型首次追上先进模型

    Jamba 1.5系列模型:非 Transformer 模型首次追上先进模型 AI21 推出了新的 Jamba 1.5 模型家族,包括 Jamba 1.5 Mini 和 Jamba…

    2024年8月31日
  • Ideogram 发布了 2.0 图像生成模型

    Ideogram 发布了 2.0 图像生成模型 图像生成质量大幅提高,产品易用性改善,最强的文字生成能力。尝试了一下发现真的很离谱,不只是文字生成这么简单,可以实现复杂排版搭配色彩…

    2024年8月31日
  • 这就是为什么大多数人还没有进入人工智能的原因

    人工智能是一个加载的术语。对一些人来说,它象征着未来的道路;对其他人来说,这是一种颠覆性的技术,可以让他们摆脱工作。尽管仍处于早期阶段,但大型科技公司正在对聊天机器人和虚拟助手等支…

    工具软件 2024年6月16日
  • AI 将在 Nothing Phone 3 中无处不在!

    在最近的一段视频帖子中,Nothing 首席执行官 Carl Pei 在 X(前身为 Twitter)上谈论了该公司为我们准备的一些重大新闻和发展。 在智能手机业务中,Nothin…

    工具软件 2024年6月16日
  • Google Gemini 登陆 Opera,以下是使用方法

    像Microsoft和谷歌这样的大型科技公司正在全力以赴地整合各自的人工智能模型。根据最近的发展,Opera 的 Aria AI 现在可以访问 Google Cloud 的 Gem…

    谷歌Google 2024年5月30日
  • 谷歌正在测试人工智能概述中的广告

    在最近的一篇博客中,谷歌证实,它正在测试在人工智能生成的查询结果中投放广告的方式。 “在早期测试中,我们听说人们发现广告在人工智能生成的概述上方和下方消失很有帮助。很快,我们将开始…

    2024年5月29日
  • Google I/O 发布会的内容

    Google I/O 发布会的内容 Google 紧随 Open AI 开了今年的 I/O 发布会,一个字概括就是全。模型层面所有的指标都在卷,同时也发布了所有现在主流的模型类型。…

    2024年5月20日
  • 关于GPT-4o 模型更新

    关于GPT-4o 模型更新 它可以接受任意组合的文本、音频和图像作为输入,并生成任意组合的文本、音频和图像输出。 它可以在 232 毫秒内响应音频输入,平均为 320 毫秒,这与人…

    工具软件 2024年5月20日
  • Krea AI 发布 AI 视频生成功能

    Krea AI 发布 AI 视频生成功能 是可以定义首位帧的,而且每张图片对应的提示词都可以自定义。看起来像是之前发过的基于 ipadapter 的 Animatediff 的工作…

    2024年5月20日
  • DeepSeek 发布 DeepSeek-V2 模型

    DeepSeek 发布 DeepSeek-V2 模型 DeepSeeK 上周发布了DeepSeek-V2模型,将现在优秀 LLM 的价格战又抬上了一个新的高度,百万 Token 输…

    2024年5月20日
  • Indigo关于发布会预测的整理

    Indigo关于发布会预测的整理 GPT-4 的新版应该会按照参数规模不同分化成多个版本,这个和 Claude 还有 Gemini 多版本的逻辑一样; 前两周出现在 llmsys …

    工具软件 2024年5月20日
  • Frame:开源的 AI 眼镜

    Frame:开源的 AI 眼镜 由一个开源的AI硬件 ,Frame AI 眼镜。 你可以通过语音和 Frame 进行沟通,它的回复会显示在眼镜屏幕上,而且会有小图标表示现在的情绪。…

    工具软件 2024年5月10日
  • Simulon:混合现实 3D 模型软件

    Simulon:混合现实 3D 模型软件 只需要下载app扫描周围环境,然后选择对应的模型。之后等几分钟就会渲染好跟现实环境融合的MR视频。没有官网只有申请测试的表单。 &nbsp…

    工具软件 2024年5月10日
  • Synthesia:EXPRESS-1 模型驱动的数字人

    Synthesia:EXPRESS-1 模型驱动的数字人 EXPRESS-1 模型驱动,以实现逼真的头像表现。通过训练模型理解我们说什么以及我们如何说的微妙关系,表达力化头像现在可…

    工具软件 2024年5月10日
  • Friend:开源的语音对话AI 硬件

    Friend:开源的语音对话AI 硬件 轻松捕捉对话。只需将其连接到移动设备,无论您走到哪里,都会自动保存会议、聊天和语音备忘录的高质量转录。 获取即时摘要、重点亮点、思维导图、待…

    工具软件 2024年5月10日
  • 生数科技发布Vidu 视频生成模型

    生数科技发布Vidu 视频生成模型 生数科技不声不响整了个大活。发布 Vidu 视频生成模型,支持长达 16 秒 1080P 视频直接生成。 从演示视频来看一致性、运动幅度都达到了…

    2024年5月10日
  • Adobe 发布 Firefly Image 3 模型及对应新功能

    Adobe 发布 Firefly Image 3 模型及对应新功能 Adobe 发布了Firefly Image 3模型,Photoshop(测试版)也大规模更新了很多功能。包括文…

    2024年5月10日
  • 微软发布 phi-3-mini 微型模型

    微软发布 phi-3-mini 微型模型 微软发布 phi-3-mini 模型,4 位量化之后可以部署在 iPhone 14 上,只占用 1.8G 内存,每秒输出 12 个 Tok…

    2024年5月10日
  • Bestever:创意人工智能广告工具

    Bestever:创意人工智能广告工具 Bestever 是一个专门为品牌定制图像和视频广告的平台。它提供多种工具,让用户能轻松地将品牌的标志、颜色和字体整合到广告创意中。这些创意…

    工具软件 2024年5月10日
  • Mixtral8X22B 模型开源

    Mixtral8X22B 模型开源 Mixtral8X22B在只公布了一个磁力链接之后,又正式发布了模型的技术报告: Mixtral 8x22B是一个稀疏混合专家(SMoE)模型,…

    2024年5月10日