OpenAI忙着“宫斗”时,竞争对手发布新款大模型

Inflection-2,已经在多种标准基准测试中超越谷歌今年。该公司还补充称,尽管模型训练并无明确的领域倾向,Inflection-2。//siliconangle.com/2023/11/22/inflection-ai-debuts-new-flagship-inflection-2-llm-trained-5000-h100-chips/
 
本文来自微信公众号:AI前线。

开发出对话聊天机器人 Pi 的初创公司 Inflection AI 刚刚发布其最新 AI 模型,据称这套模型的性能已然超越谷歌和 Meta 两家的主流替代方案,并且正快速缩小与 OpenAI 旗舰成果的差距。

Inflection AI 是由谷歌旗下 DeepMind AI 研究小组联合创始人 Mustafa Suleyman 与 LinkedIn 联合创始人 Reid Hoffman 于今年 3 月共同建立的企业。短短两个月后,该公司就完成了 2.25 亿美元融资;到今年 6 月,Inflection AI 又从微软、英伟达等多家知名投资方处额外筹得 13 亿美元。

Inflection 方面表示,这套新模型名为 Inflection-2,已经在多种标准基准测试中超越谷歌今年 5 月发布的 PaLM Large 2 模型,同时在其他一些指标上击败了由 Meta 牵头打造的开源 Llama 2 模型。这家初创公司指出,总的来看 Inflection 在同等体量的模型中表现最佳,目前仅落后于 OpenAI 发布的体量明显更大的旗舰级模型 GPT-4。

公司 CEO Mustafa Suleyman 在接受采访时表示,“我们坚信自己正处于这条扩展曲线的起点,由此延伸出的新功能确实令人无比兴奋。”

新发布的模型很快就会被整合进 Inflection 于今年 5 月发布的聊天机器人 Pi 当中。但 Suleyman 表示,在此之前还有大量“对齐”工作要做,即让新模型掌握 Pi 机器人的语气和回答风格,让它帮助 Pi 更好地发挥作用,并在吸纳最新信息的同时不致产生额外的幻觉。

他解释称,“无论用户想要就种族、性别、政治、OpenAI 乃至任何当下富有争议的问题进行敏感对话,Pi 都能以非常巧妙、谨慎且尊重事实的方式进行交互,并实时获取信息。”Suleyman 还补充道,Pi 将在“不久之后”更新至 Inflection-2 模型,但没有给出具体日期。

他也不愿透露 Pi 上的用户数量,只强调“Pi 非常受欢迎,用户留存率很高。”两周之前,OpenAI 表示其免费 ChatGPT 服务的每周用户数量已达 1 亿。但就在好消息发布后不久,上周五 OpenAI 董事会突然发难、解雇 CEO Sam Altman,上演了举世震惊的“宫斗戏”。

值此业界头部模型开发商身陷混乱的背景之下,我们很难不去关注 Inflection 此番发布的大语言模型。

有外媒称,拥有 1750 亿参数的模型被不少业内人士视为“当今世界上第二强的大模型”。就在本周三上午,OpenAI 正式宣布 Altman 将重返公司并继续担任 CEO。整个周末,各方盟友已经就 Altman 的回归展开谈判,OpenAI 公司员工还签署一份请愿书,要求董事会成员集体辞职。

而在 Inflection 这边,Suleyman 则坚称这家初创公司已经于今年早些时候筹集到 13 亿美元资金。但当时他并没有给出 Inflection 新模型的发布日期,只是在更早的公开言论中暗示可能会在年底前推出。他在最新公告中解释称,这次的发布实际上晚了一星期,模型训练工作早在上周就已经完成。

Inflection AI:Inflection-2 超越谷歌、Meta 家主流模型,目前仅落后于 GPT-4

在 Inflection-2 的训练当中,该公司使用了 5000 块英伟达 H100 图形处理单元(GPU),远少于训练前代 Inflection-1 时使用的数千块 A100。目前 H100 的零售价超过 2.5 万美元,内置 800 亿晶体管,其语言模型运行速度高达英伟达上代旗舰 A100 GPU 的 30 倍。

Inflection AI 还使用 H100 进行推理,也就是在生产当中运行 Inflection-2 以处理用户提交的任务。Suleyman 还提到,新模型的训练速度更快、成本更低,但同样需要处理大量运算任务(10^25 FLOP,即浮点运算)。Inflection 已经与微软、英伟达和 CoreWeave 密切合作以管理其计算集群。

Inflection 公司已经在一套流行的高中与专业能力基准(即 MMLU)上测试了其最新模型。模型在测试中回答了涉及 57 个主题的大量问题,具体涵盖世界知识、解决实际问题以及道德判断。

根据 Inflection AI 的介绍,新模型能够访问升级后的知识库,从而更准确地回答用户查询。Inflection-2 还拥有“显著改进的推理能力”,使得模型能够更好地执行代码生成等任务,并对所生成文本的语言风格作出细粒度调整。

不只是优于前身,Inflection-2 在与竞争对手的大语言模型比较时同样表现不俗。

Inflection-2 与其他模型间的性能比较。

Suleyman 表示,Inflection-2 的性能优于业界体量领先的 700 亿参数版 Llama 2、马斯克初创公司 xAI 的 Grok-1、谷歌的 PaLM 2 Large 以及 Anthropic 的 Claude 2,目前仅落后于 GPT-4。

据 Inflection 的介绍,新模型在七项科学问答基准测试中,五次击败了 Llama 2 和 PaLM 2 模型;在三项问答任务基准测试中也两次成功登顶,只在一项测试中逊于 PaLM 2 Large。该公司还补充称,尽管模型训练并无明确的领域倾向,Inflection-2 还是在四项数学与代码基准测试中获得优异成绩,只是与 OpenAI 公布的结果相比仍远落后于 GPT-4。OpenAI 的模型虽然性能更好,但体量也要比 Inflection-2 更大,意味着其训练需要消耗更多计算资源。

Suleyman 指出,虽然似乎只有 AI 研究人员或开发者会高度关注这样的基准测试结果,但哪怕最微小的改进也足以在“技术原型”和“生产级、高可靠且高质量”模型之间形成关键差异。总的来说,Suleyman 表示 Inflection-2 已经在同等体量模型中遥遥领先,而且在很多方面已经“非常非常接近”最强王者 GPT-4。

据悉,Inflection AI 手头共掌握着 2.2 万块 H100 GPU,相当于训练 Inflection-2 的 GPU 数量的四倍有余。该公司在本次发布中强调,他们计划使用这些硬件构建更先进、体量更大的新模型。据报道,从现在开始,Inflection 已经将训练重点转移至下一代模型,预计新模型将在六个月内达到 Inflection-2 的 10 倍体量,并在接下来的六个月中进一步扩大 10 倍。(最终体量有望增长至 100 倍。)

OpenAI 管理层大乱斗,给了竞对可乘之机

就在 OpenAI 管理层大乱斗达成临时和解方案的几小时前,Suleyman 敦促公众以“同理心和宽容态度”对待那些被卷入风波的人们。他指出,“很多人的言行完全是出于善意”,还点名提到 OpenAI 联合创始人 Ilya Sutskever。Sutskever 是最初参与解雇 Altman 的董事会成员之一,但随后在周日晚间表示对这一决定感到后悔。(目前还不清楚 Sutskever 是否会继续留在 OpenAI,但他在 X 上点赞了公司及 Altman 宣布回归的帖子。)

Sutskever 曾在 2011 年为 Suleyman 工作过,时任 DeepMind 外包商兼顾问。三年之后,Suleyman 将这家 AI 初创公司卖给了谷歌。Suleyman 在谈到 Sutskever 时表示,“我非常尊重他,这种尊重不仅源自技术水平,也源自他的原则性和真诚的态度。我认为在此次事件中,他和团队中的其他成员都抱有真诚的意图。”

Inflection 和 Suleyman 此前曾就 AI 安全问题表达过明确态度,并于今年 7 月自愿签署了拜登总统下达的“关于安全、可靠和可信的 AI 行政令”。他还发誓不会让聊天机器人 Pi 回答关于选举的任何问题、或者为政治竞选活动提供材料。Suleyman 最新出版了一本名叫《袭来的浪潮》(The Coming Wave)的书,详细介绍了 AI 技术的风险。

在谈到 OpenAI 非营利董事会及其近期一系列行为、特别是因此在科技领域遭受的诽谤时,Suleyman 表示“很明显,他们犯下了一系列非常重大的错误。但我还是希望人们能够宽容一点,把这次事件视为 OpenAI 发展旅程中的一段小插曲。努力让公司变得更好、做正确的事、通过新的治理结构让全世界更美好,这些才是真正重要的工作。”

但 Suleyman 本人也秉持典型的资本家思维,在被问及 OpenAI 的困境(ChatGPT 在周一和周二两度陷入短时间瘫痪,大量客户忧心忡忡地关注着事态发展)是否给竞争对手带来了可乘之机时,他并没有予以否认。

“从根本上讲,我办的是一家企业。面对激烈的市场竞争,我们别无选择。当下也是硅谷多年以来竞争烈度最高、创造力最强的时期。”

参考链接:

https://www.forbes.com/sites/alexkonrad/2023/11/22/inflection-ai-releases-2nd-model-on-gpt-4-heels/?sh=65dbfdfd6b05

https://siliconangle.com/2023/11/22/inflection-ai-debuts-new-flagship-inflection-2-llm-trained-5000-h100-chips/

 

本文来自微信公众号:AI前线 (ID:ai-front),整理:冬梅、核子可乐

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
Like (0)
Previous 2023年11月24日
Next 2023年11月24日

相关推荐

  • 水温80度:AI行业真假繁荣的临界点

    我们从来没拥有过这么成功的AI主导的产品。

    (这种分析统计并不那么准,但大致数量级是差不多的)

    这两个产品碰巧可以用来比较有两个原因:

    一个是它们在本质上是一种东西,只不过一个更通用,一个更垂直。

    蓝海的海峡

    未来成功的AI产品是什么样,大致形态已经比较清楚了,从智能音箱和Copilot这两个成功的AI产品上已经能看到足够的产品特征。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时“罢工”,全网打工人都慌了

    美西时间午夜12点开始,陆续有用户发现自己的ChatGPT要么响应超时、要么没有对话框或提示流量过载,忽然无法正常工作了。

    因为发现AI用久了,导致现在“离了ChatGPT,大脑根本无法运转”。”

    等等,又不是只有一个聊天机器人,难道地球离了ChatGPT就不转了。

    大模型连崩原因猜想,谷歌躺赢流量激增6成

    GPT归位,人们的工作终于又恢复了秩序。

    未来科技 2024年6月5日
  • ChatGPT宕机8小时,谷歌Gemini搜索量激增60%

    ChatGPT一天宕机两次

    谷歌Gemini搜索量激增近60%

    ChatGPT在全球拥有约1.8亿活跃用户,已成为部分人群工作流程的关键部分。

    过去24小时内提交的关于OpenAI宕机的问题报告

    图片来源:Downdetector

    ChatGPT系统崩溃后,有网友在社交媒体X上发帖警告道:“ChatGPT最近发生的2.5小时全球中断,为我们所有依赖AI工具来支持业务的人敲响了警钟。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时大崩溃,AI集体罢工让全网都慌了

    接着OpenAI也在官网更新了恢复服务公告,表示“我们经历了一次重大故障,影响了所有ChatGPT用户的所有计划。Generator调查显示,在ChatGPT首次故障后的四小时内,谷歌AI聊天机器人Gemini搜索量激增60%,达到327058次。

    而且研究团队表示,“Gemini”搜索量的增长与“ChatGPT故障”关键词的搜索趋势高度相关,显示出用户把Gemini视为ChatGPT的直接替代选项。

    未来科技 2024年6月5日
  • 深度对话苹果iPad团队:玻璃的传承与演变

    iPad最为原始的外观专利

    没错,这就是iPad最初被设想的样子:全面屏,圆角矩形,纤薄,就像一片掌心里的玻璃。

    2010年发布的初代iPad

    好在乔布斯的遗志,并未被iPad团队遗忘。

    初代iPad宣传片画面

    乔布斯赞同这一想法,于是快速将资源投入平板电脑项目,意欲打造一款与众不同的「上网本」,这就是iPad早年的产品定义。

    iPad进化的底色

    苹果发布会留下过很多「名场面」,初代iPad发布会的末尾就是一例。

    未来科技 2024年6月5日
  • 底层逻辑未通,影视业的AI革命正在褪色…

    GPT、Sora均为革命性产品,引发了舆论风暴,但它在上个月发布的“多模态语音对谈”Sky语音,却由于声音太像电影明星斯嘉丽·约翰逊,被正主强烈警告,被迫下架。

    华尔街日报也在唱衰,认为“AI工具创新步伐正在放缓,实用性有限,运行成本过高”:

    首先,互联网上已经没有更多额外的数据供人工智能模型收集、训练。

    03、

    如果说训练“数字人”、使用AI配音本质上瞄向的仍是影视行业固有的发展方向,那么还有另外一群人试图从根本上颠覆影视行业的生产逻辑和产品形态。

    但分歧点正在于此,电影公司希望通过使用AI技术来降低成本,但又不希望自己的内容被AI公司所窃取。

    未来科技 2024年6月5日
  • KAN会引起大模型的范式转变吗?

    “先变后加”代替“先加后变”的设计,使得KAN的每一个连接都相当于一个“小型网络”, 能实现更强的表达能力。

    KAN的主要贡献在于,在当前深度学习的背景下重新审视K氏表示定理,将上述创新网络泛化到任意宽度和深度,并以科学发现为目标进行了一系列实验,展示了其作为“AI+科学”基础模型的潜在作用。

    KAN与MLP的对照表:

    KAN使神经元之间的非线性转变更加细粒度和多样化。

    未来科技 2024年6月5日
  • 这个国家,也开始发芯片补贴了

    //mp.weixin.qq.com/s/tIHSNsqF6HRVe2mabgfp6Q
    [4]中国安防协会:欧盟批准430亿欧元芯片补贴计划:2030年产量占全球份额翻番.2023.4.19.https。//mp.weixin.qq.com/s/VnEjzKhmZbuBUFclzGFloA
    [6]潮电穿戴:印度半导体投资大跃进,一锤砸下1090亿,政府补贴一半.2024.3.5https。

    未来科技 2024年6月5日
  • 大模型的电力经济学:中国AI需要多少电力?

    这些报告研究对象(数字中心、智能数据中心、加密货币等)、研究市场(全球、中国与美国等)、研究周期(多数截至2030年)各不相同,但基本逻辑大同小异:先根据芯片等硬件的算力与功率,计算出数据中心的用电量,再根据算力增长的预期、芯片能效提升的预期,以及数据中心能效(PUE)提升的预期,来推测未来一段时间内智能数据中心的用电量增长情况。

    未来科技 2024年6月5日
  • 你正和20万人一起接受AI面试

    原本客户还担心候选人能否接受AI面试这件事,但在2020年以后,候选人进行AI面试的过程已经是完全自动化的,包括面试过程中AI面试官回答候选人的问题,AI面试官对候选人提问以及基于候选人的回答对候选人进行至多三个轮次的深度追问。

    以近屿智能与客户合作的校验周期至少3年来看,方小雷认为AI应用不太可能一下子爆发,包括近屿智能在内的中国AI应用企业或许要迎来一个把SaaS做起来的好机会。

    未来科技 2024年6月4日