大模型公司「卷」 芯片 英伟达危?

在这之前,英伟达构筑的AI芯片帝国是这些大模型公司的强大输出方,如今,大模型公司试图要自给自足一部分。
“卖水”的英伟达一时风头无两,他们家的AI芯片供不应求,AI市场再现GPU短缺。
为了摆脱对英伟达的芯片依赖,OpenAI。
CUDA是一种英伟达推出的并行计算架构,运行相同任务的情况下,支持CUDA系统的英伟达GPU比CPU的速度要快10到100倍。

人工智能的行业竞争,不仅是OpenAI与谷歌等各大互联网巨头的大模型之争,支撑运算的芯片赛道也暗流涌动,大模型“制造机”们也加入了赛道。

OpenAI计划从CEO Sam Altman投资的一家初创公司Rain AI订购更高效的NPU芯片;微软也推出两款自研芯片Azure Maia 100和Azure Cobalt 100;谷歌刚推出的新模型Gemini 1.0 采用的就是自己设计的芯片TPUs v4 和v5e。

在这之前,英伟达构筑的AI芯片帝国是这些大模型公司的强大输出方,如今,大模型公司试图要自给自足一部分。而正式向英伟达发起挑战,还是芯片赛道上的老玩家。

美国超威半导体公司(AMD)已推出新一代AI芯片MI300X, 还从从英伟达手中分走了Meta、微软和OpenAI三大客户。

AI芯片卷起来了,但想要挑战坐在“王位”英伟达,也绝非易事。

大模型公司自给芯片

今年以来,各种AI大模型和应用百家争鸣,英伟达 A100、A800、H100、H800等能支持AI大模型训练的芯片被疯狂抢购。“消费者”不仅是科技公司,还有各国政府和风险投资公司。

“卖水”的英伟达一时风头无两,他们家的AI芯片供不应求,AI市场再现GPU短缺。

微软在 2023 财年报告中就多次指出,对能否为其云运营获取GPU感到担忧。OpenAI的CEO Sam Altman也不止一次公开“抱怨”芯片短缺及成本巨大,今年5月,他曾公开表示,OpenAI正在经历严重的算力短缺。这也正在影响用户体验,ChatGPT时常卡顿,反应延迟。

据报道,OpenAI 运行 ChatGPT 的成本每天在70 万美元。路透社指出,每个 ChatGPT 查询的成本约为 4 美分,如果此类查询增长到 Google 搜索的1/10,则需要预先投入价值约 480 亿美元的 GPU,每年需要花费 160 亿美元的芯片才能维持运行。

算力短缺,成本高昂,戴尔亚太和日本总裁 Peter Marrs 就曾预测,买家不会容忍英伟达GPU 的交货时间过长,这将给大量竞争对手制造机会。

为了摆脱对英伟达的芯片依赖,OpenAI 正在考虑研发自己的AI芯片,以应对全球GPU 的短缺,缩减GPT的训练成本。

前几天,OpenAI一份订购意向书曝光,Altman任职CEO期间,该公司承诺从一家初创公司Rain AI订购芯片,金额高达5100万美元,而Altman投资了这家公司。

值得一提的,这款芯片是基于神经拟态(Neuromorphic)技术的 “类脑” AI 芯片NPU,据说“模仿了人脑的结构和功能”,支持并行和分布式地处理信息,非常适合 AI 应用中的“计算密集型任务”,能够实现低耗、高效地处理信息。但目前,该芯片仍在研发阶段。

不仅是OpenAI,微软和Google等大型科技公司也在一直打造更高效的芯片。

11月16日,微软在年度IT专业人士和开发者大会Ignite上推出两款自研芯片——云端AI芯片微软Azure Maia 100、服务器CPU微软Azure Cobalt 100。

Maia 100旨在为AI工作负载运行基于云的训练和推理,而Cobalt 100则用于通用工作负载。微软的数据中心预计,将在2024年初同时采用Arm CPU和专用AI加速器。微软表示,除了在 Bing和 Office AI 产品上测试该芯片外,OpenAI也正在测试该芯片。

微软研发Maia 100 自用及供给合作伙伴OpenAI

谷歌也开始行动,其刚刚发布的、号称“吊打”GPT-4的大模型Gemini1.0,用的就是谷歌自研的TPUs v4 和 v5e芯片。

谷歌称,在TPUs上,Gemini的运行速度明显快于早期规模更小、性能更弱的模型。此外,歌还发布了TPU系统 Cloud TPU v5p,旨在为训练前沿 AI 模型提供支持,从而加速 Gemini 的开发。

包括苹果、华为等硬件厂商,越来越多的科技巨头都开始自主设计和开发自己的芯片,以满足自身的业务需求和差异化竞争。

英伟达的防御与扩张

大模型公司卷进芯片赛道,真能彻底摆脱对英伟达的依赖吗?

尽管市面上英伟达H100 GPU已涨到了原价的两倍,依旧供不应求。也即便已经上线自研芯片的谷歌,也依然在大量采购英伟达的芯片。

英伟达有自己的护城河。

据英国《金融时报》 报道,今年以来,英伟达已经投资了二十多家公司,包括从价值数十亿美元的大型新人工智能平台到将人工智能应用于医疗保健或能源等行业的小型初创企业。

虽然英伟达表示,公司在投资时并没有特殊条款,也不要求被投企业必须使用英伟达的芯片。但某种程度上,这意味着更密切的关系。

英伟达风险投资部门 NVentures 的负责人 Mohamed Siddeek 表示:“对于英伟达来说,进行初创企业投资的首要标准是相关性。” 他强调,“使用我们的技术、依赖我们的技术、在我们的技术上建立业务的公司,我想不出我们投资的公司有哪家没有使用英伟达的产品。”

根据跟踪风险投资机构 Dealroom 的估计,英伟达在 2023 年参与了 35 笔交易,几乎是去年的六倍。Dealroom 指出,这是英伟达人工智能领域交易最活跃的一年,超过了Andreessen Horowitz 和红杉等硅谷大型风险投资公司。

此外,英伟达CUDA计算平台以及软硬件生态,也为英伟达护城河构筑了更加坚固的河堤。

CUDA是一种英伟达推出的并行计算架构,运行相同任务的情况下,支持CUDA系统的英伟达GPU比CPU的速度要快10到100倍。正是得益于CUDA系统,GPU才得以打败CPU,成为今天运行大数据计算的基础。

大模型公司自研芯片,摆在眼前的也困难并不少,根源是原材料的供不应求。

The Enderle Group首席分析师 Rob Enderle 就表示,“制造芯片并非易事,代工厂和晶圆厂已经饱和,这使得 OpenAI 的这项工作很可能会失败。”他补充说,“他们最好与 AMD、高通、英伟达或英特尔合作,因为后者已经拥有自己的铸造厂。”

还有成本。

Futurum Group的高级分析师Todd R. Weiss表示,创建自己的芯片摆脱依赖“乍一看,是一个很酷的主意”,但设计自己的芯片、建立自己的芯片制造设施,永无止境地开发更新更好的芯片路线图所需的成本,还要担心自己的供应链问题,“这并不比从他人手中购买芯片更简单。”

芯片的战场,还在芯片制造商之间。

12月6日,英伟达最大的竞争对手美国超威半导体公司(AMD)举行“Advancing AI”发布会,并拉来了微软、Meta等科技公司高管站台,发布会上,AMD带来了新一代AI芯片MI300X。

与英伟达的 H100 HGX 相比, MI300 X 加速器在运行大语言模型推理时的吞吐量和时延表现都要明显高出一截,且价格也更加低廉。Meta、微软和 OpenAI 公司随后在 AMD 投资者活动上表态,未来他们将会使用 AMD最新的AI芯片。

真正降低成本的办法,还得看芯片制造商的“互卷”。AMD、英伟达等芯片大厂进入产能竞争,价格才能打下来。而大模型巨头自研芯片,无非是为“军备竞赛”多一条奔跑的腿。

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
(0)
上一篇 2023年12月18日 13:27
下一篇 2023年12月18日

相关推荐

  • 抖音不再陪小杨哥“疯狂”

    就在抖音电商峰会一周前,快手一哥辛巴炮轰小杨哥,指责其在质检、售后、赔偿态度等方面存在问题,模仿辛选的商业模式,以及小杨哥此前销售的一些产品如茅台酒、梅菜扣肉等存在质量问题,如果小杨哥不处理,他将用一亿元替小杨哥进行赔付。
    在2022年9月的抖音电商作者峰会上,刚转型直播带货一年的小杨哥,第一次获得了抖音电商的卓越个人奖。
    在短视频时代,抖音成就了小杨哥,正如小杨哥感谢抖音那般,“它具有很强的开放性和包容性,它给每一个人都提供平等展示自我的机会”,小杨哥也为抖音带来了很多用户,高峰时期小杨哥抖音粉丝量超过了1.2亿。

    2024年9月20日
  • 科隆新材IPO:业绩波动、内控缺位或成上市“拦路虎”

    上半年业绩表现不佳
    科隆新材的主营业务是液压组合密封件和液压软管等橡塑新材料产品的研发、生产和销售,以及煤矿辅助运输设备的整车设计、生产、销售和维修,同时也为风电、军工、高铁等行业客户提供定制化橡塑新材料产品。
    同时,如果未来煤炭主体能源地位被快速替代,下游客户新机装备需求减少,科隆新材又未能拓展旧机维修业务,或是未能适应市场变化、新技术和新产品未能顺应市场发展趋势,那么科隆新材就存在橡塑新材料产品经营业绩下滑的风险,甚至可能会对公司整体经营业绩造成不利影响。

    商业密码 2024年9月20日
  • 淘宝倒逼新风向:一场电商减负运动

    但售后服务同时也是电商变革最复杂的一环,开店、佣金、流量推广都只是商家与平台间的服务交易,售后却涉及平台导向、商家成本和消费者体验三方,且受社会消费情绪变化、平台生态优劣的直接制约,是各方利益最难平衡的地方。
    我们也发现,在这个过程中,电商平台的自我角色定位也在调整,从推出「仅退款」的游戏规则制定者、大家长,逐渐过渡到生态系统的设计者、平衡商家和消费者利益的服务商。

    商业密码 2024年9月20日
  • 博浪AI时代,阿里、华为“硬碰硬”

    根据申万一级行业分类,阿里巴巴概念板块156家上市公司分布于22个行业,其中传媒、电子、商贸零售、通信、医药生物分别聚集了50、25、13、11、9只概念股。
    根据申万一级行业分类,华为概念板块896家上市公司分布于28个行业,其中,计算机、电子、机械设备、通信、电力设备分别聚集了220、193、92、65、61只概念股。

    商业密码 2024年9月20日
  • 员工挂“罪牌”戴纸托手铐引质疑,80后王云安创立的古茗又“翻车”了

    员工头挂“罪牌”手戴纸托手铐,古茗玩梗惨遭翻车
    近日,古茗员工头挂“罪牌”、手戴形似手铐纸托的视频,在社交平台上广泛传播,引发诸多网友热议。
    至于上海,王云安认为该市场毗邻浙江,因此会有一定的消费者基础,但是上海奶茶行业竞争激烈,外卖比例很高,相对来说门店的收益更难做好,“我们在进省会城市,以及大的一线城市的时候,我们一定是做好准备了再去的,比如上海的消费者到底要什么,我们进去应该怎么做才可以让更多的店做得更好,古茗能够给上海的消费者带来什么样的不同呢,这些是我们要去思考的。

    商业密码 2024年9月20日
  • 古井教父悲情收场

    1986年之后的十年里,古井的资产增长了18倍,利润增长了24倍,王效金也因此被称为“古井教父”,甚至是“中国酒界第一人”。
    这款拥有1800多年历史的安徽名酒也许永远也不会再与茅台并肩了,但如今也可以称得上再度振兴,尤其是这一切还建立在王效金的固执和自大,当年差一点毁了古井贡酒的基础上。
    他甚至曾经在公开场合说过,王效金就是古井,古井就是王效金,“效忠”古井就是效忠他。

    2024年9月20日
  • 直言AI不如原创,吴克群凭什么?

    吴克群的原创音乐哲学
    来到《音乐缘计划》,吴克群分外真诚。
    如此来看,吴克群选择参与《音乐缘计划》这一原创音乐综艺,正是源自于他与原创音乐人之间的惺惺相惜。
    在分享创作心得、探讨音乐理念时,吴克群不再简单是一个综艺节目的嘉宾,他也是作为一名原创音乐人出现在舞台上,让一切热爱与纯粹都具象化。
    于是,面对当下音乐生态的顽疾,新生代音乐人的困境,吴克群会在稳定的音乐事业之外,积极参与各种原创音乐活动。

    商业密码 2024年9月20日
  • 专门“收割”妈妈们的特百惠,被时代抛弃了

    02特百惠被时代抛弃了
    《新品略财经》记得三四年前,在深圳龙华区某购物中心还开了一家特百惠的店,也曾在店里买过东西,当时的印象是特百惠的产品卖得还不错。
    在《新品略财经》看来,特百惠既是时代的产物,也是被时代抛弃的产物,这与消费环境、消费需求、市场竞争,乃至是与特百惠的传统商业模式等各方面密切相关。
    从产品层面来说,特百惠是化学科技运用到日用物品的代表案例,在特百惠诞生的年代,家庭有着食物保鲜难的痛点,特别是在冰箱不普及的年代,特百惠犹如“刚需”般存在。

    商业密码 2024年9月20日
  • 县城消费的另一面:喝奶茶的少了,钓鱼的多了

    图源:作者拍摄

    图源:作者拍摄
    刘子涵继续说道,现在同学之所以不愿意喝新茶饮,还有一部分原因是,学生们对新茶饮的口感愈发失去新鲜感。

    图源:作者拍摄
    但并不是所有县城零食折扣店都这么火爆,中秋节假日当晚当地赵一鸣零食折扣店偌大的门店看不到太多顾客,收银台前也仅有几个顾客在排队结算。

    图源:受访者提供

    有人为钓鱼投入千元,有人干起代购
    和新茶饮相对冷清、零食折扣店门店客流分化不同的是,部分业态在县城仍迎来火爆。

    2024年9月19日
  • 闪回科技二度冲刺港股,深陷盈利困境,雷军看走眼了?

    在回收生意的上游,闪回科技通过闪回收从消费电子厂商、零售商、运营商以及C端消费者处获取二手手机供给。
    在下游销售端,闪回科技以“闪回有品”面向B端商户和消费者进行二手机和新机的销售,公司接近90%营收由闪回有品贡献。”

    B端渠道的手机厂商是闪回科技高增长最大的助力,但与之相伴的是,面对强势的手机大厂,闪回科技没有议价权,还需要向手机厂商支付高昂的保证金和促销服务费。

    2024年9月19日