韩国人,卡住了英伟达的脖子?

4 月 1 日的时候,小发给我发了个大新闻:

老黄出手,从微软手里买下了 Xbox ,下一代的 Xbox 将有双显卡、 AI 加持,誓要把隔壁的 PS6 锤出人中黄来。

但很不幸,这是一个拙劣的愚人节恶搞。

我就说嘛,已经是 AI 军火商的老黄,早就把游戏佬们当成牛夫人了,怎么可能花大价钱再来搞游戏。

还记得前不久的 GTC 大会吧,老黄公布 B200 时的状态,可比发布什么“破 4090”嗨多了。

想买老黄显卡的人,从这里排到了法国。

但,就从世超看来,老黄还真不一定高枕无忧,至少它的脖子被韩国人狠狠卡着。

例如老黄最新发布的 B200 芯片上,就有多达 4 层最新的 HBM(高带宽内存)内存芯片:HBM3e 。

而这个东西,在这个星球上,目前基本上只有韩国人能量产。

根据 Trendforce 数据,韩国的 SK 海力士和三星,他俩在 2023 年拿捏了全球 90% 的 HBM 内存产能。

而两年市面上的 AI 芯片,什么 A100、A800 们,反正你能想到的,基本就没谁能离开 HBM 内存。

所以,就在老黄的英伟达市值突破万亿的时候, SK 海力士的股价,也在去年偷偷翻了一倍多,如今市值已经突破千亿了。。。

就连之前路线选择错误的三星,股价也涨到了近两年最高的水平。

可能大家对 HBM 内存技术有多重要还没概念。

就这么说吧,韩国在今年初已经把这个技术列为国家战略技术,想通过给 SK 海力士和三星税收等方面的优惠,保持着自家的领先地位。

甚至老黄在最新发布的 B200 AI 芯片的同时,早就给了 SK 海力士等 15.4 亿美元,直接把这些厂今年一年的产量给包圆了。

要知道, SK 海力士上个月底刚实现量产交付 HBM3e 内存,这不比隔壁小米 SU7 的大定猛多了?

而这么爽快的生意,可把隔壁三星馋坏了,急急忙忙在 2 月份发布了自家 HBM3e 样品,立马就发给满世界客户验货。

那为什么 HBM 内存能这么受欢迎呢?

这就不得不提内存技术长期以来的拉跨了。

在信息化时代,无论是游戏还是工作,电脑系统的运行速度其实是要靠处理器和内存的互相配合的。

理论上,如果这俩速度接近,那肯定是最佳拍档。

但过去的很长时间里,处理器的性能指数式暴涨,内存和硬件之间的传输速度,却压根就跟不上。

在过去 20 年中,硬件的峰值计算能力增加了 90000 倍,但是内存和硬件互连带宽却只是提高了 30 倍。

打个不是很贴切的比方,处理器相当于是中华小当家,内存就是边上配菜的助手,小当家技术再高,助手菜配不过来,上菜还是快不了。

所以这些年,内存成了拖累计算机性能的拖油瓶,甚至有人把这种现象称为“内存墙”。

这些问题对于我们臭打游戏的来说,还算能接受,毕竟现在用着 1066 打 3A 的人肯定还不少。

真让他们忙不过来的,其实是这两年的 AI 大爆发。因为 AI 大模型的基础离不开海量的数据和算力,而要想支撑这么大的数据处理和传输,就要打破“内存墙”。

换句话说,打游戏对于小当家来说是点了四菜一汤,那隔壁 AI 随便搞个训练就相当于是要了一桌满汉全席。

所以对于 AI 大厂们来说,“内存墙”就像是锁死自己发展水平的智子,而 HBM 就是那个破墙者。

和传统的 DDR 内存采用的“平房设计”不同,破墙者 HBM 采用了“楼房设计”,来了个降维打击。

在芯片里造楼,主要靠的是硅通孔(Through-Silicon Via,TSV)这种先进封装技术。

简单来说,就是把不同的芯片叠在一起,中间打一堆孔,然后用铜管等导电物质给接起来。

从物理意义上减小了数据传输距离、占地面积等等。

这样一来,就能减小信号延迟、实现芯片的低功耗、增加带宽等等一堆优点。

随着工艺水平提升, TSV 可以越做越小,密度越来越大,堆叠 Die 层数也能越来越多,就能进一步提升带宽和传输速度以及最大容量。

前面提到三星最新产品,就已经是 12 层堆栈容量高达 36 GB 的 HBM3e 了。

别看说起来这么简单,实际上, HBM 技术里从材料、设计、封装、散热等等环节,都是难点。

而这些技术难点,大部分都是被韩国的 SK 海力士率先攻克的。

所以,像 HBM3 和 HBM3e 也都是由 SK 海力士率先突破并实现量产。

到了 HBM3 这一代,就已经实现了高达 1024 位的数据路径,运行速率也达到了惊人的 6.4 Gb/s ,带宽高达 819 Gb/s 。

而最新的 HBM3e ,其实是 HBM 内存技术家族的第五代产品,它的最高数据处理速度已经达到了每秒 1.18TB(太字节),相当于 1 秒内处理 200 多部全高清(FHD)级别的电影。

别看 HBM 赛道目前还有 SK 海力士、三星和美光御三家在玩,但无论是从发展时间、技术突破还是量产速度上, SK 海力士一直独占鳌头,光他们一家就占领了一半左右的市场份额。

排在身后的,则是同为韩国企业的三星,这家伙今年又一口气组建了两个 HBM 团队想要追赶上进度。

而美国的美光虽然放出话来,自家跳过研发 HBM3 ,直接成功完成了 HBM3e 的研究。

甚至如今还成为了英伟达的供货商之一,但世超觉得,这么大的口气,还有待市场验证。

所以,这么捋下来,英伟达的 AI 军火商计划,还真得建立在这些 HBM 厂商的供货上。

虽然大家都在说, AI 界硬通货是 H100、B200,但谁能想到,最终居然还被韩国卡着一道呢?

图片、资料来源:

[1]太平洋证券:AI服务器催化HBM需求爆发,核心工艺变化带来供给端增量 —算力系列报告(一)

[2]东方财富证券:玻璃通孔(TGV)为硅通孔(TSV)有效补 充,AI+Chiplet趋势下大有可为

[3]中邮证券:先进封装关键技术——TSV 研究框架

[4]Micron:Micron Commences Volume Production of Industry-Leading HBM3E Solution to Accelerate the Growth of AI

[5]SK hynix:SK hynix Develops World’s Best Performing HBM3E, Provides Samples to Customer for Performance Evaluation

[6]Samsung:Samsung Develops Industry-First 36GB HBM3E 12H DRAM

[7]NVIDIA:NVIDIA DGX B200

[8]半导体产业纵横:HBM3E起飞,冲锋战鼓已然擂响

[9]华尔街见闻:高盛谈HBM:四年十倍的市场,海力士将占据过半份额,美光或后来居上

本文来自微信公众号:差评 (ID:chaping321),作者:八戒  编辑:江江 & 面线 

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
(0)
上一篇 2024年4月2日
下一篇 2024年4月2日

相关推荐

  • 水温80度:AI行业真假繁荣的临界点

    我们从来没拥有过这么成功的AI主导的产品。

    (这种分析统计并不那么准,但大致数量级是差不多的)

    这两个产品碰巧可以用来比较有两个原因:

    一个是它们在本质上是一种东西,只不过一个更通用,一个更垂直。

    蓝海的海峡

    未来成功的AI产品是什么样,大致形态已经比较清楚了,从智能音箱和Copilot这两个成功的AI产品上已经能看到足够的产品特征。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时“罢工”,全网打工人都慌了

    美西时间午夜12点开始,陆续有用户发现自己的ChatGPT要么响应超时、要么没有对话框或提示流量过载,忽然无法正常工作了。

    因为发现AI用久了,导致现在“离了ChatGPT,大脑根本无法运转”。”

    等等,又不是只有一个聊天机器人,难道地球离了ChatGPT就不转了。

    大模型连崩原因猜想,谷歌躺赢流量激增6成

    GPT归位,人们的工作终于又恢复了秩序。

    未来科技 2024年6月5日
  • ChatGPT宕机8小时,谷歌Gemini搜索量激增60%

    ChatGPT一天宕机两次

    谷歌Gemini搜索量激增近60%

    ChatGPT在全球拥有约1.8亿活跃用户,已成为部分人群工作流程的关键部分。

    过去24小时内提交的关于OpenAI宕机的问题报告

    图片来源:Downdetector

    ChatGPT系统崩溃后,有网友在社交媒体X上发帖警告道:“ChatGPT最近发生的2.5小时全球中断,为我们所有依赖AI工具来支持业务的人敲响了警钟。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时大崩溃,AI集体罢工让全网都慌了

    接着OpenAI也在官网更新了恢复服务公告,表示“我们经历了一次重大故障,影响了所有ChatGPT用户的所有计划。Generator调查显示,在ChatGPT首次故障后的四小时内,谷歌AI聊天机器人Gemini搜索量激增60%,达到327058次。

    而且研究团队表示,“Gemini”搜索量的增长与“ChatGPT故障”关键词的搜索趋势高度相关,显示出用户把Gemini视为ChatGPT的直接替代选项。

    未来科技 2024年6月5日
  • 深度对话苹果iPad团队:玻璃的传承与演变

    iPad最为原始的外观专利

    没错,这就是iPad最初被设想的样子:全面屏,圆角矩形,纤薄,就像一片掌心里的玻璃。

    2010年发布的初代iPad

    好在乔布斯的遗志,并未被iPad团队遗忘。

    初代iPad宣传片画面

    乔布斯赞同这一想法,于是快速将资源投入平板电脑项目,意欲打造一款与众不同的「上网本」,这就是iPad早年的产品定义。

    iPad进化的底色

    苹果发布会留下过很多「名场面」,初代iPad发布会的末尾就是一例。

    未来科技 2024年6月5日
  • 底层逻辑未通,影视业的AI革命正在褪色…

    GPT、Sora均为革命性产品,引发了舆论风暴,但它在上个月发布的“多模态语音对谈”Sky语音,却由于声音太像电影明星斯嘉丽·约翰逊,被正主强烈警告,被迫下架。

    华尔街日报也在唱衰,认为“AI工具创新步伐正在放缓,实用性有限,运行成本过高”:

    首先,互联网上已经没有更多额外的数据供人工智能模型收集、训练。

    03、

    如果说训练“数字人”、使用AI配音本质上瞄向的仍是影视行业固有的发展方向,那么还有另外一群人试图从根本上颠覆影视行业的生产逻辑和产品形态。

    但分歧点正在于此,电影公司希望通过使用AI技术来降低成本,但又不希望自己的内容被AI公司所窃取。

    未来科技 2024年6月5日
  • KAN会引起大模型的范式转变吗?

    “先变后加”代替“先加后变”的设计,使得KAN的每一个连接都相当于一个“小型网络”, 能实现更强的表达能力。

    KAN的主要贡献在于,在当前深度学习的背景下重新审视K氏表示定理,将上述创新网络泛化到任意宽度和深度,并以科学发现为目标进行了一系列实验,展示了其作为“AI+科学”基础模型的潜在作用。

    KAN与MLP的对照表:

    KAN使神经元之间的非线性转变更加细粒度和多样化。

    未来科技 2024年6月5日
  • 这个国家,也开始发芯片补贴了

    //mp.weixin.qq.com/s/tIHSNsqF6HRVe2mabgfp6Q
    [4]中国安防协会:欧盟批准430亿欧元芯片补贴计划:2030年产量占全球份额翻番.2023.4.19.https。//mp.weixin.qq.com/s/VnEjzKhmZbuBUFclzGFloA
    [6]潮电穿戴:印度半导体投资大跃进,一锤砸下1090亿,政府补贴一半.2024.3.5https。

    未来科技 2024年6月5日
  • 大模型的电力经济学:中国AI需要多少电力?

    这些报告研究对象(数字中心、智能数据中心、加密货币等)、研究市场(全球、中国与美国等)、研究周期(多数截至2030年)各不相同,但基本逻辑大同小异:先根据芯片等硬件的算力与功率,计算出数据中心的用电量,再根据算力增长的预期、芯片能效提升的预期,以及数据中心能效(PUE)提升的预期,来推测未来一段时间内智能数据中心的用电量增长情况。

    未来科技 2024年6月5日
  • 你正和20万人一起接受AI面试

    原本客户还担心候选人能否接受AI面试这件事,但在2020年以后,候选人进行AI面试的过程已经是完全自动化的,包括面试过程中AI面试官回答候选人的问题,AI面试官对候选人提问以及基于候选人的回答对候选人进行至多三个轮次的深度追问。

    以近屿智能与客户合作的校验周期至少3年来看,方小雷认为AI应用不太可能一下子爆发,包括近屿智能在内的中国AI应用企业或许要迎来一个把SaaS做起来的好机会。

    未来科技 2024年6月4日