韩国,豪赌AI芯片

在全球半导体行业陷入AI芯片的激烈争夺之际,韩国AI芯片初创赛道也变得火热起来,一批从大型科技公司或半导体公司出来的人才自立门户,创立了许多AI芯片初创公司。

成立于2020年的Rebellions,该公司生产神经处理单元(NPU),名为ATOM芯片,瞄准生成式AI推理市场,直接叫板英伟达。

虽然韩国兴起了如此多的AI芯片初创公司,但前路仍然面临着不少的挑战:

首先,AI芯片研发需要大量的资金投入,这对于初创公司来说是一个很大的挑战。

提到韩国的半导体产业,一个三星一个SK海力士,近几十年都很难再找出另一家享誉国外的芯片企业。尤其是在Fabless设计领域,韩国几乎是毫无存在感。据统计,全球前30名的Fabless公司大约占据了约90%的市场份额,而韩国Fabless企业合计市场份额仅为1%左右。

然而,ChatGPT的问世给韩国的Fabless产业打了一剂强心针。在全球半导体行业陷入AI芯片的激烈争夺之际,韩国AI芯片初创赛道也变得火热起来,一批从大型科技公司或半导体公司出来的人才自立门户,创立了许多AI芯片初创公司。与此同时,在投资遇冷的大环境下,韩国的AI芯片赛道却是不一样的景象。就连ChatGPT创始人Sam Altman在去年会见韩国总统时,也表示有兴趣投资韩国初创企业。

放眼整个AI芯片初创市场,据不完全统计,人工智能处理器领域大约有190多家公司。较为代表的有SambaNova、Cerebras Systems、Graphcore、Groq、Tenstorrent、Hailo、Mythic等等,这些AI芯片公司都难以撼动英伟达这样的行业巨擘。韩国的AI初创公司未来又该如何呢?

韩国AI芯片创业浪潮势不可当

在过去的几年里,韩国AI芯片初创公司如雨后春笋般迅速成长。它们以创新的技术、颠覆性的产品和强大的团队吸引了投资者和市场的关注。

成立于2020年的Rebellions,该公司生产神经处理单元(NPU),名为ATOM芯片,瞄准生成式AI推理市场,直接叫板英伟达。据报道,ATOM的AI芯片在Global Benchmark中的表现比英伟达和高通等竞争对手高出1.4~3倍,引起了广泛关注。

该公司首席执行官兼联合创始人Park Sung-hyun,此前曾就职于三星的美国研究部门、英特尔和SpaceX等公司。Rebellions也被视为该国在AI推理领域英伟达最有希望的竞争者。据南华早报的报道,Rebellions在韩国LLM市场的推理任务份额已增长到30%,并在全球占据至少 3%到5%。

Rebellions获得了韩国科技行业几大巨头的支持,其中包括三星、KT和 Kakao。Rebellions通过三星晶圆代工厂的“多项目晶圆服务”生产ATOM原型,采用三星5nm工艺。据悉,该芯片还将采用三星的高端HBM3E存储芯片。ATOM将是韩国首款在量产水平上支持语言模型的国产芯片。而韩国第二大电信运营商和最大数据中心公司KT将成为Rebellions在ATOM量产后的第一个客户,该公司首席执行官兼联合创始人Park Sung-hyun认为电信公司是AI芯片最理想的客户。

Sapeon是韩国最大电信公司SK Telecom的子公司,于2022年4月从韩国顶级移动运营商SK Telecom Co.分拆出来,为数据中心设计AI芯片。SAPEON宣称,其X220是韩国首款用于数据中心的人工智能处理器。去年Sapeon又推出了专为大型语言模型设计的X330芯片,采用台积电的7nm工艺,预计在今年上半年量产。

人工智能淘金热还催生了对DPU芯片的需求。2022年,首尔国立大学电气和计算机工程教授 Kim Jang-woo 在聘请了来自三星、Naver、英特尔和微软的顶尖工程师后,成立了人工智能芯片初创公司MangoBoost Inc

MangoBoost是一家数据处理单元(DPU)和AI服务器基础设施公司。DPU也是AI市场蓬勃发展过程中催生的一个有利市场,AI的发展使得设备过载和数据瓶颈变得愈发严重,DPU在卸载、实现服务器加速方面具有很大的潜力。凭借十多年来在大学实验室取得的DPU研究成果,该公司迅速获得了服务器和数据中心行业的认可。在去年11月的A轮投资中,MangoBoost筹集了5500万美元,他们计划利用新获得的资金来加速其多种DPU产品的开发。

HyperAccel成立于2023年1月,主要开发延迟处理单元(LPU),这是一款专门用于基于Transformer 的大语言模型AI芯片。顾名思义,LPU是专门设计用于降低系统的延迟,该公司开发了一个模型并行技术,可将LLM高效分配到多个LPU,并开发了自己的网络技术,用于LPU之间的数据同步。

HyperAccel LPU与GPU平台的效率分析(来自HyperAccel官网)

Mobilint是韩国首家开发智能半导体边缘型神经处理单元(NPU)的公司,成立于2019年4月。成立仅一年,Mobilint参加了全球AI半导体基准“MLPerf”,并在韩国取得了最好的成绩,让其技术被世界所知,并与三星电子、英特尔、谷歌、微软、NVIDIA等合作,共同成为MLCommons(MLPerf操作社区)的创始成员。

2022年12月推出首个商用NPU“ARIES”,并开发了两种搭载ARIES的产品“MLA100”和“MLX-A1”。今年1月,该公司获得了200亿韩元的B轮融资,此次投资将用于Mobilint人工智能半导体ARIES的量产以及下一代芯片REGULUS的开发。ARIES即将量产,也将成为Mobilint正式进军全球AI半导体市场的筹码。

DEEPX也是一家韩国NPU芯片初创公司,由首席执行官Lokwon Kim于2018年创立,他曾在 Apple、Cisco Systems、IBM Thomas J. Watson 研究中心和Broadcom工作。该公司在5月初的C轮融资中刚筹集了8000万美元,较B轮1500 万美元的融资飙升了八倍多,目前估值达到5.29亿美元。这些融资将用于该公司首款产品 DX-V1、DX-V3、DX-M1和DX-H1的量产。不过目前,该初创公司尚未拥有客户,但正在与现代起亚汽车机器人实验室和韩国IT公司POSCO DX等100多家潜在客户和战略合作伙伴合作,测试DEEPX的 AI芯片功能。

FuriosaAI由来自三星、苹果、高通、AMD、谷歌和亚马逊的工程师于2017年创立,专注于生产AI推理加速器。截至目前,FuriosaAI已吸引超过1亿美元的投资。

2021年该司发布了用于计算机视觉的第一代芯片WARBOY(三星14nm)发布,同年也成为首家在MLPerf推理方面超越 Nvidia的AI芯片初创公司。他们的优势在于软硬件联合开发,该公司得到了重要客户的支持,其中包括韩国最大的互联网公司 Naver,华硕服务器也采用了该公司的WARBOY卡。2024年,该公司第二代用于大语言模型推理芯片产品RNGD也将发布,它采用台积电5nm,嵌入了 HBM3,性能是第一代AI芯片Warboy的八倍。

2022年7月,FuriosaAI任命英特尔前首席副总裁Bill Leszinske为高级顾问,Leszinske拥有30多年的产品规划和营销经验,其中包括他在推动英特尔 SSD 业务收入增长方面发挥的关键作用。Leszinske在离开英特尔后,还加入了AI芯片初创公司Groq。

可以看出,大部分的韩国的AI芯片初创公司都瞄准的是生成式AI这个市场。这些公司在不同的领域展开创新探索,从神经处理单元到延迟处理单元,从数据中心设计到智能半导体边缘型处理器,各自探索着AI芯片应用的新边界,意图在AI市场中占据一席之地。

机遇与挑战并存,韩国AI芯片初创公司能否突围?

不得不说,这些AI芯片初创公司的成立有着很大的市场机遇。当下正值AI发展高峰期,客户不希望被一家AI芯片公司垄断,传统的芯片和初创企业都想来分一杯羹。

德勤预测,2024年针对生成式人工智能进行优化的专用芯片市场规模将超过500亿美元,占当年所有人工智能芯片销售额的三分之二。德勤预测,2024 年人工智能芯片销售总额将占预计全球芯片市场规模5760亿美元的11%。而到2027年,与其他支持AI的芯片一起,可能占所有半导体销售价值的一半。

AI发展方兴未艾,目前所有训练和几乎所有生成式人工智能推理都是使用相同的数据中心生成式人工智能芯片完成的。但随着时间的推移,生成式人工智能推理的很大一部分可能将在边缘处理器上完成。这些可能是更小的GPU、CPU或新的专用集成电路,可能来自现有的生成式 AI 芯片公司,也可能来自市场的新进入者,因此,这也为初创公司带来发展机遇。

政府的大力支持也是很重要的一方面,在AI、电气化的发展大势下,韩国政府开始重视Fabless企业,并努力发展本土产业链。在AI芯片层面,韩国的目标是到2030年,将韩国人工智能芯片在国内数据中心的市场份额从几乎为零提高到80%,实现本土化供应。

半导体是韩国出口导向型经济的重要支柱。3月份,芯片出口达到21个月新高,达到117亿美元,占该国出口总额的近五分之一。韩国的目标是超越存储芯片,在未来成为全球前三大AI国家之一,因此,韩国政府宣布到2027年的未来三年将在人工智能领域投资69.4亿美元。此外,韩国政府表示还将设立一个1.4万亿韩元(1 万亿美元)的基金,来帮助国内人工智能芯片制造商发展。可以看出,韩国在AI上下了大的赌注。

不仅是生成式AI领域,据韩国媒体BusinessKorea报道称,韩国政府正在积极推进新的研发项目,其中包括开发用于自动驾驶汽车的AI芯片,目标是超越美国半导体巨头英伟达。由研究机构、大学等代表组成的“第二次战略规划与投资委员会”批准了2025年62个新研发项目,包括超过 11 个领域的旗舰项目和路线图。韩国正在开发性能从数十到300TOPS的自动驾驶芯片。

虽然韩国兴起了如此多的AI芯片初创公司,但前路仍然面临着不少的挑战:

首先,AI芯片研发需要大量的资金投入,这对于初创公司来说是一个很大的挑战。尽管这些AI芯片公司拿到了一些融资,但是芯片是个烧钱的行业,这点可以从目前业内几家著名的AI芯片公司窥得一斑。

其次,AI或者生成式AI芯片市场竞争激烈,产品研发出来到实际大规模商用还有很长时间。韩国AI芯片初创公司需要在技术、产品、成本等方面取得优势才能在竞争中脱颖而出。

最后,人才是重中之重,缺人是半导体行业的通病。目前韩国的这几家AI芯片初创公司无不在广揽人才。这些AI芯片初创公司的涌现,将有助于吸引韩国人才的回流。尽管韩国是存储芯片大国,但其实该国拥有相当数量的人工智能人才。

根据斯坦福大学于4月15日发布的“2024年人工智能指数”报告,韩国以每10万人10.26项人工智能相关专利的数量领先于全球(图2),同时以0.79%的人工智能劳动力密度位居全球第三。尽管韩国在人工智能领域具有这些强大的竞争力指标,但该国正面临着人才外流日益加剧的挑战。据2023年数据显示,韩国每10万人中AI人才的净流出量为-0.30人(图3),意味着离开该地区的AI人才数量多于进入该地区的AI人才数量。

图2:2022年各国每10万居民人工智能专利授权情况,来源:2024 AI Index Report,stanford university

结语

韩国总统尹锡悦表示:“正如过去 30 年我们用存储芯片统治世界一样,未来30年我们将用 AI 芯片书写新的半导体神话。”韩国的野心能否实现不得而知,但是一个事实是,这些AI初创芯片公司的崛起,为韩国半导体产业这汪水注入了新的活力。

本文来自微信公众号:半导体行业观察 (ID:icbank),作者:杜芹DQ

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
Like (0)
Previous 2024年5月13日
Next 2024年5月13日

相关推荐

  • 水温80度:AI行业真假繁荣的临界点

    我们从来没拥有过这么成功的AI主导的产品。

    (这种分析统计并不那么准,但大致数量级是差不多的)

    这两个产品碰巧可以用来比较有两个原因:

    一个是它们在本质上是一种东西,只不过一个更通用,一个更垂直。

    蓝海的海峡

    未来成功的AI产品是什么样,大致形态已经比较清楚了,从智能音箱和Copilot这两个成功的AI产品上已经能看到足够的产品特征。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时“罢工”,全网打工人都慌了

    美西时间午夜12点开始,陆续有用户发现自己的ChatGPT要么响应超时、要么没有对话框或提示流量过载,忽然无法正常工作了。

    因为发现AI用久了,导致现在“离了ChatGPT,大脑根本无法运转”。”

    等等,又不是只有一个聊天机器人,难道地球离了ChatGPT就不转了。

    大模型连崩原因猜想,谷歌躺赢流量激增6成

    GPT归位,人们的工作终于又恢复了秩序。

    未来科技 2024年6月5日
  • ChatGPT宕机8小时,谷歌Gemini搜索量激增60%

    ChatGPT一天宕机两次

    谷歌Gemini搜索量激增近60%

    ChatGPT在全球拥有约1.8亿活跃用户,已成为部分人群工作流程的关键部分。

    过去24小时内提交的关于OpenAI宕机的问题报告

    图片来源:Downdetector

    ChatGPT系统崩溃后,有网友在社交媒体X上发帖警告道:“ChatGPT最近发生的2.5小时全球中断,为我们所有依赖AI工具来支持业务的人敲响了警钟。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时大崩溃,AI集体罢工让全网都慌了

    接着OpenAI也在官网更新了恢复服务公告,表示“我们经历了一次重大故障,影响了所有ChatGPT用户的所有计划。Generator调查显示,在ChatGPT首次故障后的四小时内,谷歌AI聊天机器人Gemini搜索量激增60%,达到327058次。

    而且研究团队表示,“Gemini”搜索量的增长与“ChatGPT故障”关键词的搜索趋势高度相关,显示出用户把Gemini视为ChatGPT的直接替代选项。

    未来科技 2024年6月5日
  • 深度对话苹果iPad团队:玻璃的传承与演变

    iPad最为原始的外观专利

    没错,这就是iPad最初被设想的样子:全面屏,圆角矩形,纤薄,就像一片掌心里的玻璃。

    2010年发布的初代iPad

    好在乔布斯的遗志,并未被iPad团队遗忘。

    初代iPad宣传片画面

    乔布斯赞同这一想法,于是快速将资源投入平板电脑项目,意欲打造一款与众不同的「上网本」,这就是iPad早年的产品定义。

    iPad进化的底色

    苹果发布会留下过很多「名场面」,初代iPad发布会的末尾就是一例。

    未来科技 2024年6月5日
  • 底层逻辑未通,影视业的AI革命正在褪色…

    GPT、Sora均为革命性产品,引发了舆论风暴,但它在上个月发布的“多模态语音对谈”Sky语音,却由于声音太像电影明星斯嘉丽·约翰逊,被正主强烈警告,被迫下架。

    华尔街日报也在唱衰,认为“AI工具创新步伐正在放缓,实用性有限,运行成本过高”:

    首先,互联网上已经没有更多额外的数据供人工智能模型收集、训练。

    03、

    如果说训练“数字人”、使用AI配音本质上瞄向的仍是影视行业固有的发展方向,那么还有另外一群人试图从根本上颠覆影视行业的生产逻辑和产品形态。

    但分歧点正在于此,电影公司希望通过使用AI技术来降低成本,但又不希望自己的内容被AI公司所窃取。

    未来科技 2024年6月5日
  • KAN会引起大模型的范式转变吗?

    “先变后加”代替“先加后变”的设计,使得KAN的每一个连接都相当于一个“小型网络”, 能实现更强的表达能力。

    KAN的主要贡献在于,在当前深度学习的背景下重新审视K氏表示定理,将上述创新网络泛化到任意宽度和深度,并以科学发现为目标进行了一系列实验,展示了其作为“AI+科学”基础模型的潜在作用。

    KAN与MLP的对照表:

    KAN使神经元之间的非线性转变更加细粒度和多样化。

    未来科技 2024年6月5日
  • 这个国家,也开始发芯片补贴了

    //mp.weixin.qq.com/s/tIHSNsqF6HRVe2mabgfp6Q
    [4]中国安防协会:欧盟批准430亿欧元芯片补贴计划:2030年产量占全球份额翻番.2023.4.19.https。//mp.weixin.qq.com/s/VnEjzKhmZbuBUFclzGFloA
    [6]潮电穿戴:印度半导体投资大跃进,一锤砸下1090亿,政府补贴一半.2024.3.5https。

    未来科技 2024年6月5日
  • 大模型的电力经济学:中国AI需要多少电力?

    这些报告研究对象(数字中心、智能数据中心、加密货币等)、研究市场(全球、中国与美国等)、研究周期(多数截至2030年)各不相同,但基本逻辑大同小异:先根据芯片等硬件的算力与功率,计算出数据中心的用电量,再根据算力增长的预期、芯片能效提升的预期,以及数据中心能效(PUE)提升的预期,来推测未来一段时间内智能数据中心的用电量增长情况。

    未来科技 2024年6月5日
  • 你正和20万人一起接受AI面试

    原本客户还担心候选人能否接受AI面试这件事,但在2020年以后,候选人进行AI面试的过程已经是完全自动化的,包括面试过程中AI面试官回答候选人的问题,AI面试官对候选人提问以及基于候选人的回答对候选人进行至多三个轮次的深度追问。

    以近屿智能与客户合作的校验周期至少3年来看,方小雷认为AI应用不太可能一下子爆发,包括近屿智能在内的中国AI应用企业或许要迎来一个把SaaS做起来的好机会。

    未来科技 2024年6月4日