M4芯片,苹果今年AI策略打响的第一枪

争夺端侧算力TOPS

M4芯片采用了第二代3纳米工艺,拥有10个CPU内核和10个GPU内核。

端到端的AI用户体验

就在苹果发布M4芯片的头一天,传出了苹果在做数据中心推理芯片的消息,这个内部项目代号AC/DC(Apple。

苹果有一个顶尖的芯片设计团队,但是因为苹果不做AI服务器芯片,技术人才在流失,许多人跳槽或者创业去了。

苹果在新版本的iPad Pro发布会上,推出了一款M4芯片,让库克可以宣称胜过当下任何所谓的AI PC。

他话中有话。或许是指微软,可能将于两周后在其Build开发者大会上推出的Surface笔记本电脑,可能搭载了高通的骁龙X Elite芯片。

不止于此。M4的发布,是苹果今年AI策略打响的第一枪。

争夺端侧算力TOPS

M4芯片采用了第二代3纳米工艺,拥有10个CPU内核和10个GPU内核。苹果最想强调的,是它的16核38TOPS的“神经网络引擎” (即业内俗称的NPU)性能。苹果还指出,M芯片是业内最早具备NPU的芯片。而在以往,苹果并不怎么突出这一点。

发布的时机相当不寻常。苹果首次在iPad而不是Mac的发布会上发布M系列芯片。M3芯片仅仅发布了7个月,但它很快被高通发布的骁龙X Elite和Plus系统芯片超过。M3的NPU功能仅有18 TOPS,而骁龙X Elite的NPU功能达到45 TOPS。

TOPS的意思是万亿次浮点运算,它决定着端侧的生成式AI计算力。M4的38TOPS,仍低于业内逐渐公认的AI PC配置40 TOPS NPU的标准。尽管M4比骁龙 X 的NPU拥有更高的精度,实际应用起来在深度学习的许多方面表现出优势,但从营销的角度考虑,苹果芯片中的NPU,可能需要更多的TOPS。

大模型向端侧部署,不仅是生成式AI最大的应用场景,而且也是端侧设备最重要的创新点——个人AI终将落地于个人设备。

AI正在席卷所有的端侧设备,从PC、手机、平板到汽车。在这样一个技术和产品变革中,苹果已经被市场认为行动有些迟缓。苹果既然放弃了汽车,而Vision Pro仍然需要一个成熟的过程,在现有的设备上能否引领AI用户体验,成为今年苹果面临的最大挑战。

苹果最大的底气,仍然是其软硬件结合的技艺。芯片、操作系统、产品设计所构成的精良制作和用户体验,在当下的问题就是如何把大模型完美地集成进去。

苹果在为其设备上能跑本地大模型做准备。在下个月举行的苹果开发者大会上,苹果将会推出iOS18及iPadOS18。

但最重要的,仍然是芯片。M4与今年秋季即将推出的A18芯片,都将突出其的NPU优势。拥有芯片,就能在系统层面产生持续的、丰富的产品差异化机会。

但在AI时代,仅有端侧的芯片能力是不够的。最终在设备上所有的AI应用、所有的运行的大模型的用户体验,仅仅有端侧芯片还不够。

端到端的AI用户体验

就在苹果发布M4芯片的头一天,传出了苹果在做数据中心推理芯片的消息,这个内部项目代号AC/DC(Apple Chips in Data Center)。苹果一如既往地保密,据说已经和台积电偷偷搞了好几年了。(但也有消息指出该消息不实,彭博社记者Mark Gurman对此表示:“这个项目已被取消,苹果不会制造自己的AI服务器芯片,因为成本原因与缺乏差异化。”)

M4和A18可能已经解决了端侧部署模型的异构算力问题。但这还不够,因为用户仍然需要云计算,需要由本地计算与云计算的结合,才能获得生成式AI的完整体验。苹果需要在云和端混合的神经网络计算,才能提供让用户期待的推理。

苹果需要在数据中心的层面开始,建立起推理引擎。从芯片设计开始建立推理引擎服务,已经出现了类似Groq这样的公司,它从推理芯片做起,以数据中心为基础提供了最快速的推理引擎,SOTA的开源大模型,都能在这样一个推理引擎上跑出最快的速度。速度对于视频,对于在建立起AI代理的工作流中特别重要。

在速度与准确之间存在着矛盾,如何做到速度与准确性兼得,这需要在推理服务与具体的应用场景结合起来,关键是性价比、总拥有成本(TCO)、与用户体验的“最优解”。这是苹果需要解决的问题。用端到端的方法,把服务器芯片、端侧芯片、大模型的部署与适配、操作系统结合起来,才能解决AI用户体验最基本的推理问题。

巨头要做AI,必须加入AI军备竞赛:芯片,算力集群,基础设施。苹果正在逐步认清这个道理。

在生成式AI时代,在这个快速变化、技术曲线陡峭上升的阶段,苹果需要成为这条曲线的一部分,否则,它将被这条曲线抛弃,失去它自己的下一条曲线。

这条曲线的最底层逻辑,是AI计算。在技术变革期,苹果必须象它最初做PC一样,像做个人计算一样,只有垂直整合,才能最后建立起真正的AI用户体验。

不向英伟达交税

在科技巨头中,最牛的就是能“收税”的。苹果凭借其生态系统,成功地从其开发者和生态合作伙伴那里收取了高额的费用——最高如谷歌搜索引擎的每年高达200亿美元的费用,达到其广告收入的36%。

现在又来了个比苹果更能收税的,就是英伟达,它的毛利率在80%左右,如果算上H100短缺在市场上的加价,它的毛利率可以达到90%。

处于食物链金字塔顶端的苹果,不会接受向英伟达直接交税。苹果生态用的数十亿设备及其用户,可能是世界上最大的推理算力的需求方,它必须为自己建立起推理的数据中心,这就需要推理AI芯片做起,建立起自己的算力集群。

苹果有一个顶尖的芯片设计团队,但是因为苹果不做AI服务器芯片,技术人才在流失,许多人跳槽或者创业去了。最知名的如跳槽到高通的Gerard Williams III。高通一直在试图进入数据中心领域。

除了英伟达之外,M7中的5家,都已经在自研GPU应用芯片,只剩下苹果了。

本文来自微信公众号:未尽研究 (ID:Weijin_Research),作者:未尽研究

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
(0)
上一篇 2024年5月8日 13:43
下一篇 2024年5月8日 14:35

相关推荐

  • 水温80度:AI行业真假繁荣的临界点

    我们从来没拥有过这么成功的AI主导的产品。

    (这种分析统计并不那么准,但大致数量级是差不多的)

    这两个产品碰巧可以用来比较有两个原因:

    一个是它们在本质上是一种东西,只不过一个更通用,一个更垂直。

    蓝海的海峡

    未来成功的AI产品是什么样,大致形态已经比较清楚了,从智能音箱和Copilot这两个成功的AI产品上已经能看到足够的产品特征。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时“罢工”,全网打工人都慌了

    美西时间午夜12点开始,陆续有用户发现自己的ChatGPT要么响应超时、要么没有对话框或提示流量过载,忽然无法正常工作了。

    因为发现AI用久了,导致现在“离了ChatGPT,大脑根本无法运转”。”

    等等,又不是只有一个聊天机器人,难道地球离了ChatGPT就不转了。

    大模型连崩原因猜想,谷歌躺赢流量激增6成

    GPT归位,人们的工作终于又恢复了秩序。

    未来科技 2024年6月5日
  • ChatGPT宕机8小时,谷歌Gemini搜索量激增60%

    ChatGPT一天宕机两次

    谷歌Gemini搜索量激增近60%

    ChatGPT在全球拥有约1.8亿活跃用户,已成为部分人群工作流程的关键部分。

    过去24小时内提交的关于OpenAI宕机的问题报告

    图片来源:Downdetector

    ChatGPT系统崩溃后,有网友在社交媒体X上发帖警告道:“ChatGPT最近发生的2.5小时全球中断,为我们所有依赖AI工具来支持业务的人敲响了警钟。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时大崩溃,AI集体罢工让全网都慌了

    接着OpenAI也在官网更新了恢复服务公告,表示“我们经历了一次重大故障,影响了所有ChatGPT用户的所有计划。Generator调查显示,在ChatGPT首次故障后的四小时内,谷歌AI聊天机器人Gemini搜索量激增60%,达到327058次。

    而且研究团队表示,“Gemini”搜索量的增长与“ChatGPT故障”关键词的搜索趋势高度相关,显示出用户把Gemini视为ChatGPT的直接替代选项。

    未来科技 2024年6月5日
  • 深度对话苹果iPad团队:玻璃的传承与演变

    iPad最为原始的外观专利

    没错,这就是iPad最初被设想的样子:全面屏,圆角矩形,纤薄,就像一片掌心里的玻璃。

    2010年发布的初代iPad

    好在乔布斯的遗志,并未被iPad团队遗忘。

    初代iPad宣传片画面

    乔布斯赞同这一想法,于是快速将资源投入平板电脑项目,意欲打造一款与众不同的「上网本」,这就是iPad早年的产品定义。

    iPad进化的底色

    苹果发布会留下过很多「名场面」,初代iPad发布会的末尾就是一例。

    未来科技 2024年6月5日
  • 底层逻辑未通,影视业的AI革命正在褪色…

    GPT、Sora均为革命性产品,引发了舆论风暴,但它在上个月发布的“多模态语音对谈”Sky语音,却由于声音太像电影明星斯嘉丽·约翰逊,被正主强烈警告,被迫下架。

    华尔街日报也在唱衰,认为“AI工具创新步伐正在放缓,实用性有限,运行成本过高”:

    首先,互联网上已经没有更多额外的数据供人工智能模型收集、训练。

    03、

    如果说训练“数字人”、使用AI配音本质上瞄向的仍是影视行业固有的发展方向,那么还有另外一群人试图从根本上颠覆影视行业的生产逻辑和产品形态。

    但分歧点正在于此,电影公司希望通过使用AI技术来降低成本,但又不希望自己的内容被AI公司所窃取。

    未来科技 2024年6月5日
  • KAN会引起大模型的范式转变吗?

    “先变后加”代替“先加后变”的设计,使得KAN的每一个连接都相当于一个“小型网络”, 能实现更强的表达能力。

    KAN的主要贡献在于,在当前深度学习的背景下重新审视K氏表示定理,将上述创新网络泛化到任意宽度和深度,并以科学发现为目标进行了一系列实验,展示了其作为“AI+科学”基础模型的潜在作用。

    KAN与MLP的对照表:

    KAN使神经元之间的非线性转变更加细粒度和多样化。

    未来科技 2024年6月5日
  • 这个国家,也开始发芯片补贴了

    //mp.weixin.qq.com/s/tIHSNsqF6HRVe2mabgfp6Q
    [4]中国安防协会:欧盟批准430亿欧元芯片补贴计划:2030年产量占全球份额翻番.2023.4.19.https。//mp.weixin.qq.com/s/VnEjzKhmZbuBUFclzGFloA
    [6]潮电穿戴:印度半导体投资大跃进,一锤砸下1090亿,政府补贴一半.2024.3.5https。

    未来科技 2024年6月5日
  • 大模型的电力经济学:中国AI需要多少电力?

    这些报告研究对象(数字中心、智能数据中心、加密货币等)、研究市场(全球、中国与美国等)、研究周期(多数截至2030年)各不相同,但基本逻辑大同小异:先根据芯片等硬件的算力与功率,计算出数据中心的用电量,再根据算力增长的预期、芯片能效提升的预期,以及数据中心能效(PUE)提升的预期,来推测未来一段时间内智能数据中心的用电量增长情况。

    未来科技 2024年6月5日
  • 你正和20万人一起接受AI面试

    原本客户还担心候选人能否接受AI面试这件事,但在2020年以后,候选人进行AI面试的过程已经是完全自动化的,包括面试过程中AI面试官回答候选人的问题,AI面试官对候选人提问以及基于候选人的回答对候选人进行至多三个轮次的深度追问。

    以近屿智能与客户合作的校验周期至少3年来看,方小雷认为AI应用不太可能一下子爆发,包括近屿智能在内的中国AI应用企业或许要迎来一个把SaaS做起来的好机会。

    未来科技 2024年6月4日