端侧AI,大模型的新战场?

 
去年10月,高通发布全新骁龙8Gen3处理器,并重点强调了这枚芯片在AI方面上的能力:支持终端侧运行100亿参数的模型,面向70亿参数大语言模型每秒生成20个token。
 
芯片厂商提供了基础能力,终端厂商也随即开启“你方唱罢我登场”的模式,在短短一个月内,几乎所有的手机厂商都宣布已经在端侧跑通了自研的大语言模型。
 
暂且不论“AI手机”、“AIPC”在功能实现上如何,一个需要被前置讨论的问题是:端侧AI存在的意义是什么。

出品 | 虎嗅科技组

头图 | 视觉中国

 

有种观点认为,如今的智能手机已经成为人类的外部器官。但一个容易被忽视的事实是,这个器官在过去10年几乎没有任何革命性的进步。

 

10年前,全球智能手机市场出货量达到10.042亿部,同比暴涨38.4%。盛极而衰,那一年也成为了智能手机行业最后的辉煌,自此之后,市场增长开始逐渐放缓,直到完全失去增量。

 

最后一次回光返照——5G换机潮后的市场疲软,足以说明移动互联网的红利,其实早就被终端厂商和应用厂商消耗殆尽。

 

然而,有些事情正在这个行将就木的行业中悄然发生。

 

去年10月,高通发布全新骁龙8Gen3处理器,并重点强调了这枚芯片在AI方面上的能力:支持终端侧运行100亿参数的模型,面向70亿参数大语言模型每秒生成20个token;用时不到一秒就可以在终端侧通过Stable Diffusion生成图片。

 

芯片厂商提供了基础能力,终端厂商也随即开启“你方唱罢我登场”的模式,在短短一个月内,几乎所有的手机厂商都宣布已经在端侧跑通了自研的大语言模型。

 

同一时期,更加“古老”的PC行业也没有闲下。年初,在英特尔酷睿Ultra处理器后,包括联想、华硕、惠普、戴尔在内的多家厂商,都拿出了自己的“AIPC”方案。

 

暂且不论“AI手机”、“AIPC”在功能实现上如何,一个需要被前置讨论的问题是:端侧AI存在的意义是什么?

 

目前最集中的观点是,端侧AI在效率和安全性上有着不可替代的优势。

 

安全性自然不必多说,在用户数据无需上传至云端的情况下,隐私安全的确能从根本上得到保障。在效率方面,PC行业的领军企业联想主张在端侧混合使用CPU、GPU和NPU,搭建异构计算架构,能够使计算效率达到最高。

 

而相较于联想的“大包大揽”,也有体量稍小的手机厂商提出了更加前卫的方案。

 

魅族认为,手机厂商缺少做大模型的基因,一味地拼参数没有意义。他们更倾向于打造一个完全开放的平台,供大模型平台使用,包括但不局限于向开发者提供系统权限、API文档,并开放处理器的AI算力,让开发者拥有充分的自由度,从而实现更多创新功能和应用服务的制作。

 

除以上的技术路径外,大模型在端侧还有哪些表现形式?目前端侧AI还有哪些前沿进展?未来端侧AI还有哪些商业机遇?

 

2024年1月27日,虎嗅前沿科技组特邀行业技术专家与创业者,共同讨论端侧AI领域的商业实践、技术实践、创投机会、探索方向。

 

活动概况:

 

活动名称:2024 AI内参会

 

活动时间:2024年3月31日,14:00-17:00

 

活动地点:北京·虎嗅二层(万科时代中心·十里)

 

欢迎扫描海报中的二维码报名,我们一起讨论端侧AI的无限可能!

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
(0)
上一篇 2024年3月27日
下一篇 2024年3月27日

相关推荐

  • 水温80度:AI行业真假繁荣的临界点

    我们从来没拥有过这么成功的AI主导的产品。

    (这种分析统计并不那么准,但大致数量级是差不多的)

    这两个产品碰巧可以用来比较有两个原因:

    一个是它们在本质上是一种东西,只不过一个更通用,一个更垂直。

    蓝海的海峡

    未来成功的AI产品是什么样,大致形态已经比较清楚了,从智能音箱和Copilot这两个成功的AI产品上已经能看到足够的产品特征。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时“罢工”,全网打工人都慌了

    美西时间午夜12点开始,陆续有用户发现自己的ChatGPT要么响应超时、要么没有对话框或提示流量过载,忽然无法正常工作了。

    因为发现AI用久了,导致现在“离了ChatGPT,大脑根本无法运转”。”

    等等,又不是只有一个聊天机器人,难道地球离了ChatGPT就不转了。

    大模型连崩原因猜想,谷歌躺赢流量激增6成

    GPT归位,人们的工作终于又恢复了秩序。

    未来科技 2024年6月5日
  • ChatGPT宕机8小时,谷歌Gemini搜索量激增60%

    ChatGPT一天宕机两次

    谷歌Gemini搜索量激增近60%

    ChatGPT在全球拥有约1.8亿活跃用户,已成为部分人群工作流程的关键部分。

    过去24小时内提交的关于OpenAI宕机的问题报告

    图片来源:Downdetector

    ChatGPT系统崩溃后,有网友在社交媒体X上发帖警告道:“ChatGPT最近发生的2.5小时全球中断,为我们所有依赖AI工具来支持业务的人敲响了警钟。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时大崩溃,AI集体罢工让全网都慌了

    接着OpenAI也在官网更新了恢复服务公告,表示“我们经历了一次重大故障,影响了所有ChatGPT用户的所有计划。Generator调查显示,在ChatGPT首次故障后的四小时内,谷歌AI聊天机器人Gemini搜索量激增60%,达到327058次。

    而且研究团队表示,“Gemini”搜索量的增长与“ChatGPT故障”关键词的搜索趋势高度相关,显示出用户把Gemini视为ChatGPT的直接替代选项。

    未来科技 2024年6月5日
  • 深度对话苹果iPad团队:玻璃的传承与演变

    iPad最为原始的外观专利

    没错,这就是iPad最初被设想的样子:全面屏,圆角矩形,纤薄,就像一片掌心里的玻璃。

    2010年发布的初代iPad

    好在乔布斯的遗志,并未被iPad团队遗忘。

    初代iPad宣传片画面

    乔布斯赞同这一想法,于是快速将资源投入平板电脑项目,意欲打造一款与众不同的「上网本」,这就是iPad早年的产品定义。

    iPad进化的底色

    苹果发布会留下过很多「名场面」,初代iPad发布会的末尾就是一例。

    未来科技 2024年6月5日
  • 底层逻辑未通,影视业的AI革命正在褪色…

    GPT、Sora均为革命性产品,引发了舆论风暴,但它在上个月发布的“多模态语音对谈”Sky语音,却由于声音太像电影明星斯嘉丽·约翰逊,被正主强烈警告,被迫下架。

    华尔街日报也在唱衰,认为“AI工具创新步伐正在放缓,实用性有限,运行成本过高”:

    首先,互联网上已经没有更多额外的数据供人工智能模型收集、训练。

    03、

    如果说训练“数字人”、使用AI配音本质上瞄向的仍是影视行业固有的发展方向,那么还有另外一群人试图从根本上颠覆影视行业的生产逻辑和产品形态。

    但分歧点正在于此,电影公司希望通过使用AI技术来降低成本,但又不希望自己的内容被AI公司所窃取。

    未来科技 2024年6月5日
  • KAN会引起大模型的范式转变吗?

    “先变后加”代替“先加后变”的设计,使得KAN的每一个连接都相当于一个“小型网络”, 能实现更强的表达能力。

    KAN的主要贡献在于,在当前深度学习的背景下重新审视K氏表示定理,将上述创新网络泛化到任意宽度和深度,并以科学发现为目标进行了一系列实验,展示了其作为“AI+科学”基础模型的潜在作用。

    KAN与MLP的对照表:

    KAN使神经元之间的非线性转变更加细粒度和多样化。

    未来科技 2024年6月5日
  • 这个国家,也开始发芯片补贴了

    //mp.weixin.qq.com/s/tIHSNsqF6HRVe2mabgfp6Q
    [4]中国安防协会:欧盟批准430亿欧元芯片补贴计划:2030年产量占全球份额翻番.2023.4.19.https。//mp.weixin.qq.com/s/VnEjzKhmZbuBUFclzGFloA
    [6]潮电穿戴:印度半导体投资大跃进,一锤砸下1090亿,政府补贴一半.2024.3.5https。

    未来科技 2024年6月5日
  • 大模型的电力经济学:中国AI需要多少电力?

    这些报告研究对象(数字中心、智能数据中心、加密货币等)、研究市场(全球、中国与美国等)、研究周期(多数截至2030年)各不相同,但基本逻辑大同小异:先根据芯片等硬件的算力与功率,计算出数据中心的用电量,再根据算力增长的预期、芯片能效提升的预期,以及数据中心能效(PUE)提升的预期,来推测未来一段时间内智能数据中心的用电量增长情况。

    未来科技 2024年6月5日
  • 你正和20万人一起接受AI面试

    原本客户还担心候选人能否接受AI面试这件事,但在2020年以后,候选人进行AI面试的过程已经是完全自动化的,包括面试过程中AI面试官回答候选人的问题,AI面试官对候选人提问以及基于候选人的回答对候选人进行至多三个轮次的深度追问。

    以近屿智能与客户合作的校验周期至少3年来看,方小雷认为AI应用不太可能一下子爆发,包括近屿智能在内的中国AI应用企业或许要迎来一个把SaaS做起来的好机会。

    未来科技 2024年6月4日