别硬把大模型往手机里塞

10月18日,联发科同样宣布与vivo在AI领域深度合作和联调,实现了10亿和70亿AI大语言模型以及10亿AI视觉大模型在手机端侧的落地,共同为消费者带来端侧生成式AI应用创新体验。
结合云端和本地的大模型不仅可以有效地节省成本,而且能够满足用户在计算能力、性能、能耗和隐私保护等多个方面的需求,这无疑是目前整合手机和AI大模型的优选策略之一。

商业迷雾当中,那些看似金光闪闪的“机会”,往往是一把将人们困住的镣铐。

CNBC最新消息称,全球芯片巨头高通打算在加州两大据点砍掉约1258名员工。事实上,高通早就向加州就业部门送交了这份“死亡名单”:圣迭戈1064名、圣克拉拉194名。这场人事地震预计将在12月13日爆发。

高通上个季度的报告中,已经暗示了这次“血洗”。从财务结构来看,手机芯片是高通的主要收入来源,占比超过一半,但在三季度里收入同比下降了21.6%。智能手机市场的饱和,像一把无形的大手,正在悄悄扼杀上游供应链的巨头。

手机市场的增长现在主要依赖于设备的升级周期。自2019年以来,受5G驱动的手机更换热潮已经持续了近四年。但Counterpoint的资深分析师Peter Richardson却揭示了一个冷酷的事实:到2022年时,全球手机更换周期已达到史上最长的43个月。

过去五年,手机界苦苦追寻创新之路,急于改变僵局。但当连Apple这样的市场领导者也难以拿出令人震撼的新功能时,其他厂商更是难以维持其市场地位。越来越多的消费者开始质疑,换一部新手机的价值究竟在哪?

有行业专家指出,真正的破局点或许是软件,尤其是AI领域像LLM、Transformer等大模型背后蕴藏着的力量。

尽管目前还不清楚,该如何最大化地利用这些潜力,但这并不妨碍国内手机巨头试图突围。华米OV等都把目光瞄准了AI大模型,迫切要开辟一个新战场。

手机巨头争斗大模型赛场

一时之间,国内手机厂商好像都追起了大模型的风头。

8月14日,小米年度发布会上,小米AI大模型亮相,霎那之间成为焦点。在C-Eval、CMMLU两大测试平台上,它分别斩获第十名和中文榜首的佳绩。

雷军信心满满地宣布,小米的这个13亿参数大模型已经在手机端完美运行,其实力在某些场景中甚至能与60亿参数的云端模型匹敌。而家喻户晓的小爱同学也将强化AI大模型的能力,邀请测试已在发布会当天拉开序幕。

瞄准AI大模型的狼烟不只在小米一处升起。

早在8月4日的2023年华为开发者大会,余承东就大手一挥,宣布HarmonyOS 4将受益于“盘古大模型”的加持。与众不同的是,华为决定将大模型深度整合进手机系统,实现更高层次的融合。

继华米之后,vivo和OPPO亦不断展露其对大模型领域的雄心。

近期,OPPO宣布对其全新“小布助手”进行首轮公开测试,引发业内关注。此产品基于了AndesGPT大模型技术。

AndesGPT模型出自OPPO旗下安第斯智能云团队之手,其核心是一个基于混合云架构的高级生成式大语言模型。用户可以通过唤醒小布语音助手并说出“小布大模型”,参与小布1.0公测版报名。更多信息将在11月16日的ColorOS 14发布会上公布。

与同行的宣传异曲同工,AndesGPT在其官方介绍中也荣获了“行业翘楚”等封号,此模型在多个权威评测榜单上频频亮相。

另一个战线上,vivo已锁定11月1日,要召开年度开发者大会。此番集结,vivo将揭晓其独家研发的AI大模型与全新操作系统;而广受瞩目的OriginOS 4也将初露锋芒。

尤其引人关注的,vivo打造的AI大模型矩阵极为丰富,覆盖了十亿、百亿及千亿三大参数级别,共五款模型,旨在满足多样化的核心应用场景。

同样,这批尚在神秘面纱后的产品,已在多个权威评测中崭露头角。最新数据显示,vivo自研AI大模型在C-Eval和CMMLU两大平台上均雄踞榜首。

近期,手机行业已经见证了各大品牌逐个投身于AI大模型的深海。存量市场的激烈争夺,使得各大厂商都希望借助新技术锋芒,为自身在高端市场塑造更具竞争力的形象。

多位行业内有深度洞察的人士认为,强调AI功能的优势,显然是各大厂商策略的重要一环。不仅能刺激用户对高端产品的欲望,更能带动产品价格上涨,从而为品牌创造更为丰厚的利润。

随着时间的推移或能见到,首波真正的“AI手机”即将震撼登场,而未来两年,更会是AI在手机上的创新大爆发时刻。

大模型角逐移动端,路径逐渐统一

虽然手机厂商们在宣传中表现得在手机上运行大型模型就如同喝水吃饭般轻松,但实际操作中,背后隐藏的挑战远超预期。

根据小米技术委员会AI实验室大模型团队负责人栾剑的分享,要真正在手机上运行大模型,对手机硬件的要求绝不会低,特别是处理器和内存两项。

大模型首先就是其“大”的特性,一旦占据过多的手机工作内存,将导致其他应用受限,甚至可能造成手机无响应、整体性能锐减,或者最糟糕的情况是直接死机。

此外,计算能力也是评判的关键点。若生成一个字符就需要花费好几秒的时间,这对于用户体验无疑是灾难性的。考虑到人们的平均阅读速度约为每秒十几个汉字,故模型的“生成速度”必须远超于此。

而功耗问题也不容忽视。许多网上的模型Demo常常疏忽这一关键环节。高负载下的计算芯片会导致手机急速发热,若如此长时间运作,势必会对电池的续航产生严重损害。

综上,手机大模型真正的挑战在于如何在处理速度、散热和电池续航等之间找到一个精妙的平衡。因此,业界的重心还放在了端云协同之上。

不久前,联发科与OPPO达成协议,共同研发大模型在端侧的轻量化部署方案,旨在让大模型技术更为贴近消费者的实际使用。

10月18日,联发科同样宣布与vivo在AI领域深度合作和联调,实现了10亿和70亿AI大语言模型以及10亿AI视觉大模型在手机端侧的落地,共同为消费者带来端侧生成式AI应用创新体验。

端侧大模型的好处是,用户可以享受更快的响应速度,同时数据也不需要上传到云端,更加安全。目前许多主流厂商都在研发在移动终端部署 AI大模型的解决方案,以实现在端侧运行大模型的目标。

然而,不能假定仅凭手机端便能解决所有问题。正如小米透露的,他们将继续遵循端云结合的策略。某些功能或能力,如果可以通过端侧的模型来实现,就无需转移到云端处理。

观察vivo的情况,虽然缺乏确切的数据,但可以合理推测,它也将采纳云端和本地结合的大模型策略。

从其大模型的参数量级可以分析,660亿、1300亿和1750亿量级的云端大模型目的在于确保处理能力,以应对更复杂的问题。而10亿和70亿量级的本地大模型则是为了确保用户隐私、能效和快速响应。

这意味着,vivo很可能会采取端云协同工作的方式,即通过评估问题的复杂性来决定是否在本地处理或转移到云端。

结合云端和本地的大模型不仅可以有效地节省成本,而且能够满足用户在计算能力、性能、能耗和隐私保护等多个方面的需求,这无疑是目前整合手机和AI大模型的优选策略之一。

厂商跟风之下,一些潜在的挑战

某些业内观点,将目前尝试在手机端运行大模型的技术视作一柄锋利之剑。然而深入背后,也不免露出一种应景而非真正求变的短视之感。

首先,对于“大模型”的界定仍旧模糊不清。以小米的端侧模型为例,其参数量达到13亿,与GPT2的1.5B参数相差无几,但这真的足以赋予其“大模型”的头衔吗?

不乏有业界人士抛出质疑:手机端的大模型实践,更多地是为了满足市场短期热潮,而非技术的真正跃进。若手机真的能毫不费力地驱动大模型,那显卡巨头英伟达的存在意义又在哪里?

再者,为了让大模型适应手机,制造商不得不通过剪枝、蒸馏和量化等策略对其进行大幅压缩。以vivo为例,它可能通过连续的模型裁剪和蒸馏,将参数从1750亿降低到仅10亿,这种操作是否过于牵强,值得思考。

要认识到,大模型并不仅仅是参数数量的简单叠加,它的真正价值在于深度学习中的“深度”。大量的参数意味着更多的信息、知识和上下文的捕捉。

因此,当把一款千亿参数的模型剪裁到几十亿参数时,势必要失去一些原有的学习深度。对于AI的日常应用来说,可能影响不大,但对于那些期望从AI获得深度见解和理解的高端用户来说,这种损失是无法接受的。

即便小米宣称其端侧模型能与云端模型相提并论,但这其中的细节仍不容忽视。拥有13亿参数的端侧模型自然难以与拥有千亿参数的云端模型相比。为了弥补这种差距,小米可以选择让其端侧模型在特定场景下与云端模型匹敌,但终归不能全面比肩。

从这些层面出发,当前手机上的大模型实现方式似乎有点“矫枉过正”。对于普通用户而言,他们并不真正关心模型的参数数量,而更关心能为他们带来什么价值。vivo和小米的这些尝试固然值得鼓励,但也应该反思其真正的目的和意义。

更重要的是,尽管众多手机制造商都在积极探索AI大模型的应用,但未来的路径仍然充满未知。手机市场上,什么才是下一个“杀手级”应用,还有待时日揭晓。

目前手机制造商对AI大模型的具体应用似乎过于偏重“语音助手”。这种单一方向的追求,是否只是迎合了科技热点趋势,而非真正考虑用户的实际需求?

以近期知名博主对vivo新款AI大模型的分享为例,尽管其在OriginOS 4上以焕然新姿亮相,但与现行的语音助手相比,核心并无太大颠覆。

简而言之,AI大模型在手机领域的真正普及仍旧步履蹒跚。如今的种种努力,只是冰山初露的探秘之旅。

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
(0)
上一篇 2023年10月20日 15:31
下一篇 2023年10月20日 15:32

相关推荐

  • 抖音不再陪小杨哥“疯狂”

    就在抖音电商峰会一周前,快手一哥辛巴炮轰小杨哥,指责其在质检、售后、赔偿态度等方面存在问题,模仿辛选的商业模式,以及小杨哥此前销售的一些产品如茅台酒、梅菜扣肉等存在质量问题,如果小杨哥不处理,他将用一亿元替小杨哥进行赔付。
    在2022年9月的抖音电商作者峰会上,刚转型直播带货一年的小杨哥,第一次获得了抖音电商的卓越个人奖。
    在短视频时代,抖音成就了小杨哥,正如小杨哥感谢抖音那般,“它具有很强的开放性和包容性,它给每一个人都提供平等展示自我的机会”,小杨哥也为抖音带来了很多用户,高峰时期小杨哥抖音粉丝量超过了1.2亿。

    2024年9月20日
  • 科隆新材IPO:业绩波动、内控缺位或成上市“拦路虎”

    上半年业绩表现不佳
    科隆新材的主营业务是液压组合密封件和液压软管等橡塑新材料产品的研发、生产和销售,以及煤矿辅助运输设备的整车设计、生产、销售和维修,同时也为风电、军工、高铁等行业客户提供定制化橡塑新材料产品。
    同时,如果未来煤炭主体能源地位被快速替代,下游客户新机装备需求减少,科隆新材又未能拓展旧机维修业务,或是未能适应市场变化、新技术和新产品未能顺应市场发展趋势,那么科隆新材就存在橡塑新材料产品经营业绩下滑的风险,甚至可能会对公司整体经营业绩造成不利影响。

    商业密码 2024年9月20日
  • 淘宝倒逼新风向:一场电商减负运动

    但售后服务同时也是电商变革最复杂的一环,开店、佣金、流量推广都只是商家与平台间的服务交易,售后却涉及平台导向、商家成本和消费者体验三方,且受社会消费情绪变化、平台生态优劣的直接制约,是各方利益最难平衡的地方。
    我们也发现,在这个过程中,电商平台的自我角色定位也在调整,从推出「仅退款」的游戏规则制定者、大家长,逐渐过渡到生态系统的设计者、平衡商家和消费者利益的服务商。

    商业密码 2024年9月20日
  • 博浪AI时代,阿里、华为“硬碰硬”

    根据申万一级行业分类,阿里巴巴概念板块156家上市公司分布于22个行业,其中传媒、电子、商贸零售、通信、医药生物分别聚集了50、25、13、11、9只概念股。
    根据申万一级行业分类,华为概念板块896家上市公司分布于28个行业,其中,计算机、电子、机械设备、通信、电力设备分别聚集了220、193、92、65、61只概念股。

    商业密码 2024年9月20日
  • 员工挂“罪牌”戴纸托手铐引质疑,80后王云安创立的古茗又“翻车”了

    员工头挂“罪牌”手戴纸托手铐,古茗玩梗惨遭翻车
    近日,古茗员工头挂“罪牌”、手戴形似手铐纸托的视频,在社交平台上广泛传播,引发诸多网友热议。
    至于上海,王云安认为该市场毗邻浙江,因此会有一定的消费者基础,但是上海奶茶行业竞争激烈,外卖比例很高,相对来说门店的收益更难做好,“我们在进省会城市,以及大的一线城市的时候,我们一定是做好准备了再去的,比如上海的消费者到底要什么,我们进去应该怎么做才可以让更多的店做得更好,古茗能够给上海的消费者带来什么样的不同呢,这些是我们要去思考的。

    商业密码 2024年9月20日
  • 古井教父悲情收场

    1986年之后的十年里,古井的资产增长了18倍,利润增长了24倍,王效金也因此被称为“古井教父”,甚至是“中国酒界第一人”。
    这款拥有1800多年历史的安徽名酒也许永远也不会再与茅台并肩了,但如今也可以称得上再度振兴,尤其是这一切还建立在王效金的固执和自大,当年差一点毁了古井贡酒的基础上。
    他甚至曾经在公开场合说过,王效金就是古井,古井就是王效金,“效忠”古井就是效忠他。

    2024年9月20日
  • 直言AI不如原创,吴克群凭什么?

    吴克群的原创音乐哲学
    来到《音乐缘计划》,吴克群分外真诚。
    如此来看,吴克群选择参与《音乐缘计划》这一原创音乐综艺,正是源自于他与原创音乐人之间的惺惺相惜。
    在分享创作心得、探讨音乐理念时,吴克群不再简单是一个综艺节目的嘉宾,他也是作为一名原创音乐人出现在舞台上,让一切热爱与纯粹都具象化。
    于是,面对当下音乐生态的顽疾,新生代音乐人的困境,吴克群会在稳定的音乐事业之外,积极参与各种原创音乐活动。

    商业密码 2024年9月20日
  • 专门“收割”妈妈们的特百惠,被时代抛弃了

    02特百惠被时代抛弃了
    《新品略财经》记得三四年前,在深圳龙华区某购物中心还开了一家特百惠的店,也曾在店里买过东西,当时的印象是特百惠的产品卖得还不错。
    在《新品略财经》看来,特百惠既是时代的产物,也是被时代抛弃的产物,这与消费环境、消费需求、市场竞争,乃至是与特百惠的传统商业模式等各方面密切相关。
    从产品层面来说,特百惠是化学科技运用到日用物品的代表案例,在特百惠诞生的年代,家庭有着食物保鲜难的痛点,特别是在冰箱不普及的年代,特百惠犹如“刚需”般存在。

    商业密码 2024年9月20日
  • 县城消费的另一面:喝奶茶的少了,钓鱼的多了

    图源:作者拍摄

    图源:作者拍摄
    刘子涵继续说道,现在同学之所以不愿意喝新茶饮,还有一部分原因是,学生们对新茶饮的口感愈发失去新鲜感。

    图源:作者拍摄
    但并不是所有县城零食折扣店都这么火爆,中秋节假日当晚当地赵一鸣零食折扣店偌大的门店看不到太多顾客,收银台前也仅有几个顾客在排队结算。

    图源:受访者提供

    有人为钓鱼投入千元,有人干起代购
    和新茶饮相对冷清、零食折扣店门店客流分化不同的是,部分业态在县城仍迎来火爆。

    2024年9月19日
  • 闪回科技二度冲刺港股,深陷盈利困境,雷军看走眼了?

    在回收生意的上游,闪回科技通过闪回收从消费电子厂商、零售商、运营商以及C端消费者处获取二手手机供给。
    在下游销售端,闪回科技以“闪回有品”面向B端商户和消费者进行二手机和新机的销售,公司接近90%营收由闪回有品贡献。”

    B端渠道的手机厂商是闪回科技高增长最大的助力,但与之相伴的是,面对强势的手机大厂,闪回科技没有议价权,还需要向手机厂商支付高昂的保证金和促销服务费。

    2024年9月19日