一朵华为云,如何做好百模千态?丨华为全联接大会2023

近期的华为全联接大会2023,华为云公布了一系列实践,进一步印证了软硬结合的深层次逻辑:
面向底层算力,宣布华为云昇腾AI云服务正式上线,提供算力集群、计算引擎CANN、AI开发框架MindSpore和AI开发平台ModelArts,构建AI云底座。据了解,全新的Stack8.3版本,提供了完整的AI生产链,包括AI算力、计算结构、框架、开发平台、开发套件、基础大模型以及专业服务,降低大模型的建设门槛。

文丨刘雨琦、郝鑫

2005年华为提出网络时代的“All IP”,2011年提出数字化时代的“All Cloud”,2023年提出智能时代的“All Intelligence”。

截至目前,华为的战略升级经历了三个阶段。

步入智能化,需要迎接的困难依然不少。在大模型能力涌现、多模态融合、MOE等趋势下,模型参数很快将从现在的5400亿超过数万亿,对海量的稳定算力、大规模并行训练、以及整体的架构设计都提出了更高要求。同时,数据集规模的快速增长,数据高效存储、清洗和标注的难度,以及海量Token的训练等充满挑战。

“可以说,大模型及相关应用是迄今为止最复杂的软硬件系统工程”, 华为云CTO张宇昕判断道。

在上篇 《全面智能化,华为的“硬功夫”》 中,我们总结在硬件层面,华为的策略是从底层建基开始做起, 以硬件为切入,打通感知层和连接层,凭借特色化行业军团打入各行各业,出具智能化解决方案。 也正是因为华为本身软硬一体化的特殊性,催生了其既要做好“硬件层”与“软件层”的连接,也要做好软件层与千行百业连接的需求。

近期的华为全联接大会2023,华为云公布了一系列实践,进一步印证了软硬结合的深层次逻辑:

面向底层算力,宣布华为云昇腾AI云服务正式上线,提供算力集群、计算引擎CANN、AI开发框架MindSpore和AI开发平台ModelArts,构建AI云底座;

面向客户、开发者开发训练,上线“昇腾AI云服务百模千态专区”,同时整合了应用开发需要的开发生产线、低码/无码平台、AI应用框架及全新的AI应用工程套件,降低开发门槛;

面向大模型落地,发布华为云Stack 8.3,提供13类100+云服务,重点增强盘古大模型、工业互联网、数据要素流通、软件开发生产线四大核心能力。

通过梳理本次大会内容,光锥智能发现,华为云服务总体分为两个大板块: 一是面向计算,以硬件交付为主、提供算力的业务;二是直接面向客户,以软件交付为主、提供服务的业务。

如果将华为提出的全面智能化战略形象化,算力就好比是引擎,计算就是发动机。华为云平台在其中承担连接器的角色,向下调用算力平台,向上兼容千行百业。对外,也给千行百业的智能化描绘工程图纸和提供工具。

昇腾AI云服务:算力的“输血泵”

随着大模型厂商的不断推进,让“大模型落地各行各业”正在一步步变成现实,这同时也激发了大规模底层算力调用的需求。

作为底层的算力,以前大多数情况下通过本地部署方式完成,而现在明显的变化是, 大模型开始推动算力基础设施不断“向上”,服务于千行百业的客户。

但要把算力直接部署在企业端,本身是件门槛极其高的事情,正如华为云代理厂商告诉光锥智能, “预算要千万级起步,其次还要配备技术研发团队”。这就导致,从计算平台到客户之间便产生了一道鸿沟。

谁来填补这道裂缝?华为给出的答案是“昇腾AI云服务”。据华为云透露,截至目前,其在贵安、乌兰察布、芜湖建设了3大AI算力中心。算力中心没办法直接提供服务,但通过云计算就可以把像水电一般的算力转化为“即开即用”的服务一起出售给用户。

就像一块块搭积木,昇腾AI云服务将算力平台和云计算平台的能力组合在了一起,硬件发挥传输信号、计算等能力,软件发挥数据传输、存储、加密等能力,软硬件一体化来实现效率的最大化。据了解, 目前基于华为昇腾AI云服务,同时通过软硬协同实现算子融合与混合精度的优化,让训练效率提升45%。

具体来看, 华为昇腾AI产业生态由云边端的硬件、异构计算架构、AI框架、应用使能和行业应用层构成,这几部分揭示了华为AI能力如何落地行业场景的全过程。

我们可以把上面这张图理解为一间正在投入生产的工厂。异构计算架构层好比一台万能的生产机器,它具有极强的兼容性,既支持CPU的引擎,也支持GPU、TPU的引擎,有了算力整个工厂才得以运作起来。

AI框架就好比是工人手中的图纸,只有对照着图纸,才能知道每一步的生产步骤。有了机器、图纸还不够,工厂还给每位工人配备了一些封装好的扳手、锤子等工具,这也就是“应用使能层”的作用。待工人将图纸的样式组装为现实的产品,会立即被分类投入到不同的产业线进行打包处理,这也等同于AI进入到了各个行业当中。

华为从最底层打造了一个最全的生产工厂,也提供了各类服务。如在异构计算架构层不仅支持不同类型的处理器,还提供了四种算力供给模式, 一种是直接卖服务器的裸算力模式;第二种是租服务器的租算力模式;第三种是通过服务器打造一个云服务空间,提供算力支持;最后一种是以MaaS服务的方式提供算力。

纵观全世界,谷歌、亚马逊等云厂商多以云算力模式、MaaS模式的方式提供算力,英伟达等硬件芯片厂商多以裸算力、多租户模式提供算力,很长一段时间内两者之间泾渭分明。

不过,多算力供给模式正在逐渐成为趋势。据外媒报道,英伟达已经开始通过与一些云厂商签订GPU合同,“逼迫”他们租用英伟达的服务器,以此来打通云算力和MaaS模式。

华为云:AI云基座和生产线

算力层的优势是一个新引擎,华为云才是带领华为智能化走向千行百业的那辆马车。

全联接大会中,除了发布昇腾AI云服务,华为云还升级了Stack 8.3版本,为企业提供一站式建设专属大模型的工具和服务。据了解,全新的Stack8.3版本,提供了完整的AI生产链,包括AI算力、计算结构、框架、开发平台、开发套件、基础大模型以及专业服务,降低大模型的建设门槛。

“大模型不是少数企业的专利”,华为云Stack总裁尚海峰说道:“华为希望让每个企业都拥有自己的大模型。”

但从企业内部来看,数据的实时采集受制于非数字化终端,数据的实时上传受制于低速网络,数据的实时分析受制于数据孤岛,行业数据难采、难传、难用,诸多因素都阻碍了智能化的进程。

带着这个思路再看Stack 8.3目前的产品布局,颇有种针对企业痛点逐个狙击的感觉。

比如在8.3版本中,重点对数据要素流通能力进行了增强,而这正是企业面临智能化的第一道难关。在数据实时采集方面,华为打造了感知层硬件进行支撑;为了解决上传速度的问题,华为QingTian架构基于高速新型网络协议,打破了算力、存储和网络的边界,完成对多算力的对等互联,以解决此前低速网络带来的数据传输时间过长、数据丢失等问题。

另一方面,数据需要在流通中才能充分体现价值,但当前业界仍然缺乏可信的数据流通机制,这样的挑战在大模型时代尤为突出。

数据是行业用户的核心资产和竞争优势的源泉,行业用户部分关键敏感数据难以实现共享或者“出厂”, 例如政务行业中涉及到城市发展、公共安全和个人隐私等方面的数据;金融行业中责权、债务关系相关的数据;制造业的资产明细、生产数据以及明确要求不可以出园区的数据等等,此时基础大模型难以适应行业智能化需求。

为此,每个云厂商都在着重建立保障数据要素流通过程中的安全可信机制。区块链和隐私计算成为其中最核心的能力,这原本是金融交易中的核心技术,如今也逐渐成为了基础能力。

在数据流通环节,区块链技术可以进行数据确权、防篡改,隐私计算技术确保数据在应用中“可用不可见、可算不可识”。华为Stack 8.3将上述多种技术进行数智融合,让企业可以实现算法、模型和数据集等高质量数据产品的开发,满足数据的使用标准;并通过EDS交换数据空间让数据可信流通与授权运营,确保数据不出域。

其他厂商也在数据层积极布局,蚂蚁专门推出了针对数据流通安全的平台“摩斯”,独立对外提供服务,产品化页面操作包含分布式和集中式计算模式提供安全匹配、匿名查询、安全模型、安全统计等各类产品。

保障数据安全和流通之后,面对智能化的应用开发,很多企业都是“丈二的和尚,摸不着头脑”。Stack 8.3版本是一站式开发平台,提供从编码规范、分布式构建、漏洞检查到协同开发等30多种核心能力,建立了流程、工具到经验一体的软件开发生产线CodeArts。

对比上文所提到的ModleArts的逻辑是一样的,几乎开发者在软件开发中的所有流程和工具、服务,都能够在CodeArts中找到答案。中国船舶集团旗下的海舟技术公司,专门负责船舶系统的软件业务和开发,基于CodeArts的结构化流程和契约化研发确保交付零偏差,实现千人高效协作,打造大型工业领域原创技术“策源地”。

无论是被动的一体化,还是主动的一站式,可以看出目前华为云的整体思路不仅要做深更要做广,为智能化时代,打造一个AI云基座。

5+N+X,解耦大模型解决方案

毫无疑问,大模型虽然不是智能化的全部,但却已经成为了企业智能化的灵魂。

在技术发展的早期,有时候建立标准比发展技术本身更加重要。 这也是华为云的思路。比如自动驾驶技术在发展的早期也曾经历混乱和迷茫,直到业内将自动驾驶技术分为L0-L5,框架清晰之后,才迎来了具体的技术突破和落地。

华为云认为对于大模型的思考也应该如此。基于思考,华为云将大模型分为了L0、L1、L2三个层次,形成了5+N+X的三层解耦架构。

其中5指的是5种基础大模型,包括自然语言(LLM)、视觉(CV)、多模态、预测决策(推理)、科学计算5种不同方向的大模型;N是基于通用大模型打造的行业大模型,利用特定的行业数据,基于无监督自主学习行业知识,形成的行业的大模型,也是目前大模型在产业应用落地的主要形式;而X则是L1结合场景数据形成场景大模型,以适应行业的需要。

从 L0、L1 到 L2,遵从由“通”到“专”的分层级模式,通用大模型用来定性、行业大模型定量,而场景大模型则代表了无限可能。在这样层级分明的架构中,可以完成从 L0 通用模型到 L1 行业模型再到 L2 专用模型的快速开发流程。

据光锥智能了解到,首先,盘古大模型采用完全的分层解耦设计, 可以灵活适配、满足行业多变的需求,企业既可以为自己的大模型加载独立的数据集,也可以独立升级模型。

但同时,大模型的三级模型之间可以交互优化。 L0 模型可以为 L1 模型提供初始化加速收敛,L1 可以通过模型抽取蒸馏产生更强的 L2 模型,L2 也能够在实际问题中通过积累难例数据或者行业经验反哺 L1。

或许这也正是华为云能够快速同时推出9大行业大模型的原因。全联接大会中,华为云一口气“上新”了9大行业模型,矿山大模型、气象大模型、医药大模型等,针对具体行业具体业务,提供实际的解决方案。

与其他云厂商提供的行业大模型不同的是,华为的行业大模型已经在实际业务中“跑过一轮”,带着实战经验就能起到关键作用。

比如在近几年极端天气与日俱增之际,对气象预测的精准度有了进一步要求,盘古气象大模型与中国国家气象局合作,使得中长期气象预报精度首次超过传统数值方法,速度提升10000倍以上。具体而言,该模型使用全球39年的天气数据进行训练,仅用1.4秒就完成了全球24小时的天气预测,同时对台风路径预报等极端天梯,提高了精准度。

同样,煤炭行业面临着开采地质条件复杂、灾害多发(如煤尘、水、火、瓦斯和顶板等自然灾害)、生产效率较低、作业环境恶劣、人员短缺等挑战,为应对这些挑战,大模型在尽量增安、少人。仅以瓦斯隐患预测一个场景举例,借助大模型对井下采煤、设备、矿压、通风、安全监测、地质、瓦斯抽取等系统数据进行智能融合分析,对井下关键位置瓦斯浓度进行预测,实现瓦斯隐患的超前预警。

当然,这得益于华为在智能感知层的纵深布局,在具体的应用场景中再次发挥作用和价值。

未来,百模千态将面临一个个越来越艰深的行业和越来越具体的场景,无论是华为云还是其他云厂商,都需要不断思考着陆点,深入无数毛细血管,才能迎来质的改变。

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
(0)
上一篇 2023年10月7日
下一篇 2023年10月7日

相关推荐

  • 抖音不再陪小杨哥“疯狂”

    就在抖音电商峰会一周前,快手一哥辛巴炮轰小杨哥,指责其在质检、售后、赔偿态度等方面存在问题,模仿辛选的商业模式,以及小杨哥此前销售的一些产品如茅台酒、梅菜扣肉等存在质量问题,如果小杨哥不处理,他将用一亿元替小杨哥进行赔付。
    在2022年9月的抖音电商作者峰会上,刚转型直播带货一年的小杨哥,第一次获得了抖音电商的卓越个人奖。
    在短视频时代,抖音成就了小杨哥,正如小杨哥感谢抖音那般,“它具有很强的开放性和包容性,它给每一个人都提供平等展示自我的机会”,小杨哥也为抖音带来了很多用户,高峰时期小杨哥抖音粉丝量超过了1.2亿。

    2024年9月20日
  • 科隆新材IPO:业绩波动、内控缺位或成上市“拦路虎”

    上半年业绩表现不佳
    科隆新材的主营业务是液压组合密封件和液压软管等橡塑新材料产品的研发、生产和销售,以及煤矿辅助运输设备的整车设计、生产、销售和维修,同时也为风电、军工、高铁等行业客户提供定制化橡塑新材料产品。
    同时,如果未来煤炭主体能源地位被快速替代,下游客户新机装备需求减少,科隆新材又未能拓展旧机维修业务,或是未能适应市场变化、新技术和新产品未能顺应市场发展趋势,那么科隆新材就存在橡塑新材料产品经营业绩下滑的风险,甚至可能会对公司整体经营业绩造成不利影响。

    商业密码 2024年9月20日
  • 淘宝倒逼新风向:一场电商减负运动

    但售后服务同时也是电商变革最复杂的一环,开店、佣金、流量推广都只是商家与平台间的服务交易,售后却涉及平台导向、商家成本和消费者体验三方,且受社会消费情绪变化、平台生态优劣的直接制约,是各方利益最难平衡的地方。
    我们也发现,在这个过程中,电商平台的自我角色定位也在调整,从推出「仅退款」的游戏规则制定者、大家长,逐渐过渡到生态系统的设计者、平衡商家和消费者利益的服务商。

    商业密码 2024年9月20日
  • 博浪AI时代,阿里、华为“硬碰硬”

    根据申万一级行业分类,阿里巴巴概念板块156家上市公司分布于22个行业,其中传媒、电子、商贸零售、通信、医药生物分别聚集了50、25、13、11、9只概念股。
    根据申万一级行业分类,华为概念板块896家上市公司分布于28个行业,其中,计算机、电子、机械设备、通信、电力设备分别聚集了220、193、92、65、61只概念股。

    商业密码 2024年9月20日
  • 员工挂“罪牌”戴纸托手铐引质疑,80后王云安创立的古茗又“翻车”了

    员工头挂“罪牌”手戴纸托手铐,古茗玩梗惨遭翻车
    近日,古茗员工头挂“罪牌”、手戴形似手铐纸托的视频,在社交平台上广泛传播,引发诸多网友热议。
    至于上海,王云安认为该市场毗邻浙江,因此会有一定的消费者基础,但是上海奶茶行业竞争激烈,外卖比例很高,相对来说门店的收益更难做好,“我们在进省会城市,以及大的一线城市的时候,我们一定是做好准备了再去的,比如上海的消费者到底要什么,我们进去应该怎么做才可以让更多的店做得更好,古茗能够给上海的消费者带来什么样的不同呢,这些是我们要去思考的。

    商业密码 2024年9月20日
  • 古井教父悲情收场

    1986年之后的十年里,古井的资产增长了18倍,利润增长了24倍,王效金也因此被称为“古井教父”,甚至是“中国酒界第一人”。
    这款拥有1800多年历史的安徽名酒也许永远也不会再与茅台并肩了,但如今也可以称得上再度振兴,尤其是这一切还建立在王效金的固执和自大,当年差一点毁了古井贡酒的基础上。
    他甚至曾经在公开场合说过,王效金就是古井,古井就是王效金,“效忠”古井就是效忠他。

    2024年9月20日
  • 直言AI不如原创,吴克群凭什么?

    吴克群的原创音乐哲学
    来到《音乐缘计划》,吴克群分外真诚。
    如此来看,吴克群选择参与《音乐缘计划》这一原创音乐综艺,正是源自于他与原创音乐人之间的惺惺相惜。
    在分享创作心得、探讨音乐理念时,吴克群不再简单是一个综艺节目的嘉宾,他也是作为一名原创音乐人出现在舞台上,让一切热爱与纯粹都具象化。
    于是,面对当下音乐生态的顽疾,新生代音乐人的困境,吴克群会在稳定的音乐事业之外,积极参与各种原创音乐活动。

    商业密码 2024年9月20日
  • 专门“收割”妈妈们的特百惠,被时代抛弃了

    02特百惠被时代抛弃了
    《新品略财经》记得三四年前,在深圳龙华区某购物中心还开了一家特百惠的店,也曾在店里买过东西,当时的印象是特百惠的产品卖得还不错。
    在《新品略财经》看来,特百惠既是时代的产物,也是被时代抛弃的产物,这与消费环境、消费需求、市场竞争,乃至是与特百惠的传统商业模式等各方面密切相关。
    从产品层面来说,特百惠是化学科技运用到日用物品的代表案例,在特百惠诞生的年代,家庭有着食物保鲜难的痛点,特别是在冰箱不普及的年代,特百惠犹如“刚需”般存在。

    商业密码 2024年9月20日
  • 县城消费的另一面:喝奶茶的少了,钓鱼的多了

    图源:作者拍摄

    图源:作者拍摄
    刘子涵继续说道,现在同学之所以不愿意喝新茶饮,还有一部分原因是,学生们对新茶饮的口感愈发失去新鲜感。

    图源:作者拍摄
    但并不是所有县城零食折扣店都这么火爆,中秋节假日当晚当地赵一鸣零食折扣店偌大的门店看不到太多顾客,收银台前也仅有几个顾客在排队结算。

    图源:受访者提供

    有人为钓鱼投入千元,有人干起代购
    和新茶饮相对冷清、零食折扣店门店客流分化不同的是,部分业态在县城仍迎来火爆。

    2024年9月19日
  • 闪回科技二度冲刺港股,深陷盈利困境,雷军看走眼了?

    在回收生意的上游,闪回科技通过闪回收从消费电子厂商、零售商、运营商以及C端消费者处获取二手手机供给。
    在下游销售端,闪回科技以“闪回有品”面向B端商户和消费者进行二手机和新机的销售,公司接近90%营收由闪回有品贡献。”

    B端渠道的手机厂商是闪回科技高增长最大的助力,但与之相伴的是,面对强势的手机大厂,闪回科技没有议价权,还需要向手机厂商支付高昂的保证金和促销服务费。

    2024年9月19日