Kimi 开始回本了

算力规模是个绕不开的话题:月之暗面用一年时间,把Kimi干到了大模型赛道内流量和使用量的顶流(部分统计显示,七月份Kimi和文心一言是国内唯二月活超过千万的主流大模型),但毕竟仍是初创公司,资源比起大厂不会特别富裕是显而易见的。
而在大模型的使用场景中,如果用户向系统提交了一个请求,比如询问一系列问题,或者给Kimi甩过去一篇万字长文本要求生成报告,大模型在处理请求时就需要理解用户的查询上下文,包括之前的问题、相关话题或者某些领域的特定信息。

作者|陶然 编辑|魏晓

to C业务狂飙大半年的Kimi,开始在B端发力了。

八月尚未过半,两则直接关联其商业化进程的消息,在市场中传开:

二日,Kimi母公司月之暗面官宣Kimi企业级API正式发布。相较于覆盖to C需求的通用模型,企业级模型推理API有着更高等级的数据安全保障和并发速率,用以支持企业内部的复杂工作流和大规模的数据处理需求。

五天后,公司再次放出商业化动作,宣布Kimi开放平台的上下文缓存Cache存储费用降低50%,由10元/1M /min降低至5元/1M /min,价格生效时间为2024年8月7日。

这项技术实际上早在在7月1日就已通过开放平台启动公测,通过预存那些可能会被反复引用、频繁请求的文本或数据等信息来给模型推理过程“降本增效”。

Kimi现今在B端谋求AI变现的动作,绝非此前应用内上线“打赏功能灰度测试”那般仍有试探意味:

从企业级解决方案,到具体场景优化,再到价格调整,月之暗面显然是有备而来。

大模型应用,向钱看

圈内关于大模型应用的立场,在技术落地日渐密集的2024年清晰分成了两派。

七月初在上海举行的世界人工智能大会(WAIC)上,手握目前国内最大规模AI应用访问量的百度CEO李彦宏在演讲中谈及了他对大模型应用的看法:C端当然要做,但大模型更有成果的应用场景仍在B端。

李彦宏认为,在AI时代,“超级能干”的应用,即那些能够深刻影响产业、显著提升应用场景效率的应用,其价值或许更为重大,它们所创造的整体价值远超移动互联网时代的某些“超级应用”。

未来在医疗、金融、教育、制造、交通、农业等领域,都会依据自己的场景的特点、独特经验、行业规则及数据资源等,定制化地开发出做出各种各样的智能体。将来会有数以百万量级的智能体出现,形成庞大的智能体生态。

这种打法,可以算作现阶段BAT等科技大厂的代表。

从硅星人统计的大模型相关项目中标情况来看,百度今年中标了包括医疗、金融、能源、环保和交通等多个领域的共计17个项目,其中不乏大型国企以及各行各业的头部公司,金额也基本在百万甚至千万级别。

而初创公司代表,像百川智能王小川、月之暗面杨植麟,过去给外界的印象一直是坚定的to C支持者。

AI助手百小应的发布会上王小川就曾表示,to B业务并非百川主要仰赖的商业模式,在美国做to B是好生意,但国内市场C端比B端“大十倍”。

月之暗面创始人杨植麟虽然没有在公开场合过多谈及公司的变现,但也在几个月前上海创新创业青年 50 人论坛的演讲中表示,得益于Transformer架构的提出、半导体产业发展,以及互联网为AI积累下来的大量数据,在世界上可能“第一次出现了这种 AI to C 的机会。”

对于是把Kimi做成to C的AI超级应用,还是把名号打响后多点布局,杨植麟留过活扣:我们to B倒也不是说完全不做,但是我们可能最主要的肯定还是会去聚焦和发力这个C端。

大概是研判时机已到,坚持to C许久的月之暗面,终于对to B“真香”了。

Kimi to B:技术和市场都已成熟

从最浅表的层面来说,做to B解决方案和之前在C端的Kimi相比,需要解决的首先一个问题就是:

对于付费玩家,你的服务器不能有事没事就宕机。

算力规模是个绕不开的话题:月之暗面用一年时间,把Kimi干到了大模型赛道内流量和使用量的顶流(部分统计显示,七月份Kimi和文心一言是国内唯二月活超过千万的主流大模型),但毕竟仍是初创公司,资源比起大厂不会特别富裕是显而易见的。

很少听说文心一言、通义千问出现用户高峰导致算力不足的情况,但经常用Kimi的用户想必或多或少都被算力墙挡住过几个回合的问答(最近似乎好些了)。

而企业客户如果将Kimi作为常用的生产力工具,那么企业级API的服务器就必须保证的稳定性和可靠性,确保在高负载情况下可以正常运行。

结合此番降价的上下文缓存技术来看,除了随着业务体量按需扩大服务器规模之外,Kimi将另一项中心放在了对现有模型推理的“降本增效”上。

这项技术的费用,通常是因平台或服务提供商维护和提供缓存服务而对客户收取。以网购类比,如果用户经常使用同一个购物网站、App,那么这个网站/App很可能就会在系统中单独创建一个数据集,将用户ID、购物车内容、偏好设置信息存储其中。

而在大模型的使用场景中,如果用户向系统提交了一个请求,比如询问一系列问题,或者给Kimi甩过去一篇万字长文本要求生成报告,大模型在处理请求时就需要理解用户的查询上下文,包括之前的问题、相关话题或者某些领域的特定信息。

这部分推理出的中间结果和计算出的关键信息往往在用户后续的问答中会被反复提及(调用),将他们缓存起来以便后续请求时可以快速访问,是一个相对节省算力资源的选择。

并非是浏览器那种为了方便用户登录而记录用户名和密码,这种缓存首先降低的是模型反复阅读、推理所消耗的资源量,对结果生成效率也会有一定程度提升。利用缓存的上下文信息,大模型可以快速生成响应或推荐内容,而不需要从头开始重新计算。从而对用户提出相关问题或需要相关信息加速响应,减少浪费时间的等待。

这种有助于提高系统的响应速度和处理效率,同时保持对话或文本生成的连贯性和准确性的缓存机制,对于提供流畅的用户体验和优化资源使用来说会相当关键。

尤其在未来可能面对来自B端、更多的用户和更集中的数据处理请求时,快速响应并高效处理的价值可能进一步突出。

One More Thing

to B动作频频的月之暗面,近期还喜提一笔来自鹅厂的大额融资。

市场消息显示,腾讯参与了月之暗面最新一轮3亿美元融资,完成后将使得公司市值升至33亿美元,成为国内大模型初创企业中估值最高的一家。

月之暗面并未对此事做出回应,但据称有接近腾讯方面的消息源表示参投属实。

至此,被誉为“新AI四小龙”的智谱AI、MiniMax、百川智能和月之暗面,四家公司背后的投资阵营都已有了腾讯及阿里巴巴的参与。

BAT中百度更多选择做好自己,AT则继续通过创投多点下注。

初创公司忙于卷技术做应用,而大厂们似乎已经将注意力的一部分,放在了投资回报率,亦或是未来行业格局的话语权上。

来源|AI蓝媒汇 作者|陶然

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
(0)
上一篇 2024年8月13日
下一篇 2024年8月13日

相关推荐

  • 抖音不再陪小杨哥“疯狂”

    就在抖音电商峰会一周前,快手一哥辛巴炮轰小杨哥,指责其在质检、售后、赔偿态度等方面存在问题,模仿辛选的商业模式,以及小杨哥此前销售的一些产品如茅台酒、梅菜扣肉等存在质量问题,如果小杨哥不处理,他将用一亿元替小杨哥进行赔付。
    在2022年9月的抖音电商作者峰会上,刚转型直播带货一年的小杨哥,第一次获得了抖音电商的卓越个人奖。
    在短视频时代,抖音成就了小杨哥,正如小杨哥感谢抖音那般,“它具有很强的开放性和包容性,它给每一个人都提供平等展示自我的机会”,小杨哥也为抖音带来了很多用户,高峰时期小杨哥抖音粉丝量超过了1.2亿。

    2024年9月20日
  • 科隆新材IPO:业绩波动、内控缺位或成上市“拦路虎”

    上半年业绩表现不佳
    科隆新材的主营业务是液压组合密封件和液压软管等橡塑新材料产品的研发、生产和销售,以及煤矿辅助运输设备的整车设计、生产、销售和维修,同时也为风电、军工、高铁等行业客户提供定制化橡塑新材料产品。
    同时,如果未来煤炭主体能源地位被快速替代,下游客户新机装备需求减少,科隆新材又未能拓展旧机维修业务,或是未能适应市场变化、新技术和新产品未能顺应市场发展趋势,那么科隆新材就存在橡塑新材料产品经营业绩下滑的风险,甚至可能会对公司整体经营业绩造成不利影响。

    商业密码 2024年9月20日
  • 淘宝倒逼新风向:一场电商减负运动

    但售后服务同时也是电商变革最复杂的一环,开店、佣金、流量推广都只是商家与平台间的服务交易,售后却涉及平台导向、商家成本和消费者体验三方,且受社会消费情绪变化、平台生态优劣的直接制约,是各方利益最难平衡的地方。
    我们也发现,在这个过程中,电商平台的自我角色定位也在调整,从推出「仅退款」的游戏规则制定者、大家长,逐渐过渡到生态系统的设计者、平衡商家和消费者利益的服务商。

    商业密码 2024年9月20日
  • 博浪AI时代,阿里、华为“硬碰硬”

    根据申万一级行业分类,阿里巴巴概念板块156家上市公司分布于22个行业,其中传媒、电子、商贸零售、通信、医药生物分别聚集了50、25、13、11、9只概念股。
    根据申万一级行业分类,华为概念板块896家上市公司分布于28个行业,其中,计算机、电子、机械设备、通信、电力设备分别聚集了220、193、92、65、61只概念股。

    商业密码 2024年9月20日
  • 员工挂“罪牌”戴纸托手铐引质疑,80后王云安创立的古茗又“翻车”了

    员工头挂“罪牌”手戴纸托手铐,古茗玩梗惨遭翻车
    近日,古茗员工头挂“罪牌”、手戴形似手铐纸托的视频,在社交平台上广泛传播,引发诸多网友热议。
    至于上海,王云安认为该市场毗邻浙江,因此会有一定的消费者基础,但是上海奶茶行业竞争激烈,外卖比例很高,相对来说门店的收益更难做好,“我们在进省会城市,以及大的一线城市的时候,我们一定是做好准备了再去的,比如上海的消费者到底要什么,我们进去应该怎么做才可以让更多的店做得更好,古茗能够给上海的消费者带来什么样的不同呢,这些是我们要去思考的。

    商业密码 2024年9月20日
  • 古井教父悲情收场

    1986年之后的十年里,古井的资产增长了18倍,利润增长了24倍,王效金也因此被称为“古井教父”,甚至是“中国酒界第一人”。
    这款拥有1800多年历史的安徽名酒也许永远也不会再与茅台并肩了,但如今也可以称得上再度振兴,尤其是这一切还建立在王效金的固执和自大,当年差一点毁了古井贡酒的基础上。
    他甚至曾经在公开场合说过,王效金就是古井,古井就是王效金,“效忠”古井就是效忠他。

    2024年9月20日
  • 直言AI不如原创,吴克群凭什么?

    吴克群的原创音乐哲学
    来到《音乐缘计划》,吴克群分外真诚。
    如此来看,吴克群选择参与《音乐缘计划》这一原创音乐综艺,正是源自于他与原创音乐人之间的惺惺相惜。
    在分享创作心得、探讨音乐理念时,吴克群不再简单是一个综艺节目的嘉宾,他也是作为一名原创音乐人出现在舞台上,让一切热爱与纯粹都具象化。
    于是,面对当下音乐生态的顽疾,新生代音乐人的困境,吴克群会在稳定的音乐事业之外,积极参与各种原创音乐活动。

    商业密码 2024年9月20日
  • 专门“收割”妈妈们的特百惠,被时代抛弃了

    02特百惠被时代抛弃了
    《新品略财经》记得三四年前,在深圳龙华区某购物中心还开了一家特百惠的店,也曾在店里买过东西,当时的印象是特百惠的产品卖得还不错。
    在《新品略财经》看来,特百惠既是时代的产物,也是被时代抛弃的产物,这与消费环境、消费需求、市场竞争,乃至是与特百惠的传统商业模式等各方面密切相关。
    从产品层面来说,特百惠是化学科技运用到日用物品的代表案例,在特百惠诞生的年代,家庭有着食物保鲜难的痛点,特别是在冰箱不普及的年代,特百惠犹如“刚需”般存在。

    商业密码 2024年9月20日
  • 县城消费的另一面:喝奶茶的少了,钓鱼的多了

    图源:作者拍摄

    图源:作者拍摄
    刘子涵继续说道,现在同学之所以不愿意喝新茶饮,还有一部分原因是,学生们对新茶饮的口感愈发失去新鲜感。

    图源:作者拍摄
    但并不是所有县城零食折扣店都这么火爆,中秋节假日当晚当地赵一鸣零食折扣店偌大的门店看不到太多顾客,收银台前也仅有几个顾客在排队结算。

    图源:受访者提供

    有人为钓鱼投入千元,有人干起代购
    和新茶饮相对冷清、零食折扣店门店客流分化不同的是,部分业态在县城仍迎来火爆。

    2024年9月19日
  • 闪回科技二度冲刺港股,深陷盈利困境,雷军看走眼了?

    在回收生意的上游,闪回科技通过闪回收从消费电子厂商、零售商、运营商以及C端消费者处获取二手手机供给。
    在下游销售端,闪回科技以“闪回有品”面向B端商户和消费者进行二手机和新机的销售,公司接近90%营收由闪回有品贡献。”

    B端渠道的手机厂商是闪回科技高增长最大的助力,但与之相伴的是,面对强势的手机大厂,闪回科技没有议价权,还需要向手机厂商支付高昂的保证金和促销服务费。

    2024年9月19日