英伟达下“封杀令”:不准转译CUDA

芯东西3月6日消息,据外媒报道,英伟达已禁止用转译层在其他GPU上跑CUDA软件。

英伟达CUDA。GPU行业长期患有“CUDA依赖症”,英伟达多年来不断巩固的CUDA生态墙就像铜墙铁壁,是其他GPU新秀难以望其项背的关键壁垒。

开发者之所以对英伟达GPU长期依赖,就是因为CUDA已经足够好用,跟英伟达GPU硬件的软硬协同也做到最好,没必要换个新平台,而且其他平台还可能存在出现潜在bug的风险。

本文来自微信公众号:芯东西 (ID:aichip001),作者:ZeR0,原文标题:《英伟达下“封杀令”:不准转译CUDA!国产GPU企业回应》,题图来自:视觉中国

兼容CUDA这条路,走不通了?

芯东西3月6日消息,据外媒报道,英伟达已禁止用转译层在其他GPU上跑CUDA软件。

自2021年以来,英伟达已在其在线列出的许可条款中,明文禁止使用转译层在其他硬件平台上运行基于CUDA的软件。软件工程师@Longhorn发现这项“禁令”已被添加到安装CUDA 11.6及更新版本包含的最终用户许可协议(EULA)中。

英伟达CUDA 11.6及更高版本的EULA有一条限制条款:“你不能逆向工程、反编译或反汇编使用此SDK生成的任何结果,并在非英伟达平台上进行转译。”

英伟达CUDA EULA相关限制条款截图‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

一石激起千层浪。GPU行业长期患有“CUDA依赖症”,英伟达多年来不断巩固的CUDA生态墙就像铜墙铁壁,是其他GPU新秀难以望其项背的关键壁垒。为了迎合市场需求,一些非英伟达的GPU平台选择兼容CUDA,以站在英伟达生态的肩膀上去拥抱GPU开发者。

这一消息随即引起讨论:CUDA兼容禁令意味着什么?是否会对国内GPU企业产生不利影响?

对此,北京GPU独角兽企业摩尔线程发声明澄清:“摩尔线程MUSA/MUSIFY不涉及英伟达EULA相关条款,开发者可放心使用。”

据Tom’s Hardware报道,兼容CUDA有两种常见做法:重新编译代码(可供相应程序的开发人员使用)、使用转译层。

其中第一种重新编译现有CUDA程序的做法是合规的。AMD和英特尔都有工具来分别将CUDA程序迁移到他们的ROCm和OpenAPI平台上。一些国内GPU企业也采用了类似的兼容思路。

EULA条款主要禁掉的是第二种,使用像ZLUDA开源库之类的转译层。外媒称这是在非英伟达硬件上运行CUDA程序的最简单方法。

此前,英特尔和AMD都支持过ZLUDA项目,但后续又都停止了。ZLUDA利用ROCm技术栈上实现CUDA应用二进制兼容,支持无需修改代码就能在AMD硬件平台上运行CUDA应用。

开发者之所以对英伟达GPU长期依赖,就是因为CUDA已经足够好用,跟英伟达GPU硬件的软硬协同也做到最好,没必要换个新平台,而且其他平台还可能存在出现潜在bug的风险。

然而,如果能实现在其他硬件上跑CUDA,虽然会有一定性能损失,但对缩小与英伟达的生态差距已经相当有利。这多少会威胁到英伟达在加速计算领域的霸主地位,英伟达对此做限制也不意外。

随着生成式AI越来越火,被视作英伟达GPU护城河的CUDA,其兼容性已成一个热门话题。

去年在纽约举行的一次活动上,英特尔CEO基辛格在对CUDA技术大加赞赏的同时,也坦言“整个行业都在积极消除CUDA的依赖”。

当时他列举了MLIR、谷歌、OpenAI等例子,暗示他们正转向“Pythonic编程层”,使AI训练更加开放。他认为“CUDA护城河又浅又小”,其主导地位不会永远持续下去,因为行业有动力为大模型训练、数据科学等带来更广泛的技术。

AMD CEO苏姿丰去年接受外媒采访时谈到“自己不相信护城河”。在她看来,过去开发者倾向于使用针对特定硬件的软件,但展望未来,每个人都在寻求构建与硬件无关的软件能力,人们希望确保能从一种基础设施迁移到另一种基础设施,因此正在构建这些更高级别的软件。

上个月,硅谷芯片架构大神Jim Keller也在社交平台上发牢骚:“CUDA是沼泽,不是护城河。”他吐槽写CUDA效率低下,Triton、Tensor RT、Neon、Mojo的存在是有合理理由的。

可以说,AI芯片和GPU领域苦CUDA久矣,业界对这种封闭生态已经颇有微词。兼容CUDA只是权宜之计,有长期雄心的芯片大厂或初创公司都在构建自主软件生态,并力挺更加开放的生态。

以OpenAI Triton为代表的开源编程语言,正成为对抗CUDA封闭阵营的关键力量,通过极大简化GPU加速编程过程、显著减少编译新硬件所需的工作量,减弱开发者对CUDA的依赖。

与此同时,当GPU短缺问题愈发严重,迫切需要更多计算能力的AI企业可能会越来越多考虑AMD、英特尔等竞争对手的替代品。当它们纷纷撸起袖子推出性能强大且更加经济高效的GPU产品时,英伟达的霸主地位将受到挑战。

而从商业决策的角度来看,着眼于解决复杂视觉计算问题、持续创新的英伟达,也有充分的理由来捍卫自己长期积累下来的知识产权和商业硕果,让客户与其生态系统产生更加牢固的粘性。

本文来自微信公众号:芯东西 (ID:aichip001),作者:ZeR0

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
(0)
上一篇 2024年3月6日
下一篇 2024年3月6日

相关推荐

  • 水温80度:AI行业真假繁荣的临界点

    我们从来没拥有过这么成功的AI主导的产品。

    (这种分析统计并不那么准,但大致数量级是差不多的)

    这两个产品碰巧可以用来比较有两个原因:

    一个是它们在本质上是一种东西,只不过一个更通用,一个更垂直。

    蓝海的海峡

    未来成功的AI产品是什么样,大致形态已经比较清楚了,从智能音箱和Copilot这两个成功的AI产品上已经能看到足够的产品特征。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时“罢工”,全网打工人都慌了

    美西时间午夜12点开始,陆续有用户发现自己的ChatGPT要么响应超时、要么没有对话框或提示流量过载,忽然无法正常工作了。

    因为发现AI用久了,导致现在“离了ChatGPT,大脑根本无法运转”。”

    等等,又不是只有一个聊天机器人,难道地球离了ChatGPT就不转了。

    大模型连崩原因猜想,谷歌躺赢流量激增6成

    GPT归位,人们的工作终于又恢复了秩序。

    未来科技 2024年6月5日
  • ChatGPT宕机8小时,谷歌Gemini搜索量激增60%

    ChatGPT一天宕机两次

    谷歌Gemini搜索量激增近60%

    ChatGPT在全球拥有约1.8亿活跃用户,已成为部分人群工作流程的关键部分。

    过去24小时内提交的关于OpenAI宕机的问题报告

    图片来源:Downdetector

    ChatGPT系统崩溃后,有网友在社交媒体X上发帖警告道:“ChatGPT最近发生的2.5小时全球中断,为我们所有依赖AI工具来支持业务的人敲响了警钟。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时大崩溃,AI集体罢工让全网都慌了

    接着OpenAI也在官网更新了恢复服务公告,表示“我们经历了一次重大故障,影响了所有ChatGPT用户的所有计划。Generator调查显示,在ChatGPT首次故障后的四小时内,谷歌AI聊天机器人Gemini搜索量激增60%,达到327058次。

    而且研究团队表示,“Gemini”搜索量的增长与“ChatGPT故障”关键词的搜索趋势高度相关,显示出用户把Gemini视为ChatGPT的直接替代选项。

    未来科技 2024年6月5日
  • 深度对话苹果iPad团队:玻璃的传承与演变

    iPad最为原始的外观专利

    没错,这就是iPad最初被设想的样子:全面屏,圆角矩形,纤薄,就像一片掌心里的玻璃。

    2010年发布的初代iPad

    好在乔布斯的遗志,并未被iPad团队遗忘。

    初代iPad宣传片画面

    乔布斯赞同这一想法,于是快速将资源投入平板电脑项目,意欲打造一款与众不同的「上网本」,这就是iPad早年的产品定义。

    iPad进化的底色

    苹果发布会留下过很多「名场面」,初代iPad发布会的末尾就是一例。

    未来科技 2024年6月5日
  • 底层逻辑未通,影视业的AI革命正在褪色…

    GPT、Sora均为革命性产品,引发了舆论风暴,但它在上个月发布的“多模态语音对谈”Sky语音,却由于声音太像电影明星斯嘉丽·约翰逊,被正主强烈警告,被迫下架。

    华尔街日报也在唱衰,认为“AI工具创新步伐正在放缓,实用性有限,运行成本过高”:

    首先,互联网上已经没有更多额外的数据供人工智能模型收集、训练。

    03、

    如果说训练“数字人”、使用AI配音本质上瞄向的仍是影视行业固有的发展方向,那么还有另外一群人试图从根本上颠覆影视行业的生产逻辑和产品形态。

    但分歧点正在于此,电影公司希望通过使用AI技术来降低成本,但又不希望自己的内容被AI公司所窃取。

    未来科技 2024年6月5日
  • KAN会引起大模型的范式转变吗?

    “先变后加”代替“先加后变”的设计,使得KAN的每一个连接都相当于一个“小型网络”, 能实现更强的表达能力。

    KAN的主要贡献在于,在当前深度学习的背景下重新审视K氏表示定理,将上述创新网络泛化到任意宽度和深度,并以科学发现为目标进行了一系列实验,展示了其作为“AI+科学”基础模型的潜在作用。

    KAN与MLP的对照表:

    KAN使神经元之间的非线性转变更加细粒度和多样化。

    未来科技 2024年6月5日
  • 这个国家,也开始发芯片补贴了

    //mp.weixin.qq.com/s/tIHSNsqF6HRVe2mabgfp6Q
    [4]中国安防协会:欧盟批准430亿欧元芯片补贴计划:2030年产量占全球份额翻番.2023.4.19.https。//mp.weixin.qq.com/s/VnEjzKhmZbuBUFclzGFloA
    [6]潮电穿戴:印度半导体投资大跃进,一锤砸下1090亿,政府补贴一半.2024.3.5https。

    未来科技 2024年6月5日
  • 大模型的电力经济学:中国AI需要多少电力?

    这些报告研究对象(数字中心、智能数据中心、加密货币等)、研究市场(全球、中国与美国等)、研究周期(多数截至2030年)各不相同,但基本逻辑大同小异:先根据芯片等硬件的算力与功率,计算出数据中心的用电量,再根据算力增长的预期、芯片能效提升的预期,以及数据中心能效(PUE)提升的预期,来推测未来一段时间内智能数据中心的用电量增长情况。

    未来科技 2024年6月5日
  • 你正和20万人一起接受AI面试

    原本客户还担心候选人能否接受AI面试这件事,但在2020年以后,候选人进行AI面试的过程已经是完全自动化的,包括面试过程中AI面试官回答候选人的问题,AI面试官对候选人提问以及基于候选人的回答对候选人进行至多三个轮次的深度追问。

    以近屿智能与客户合作的校验周期至少3年来看,方小雷认为AI应用不太可能一下子爆发,包括近屿智能在内的中国AI应用企业或许要迎来一个把SaaS做起来的好机会。

    未来科技 2024年6月4日