<li id="wsqkq"><option id="wsqkq"></option></li>
  • 當前位置:網站首頁 - 汽車音響 - 正文

    英偉達出手維護CUDA「霸權」

    時間:2024-04-16 19:25:41 

      最近,英偉軟件工程師Longhorn注意到,達出安裝的英偉親朋棋牌手游官網游戲大廳 EULA 文本文件中的一個條款寫道:“不得對使用 SDK 組件生成的軟件產品的任何部分進行逆向工程、反編譯或反匯編,達出以便轉換此類軟件產品、英偉從而在非英偉達平臺上運行。達出” (You may not reverse engineer,英偉 decompile or disassemble any portion of the output generated using SDK elements for the purpose of translating such output artifacts to target a non-NVIDIA platform)

      這是英偉達對于“禁止使用轉換層在其他硬件平臺上運行基于 CUDA 的軟件”的警告。實際上,達出英偉達在2021年已經在網上公示的英偉許可條款中禁止,不過之前這則警告并未出現在安裝過程中添加到主機系統上的達出文檔中。

      而現在,英偉這個警告已經添加到了安裝 CUDA 11.6 及更新版本時所附的達出最終用戶許可協議(EULA)中。

      英偉達針對CUDA 11.6及更高版本的英偉突發舉動,引發了業內震動。達出不少人士認為,英偉這一招是針對Intel、AMD都有參與的ZLUDA等第三方項目,摩爾線程MUSA、登臨科技GPU+以及中國廠商的兼容方案。

      英偉達突然出手的背后,是CUDA的“霸權”受到威脅。

      01

      CUDA的“霸權”

      CUDA是什么?簡單來說,CUDA是英偉達推出的并行計算框架。

      CUDA不僅可以調用GPU計算,還可以調用GPU硬件加速,讓GPU擁有了解決復雜計算問題的親朋棋牌手游官網游戲大廳能力,可以幫助客戶為不同的任務對處理器進行編程。

      在CUDA之前,英偉達的GPU僅僅是一個負責在屏幕上繪制圖像的“圖形處理單元”,也就是原本只能當作獨立顯卡的存在。有了CUDA后,GPU就可以通用了。GPU通用的意思就是,所有類似顯卡運算的簡單量大的工作,GPU都能干。例如AI深度學習,就需要GPU。

      CUDA之于英偉達,可以說是歷史的轉折點。

      自從2006年開始,英偉達將大筆資金投入到CUDA的研發中。為了把旗下的所有芯片都納入CUDA的架構里,英偉達累計花了超過100億美元。

      2009年開始,也就是CUDA推出兩三年后,英偉達每年的研發費用從營收的15%陡增到25%甚至30%。為了顯示這個研發費用的超高,給大家舉幾個例子:蘋果每年不足10%,微軟每年15%-20%,英特爾每年20%左右。

      所以可以看出來,英偉達在CUDA里,投入了大量的財力。

      同時,CUDA的出現,也確實讓英偉達在AI芯片領域快速起飛。CUDA推出后,英偉達迅速打開了新業務的大門,在航空航天、天文學、氣象學領域里都有GPU的身影。

      深諳需要利用工具和應用來幫助擴展自己的市場的英偉達,對于CUDA的策略是:“不開源,但免費提供,并處于英偉達的嚴格控制之下。”

      因此,英偉達為人們獲取自身硬件設置了非常低的門檻,包括 CUDA 工具包。CUDA在“使用人數越多,CUDA平臺就越好用,新開發者就越傾向于選擇CUDA”的良性循環中,加固了生態優勢。

      知名分析師本·湯普森(Ben Thompson)曾說:“英偉達既不是一家硬件公司,也不是一家軟件公司:它是一家將兩者融為一體的公司。”

      CUDA最強的護城河事實上在于軟件-芯片協同設計。英偉達強大的軟硬件協同完善的生態,讓第三方軟件公司難以打破英偉達的CUDA*地位。

      嘗試超越CUDA的企業往往會出現三種可能。

      *種,陷入追趕狀態。第三方軟件公司在研究透徹英偉達的GPU后,需要半年到一年的時間才能實現性能基本匹配CUDA,但很難在新GPU發布后立即實現性能匹配甚至*。

      第二種,時間滯后。第三方軟件公司適配新的人工智能加速硬件需要時間,而在一年后等到其方案達到接近CUDA的水平時,英偉達已經發布了下一代GPU。這種時間滯后導致芯片公司無法及時利用最新的技術。

      第三種,無法打破*地位。由于英偉達的不斷創新和市場*,第三方軟件公司很難打破這種局面。他們不僅面臨著技術上的挑戰,還面臨著市場競爭的壓力。

      英偉達靠著 CUDA 綁定了數百萬 AI 開發者,吸引著大型云計算公司采購它的 GPU。目前,CUDA生態合作者規模翻倍增長。

      根據英偉達2023財年年報,目前有400萬名開發者正在與CUDA合作,而且規模還在不斷擴大。英偉達通過12年的時間達到200萬名開發者,在過去的兩年半里該數字翻了一番。目前CUDA的下載量已經超過了4000萬次。

      02

      CUDA的兼容問題

      事實證明 CUDA 和英偉達硬件的結合非常高效,大批程序都依賴這種結合。然而,隨著更多競爭性的硬件涌入市場,更多的用戶傾向于在與英偉達競爭的平臺上運行其 CUDA 程序。

      有兩種方法可以做到這一點:重新編譯代碼(這種方法可供相應程序的開發人員使用),或使用轉換層(也就是兼容)。

      其實這里的“兼容”并不是真正的兼容。因為CUDA不是開源代碼,是“黑盒子”,因此100%兼容CUDA在技術上是無法實現的。這里是說,通過架構的相似性,使產品可以比較容易地運行CUDA的代碼。

      使用像 ZLUDA 這樣的轉換層是在非英偉達硬件上運行 CUDA 程序的最簡單方法。你要做的就是拿來已經編譯好的二進制代碼,然后使用 ZLUDA 或其他轉換層運行它們。

      談到這里,我們可以一起來了解一下ZLUDA。其實,這個項目是在2020年時候開始的,被描述為‘英特爾GPU 上 CUDA 的直接替代品’。這個項目提出了一個概念:在非英偉達顯卡上運行未更改的 CUDA 應用程序。

      不過,隨著英特爾、AMD轉向支持自有軟件平臺,ZLUDA 現在似乎舉步維艱。今年2月,AMD放棄資助ZLUDA項目。受到資金的限制,“ZLUDA”項目已經在 GitHub 上開源。

      現在,英偉達已經禁止第三方公司兼容CUDA。

      顯而易見,使用轉換層威脅到了英偉達在加速計算領域的霸主地位,尤其是在 AI 應用領域。這可能是英偉達決定禁止使用轉換層在其他硬件平臺上運行 CUDA 應用程序背后的初衷。

      其實,從全球來看,許多國外的做算力芯片企業,例如 Graphcore、SambaNova、tenstorrent,沒有一家兼容CUDA。而之所以不去兼容CUDA,歸根結底,是因為各家希望探索出更適合做AI計算的路。

      許多算力芯片企業選擇在軟件棧上另辟蹊徑,主要是因為擔心“兼容”CUDA會成為自家產品發展的“天花板”。

      03

      CUDA遭到業內“炮轟”

      其實,英偉達的CUDA一直是業內被頻頻提及的話題。

      在去年12月時,英特爾CEO 帕特·基辛格曾公開抨擊英偉達,稱其 CUDA 技術護城河又淺又小,并聲稱對于人工智能來說推理技術將比訓練更重要。

      在接受采訪的時候,基辛格還在暗示英偉達CUDA的主導地位不會永遠持續下去。

      基辛格說到:“你知道,整個行業都在想如何消滅 CUDA 市場。”“我們認為 CUDA 護城河又淺又窄。因為整個行業都致力于為廣泛的訓練、創新、數據科學等領域帶來更廣泛的技術。”

      *芯片大師吉姆・凱勒也在今年2月發布推文,吐槽英偉達 CUDA,認為CUDA是“沼澤”而不是“護城河”。

      凱勒在后續推文中表示:“CUDA 毫無美感,只是粗暴地堆砌而成?;旧蠜]有人會寫 CUDA,即便是寫了相關代碼,其執行速度也不快。這也是為何 Triton、Tensor RT、Neon、Mojo 孕育而出的原因。”

      凱勒認為 CUDA 像 X86 一樣,英偉達為了確保軟件和硬件的向后兼容性,逐步增加功能的過程中拖慢了性能,增加了程序開發的難度。與此同時,許多開源軟件開發框架可以比 CUDA 更高效地使用。

      不過,此前Semi Analysis首席分析師Dylan Patel曾表示:“隨著PyTorch支持更多GPU廠商,再加上OpenAI的Triton攪局,英偉達手中的利器CUDA 逐漸鋒芒不再。”

      Triton實際上是Open AI推出了個“簡化版CUDA”。Triton是種新的語言和編譯器。它的操作難度比CUDA低,但性能卻可與后者媲美。

      OpenAI聲稱:“Triton只要25行代碼,就能在FP16矩陣乘法shang上達到與cuBLAS相當的性能。”值得一提的是,Triton是開源的。相較于閉源的CUDA,其他硬件加速器能直接集成到Triton中,大大減少了為新硬件建立AI編譯器棧的時間。

      04

      國內企業作出回應

      在國內,目前一部分國產GPU廠商采取兼容CUDA的策略,以確保用慣了英偉達產品的客戶在遷移時沒有障礙。另外也有廠商著手培育自己的軟件生態,其中包括摩爾線程、壁仞科技、登臨科技等。如摩爾線程推出基于旗下GPU產品的“MUSA”軟件架構。

      昨日晚間,摩爾線程發布聲明,強調摩爾線程MUSA/MUSIFY未受影響。摩爾線程MUSA/MUSIFY不涉及英偉達EULA相關條款,開發者可放心使用。

      摩爾線程表示,MUSA是摩爾線程自主研發、擁有全部知識產權、軟硬一體的全功能GPU先進計算統一系統架構,與CUDA無任何依賴關系。

      MUSIFY是摩爾線程面向廣大MUSA開發者提供的開發工具,方便用戶在MUSA計算平臺上進行應用移植與開發,可以讓開發者將自己的C++源代碼,轉換成MUSA C++源代碼,再通過MUSA編譯器MCC編譯生成基于MUSA指令集的二進制代碼,最終運行在摩爾線程全功能GPU上。

      總體來說,目前,英偉達只是在CUDA 11.6協議中增加了警告條款,尚未有實際行動。不過,這次警告,也代表著英偉達對兼容CUDA的一種態度。

      重新編譯現有的 CUDA 程序仍然完全合法。為了簡化這項工作,AMD 和英特爾都有工具將 CUDA 程序分別移植到 ROCm(1)平臺和 OpenAPI 平臺上。

      AMD于去年12月發布ROCm 6.0之后,正馬不停蹄地推進6.1版本更新,從而進一步增強同英偉達CUDA的競爭力。AMD在 2月向 GitHub 公共倉庫提交了大量關于 ROCm 6.1 的提交,這表明 AMD 有望在近期發布新版本。

    返回
    Copyright ? PG電子官方網站 All Rights Reserved. HUKE+ 網站地圖
    分享到:

    友情鏈接

    可以聯系網站管理員成為友情鏈接成員

    -- 相關鏈接 --

    久久久中文字幕_久久精品一品道久久精品9_sepapa999_狠狠色丁香久久婷婷综合蜜芽五月
    <li id="wsqkq"><option id="wsqkq"></option></li>