1. 創(chuàng)業(yè)頭條
  2. 前沿領域
  3. 人工智能
  4. 正文

ChatGPT爆火背后,AI算力成全新角逐風口

 2023-05-11 11:00  來源:A5專欄  我來投稿 撤稿糾錯

  阿里云優(yōu)惠券 先領券再下單

2023年伊始,資本市場的關注點明顯變了,AIGC逐漸成為這一輪大行情的全新焦點。今年以來,從國外的AUTOGPT到國內的文心一言,再到華為的盤古大模型、訊飛星火大模型等紛紛推出,呈現(xiàn)出一派你方唱罷我方休的姿態(tài)。

盡管參與者甚眾,但目前為止這些應用,離真正的落地還相距甚遠。實際上,不論是哪家公司訓練大模型,都離不開天文數(shù)字的海量算力支持,因此當前能夠真正從AI大模型中獲益的,更可能是為大模型訓練提供算力支持的高性能算力廠商和服務器廠商。

ChatGPT拉動算力持續(xù)飆升

在AI大模型飛速發(fā)展之下,單個大語言訓練驅動AI訓練服務器需求約2億美元,AI推理服務器方面,如ChatGPT在初期便可帶動推理服務器需求約45億美元。而各種ChatGPT的爆發(fā),更讓它背后的AI服務器隨之水漲船高。

具體而言,算力作為大模型的核心引擎,它的計算方式既簡單又粗暴,即實際擁有多少的GPU芯片,將直接決定其算力的大小。并且ChatGPT所需要的算力不是固定的,反而是逐次遞增的,這就意味著ChatGPT越聰明,其背后所需要的算力就越多,而供需雙方存在的現(xiàn)實差距,則讓算力資源的“緊張問題”變得愈加嚴重起來。

從需求側來看,大模型參數(shù)量的持續(xù)增大,需要更多算力資源予以支持。從大模型自身的發(fā)展狀況來看,參數(shù)量的變化是一個非常值得關注的指標。從最早的ResNet、inception等模型,到如今的GPT模型,大模型的參數(shù)量不斷壯大。

數(shù)據(jù)顯示,2018年前后OpenAI先后推出Transformer和GPT-1模型,參數(shù)量在1億級別;隨后谷歌提出3億參數(shù)的BERT模型,參數(shù)量再次增長。2019、2020年OpenAI加速追趕,陸續(xù)迭代出GPT-2、GPT-3模型,參數(shù)量分別為15億、1750億,實現(xiàn)模型體量質的飛躍,而阿里達摩院旗下的多模態(tài)大模型M6的參數(shù)量,更是達到了萬億甚至10萬億的量級,數(shù)據(jù)量加速指數(shù)級攀升之下,其所需算力自然也需要指數(shù)級提升。

從供給側來看,大模型參數(shù)量不斷增大之下,參數(shù)運算需要大規(guī)模并行計算的支持,而它取決于底層GPU內存容量。OpenAI預計人工智能科學研究要想取得突破,所需要消耗的計算資源每3—4個月就要翻一倍,資金也需要通過指數(shù)級增長獲得匹配。在算力方面,GPT-3.5在微軟Azure AI超算基礎設施(由GPU組成的高帶寬集群)上進行訓練,總算力消耗約3640PF-days。

在大數(shù)據(jù)方面,GPT-2用于訓練的數(shù)據(jù)取自于Reddit上高贊的文章,數(shù)據(jù)集共有約800萬篇文章,累計體積約40G;GPT-3模型的神經(jīng)網(wǎng)絡是在超過45TB的文本上進行訓練的,數(shù)據(jù)相當于整個維基 百科英文版的160倍。就ChatGPT而言,需要TB級的運算訓練庫,甚至是P-Flops級的算力,需要7-8個投資規(guī)模30億、算力500P的數(shù)據(jù)中心才能支撐運行??傊?,在大模型持續(xù)發(fā)展之下,ChatGPT的競爭焦點逐漸轉到了AI超級算力上,或者是包括GPU在內的算力資源支持上。

礦卡風口再次來臨

在行業(yè)算力需求持續(xù)飆升之下,以英偉達等為主的核心高性能芯片廠商,已經(jīng)享受到了作為ChatGPT“賣鏟人”的收益,再次迎來了曾經(jīng)互聯(lián)網(wǎng)大爆發(fā)時期的那種礦卡風口。以英偉達的旗艦芯片H100為例,其在短短一周之內,漲價近7萬元人民幣,售價普遍高達30萬左右,次旗艦A100芯片在短短三個月多時間里,從6萬元一路漲至9萬元,漲幅超過50%。盡管其產品不斷漲價,但訂單依然是供不應求。

一方面,是英偉達作為硬件霸主,不僅在消費級市場占據(jù)大部分市場,還是AI服務器芯片領域的頭號選擇,因此其成為很多“渴望”大算力企業(yè)的優(yōu)先選擇。據(jù)此前公開的數(shù)據(jù)顯示,截至2022年第三季度,英偉達在獨立顯卡市場的份額或已經(jīng)達到了88%,顯卡部分帶來的營收占到了其總營收的60%以上,這表明其依然是消費級顯卡市場無可爭辯的領導者。

基于其在圖像處理器領域的強勢地位和核心技術,其AI大算力芯片在大模型爆發(fā)之后,始終處于“供不應求”的狀態(tài),特別是ChatGPT從國外蔓延到國內的過程中,越來越多的國內互聯(lián)網(wǎng)企業(yè)選擇跟隨,其中以BAT為首出現(xiàn)了超過10家企業(yè)宣布推出大模型的計劃。按照ChatGPT的水準,至少需要3000枚A100芯片,以9萬/枚的價格來算就是2.7億人民幣才能完成一個大模型部署;10個大模型就需要3萬枚A100芯片,27億人民幣,加上后續(xù)訓練成本,這將會是一個天文數(shù)字。

另一方面,由于受到政策層面的影響,高端AI芯片“斷供”的風險劇增,也可能會導致一部分大模型企業(yè)提前囤積芯片,導致相關的芯片用量激增。其實,早在去年8月,美國政府就發(fā)布出口管制政策,禁止英偉達將A100、H100兩款芯片售往中國。為了應對制裁并且不丟掉市場份額,英偉達先后推出了“閹割版”的A800、H800兩款芯片。但這兩款芯片依舊被暴增的市場需求一搶而空,市場價格隨之水漲船高。

在科技制裁之下,預計國內相關的想要布局AI大模型訓練的公司,或許會加速囤積相關的芯片,從而帶來新一輪的AI算力芯片爭奪戰(zhàn)。

國產替代跑步前進,但仍有高墻難越

從目前來看,盡管國內使用英偉達GPU服務器的占比較高,且在當前AI大模型發(fā)展勢頭之下,英偉達具有壓倒性優(yōu)勢。但國產企業(yè)頂著壓力,依然跑出了幾匹黑馬。根據(jù)IDC最新發(fā)布的《中國加速計算市場(2021年下半年)跟蹤報告》,2021年全年中國AI服務器市場規(guī)模達350.3億元,同比增長68.6%。在企業(yè)級GPU芯片領域,中國廠商壁仞科技在2022年推出“BR100”芯片、天數(shù)智芯推出了“智鎧100”芯片、寒武紀推出了“思元270”芯片。

其中壁仞科技稱,BR100擁有全球最高算力,峰值算力達到了市場在售旗艦產品的三倍以上,16位浮點算力達到1000T以上、8位定點算力達到2000T以上,單芯片峰值算力達到PFLOPS級別。這些消息,對于身處美國從設備、材料到技術全面封鎖之中的中國企業(yè)而言,應該算是一個可喜的消息,但想要翻越英偉達這座高山顯然也并不容易。

首先,在AI芯片設計上,國產廠商與海外巨頭的差距雖然縮小了,但在AI大生態(tài)上的差距卻依然存在。比如,壁仞科技的芯片算力數(shù)據(jù)雖好,但缺少至關重要的處理FP64的能力,依然無法完全取代英偉達的H100、A100。并且,英偉達使用的CUDA平臺早已成為應用最為廣泛的AI開發(fā)生態(tài)系統(tǒng),只支持英偉達的Tesla架構GPU,在現(xiàn)階段根本無法用國產芯片取代,因為它涉及到AI芯片的軟件生態(tài)建設、基礎架構等,都還掌握在巨頭手中,目前我們還沒辦法在硬件編程模型上找到替代方案。

其次,在地緣政策背景下,國內目前還無法在AI芯片的全產業(yè)鏈實現(xiàn)獨立自主,卡脖子領域仍然很多。過去幾年,美國圍繞中國芯片產業(yè)的“科技圍堵”有增無減,從開始的限制材料、設備,到后來的全產業(yè)鏈動員封殺,《芯片法案》的頒布正是其科技打壓的集中呈現(xiàn)。而在此背景下,國內芯片產業(yè)替代所需要的EDA工具、代工制造和先進封裝等方面的問題,將面臨更為嚴峻的現(xiàn)實考驗,想要在短期之內進行全產業(yè)鏈替代并不容易。

目前來看,無論是解決生態(tài)問題,還是解決產業(yè)鏈自主問題都需要時間,后者的實現(xiàn)尤其需要一番功夫。

AI芯片國產化替代破局點在哪兒?

不過從解決問題的角度來說,國產替代也絕非沒有機會,至少從國內當前的信創(chuàng)產業(yè)基礎和數(shù)據(jù)應用來看,國內市場更有可能利用前端市場的創(chuàng)新來逆向底層定制,從而走出一條自己的路。即便是在當下,也有一些暫時性的替代方案和思路。

一是定向的國產扶持路徑。對于國產廠商來說,如果它不通過定向合作的方式,很難通過“單打獨斗”來做事情,因為外國企業(yè)都會有自己的軟件架構,然后整個產業(yè)都適配這個架構,從而形成一個完整的生態(tài),這種情況下“從零做起”完全是“費力不討好”的事情。因此,要想推動國產廠商的崛起,就需要先通過與頭部國產AI芯片制造商長期綁定合作,推動自主企業(yè)軟件架構的形成,然后以該架構為主線,逐漸建立起覆蓋上下游的應用生態(tài)。

當然,這種路徑也有時間周期。據(jù)中信證券研報顯示,GPU IP自研需要36-48個月以及200個工程師,而采用外購IP的方式,則需要12-18個月開發(fā)周期,總體上時間都不算短。

二是通過兼容CUDA生態(tài)做延伸。相比自研系統(tǒng),兼容CUDA系統(tǒng)則可以迅速切入國際主流的商業(yè)計算軟件和人工智能軟件,通過接入豐富的軟硬件生態(tài),可廣泛應用于大數(shù)據(jù),人工智能、商業(yè)計算等應用領域。

對比兩種方法來看,目前較為可行的方案還是第二種,但從長遠來看還是做兩手準備。這樣才能夠未雨綢繆,為將來的全面替代做鋪墊。

申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!

相關標簽
ai技術

相關文章

  • 匯聚中國AI頂尖力量 云天勵飛參與華為AI大模型聯(lián)合創(chuàng)新

    2023年7月6日,第六屆世界人工智能大會(WAIC2023)在上海開幕,“人工智能大模型”是本屆大會的備受矚目的話題,據(jù)悉,在昇騰AI大模型的創(chuàng)新研發(fā)中,華為聯(lián)手26家行業(yè)領軍企業(yè),組建了一支協(xié)同創(chuàng)新的“AI明星隊”,云天勵飛作為中國人工智能企業(yè)的杰出代表,和互聯(lián)網(wǎng)大廠、運營商、科研院所等優(yōu)秀團隊

    標簽:
    ai技術
  • 用友大易:邁入AI招聘2.0時代,讓人力資源回歸本質

    這幾個月來,以ChatGPT為代表的生成式AI展現(xiàn)出的能力令世界驚嘆。自從2016年AlphaGo戰(zhàn)勝李世石掀起了一波AI浪潮后,AI仿佛已經(jīng)沉寂了很久,ChatGPT的橫空出世就如同一束耀眼的光芒,讓AI這個名詞重回C位。過去在AI1.0時代,主要通過訓練模型來實現(xiàn)圖像識別、聲音識別、語言處理等特

    標簽:
    ai技術
  • 新發(fā)布的PaaS2.0,能否助力涂鴉智能再起飛?

    文:互聯(lián)網(wǎng)江湖作者:志剛2023年的IoT需要一個新故事。6月29日,涂鴉智能在開發(fā)者大會上,發(fā)布了企業(yè)級戰(zhàn)略PaaS2.0,希望通過一個平臺+四大開發(fā)服務,建立起IoT生態(tài)。對于這場發(fā)布會,市場的態(tài)度是積極的。美東時間6月29日收盤,涂鴉智能美股股價上漲5.6%,來到1.87美元/股。近日股價穩(wěn)定

    標簽:
    ai技術
  • 大模型難掩AI制藥的悲傷:越過山丘,無人等候

    美團曾經(jīng)的二號人物王慧文對標OpenAI的創(chuàng)業(yè)項目光年之外,以20億賣給美團,再度引發(fā)市場對大模型的熱議。

    標簽:
    ai技術
  • 拾起王慧文的AI夢,美團沖向“光年之外”?

    2020年底,王慧文在朋友圈寫下這句話時,外界本以為這位伴隨中國互聯(lián)網(wǎng)發(fā)展而持續(xù)創(chuàng)業(yè)20年的人物即將告別創(chuàng)業(yè)舞臺。但是,一個曾經(jīng)多次創(chuàng)業(yè),正值壯年的互聯(lián)網(wǎng)老將心中的創(chuàng)業(yè)熱情是難以熄滅的。

    標簽:
    ai技術
  • 全球AI巨頭正在賭:誰搞定MCP,誰就是未來老大

    我不是危言聳聽,現(xiàn)在全球的AI巨頭都在做MCP,毫不夸張的說:誰能把MCP做起來,誰就擁有AI生態(tài)控制權,誰就是AI圈的老大。你們有沒有發(fā)現(xiàn),MCP在2025年初開始特別火爆,互聯(lián)網(wǎng)技術大廠都在強推MCP。(1)阿里云百煉搞了個MCP平臺,提供50+預置MCP服務。不過大都只面向阿里系產品。(2)騰

    標簽:
    ai智能
  • 對話李軍:人工智能是“第五范式革命”

    2025國際人工智能程序設計精英挑戰(zhàn)賽(IAEPC)在香港中文大學成功舉辦。作為主辦方之一,歐美同學基金會理事長李軍接受了大賽主持人艾誠采訪。在采訪中,李軍認為IAEPC不僅是一場“冠軍中的冠軍”對決,更是一次全球AI人才的線下交流盛會。大賽“史無前例”的吸引了全球青年科技精英匯聚香港,更加推動和普

  • 對話施韓原與杜瑜皓:與參賽選手一起改變世界

    2025國際人工智能程序設計精英挑戰(zhàn)賽(IAEPC)在香港中文大學成功舉辦。作為大賽發(fā)起人方之一及裁判委員會負責人,施韓原與杜瑜皓接受了大賽主持人艾誠采訪。裁判委員會主席施韓原分享了此次大賽的亮點,IAEPC首次引入創(chuàng)新賽道,探索選手如何與AI合作進行答題。裁判委員會副主席杜瑜皓認為,選手最終目標并

  • 吳林林專訪IAEPC冠軍:與全球參賽者交流是最重要的一課

    2025國際人工智能程序設計精英挑戰(zhàn)賽(IAEPC)在香港中文大學成功舉辦。來自深圳的學生吳林林作為主辦方記者團成員,采訪了大賽冠軍選手之一。在吳林林的采訪中,選手認為與來自全球的參賽者交流是自己學到的最重要的一課。在科技與AI之前,選手們可以平等、開放、友好的交流。以下是采訪實錄(有刪節(jié)):吳林林

  • 吳林林專訪黃錦輝:年輕人要像懂中文一樣懂A

    2025國際人工智能程序設計精英挑戰(zhàn)賽(IAEPC)在香港中文大學成功舉辦。來自深圳的學生吳林林作為主辦方記者團成員,采訪了大會嘉賓:全國政協(xié)委員、香港特別行政區(qū)立法會議員、香港中文大學工程學院副院長、IAEPC聯(lián)合發(fā)起人黃錦輝先生。在吳林林的采訪中,黃錦輝教授勉勵年輕人要像懂中文和英語一樣懂AI,

  • 本以為DeepSeek天下無敵了,沒想到Manus更猛

    昨天新出了一個AI,據(jù)說比DeepSeek還牛,而截止到今早,已經(jīng)有10萬人在排隊申請Manus邀請碼了,而且它邀請碼已經(jīng)炒到10萬了。這是北京的一家人工智能公司蝴蝶科技,創(chuàng)始人是一名來自華中科技大學的90后畢業(yè)生肖弘,突然向全球宣布:世界上第一款真正的人工智能、通用智能體產品出現(xiàn)了,名叫Manus

    標簽:
    ai智能