1. 創(chuàng)業(yè)頭條
  2. 前沿領域
  3. AI智能
  4. 正文

崔大寶:大模型降溫背后的難點、卡點、節(jié)點

 2024-09-03 10:58  來源:A5專欄  我來投稿 撤稿糾錯

  阿里云優(yōu)惠券 先領券再下單

崔大寶 | 節(jié)點財經創(chuàng)始人

進入2024年,大模型似乎有熄火之勢:資本市場,與之關聯(lián)的概念炒不動了,英偉達股價動輒暴跌重挫,引發(fā)“泡沫戳破”的擔憂;

消費市場,BATH們的推新活動少了,產品更新迭代的速度慢了,民眾的關注度降了……

熱鬧的大概只剩下兩場酣仗 :自5月15日字節(jié)跳動宣布“以厘計費”,打響國內大模型“價格戰(zhàn)”的第一槍,百度文心、訊飛星火、阿里通義、騰訊元寶等紛紛跟進;

同時,地鐵、寫字樓、機場等白領人群密集區(qū)域,百度文心、訊飛星火、阿里通義、騰訊元寶、華為盤古的Slogan,你方唱罷我登臺,貼臉營銷如槍林刀樹。

“海水”與“火焰”交融的場面,不得不讓人思考,大模型的出路究竟在哪里?難點、卡點、節(jié)點又是什么?

01 難點:盈利難&落地難

強如OpenAI,也面臨“恰飯”的難題。

援引外媒報道,OpenAI預估虧損50億美元,全年運營總成本高達85億美元,照此估算,其現(xiàn)金流大概率在一年內耗盡。

而在一篇題為《How does OpenAI Survive》的長文中,作者對OpenAI的商業(yè)模式產生了質疑:

“OpenAI的營收在35億至45億美元之間,但其運營虧損可能高達50億美元,其收入遠遠無法覆蓋成本。而為了推出下一代的大模型GPT5,OpenAI需要更多的數(shù)據(jù)和算力,這又是一大筆花費。”

說千道萬,靠著“碎鈔式”的大力出奇跡后,大模型卻仍未找到一條合理的盈利路徑。

據(jù)《節(jié)點財經》觀察,市面上的大模型,大部分都采取To C+To B,即會員訂閱+開發(fā)者API調用“兩條腿”走路。

但無論是To C,還是To C,能一上來就產生付費的寥寥無幾,若再刨除重負的減項,多半是鼻子大過臉。

以本土大模型先行者百度為例,2024年Q1,其云業(yè)務收入為47億元,同比增長12%,其中6.9%來自外部客戶使用大模型及生成式AI相關服務,約為3.24億元。

而在2023年Q4,大模型為百度云貢獻了6.6 億元增量收入。

這是國內唯一披露大模型收益的廠商,本身又是家大業(yè)大,有底氣拼到底的巨擘。 但只談創(chuàng)收,忽略創(chuàng)利,就是耍流氓。

可想而知,其余不敢明示賬目的選手,內心有多迷茫、煎熬。

不掙錢,難掙錢的背后,是大模型落地難的窘境。

雖然大佬們高呼“ChatGPT”的問世是“iPhone時刻”,第四次工業(yè)革命,新一代的“火”和“電”,但坦率地講,當下大模型還有很多局限性,包括認知偏差、能動性欠缺、泛化性能弱、幻覺等。

比如,數(shù)值運算就是大模型明顯的弱項,或者說大模型是妥妥的“文科生”,做數(shù)學題的智商可能連二、三年級的小學生都不如。

《節(jié)點財經》親測,在Kimi輸入:“9.11和9.8哪個大?”一頓啰嗦后,Kimi給出了完全不正確的答案。

圖源:Kimi官網

比如,大模型資料更新不及時,必須外掛知識庫才能在一定程度上緩解這個痛點,并且還是無法完全解決“一本正經地胡說八道”的尷尬。

前幾天刷屏的SearchGPT,就在各地網友興致勃勃等待灰測展現(xiàn)AI搜索的“洪荒之力”時,《大西洋月刊》澆了一盆冷水,眼尖的記者發(fā)現(xiàn):

問的是關于“八月份北卡羅來納州的布恩音樂節(jié)”的細節(jié),SearchGPT的回答分為5條,3條里包含事實錯誤——有的是把舉辦日期弄錯,有的是把距離和車程搞混,有的是把場館網址張冠李戴。

再如,大模型絕對是“健忘癥”患者,我們在和它對話時,尤其是多輪對話時,難免要化身“復讀機”,一遍一遍重復相同的話術。

而在B端,因為實戰(zhàn)經驗不足,生分于對方的Know-How,加之環(huán)境的復雜多變性,大模型面臨的挑戰(zhàn)更艱巨。某業(yè)內人士表示,迄今大模型在行業(yè)中尚沒有一個成熟的案例。

02 卡點:數(shù)據(jù)、算力、成本

深入肌理地分析,大模型的“落地難”又與自身的三大卡點:數(shù)據(jù)、算力、成本息息相連。

? 卡在數(shù)據(jù)

如果把大模型比作一頭巨獸,那它的顯著特征之一便是“不停進食”:需要高質量、大面積的語料做長久期、高頻次地投喂、催肥。

換言之,“食物”的品質、多寡、新鮮度、多樣性等,決定了大模型的迭代進度和學習效果。

無疑,這對數(shù)據(jù)的挖掘、獲取提出嚴峻考驗,關系到各方的權益保障、利益分配、版權歸屬等,通常涉及到敏感信息時,數(shù)據(jù)的清洗、標注、脫敏又會很繁雜。

前陣,免費網文APP番茄小說因一份“AI協(xié)議”引發(fā)軒然大波。根據(jù)該份協(xié)議,平臺可以將簽約作品,含名稱、大綱、簡介、章節(jié)等,作為“哺育”AI大模型的素材,用于各種應用場景,如智能對話、智能文本創(chuàng)作等。

不過,這一舉動遭到作者的普遍反對,認為其不僅威脅網絡寫手的生計,還損害了原創(chuàng)內容的價值,甚至發(fā)起聯(lián)合斷更以示抗議。

? 卡在算力

如果把AI鏈路比作一間工廠,那么算力便是維持工廠運轉,量級夸張且進價不菲的“燃料”(煤、石油、電力等)。

公開資料顯示,初始ChatGPT匹配的算力是1萬塊英偉達A100(AI芯片),花費超過7億元。后續(xù)調優(yōu)每天消耗的算力大概是3640PFLOPS,即7至8個算力達500PFLOPS的Data Center的支撐,整體基建開支以百億計。

按照廣發(fā)證券的測算,在暫不考慮軟件層面算法優(yōu)化的前提下,本土AI大模型在訓練與判斷、預測階段所需算力,相當于1.1萬臺或3.8萬臺(樂觀假設下)高端AI服務器,大致對應約126億元到434億元的資金體量。

進一步地,隨著大模型規(guī)模狀大,算力需求會倍數(shù)遞增,已然超越硬件的摩爾定律。據(jù)悉,ChatGPT從1.0到3.0,參數(shù)量從1.17億狂飆到1750億。

而目前,我們在算力這塊既面臨外部“卡脖子”,內部建設又相對落后,碎片化、傳輸慢、協(xié)同難、人才緊缺等“痼疾”亟待突破,導致大模型的實效遜于國外。

“大模型只有兩個梯隊,OpenAI和Others,國產用哪家都一樣”,多位AI從業(yè)者談道。

? 卡在成本

大模型“桎梏”于算力,實際也是“桎梏”于成本。

計算機飛入千家萬戶,售價下探,變得親民、接地氣,很關鍵;智能手機能人手一部,物美價廉的小米功不可沒;新能源汽車的熱賣,離不開動力電池的“跳水式”降價……

從人類歷史的進程看,任何一項新技術的推廣、普及,都離不開對成本的有效、大力壓縮、控制。

硬幣的背面,是科技發(fā)展和工業(yè)文明進步共同作用下,制造效率、運算精度提升,人均產值拔高,各類物料愈發(fā)便宜等因素集結的強大驅動力,進而減輕C端、B端“太貴了,買還不買”的糾結。

大模型同理,浩大的開支也是其成長途中的“絆腳石”。試想,當生態(tài)里只有唯一的“賣鏟人”(英偉達)賺錢,賺頭還不小,怎么可能持續(xù)呢?

好消息是,今年2月末,李彥宏透露,自發(fā)布以來,百度不斷降低文心大模型在推理方面的成本,已降至去年3月版本的1%。

03 節(jié)點:在產業(yè)里“種植”大模型

毋庸置疑,大模型仍有諸多“短板”和缺陷,但新技術的魅力向來在于探索“無人區(qū)”,跋涉“深水區(qū)”。

很多眼下看似微弱的“火種”,往往都孕育著日后“納須彌于芥子”的宏壯。盡管迄今為止的大模型,大家都是拿著錘子找釘子,但我們已經看到,其正逐步向產業(yè)邁進,嘗試扮演了一些淺層的Agent的角色。

最醒目的標識便是,大模型不再坐而論道,只會聊天、寫詩、作畫,而是起而動之,走出實驗室,去往礦區(qū)、政務、金融、醫(yī)藥、金融、物流等具體領域,努力兌現(xiàn)自己的終極使命。

比如,在礦區(qū),下井工人常年深陷光線昏暗、浮塵彌漫的環(huán)境,疊加經年累月高強度的勞碌,使不少人都患上了風濕、耳鳴等職業(yè)病,更甚者,還可能遭遇瓦斯、透水等意外,但礦區(qū)作業(yè)又十分依賴人力,特別是主運系統(tǒng)巡檢。

華為的盤古礦山大模型這時候便派上用場了。其覆蓋煤礦的采、掘、機、運、通、洗選等流程下的1000多個細分場景,用AI取代人成為主運智能監(jiān)測系統(tǒng)的眼睛,能夠精準識別大塊煤、錨桿等異常情況,異物識別準確率達98%,動作規(guī)范識別準確率超過95%,且全時段巡邏助力工作人員,避免因漏檢造成的安全事故,縮短停機時間。

京東表示,基座大模型是靠卡訓出來的,企業(yè)大模型是靠人用出來的。

物流領域,攬收、派送、分揀、輔助,應對突發(fā)事件等,快遞員每天都背負著繁重的任務,還要熟悉貨物處理規(guī)程、安全操作標準、客服要求等多達上百個規(guī)范,把這些統(tǒng)統(tǒng)記牢,肯定要耗費大把功夫,還容易混淆。

京東言犀大模型的小哥終端助手大大化解了上述煩惱。它告別了只“動腦”的境界,能直接“下手”,快遞員動動嘴,小哥終端助手就能立即將送貨通知發(fā)給客戶。如今,小哥終端助手為JD商城近35萬自有配送員“效勞”。

再如,零售行業(yè),基于京東言犀大模型的AIGC營銷工具“京點點”,不僅可以幫助商家一鍵出商品圖,還支持了超過2000種視覺元素道具;不僅可以豐富吸睛資源和表現(xiàn)力,還能依循商品屬性、特點和宣傳想要的個性化布局,實時、自主撰寫創(chuàng)意賣點、種草文案、直播腳本等。

總的來說,把大模型“種植”在產業(yè)里,讓大模型在產業(yè)里生長、發(fā)芽,儼然是現(xiàn)在大廠的共識,必須攻克的難關。長遠看,該共識亦如“星星之火”終會燎原曠野。

寫在最后

當喧囂過后,大模型這場豪華游戲,能留在牌桌的玩家,注定只是少數(shù)。

面對數(shù)據(jù)、算力、成本等現(xiàn)實問題,供需兩端漸漸回歸理性。可以預見,在真“好用”和能“吸金”之間,大模型還有很長的路要走。

*題圖由AI生成

申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!

相關標簽
大模型

相關文章

  • 大模型是下一代操作系統(tǒng)的未來,在這屆云棲大會上已經到來

    9月24日,2025云棲大會在杭州開幕,阿里巴巴集團CEO、阿里云智能集團董事長兼CEO吳泳銘發(fā)表主旨演講,首次系統(tǒng)性地闡述通往ASI的三階段演進路線,包括智能涌現(xiàn)、自主行動以及自我迭代等,實現(xiàn)從學習人、輔助人到超越人的發(fā)展脈絡。基于上述的發(fā)展路線,吳泳銘對外做出判斷,大模型是下一代的操作系統(tǒng)?!拔?/p>

    標簽:
    大模型
  • 大模型搶灘高考志愿填報,能否頂替「張雪峰」們?

    文/二風來源/節(jié)點財經每年高考成績放榜后,數(shù)千萬考生和家長將迎來另一場硬仗——填報志愿。今年,這一領域迎來了AI的全面介入,多家互聯(lián)網大廠和教育公司紛紛推出智能志愿填報產品,為考生提供院校和專業(yè)選擇建議。據(jù)艾媒咨詢數(shù)據(jù),2023年中國高考志愿填報市場付費規(guī)模約9.5億元,近九成考生愿意借助志愿填報服

    標簽:
    大模型
  • 兩分鐘“熟讀”《國史大綱》,大模型的下一個爆點是“書童”?

    年初大模型行業(yè)上演“長文本”大戰(zhàn)時,我們就萌生過做一個“讀書助理”的想法。測試了市面上主流的大模型后,發(fā)現(xiàn)普遍存在兩個不足:一種是可以處理的文本長度不夠,即使有些大模型將文本長度提升到了20萬字,像《紅樓夢》這樣近百萬字的名著,還是需要多次才能“讀”完。另一種是語言理解和生成能力不足,經常出現(xiàn)“幻覺

    標簽:
    大模型
  • 除了燒錢,互聯(lián)網留給大模型揮霍的“家底”不多了

    互聯(lián)網或許從未停止創(chuàng)新,只是對于創(chuàng)新的認知下降了。

    標簽:
    大模型
  • 誰該成為大模型成長的“養(yǎng)料”?

    在科技進步的歷史征程里,我們享受技術成果之前,似乎總要付出一些“隱形”成本。

    標簽:
    大模型
  • 看懂黃仁勛CES演講,就看懂 AI 接下來十年的走向

    2026年剛開年,全世界最狂的那個男人,穿著他的經典黑皮衣,在CES舞臺上發(fā)出了未來十年的信號。他搞了個“能吃飽套餐”:6個包子+一碟小菜+一碗粥=肉包子套餐,這樣以后你只要買一個套餐就能吃飽了。(Rubin平臺)同時他們店里還免費提供的筷子、勺子、蘸料、醬油、醋、水果、零食等等。(開放10萬億語言

  • GDPS2025賽場直擊!開普勒大黃蜂助力華理斬獲搬運賽項桂冠

    12月12日-14日,2025全球開發(fā)者先鋒大會暨國際具身智能技能大賽(GDPS2025)于上海張江科學會堂舉行,大會以具身智能競技為核心,融合了技術比拼、產業(yè)展示與科普體驗,為全球觀眾呈現(xiàn)出具身智能的現(xiàn)在與未來。上海開普勒機器人有限公司(以下簡稱"開普勒機器人")攜明星產品K2"大黃蜂"亮相,并參

    標簽:
    GDPS
    2025
  • 弈動 Dynamic·數(shù)智躍遷 博弈無界|2025TechWorld智慧安全大會在京召開

    在數(shù)字化與智能化深度交織的時代浪潮中,安全的邊界不斷延展,技術的演進正引領產業(yè)邁向新一輪變革。10月24日,以“弈動Dynamic·數(shù)智躍遷博弈無界”為主題的2025TechWorld智慧安全大會在北京盛大召開。來自國家部委、院士學者、高??蒲袡C構和企業(yè)的權威專家與業(yè)界精英齊聚北京,共議AI安全、數(shù)

    標簽:
    弈動
  • 甌江論道:AI賦能綠色發(fā)展

    2025年10月25日,2025世界青年科學家峰會之人工智能(AI)融合創(chuàng)新發(fā)展論壇在浙江溫州成功舉辦。本次論壇由國際院士科創(chuàng)中心主辦,中國投資協(xié)會能源投資專業(yè)委員會、溫港院士科創(chuàng)中心承辦,中國電工技術學會、中科先進技術溫州研究院與溫州市電力工程學會提供支持,以“甌江論道-AI賦能綠色發(fā)展”為主題,

    標簽:
    ai技術
  • AI云“分野”:阿里云們“賣鏟”,火山引擎奇襲“MaaS”

    AI云“分野”:阿里云們“賣鏟”,火山引擎奇襲“MaaS”

    標簽:
    阿里巴巴
  • 未來5年,中國AI的“大洗牌”和“內循環(huán)”

    我覺得我們AI的目標是:從芯片設計到軟件生態(tài),全鏈路自主開發(fā),建立可控的世界級AI體系。所以這是俺對未來5年中國AI圈的展望和判斷。(1)2026年,英偉達造車、國產開車26年國產芯片會在推理和垂直場景上發(fā)力。以DeepSeek為代表,大多數(shù)AI大模型會以軟件彌補硬件不足,所以訓練和推理分開,訓練就

  • H20芯片開賣即叫停,英偉達如何解圍?

    文/道哥在深陷“后門”風波、接受網信辦問詢之后,英偉達的“特供版”H20芯片,又有了新消息。近日,美國科技媒體《TheInformation》援引知情人士消息稱,英偉達已悄然向其關鍵供應商——包括負責封裝的安靠科技、供應高帶寬內存的三星電子、以及承擔后端處理的富士康發(fā)出指令,要求暫停所有與H20AI

    標簽:
    英偉達
  • 真正的「國產英偉達」來了

    文/二風來源/節(jié)點財經一場關于“中國芯”的IPO審議,正把投資者們的目光鎖定在上交所。根據(jù)上交所發(fā)布的公告,上市審核委員會已定于9月26日審議摩爾線程的科創(chuàng)板首發(fā)申請。作為中國半導體自主化浪潮中最受矚目的“考生”之一,包括其創(chuàng)始人顯赫的英偉達背景、高達80億元人民幣的募資雄心,以及在國產GPU領域取

    標簽:
    英偉達
  • AI視頻生成賽道“分野”:小廠重產品,大廠重生態(tài)

    AI視頻生成賽道“分野”:小廠重產品,大廠重生態(tài)

  • 數(shù)據(jù)庫進入“內存自由”時代!阿里云PolarDB發(fā)布全球首個CXL數(shù)據(jù)庫服務器

    技術的進步永無止境,繼創(chuàng)下TPC-C性能&性價比雙冠之后,阿里云PolarDB云原生數(shù)據(jù)庫再度實現(xiàn)關鍵突破。9月24日杭州云棲大會上,阿里云宣布推出全球首款基于CXL(ComputeExpressLink)2.0Switch技術的PolarDB數(shù)據(jù)庫專用服務器。在原有RDMA網絡的基礎上,Polar