5月9日，在北京阿里云AI智領者峰會上，阿里云CTO周靖人公布百煉大模型平臺最新進展。百煉平臺從模型開發(fā)、應用開發(fā)到算力底座全面升級，更加易用、更加開放，引入更多模型，還率先兼容LlamaIndex等開源框架，企業(yè)可自由替換能力組件來適配自身系統(tǒng)。針對當下企業(yè)最關注的RAG鏈路，百煉提供靈活開放的企業(yè)級檢索增強服務，5到10行代碼即可搭建RAG應用，讓大模型擁有“最強外掛”。
2023年10月，阿里云發(fā)布了百煉大模型平臺，開發(fā)者可通過“拖拉拽”5分鐘開發(fā)一款大模型應用，幾小時“煉”出一個專屬模型，把精力專注于應用創(chuàng)新。本次大會上，百煉升級成為阿里云承載云+AI能力的重要平臺，提供一站式、全托管的大模型定制與應用服務。升級后，百煉可以更好支持地大型企業(yè)和成熟開發(fā)者的需求。
“當下企業(yè)應用大模型存在三種范式：一是對大模型開箱即用，二是對大模型進行微調和持續(xù)訓練，三是基于模型開發(fā)應用，其中最典型的需求是RAG，以企業(yè)數(shù)據(jù)對大模型進行知識增強。圍繞這些需求，百煉打造了模型中心和應用中心，提供最豐富的模型和最易用的工具箱。”周靖人介紹。
對希望直接調用模型進行推理的企業(yè)，百煉集成了上百款大模型api，除了通義、Llama、ChatGLM等系列，還首家托管百川等系列三方模型，覆蓋國內外主流廠商，聯(lián)動魔搭開源社區(qū)，同時支持企業(yè)上架通用或行業(yè)模型，給開發(fā)者提供足夠多的模型選擇。同時，百煉依托阿里云AI基礎設施，支持千億級模型的萬級并發(fā)推理，充分滿足企業(yè)需求。
對需進一步訓練模型的用戶，百煉提供從數(shù)據(jù)管理、模型調優(yōu)、評測到部署的全鏈路模型服務，用戶可彈性按需調用算力，無需關心底層架構。訓練過程可視化，還可自動評測模型質量，并與其他模型對比。
對希望打造RAG應用的企業(yè)，百煉支持Assistant API開發(fā)模式，可在百煉上輕松創(chuàng)建知識庫，并一鍵開啟知識檢索增強（RAG），通過Assistant API聯(lián)合輸出。同時，百煉支持agent智能體開發(fā)，并能實現(xiàn)多智能體協(xié)作、對話記憶等高級功能。
阿里云百煉的一大重要優(yōu)勢，在于最大程度的開放性和自由度。當下一些大模型應用平臺采用封閉鏈路，不支持替換原子能力，導致企業(yè)開發(fā)應用時無法引入自研插件，和業(yè)務場景充分融合。
百煉率先兼容并優(yōu)化了LlamaIndex等開源架構，擁抱社區(qū)生態(tài)，支持從本地或不同云端導入SQL、pdf、excel、ppt等各種類型數(shù)據(jù)源，還支持根據(jù)需求自由替換精細的能力組件,讓AI應用絲滑嵌入企業(yè)原有業(yè)務系統(tǒng)。
周靖人表示，接下來，百煉將繼續(xù)做對開發(fā)者最友好、最開放的大模型平臺。阿里云歡迎更多大模型上架，百煉將進一步支持三方模型的微調訓練和云上專屬部署，幫助大模型生態(tài)中的企業(yè)提供商業(yè)化服務。
據(jù)了解，阿里云百煉發(fā)布半年來，已服務一汽、微博、完美世界、朗新集團、央視網(wǎng)、藍凌科技等眾多企業(yè)。例如，一汽紅旗在百煉上調用通義千問和大模型分析能力打造了專屬BI智能體，管理人員可隨時讓大模型生成銷售額圖表，并分析相關情況。
申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！
