9月 19 日,在杭州云棲大會上,阿里云CTO周靖人宣布通義萬相全面升級,并發(fā)布全新視頻生成模型,可生成影視級高清視頻,可應(yīng)用于影視創(chuàng)作、動畫設(shè)計、廣告設(shè)計等領(lǐng)域。即日起,所有用戶可通過通義APP及通義萬相官網(wǎng)免費體驗。
據(jù)介紹,通義萬相首批上線文生視頻、圖生視頻功能,在文生視頻功能中,用戶輸入任意文字提示詞,即可生成一段高清視頻,支持中英文多語言輸入,并可以通過靈感擴寫功能智能豐富視頻內(nèi)容表現(xiàn)力,支持16:9、9:16等多種比例生成;在圖生視頻功能中,支持用戶將任意圖片轉(zhuǎn)化為動態(tài)視頻,按照上傳的圖像比例或預(yù)設(shè)比例進行生成,同時可以通過提示詞來控制視頻運動。
現(xiàn)場,阿里云演示了該模型強大的運動生成和概念組合能力,輸入「穿著滑冰鞋的小兔子在冰面上靈活移動的可愛場景」,通義萬相僅用數(shù)分鐘就能生成一段高清、逼真的視頻。
通義萬相視頻生成大模型集成了多項創(chuàng)新技術(shù),有效解決畫面表現(xiàn)力和大幅度運動等視頻生成技術(shù)難題。針對運動生成和物理模擬等難點優(yōu)化算法,實現(xiàn)了大幅度主體運動和運鏡控制,并有效模擬真實世界物理特性;設(shè)計了高壓縮比、高質(zhì)量視頻VAE框架,有效降低視頻信息冗余,并保持高質(zhì)量視頻重構(gòu)能力;同時,基于輕量微調(diào)框架和精選數(shù)據(jù)集優(yōu)化訓(xùn)練,在中式傳統(tǒng)元素、風(fēng)格化視頻生成上表現(xiàn)更好。
去年7月,通義萬相圖像生成大模型首次亮相,目前已累計生成7500萬張圖片。云棲大會現(xiàn)場,通義萬相宣布視覺生成大模型全面升級為Diffusion Transformer框架,同時結(jié)合通義千問復(fù)雜提示詞解釋能力,有效提升畫面表現(xiàn)力、語義理解能力、可控生成能力。隨著通義萬相視頻生成模型的發(fā)布,通義大模型已覆蓋文本生成、圖像理解、視頻理解、音頻理解、圖像生成、視頻生成等全模態(tài)場景。
申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!