信也科技9?模型管理平臺：以AI技術(shù)助力行業(yè)集成創(chuàng)新

　 域名預(yù)訂/競價，好“米”不錯過

近日，信也科技(NYSE:FINV)推出的9¾模型管理平臺在信也科技開放日上首次亮相。9¾平臺能夠提供一站式人工智能模型服務(wù)，它以AI技術(shù)服務(wù)集團(tuán)業(yè)務(wù)全鏈路，助力金融科技行業(yè)集成創(chuàng)新。

據(jù)了解，9¾平臺的名稱靈感來源于哈利·波特系列中的9¾站臺，該站臺可以通往魔法學(xué)院開啟奇妙世界，而信也科技的9¾平臺，則是通過人工智能技術(shù)支持集團(tuán)科技業(yè)務(wù)，并為合作伙伴賦能。

為眾人所熟知的是，人工智能發(fā)展數(shù)載，它潛移默化地影響著人們的生活，在越來越多的領(lǐng)域發(fā)揮著舉足輕重的作用。無論是行業(yè)巨頭還是新興企業(yè)，均在人工智能領(lǐng)域發(fā)力，力圖將此技術(shù)推廣到更多的應(yīng)用場景。

9¾ 模型管理 平臺：我從哪里來？

AI模型訓(xùn)練平臺，基于核心模塊和應(yīng)用場景的不同，又可以稱為深度學(xué)習(xí)平臺、機(jī)器學(xué)習(xí)平臺、人工智能平臺。用戶在AI平臺能夠使用不同的機(jī)器學(xué)習(xí)框架進(jìn)行大規(guī)模的訓(xùn)練，對數(shù)據(jù)集與模型進(jìn)行管理和迭代，同時通過API與本地部署等方式接入到具體業(yè)務(wù)場景中使用。

簡單地說，AI平臺=AI FAAS+(PAAS)+(IAAS)。業(yè)界不乏優(yōu)秀的機(jī)器學(xué)習(xí)平臺，如微軟的Azure、亞馬遜的AWS Machine Learning、阿里的PAI平臺、百度的Paddle以及騰訊的TI平臺。一般的平臺產(chǎn)品基于基礎(chǔ)的機(jī)器學(xué)習(xí)和深度學(xué)習(xí)計算框架進(jìn)行二次開發(fā)，提供一站式的生態(tài)化服務(wù)，為用戶提供從模型訓(xùn)練、模型評估、模型在線預(yù)測的全流程開發(fā)和部署支持，以期降低算法專家在工程化時的使用門檻。

9¾ 模型管理 平臺 ： 我的解決方案

AI平臺在搭建與落地的過程中，均會遇到機(jī)器學(xué)習(xí)門檻高、落地慢、實施周期長等問題。結(jié)合日常工作流程中遇到的問題，9¾平臺提供了一系列的解決方案，以解決模型落地上的一系列難題。具體問題如下：

1、模型環(huán)境構(gòu)建難，從模型到服務(wù)轉(zhuǎn)化慢。2、多個模型共用一套環(huán)境，但模型需要獨立更新，對環(huán)境的維護(hù)需格外謹(jǐn)慎，變更風(fēng)險巨大。3、模型服務(wù)交付周期長，工程環(huán)節(jié)耗時長，人力投入大。4、模型服務(wù)回退慢，模型發(fā)布后，如發(fā)現(xiàn)有問題嘗試退回到上一個版本需要數(shù)分鐘，乃至數(shù)小時。5、模型服務(wù)擴(kuò)容慢，面對突發(fā)流量時，響應(yīng)延遲。

針對以上難題，9¾平臺可提供詳盡的解決方案，具體體現(xiàn)在以下五方面：

1、模型環(huán)境標(biāo)準(zhǔn)化描述，提供一套簡單、統(tǒng)一、覆蓋廣的規(guī)范來定義模型環(huán)境，加快流程。2、將統(tǒng)一標(biāo)準(zhǔn)描述下的模型環(huán)境鏡像化，支持模型容器化運行，提供模型環(huán)境隔離和模型運營隔離。3、工程環(huán)節(jié)代碼采用自動生成技術(shù)，實現(xiàn)人力零投入，降低邊際成本。4、模型發(fā)布環(huán)節(jié)采用藍(lán)綠發(fā)布與金絲雀發(fā)布，提供操作簡單的快速版本切換與流量切分。5、利用使用率、飽和度指標(biāo)配合彈性伸縮算法，提供秒級的擴(kuò)容，快速響應(yīng)突發(fā)流量。

9¾ 模型管理 平臺：我的架構(gòu)設(shè)計

根據(jù)企業(yè)不同的規(guī)模、資源及業(yè)務(wù)場景，AI平臺往往有不一樣的定位。例如AI和數(shù)據(jù)可同為一個中臺、AI平臺可視為業(yè)務(wù)中臺的一部分、AI平臺整合進(jìn)技術(shù)中臺或后臺等。規(guī)模較小、資源有限的企業(yè)通常會選擇使用第三方AI平臺對業(yè)務(wù)進(jìn)行服務(wù)，而非自建AI平臺。但信也科技已有數(shù)據(jù)中臺，因此信也科技的AI平臺更多承擔(dān)的是作為業(yè)務(wù)前臺的模型算法供給角色，在數(shù)據(jù)中臺的支持下，起到承載業(yè)務(wù)，對接數(shù)據(jù)與技術(shù)底層的作用。

9¾平臺的架構(gòu)設(shè)計

時下主流的AI平臺有兩種產(chǎn)品形態(tài)：一種是趨向AutoML，主要為非算法專家提供的可視化訓(xùn)練平臺，通過拖拽、拉取等方式完成模型設(shè)計和訓(xùn)練中的組件排布，完成模型構(gòu)建，例如Azure;另一種是為專業(yè)人士提供的模型設(shè)計和訓(xùn)練工具，將模型訓(xùn)練和管理通過工程化平臺進(jìn)行集成管理。也有集成兩種方式的AI平臺，例如阿里的PAI，為各種層次的人工智能工作者與愛好者提供不同專業(yè)程度的工具。

信也科技對AI平臺的定位是能夠快速解決問題、提高能效。因此，信也科技優(yōu)先選擇為算法和模型運維工程師提供針對模型生命周期管理的解決方案。

9¾平臺加速了模型生成和服務(wù)化，可提供一整套從模型管理、模型訓(xùn)練到模型部署、模型監(jiān)控的全生命周期解決方案。它不僅可幫助算法專家解決訓(xùn)練環(huán)境與訓(xùn)練過程中的保存管理問題，還可幫助解決在模型部署和上線時的各種問題，并提供線上部署模型的監(jiān)控服務(wù)。

目前9¾模型管理平臺已部署各類模型數(shù)百個，實現(xiàn)模型日服務(wù)量超過1000萬;可在秒級內(nèi)獲取合適資源;能自動使用CPU、GPU資源，實現(xiàn)自動擴(kuò)容，性能提升60%;模型上線僅需1分鐘，大大節(jié)約了部署時間。

9¾平臺的 模型訓(xùn)練與線上服務(wù)

此外，9¾平臺為模型訓(xùn)練提供了多套WorkSpace(工作區(qū))容器。一個WorkSpace中包含多種模型開發(fā)時的工具，包括Jupyter、一些常用的IDE與一個終端界面。一個模型從準(zhǔn)備到訓(xùn)練結(jié)束，產(chǎn)出代碼均可在工作區(qū)內(nèi)直接完成，在工作區(qū)內(nèi)可安裝各種依賴、嘗試各種方法，甚至提交代碼至Git，直至算法專家獲得滿意的模型。

針對模型的部署，信也科技獨創(chuàng)了“流水線”的概念，模型的發(fā)布流水線只需4個步驟，一般發(fā)布一個模型不超過5分鐘。

針對無需在實時場景下執(zhí)行、或無法在實時調(diào)用場景下執(zhí)行的耗時較久的模型，9¾提供了發(fā)布為Job任務(wù)的部署方式，用戶可通過Job任務(wù)執(zhí)行回溯任務(wù)或更新訓(xùn)練數(shù)據(jù)，整個過程非常游刃有余。

模型的代碼和內(nèi)部邏輯將作為一個黑盒，被打包為一個docker鏡像，因此模型無論以何種方式發(fā)布，發(fā)布在何種環(huán)境內(nèi)，都是絕對安全可靠的。通過管理模塊與實際的服務(wù)模塊，用戶能夠完成AI項目的管理和API、Job、鏡像APP等上層應(yīng)用的產(chǎn)出，整個過程無需任何運維人員、工程人員的干預(yù)，算法專家即可獨立操作完成。

9¾平臺的 模型管理模塊

9¾ 模型管理 平臺： 未來，我去往何方？

信也科技于12月17日成功舉辦首屆科技開放日，并于當(dāng)日首次揭秘了自身的科技全景圖，用圖譜的形式直觀展示了大數(shù)據(jù)、人工智能、智能決策產(chǎn)品等硬核科研成果。目前9¾平臺可支持信也科技所有科技業(yè)務(wù)，覆蓋多個業(yè)務(wù)場景，同時支持多家外部合作伙伴。未來，信也科技的人工智能平臺將在增強(qiáng)模型評估功能、在線預(yù)測平臺化、支持分布式訓(xùn)練等方面持續(xù)深入探索。

信也科技全景圖

9¾平臺的成功發(fā)布將進(jìn)一步促進(jìn)人工智能技術(shù)的研發(fā)落地，加強(qiáng)科研成果的轉(zhuǎn)化與輸出。信也科技也將通過不斷的科技創(chuàng)新，深度參與科技賦能，與合作伙伴共謀發(fā)展，助力金融科技行業(yè)創(chuàng)新，使人工智能成為企業(yè)發(fā)展的重要推動力，讓科技更好地服務(wù)人類社會。

申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！