信也科技9?模型管理平臺：以AI技術(shù)助力行業(yè)集成創(chuàng)新

　 阿里云優(yōu)惠券 先領(lǐng)券再下單

近日，信也科技(NYSE:FINV)推出的9¾模型管理平臺在信也科技開放日上首次亮相。9¾平臺能夠提供一站式人工智能模型服務(wù)，它以AI技術(shù)服務(wù)集團(tuán)業(yè)務(wù)全鏈路，助力金融科技行業(yè)集成創(chuàng)新。

據(jù)了解，9¾平臺的名稱靈感來源于哈利·波特系列中的9¾站臺，該站臺可以通往魔法學(xué)院開啟奇妙世界，而信也科技的9¾平臺，則是通過人工智能技術(shù)支持集團(tuán)科技業(yè)務(wù)，并為合作伙伴賦能。

為眾人所熟知的是，人工智能發(fā)展數(shù)載，它潛移默化地影響著人們的生活，在越來越多的領(lǐng)域發(fā)揮著舉足輕重的作用。無論是行業(yè)巨頭還是新興企業(yè)，均在人工智能領(lǐng)域發(fā)力，力圖將此技術(shù)推廣到更多的應(yīng)用場景。

9¾ 模型管理 平臺：我從哪里來？

AI模型訓(xùn)練平臺，基于核心模塊和應(yīng)用場景的不同，又可以稱為深度學(xué)習(xí)平臺、機(jī)器學(xué)習(xí)平臺、人工智能平臺。用戶在AI平臺能夠使用不同的機(jī)器學(xué)習(xí)框架進(jìn)行大規(guī)模的訓(xùn)練，對數(shù)據(jù)集與模型進(jìn)行管理和迭代，同時通過API與本地部署等方式接入到具體業(yè)務(wù)場景中使用。

簡單地說，AI平臺=AI FAAS+(PAAS)+(IAAS)。業(yè)界不乏優(yōu)秀的機(jī)器學(xué)習(xí)平臺，如微軟的Azure、亞馬遜的AWS Machine Learning、阿里的PAI平臺、百度的Paddle以及騰訊的TI平臺。一般的平臺產(chǎn)品基于基礎(chǔ)的機(jī)器學(xué)習(xí)和深度學(xué)習(xí)計算框架進(jìn)行二次開發(fā)，提供一站式的生態(tài)化服務(wù)，為用戶提供從模型訓(xùn)練、模型評估、模型在線預(yù)測的全流程開發(fā)和部署支持，以期降低算法專家在工程化時的使用門檻。

9¾ 模型管理 平臺 ： 我的解決方案

AI平臺在搭建與落地的過程中，均會遇到機(jī)器學(xué)習(xí)門檻高、落地慢、實(shí)施周期長等問題。結(jié)合日常工作流程中遇到的問題，9¾平臺提供了一系列的解決方案，以解決模型落地上的一系列難題。具體問題如下：

1、模型環(huán)境構(gòu)建難，從模型到服務(wù)轉(zhuǎn)化慢。2、多個模型共用一套環(huán)境，但模型需要獨(dú)立更新，對環(huán)境的維護(hù)需格外謹(jǐn)慎，變更風(fēng)險巨大。3、模型服務(wù)交付周期長，工程環(huán)節(jié)耗時長，人力投入大。4、模型服務(wù)回退慢，模型發(fā)布后，如發(fā)現(xiàn)有問題嘗試退回到上一個版本需要數(shù)分鐘，乃至數(shù)小時。5、模型服務(wù)擴(kuò)容慢，面對突發(fā)流量時，響應(yīng)延遲。

針對以上難題，9¾平臺可提供詳盡的解決方案，具體體現(xiàn)在以下五方面：

1、模型環(huán)境標(biāo)準(zhǔn)化描述，提供一套簡單、統(tǒng)一、覆蓋廣的規(guī)范來定義模型環(huán)境，加快流程。2、將統(tǒng)一標(biāo)準(zhǔn)描述下的模型環(huán)境鏡像化，支持模型容器化運(yùn)行，提供模型環(huán)境隔離和模型運(yùn)營隔離。3、工程環(huán)節(jié)代碼采用自動生成技術(shù)，實(shí)現(xiàn)人力零投入，降低邊際成本。4、模型發(fā)布環(huán)節(jié)采用藍(lán)綠發(fā)布與金絲雀發(fā)布，提供操作簡單的快速版本切換與流量切分。5、利用使用率、飽和度指標(biāo)配合彈性伸縮算法，提供秒級的擴(kuò)容，快速響應(yīng)突發(fā)流量。

9¾ 模型管理 平臺：我的架構(gòu)設(shè)計

根據(jù)企業(yè)不同的規(guī)模、資源及業(yè)務(wù)場景，AI平臺往往有不一樣的定位。例如AI和數(shù)據(jù)可同為一個中臺、AI平臺可視為業(yè)務(wù)中臺的一部分、AI平臺整合進(jìn)技術(shù)中臺或后臺等。規(guī)模較小、資源有限的企業(yè)通常會選擇使用第三方AI平臺對業(yè)務(wù)進(jìn)行服務(wù)，而非自建AI平臺。但信也科技已有數(shù)據(jù)中臺，因此信也科技的AI平臺更多承擔(dān)的是作為業(yè)務(wù)前臺的模型算法供給角色，在數(shù)據(jù)中臺的支持下，起到承載業(yè)務(wù)，對接數(shù)據(jù)與技術(shù)底層的作用。

9¾平臺的架構(gòu)設(shè)計

時下主流的AI平臺有兩種產(chǎn)品形態(tài)：一種是趨向AutoML，主要為非算法專家提供的可視化訓(xùn)練平臺，通過拖拽、拉取等方式完成模型設(shè)計和訓(xùn)練中的組件排布，完成模型構(gòu)建，例如Azure;另一種是為專業(yè)人士提供的模型設(shè)計和訓(xùn)練工具，將模型訓(xùn)練和管理通過工程化平臺進(jìn)行集成管理。也有集成兩種方式的AI平臺，例如阿里的PAI，為各種層次的人工智能工作者與愛好者提供不同專業(yè)程度的工具。

信也科技對AI平臺的定位是能夠快速解決問題、提高能效。因此，信也科技優(yōu)先選擇為算法和模型運(yùn)維工程師提供針對模型生命周期管理的解決方案。

9¾平臺加速了模型生成和服務(wù)化，可提供一整套從模型管理、模型訓(xùn)練到模型部署、模型監(jiān)控的全生命周期解決方案。它不僅可幫助算法專家解決訓(xùn)練環(huán)境與訓(xùn)練過程中的保存管理問題，還可幫助解決在模型部署和上線時的各種問題，并提供線上部署模型的監(jiān)控服務(wù)。

目前9¾模型管理平臺已部署各類模型數(shù)百個，實(shí)現(xiàn)模型日服務(wù)量超過1000萬;可在秒級內(nèi)獲取合適資源;能自動使用CPU、GPU資源，實(shí)現(xiàn)自動擴(kuò)容，性能提升60%;模型上線僅需1分鐘，大大節(jié)約了部署時間。

9¾平臺的 模型訓(xùn)練與線上服務(wù)

此外，9¾平臺為模型訓(xùn)練提供了多套WorkSpace(工作區(qū))容器。一個WorkSpace中包含多種模型開發(fā)時的工具，包括Jupyter、一些常用的IDE與一個終端界面。一個模型從準(zhǔn)備到訓(xùn)練結(jié)束，產(chǎn)出代碼均可在工作區(qū)內(nèi)直接完成，在工作區(qū)內(nèi)可安裝各種依賴、嘗試各種方法，甚至提交代碼至Git，直至算法專家獲得滿意的模型。

針對模型的部署，信也科技獨(dú)創(chuàng)了“流水線”的概念，模型的發(fā)布流水線只需4個步驟，一般發(fā)布一個模型不超過5分鐘。

針對無需在實(shí)時場景下執(zhí)行、或無法在實(shí)時調(diào)用場景下執(zhí)行的耗時較久的模型，9¾提供了發(fā)布為Job任務(wù)的部署方式，用戶可通過Job任務(wù)執(zhí)行回溯任務(wù)或更新訓(xùn)練數(shù)據(jù)，整個過程非常游刃有余。

模型的代碼和內(nèi)部邏輯將作為一個黑盒，被打包為一個docker鏡像，因此模型無論以何種方式發(fā)布，發(fā)布在何種環(huán)境內(nèi)，都是絕對安全可靠的。通過管理模塊與實(shí)際的服務(wù)模塊，用戶能夠完成AI項(xiàng)目的管理和API、Job、鏡像APP等上層應(yīng)用的產(chǎn)出，整個過程無需任何運(yùn)維人員、工程人員的干預(yù)，算法專家即可獨(dú)立操作完成。

9¾平臺的 模型管理模塊

9¾ 模型管理 平臺： 未來，我去往何方？

信也科技于12月17日成功舉辦首屆科技開放日，并于當(dāng)日首次揭秘了自身的科技全景圖，用圖譜的形式直觀展示了大數(shù)據(jù)、人工智能、智能決策產(chǎn)品等硬核科研成果。目前9¾平臺可支持信也科技所有科技業(yè)務(wù)，覆蓋多個業(yè)務(wù)場景，同時支持多家外部合作伙伴。未來，信也科技的人工智能平臺將在增強(qiáng)模型評估功能、在線預(yù)測平臺化、支持分布式訓(xùn)練等方面持續(xù)深入探索。

信也科技全景圖

9¾平臺的成功發(fā)布將進(jìn)一步促進(jìn)人工智能技術(shù)的研發(fā)落地，加強(qiáng)科研成果的轉(zhuǎn)化與輸出。信也科技也將通過不斷的科技創(chuàng)新，深度參與科技賦能，與合作伙伴共謀發(fā)展，助力金融科技行業(yè)創(chuàng)新，使人工智能成為企業(yè)發(fā)展的重要推動力，讓科技更好地服務(wù)人類社會。

申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！