當AI帶來變革性突破形成共識,但同時,如何擁抱AI熱潮,將大模型與分布在車間、工廠、偏遠機房的企業(yè)業(yè)務(wù)相結(jié)合,是擺在所有企業(yè)面前的問題。
在云原生、信創(chuàng)等新形勢下,既要仰望星空,在AI大潮中不掉隊,也要腳踏實地,構(gòu)建可靠安全的數(shù)字基礎(chǔ),這是無數(shù)企業(yè)對IT業(yè)務(wù)的期盼,也是作為服務(wù)商的青云科技(qingcloud.com)以云易捷產(chǎn)品給出的答案。
前瞻AI 助力企業(yè)在大模型 浪潮不掉隊
chatGPT爆火以來,國內(nèi)陸續(xù)發(fā)布近百個大模型產(chǎn)品,AIGC技術(shù)以其高效的生產(chǎn)力和簡單的交互方式再度吸引大量關(guān)注。
需要看到的是,目前國內(nèi)大模型以基礎(chǔ)大模型為主,多停留在對話、圖像生成用途,尚未如同曾經(jīng)云計算帶來的數(shù)字化變革一般,參與到眾多行業(yè)與產(chǎn)業(yè)的數(shù)字化中。
因此,有AI行業(yè)人士認為,當下通用大模型帶來的AIGC火爆只是剛剛開始,后續(xù)還將迎來以產(chǎn)業(yè)大模型為代表的更多爆發(fā)。《中國AIGC產(chǎn)業(yè)全景報告暨AIGC 50》顯示,預(yù)計2023年我國AIGC產(chǎn)業(yè)市場規(guī)模可達170億人民幣,2030年市場規(guī)模將超萬億人民幣。
沒有企業(yè)愿意在新一波AI浪潮中掉隊,但有能力和成本自研大模型的終究是少數(shù)。企業(yè)如何便捷使用大模型,低成本地將AI用于業(yè)務(wù)?
青云科技云易捷產(chǎn)品經(jīng)理曹振表示,云易捷AI一體機可完美滿足眾多企業(yè)客戶的需求。
他介紹,云易捷AI一體機架構(gòu)分為三層:底層為基于云易捷AI一體機快速搭建支持AI或渲染的混合算力集群;在AI算力調(diào)度管理層支持虛擬機和K8s 雙管理與調(diào)度,通過容器和虛擬機的“雙引擎”同時運行容器和虛機的異構(gòu)負載,保證多樣的算力提供;上層為AI應(yīng)用開發(fā)平臺,集成PyTorch等AI框架及MaaS(模型即服務(wù))服務(wù),并通過MCCFlow實現(xiàn)AI應(yīng)用生命周期的管理。
值得一提的是,MaaS服務(wù)內(nèi)置ChatGPT、GLM和LlaMA大模型,也支持通義千問、盤古、混元、GPT-4、Claude、Falcon等國內(nèi)外大模型,企業(yè)可以結(jié)合業(yè)務(wù)數(shù)據(jù)進行高效的推理訓(xùn)練,來適配業(yè)務(wù)場景。
在使用時,集群底層實時根據(jù)負載情況自動調(diào)整運行資源數(shù)量,滿足不同規(guī)模的AI計算需求。企業(yè)可以借助調(diào)度平臺的節(jié)點管理、集群的自動檢測、容器運行狀態(tài)的管理等多方面能力,直觀感知集群的健康情況,確保系統(tǒng)的穩(wěn)定可靠。
除此之外,云易捷AI一體機還具備兼容性強和數(shù)據(jù)安全優(yōu)勢。AI一體機支持x86架構(gòu)包括通用芯片或信創(chuàng)芯片,也支持國產(chǎn)或進口的GPU算力卡,訓(xùn)練模型的業(yè)務(wù)數(shù)據(jù)都在本地存放,支持數(shù)據(jù)加密處理,保證業(yè)務(wù)數(shù)據(jù)的安全性。
長遠來看,大模型等AI技術(shù)和產(chǎn)品的創(chuàng)新,激發(fā)了企業(yè)對自身數(shù)字化與AI結(jié)合的積極性,催生出眾多企業(yè)對“便捷”AI的需求。云易捷AI一體機無疑滿足了這一點,讓沒有自研AI大模型能力的企業(yè)們,不必擔心落后于大模型浪潮。
夯實企業(yè)云原生基礎(chǔ) 推動應(yīng)用架構(gòu)轉(zhuǎn)型
當下,大模型在行業(yè)場景的落地寥寥,如果說企業(yè)“大模型+行業(yè)”嘗試是如摘星一般的探索,打造先進的IT架構(gòu),真正提升生產(chǎn)效率降低成本,就是腳踏實地,夯實發(fā)展之基。
中國信通院認為,云原生是新一代數(shù)字基礎(chǔ)設(shè)施。過去十年,隨著云計算的普及,云原生在經(jīng)歷短暫的萌芽期和發(fā)展期后迅速進入爆發(fā)期,對企業(yè)的技術(shù)架構(gòu)、軟件架構(gòu)產(chǎn)生了顛覆性變化,重塑了企業(yè)IT架構(gòu)。
青云科技云易捷產(chǎn)品經(jīng)理曹振表示,企業(yè)在對應(yīng)用程序進行云原生架構(gòu)改造時,對容器云平臺建設(shè)需求集中在四點:
1、支撐激增的業(yè)務(wù)訪問。一些互聯(lián)網(wǎng)業(yè)務(wù)無法準確預(yù)測訪問的峰谷時間段,要求底層IT資源具有彈性擴展的能力,能滿足承受突然爆發(fā)的大量訪問。
2、應(yīng)用程序開發(fā)能快速迭代上線,并且能對接現(xiàn)有的應(yīng)用發(fā)布體系、持續(xù)集成系統(tǒng)、應(yīng)用建模規(guī)范等接口的對接。
3、降低IT系統(tǒng)運維成本和管理復(fù)雜度。要求容器云集群具備管理大規(guī)模容器集群的運維能力,能夠自動管理容器的生命周期,監(jiān)控容器運行狀態(tài),可以及時的發(fā)現(xiàn)和自動處理異常情況。
4、跨平臺部署。一些大型企業(yè)用戶不希望被一家廠商綁定,要求允許容器應(yīng)用在不同云廠商之間靈活遷移和部署,并要具備容災(zāi)能力,保障業(yè)務(wù)系統(tǒng)連續(xù)運行。
青云云易捷與時俱進、應(yīng)需而變,將上述需求落實到最新版本的云易捷容器集群。
云易捷容器集群架構(gòu)
從架構(gòu)看,云易捷容器集群底層為融合了計算、存儲、網(wǎng)絡(luò)與安全的云易捷超融合平臺;核心層可以利用基礎(chǔ)層資源通過可視化操作步驟,快速構(gòu)建K8s集群;基礎(chǔ)功能層為K8s集群管理和應(yīng)用管理的功能套件;應(yīng)用層支撐業(yè)務(wù)應(yīng)用改造,實時掌握容器工作集群的健康情況,提供資源分配自服務(wù)化。
云易捷底層laaS資源的使用,使集群具備自動伸縮、按需分配等能力;內(nèi)置KubeSphere等可視化集群管理工具,在界面輕松實現(xiàn)復(fù)雜功能的快捷操作;集群可對接多種開源在線服務(wù)及產(chǎn)品,可管理不同環(huán)境、多個廠商的K8s集群。
這些讓云易捷容器集群具備彈性、簡單、自由的特性,實現(xiàn):應(yīng)用容器化、應(yīng)用編排、資源調(diào)度、應(yīng)用監(jiān)控、應(yīng)用商城、CI/CD工具,有效幫助企業(yè)完成應(yīng)用程序云原生的改造工作。
“以容器為核心,讓企業(yè)的應(yīng)用程序改造更安全可靠,助力企業(yè)基礎(chǔ)數(shù)字架構(gòu)的躍升”曹振這樣總結(jié)云易捷原生集成容器集群的作用。
實踐真知 打造新一代云基礎(chǔ)設(shè)施
青云科技與2015年首次推出超融合產(chǎn)品,根據(jù)市場需求持續(xù)迭代,云易捷產(chǎn)品線于2019年正式發(fā)布,定位為“專為中小算力規(guī)模打造的輕量化私有云產(chǎn)品”,如今已經(jīng)推出5個產(chǎn)品:云易捷超融合、云易捷一體機、云易捷AI一體機、信創(chuàng)云易捷、云易捷虛擬化。
無論是AI大模型、超融合、虛擬化,還是云原生容器平臺,價值都在于應(yīng)用,在于去企業(yè)多樣化的實際業(yè)務(wù)場景中發(fā)揮作用。
以制造業(yè)場景為例,水泥廠多建在偏遠山區(qū),廠內(nèi)數(shù)據(jù)中心經(jīng)常停電斷電,業(yè)務(wù)數(shù)據(jù)容易丟失,業(yè)務(wù)往往部署在傳統(tǒng)的FC架構(gòu)上,基本是單機部署,業(yè)務(wù)數(shù)據(jù)不互通,集群擴容復(fù)雜,缺少專業(yè)IT運維人員。
云易捷有的放矢,形成了制造業(yè)解決方案:采用分布式架構(gòu)部署,能承載多類型應(yīng)用,具備高效敏捷的業(yè)務(wù)交付能力;針對易停電情況,對外置UPS電源有效監(jiān)控,停電時整個集群自動關(guān)機;簡化工廠現(xiàn)場運維人員對產(chǎn)品側(cè)的使用,由總部運維人員通過網(wǎng)絡(luò)統(tǒng)一對各廠資源巡檢等管理;架構(gòu)健壯,極端物理情況下具有強大自愈能力,如集群整體斷電,來電后無人操作自動恢復(fù),恢復(fù)成功率99.99%。
除制造業(yè)的一線業(yè)務(wù)場景外,在集團層面的IT建設(shè)與管理上,云易捷同樣表現(xiàn)出色。
湖南韶峰水泥集團在進行智能制造升級時,面臨IT架構(gòu)升級困難、管理平臺不統(tǒng)一運維難的挑戰(zhàn)。通過采用云易捷超融合,韶峰水泥快速搭建了一套云就緒特性的超融合平臺,利用云易捷超融合架構(gòu)天生的高可用、熱遷移、多副本等功能特性,承載生產(chǎn)數(shù)據(jù)連接等關(guān)鍵業(yè)務(wù)系統(tǒng),增強業(yè)務(wù)穩(wěn)定性。曹振表示,該方案升級擴展容易,初始規(guī)模為3融合節(jié)點,后期可平滑升級擴展,底層IT架構(gòu)具有升級特性,可穩(wěn)定升級到全棧企業(yè)云,全棧企業(yè)云與分支云易捷還可以產(chǎn)生聯(lián)動,組建具有分布式云特性的產(chǎn)品形態(tài)。
類似的案例還有很多很多,憑借“可靠、簡單、智能”的特性,云易捷產(chǎn)品已經(jīng)在醫(yī)療、金融、制造業(yè)、教育等行業(yè)被廣泛使用。
仰望星空,要有響應(yīng)AI大模型需求的前瞻性,腳踏實地,要深入了解各行業(yè)場景與痛點,將所有這些化為產(chǎn)品與能力,提供到偏遠的工廠,提供到邊緣機房,提供給一線運維人員,提供給無數(shù)企業(yè)客戶。
云易捷的目標是,讓產(chǎn)品成為新一代云基礎(chǔ)設(shè)施,人人都會安裝,會使用,會管理。
它正走在這條路上。
申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!