域名預(yù)訂/競(jìng)價(jià),好“米”不錯(cuò)過(guò)
青云科技(qingcloud.com)總裁林源在 AI 算力發(fā)布會(huì)和采訪中闡述了AI將給應(yīng)用和算力帶來(lái)的變化,他認(rèn)為“AI領(lǐng)域一定會(huì)出現(xiàn)巨頭,但不是一家獨(dú)立的公司,而是一個(gè)小的生態(tài)。”
每一次科技創(chuàng)新都給生產(chǎn)生活方式帶來(lái)變革,正如移動(dòng)互聯(lián)網(wǎng)開(kāi)啟萬(wàn)物互聯(lián),云計(jì)算讓企業(yè)IT遷徙上云,每一次科技創(chuàng)新都給生產(chǎn)生活方式帶來(lái)變革。得益于AI高效的生產(chǎn)力與簡(jiǎn)單的交互方式,青云科技總裁林源認(rèn)為,新一波AI浪潮在帶來(lái)生產(chǎn)力變革的同時(shí),還將帶來(lái)商業(yè)模式、應(yīng)用門(mén)檻、底層架構(gòu)等眾多變革,產(chǎn)生大量新市場(chǎng)機(jī)會(huì)。
他表示,相較于過(guò)去十年,AI驅(qū)動(dòng)應(yīng)用呈現(xiàn)四大變化:首先,移動(dòng)互聯(lián)網(wǎng)、數(shù)字化的服務(wù)應(yīng)用場(chǎng)景,轉(zhuǎn)變?yōu)樗袘?yīng)用都要擁抱AI或被AI改造,企業(yè)數(shù)智化取代數(shù)字化;第二,從以CPU為核心變?yōu)橐訥PU為核心驅(qū)動(dòng)應(yīng)用的創(chuàng)新,“未來(lái)的時(shí)代一定是一個(gè)以GPU為核心的時(shí)代”;第三,由于AI訓(xùn)練成本極高,未來(lái)AI應(yīng)用由延遲敏感型轉(zhuǎn)變?yōu)橐猿杀久舾行蜑橹鳎瑢?duì)應(yīng)的算力將從延遲低的東部沿海,向價(jià)格更便宜的西部地區(qū)發(fā)展,未來(lái)算力分布更加分散;第四,支撐的應(yīng)用類(lèi)型變化,由傳統(tǒng)應(yīng)用和云原生應(yīng)用,轉(zhuǎn)變?yōu)樵圃鷳?yīng)用+AI應(yīng)用,客戶(hù)業(yè)務(wù)更復(fù)雜,業(yè)態(tài)更豐富,對(duì)技術(shù)和平臺(tái)的挑戰(zhàn)越來(lái)越多。
過(guò)去半年中,隨著大模型產(chǎn)品的爆發(fā),AI帶來(lái)的變革已經(jīng)逐漸凸顯,其中作為AI應(yīng)用承載的算力格局變化尤為明顯。
中國(guó)信通院發(fā)布的《中國(guó)綜合算力指數(shù)(2023年)》顯示,截至2023年6月底,我國(guó)算力總規(guī)模達(dá)到197EFLOPS,其中智能算力規(guī)模占整體算力規(guī)模的比例提高到25.4%,智能算力規(guī)模同比增長(zhǎng)達(dá)45%,比算力規(guī)模整體增速高15個(gè)百分點(diǎn)。
AI熱潮下,眾多智算中心項(xiàng)目如雨后春筍般落地開(kāi)工,國(guó)家信息中心與相關(guān)部門(mén)聯(lián)合發(fā)布的《智能計(jì)算中心創(chuàng)新發(fā)展指南》顯示,目前全國(guó)有超過(guò)30個(gè)城市正在建設(shè)或提出建設(shè)智算中心。
在建設(shè)如火如荼的同時(shí),智算中心也存在隱憂。林源指出,當(dāng)前智算中心面臨多方面挑戰(zhàn)。
對(duì)于智算中心的主要建設(shè)者地方政府、國(guó)資央企和地方AI集成商來(lái)說(shuō),首要挑戰(zhàn)是成本和技術(shù)。智算中心投資巨大,一臺(tái)最新的NVIDIA的服務(wù)器就要兩百萬(wàn),未來(lái)能否收回成本以及盈利,取決于運(yùn)營(yíng)效率與平臺(tái)能力,前者降低成本,后者決定能賣(mài)給多少客戶(hù)。而相比于投資與建設(shè),智算中心的運(yùn)營(yíng)更專(zhuān)業(yè)復(fù)雜,目前各中心運(yùn)營(yíng)能力參差不齊,難以應(yīng)對(duì)。
他直言:“行業(yè)內(nèi)大家對(duì)于‘智算中心要怎么建?建成什么樣?未來(lái)要支撐什么業(yè)務(wù)?’并沒(méi)有想的很透徹。”因此造成了有智算功能的某計(jì)算中心建成后,由于只支持特定GPU,所以缺乏客戶(hù),運(yùn)營(yíng)不起來(lái)的情況。
新一波AI熱潮下,智能算力規(guī)模將迎來(lái)更加快速的增長(zhǎng),智算中心如何設(shè)計(jì)規(guī)劃,實(shí)現(xiàn)兼顧AI應(yīng)用、云原生應(yīng)用與傳統(tǒng)應(yīng)用需求,支持異構(gòu)CPU/GPU,高效運(yùn)營(yíng)達(dá)到盈利?
青云的答案是青云AI算力調(diào)度平臺(tái)。
青云AI算力調(diào)度平臺(tái)是包括智算中心在內(nèi)的算力中心建設(shè)的新模式,讓算力中心像管理本地資源一樣管理AI基礎(chǔ)設(shè)施,實(shí)現(xiàn)多元算力統(tǒng)一調(diào)度、智能化算力管理,支持大模型訓(xùn)練場(chǎng)景,提供多種AIGC模型的一站式交付平臺(tái),支撐行業(yè)應(yīng)用計(jì)算、高性能計(jì)算、AI計(jì)算等多種應(yīng)用模式。
青云AI算力調(diào)度平臺(tái)具備九大關(guān)鍵能力:多區(qū)多業(yè)務(wù)資源整合、混合組網(wǎng)、容器推理服務(wù)平臺(tái)、分布式調(diào)度與管理、算法開(kāi)發(fā)支持、模型倉(cāng)庫(kù)(MaaS)、AI訓(xùn)練平臺(tái)、靈活調(diào)度、高速并行存儲(chǔ)。
相較于市面上其他算力調(diào)度產(chǎn)品,苗慧表示,青云AI算力調(diào)度平臺(tái)在資源靈活調(diào)度方面更具優(yōu)勢(shì)。
原因在于,青云針對(duì)大規(guī)模計(jì)算集群研發(fā)了更優(yōu)化的調(diào)度算法,所有節(jié)點(diǎn)、服務(wù)器和存儲(chǔ)設(shè)備都有路徑標(biāo)簽,通過(guò)算法計(jì)算最短鏈路,盡可能調(diào)度同一個(gè)交換機(jī)內(nèi)的兩個(gè)節(jié)點(diǎn),減少數(shù)據(jù)的傳輸損耗。此外,青云在應(yīng)用環(huán)境上使用K8s和Slurm兩種調(diào)度平臺(tái)同時(shí)為客戶(hù)服務(wù),可以實(shí)現(xiàn)提交分布式計(jì)算任務(wù)時(shí),相關(guān)卡、CPU、進(jìn)程等調(diào)度信息都能立刻獲取到,在顆粒度和運(yùn)維傳統(tǒng)機(jī)器等方面也有更多優(yōu)化。多措并舉,實(shí)現(xiàn)更好的算力調(diào)度,更好的資源利用。
“青云AI算力調(diào)度平臺(tái)的服務(wù)對(duì)象是現(xiàn)在和未來(lái)投入智算中心建設(shè)的企業(yè),算力中心現(xiàn)在的投資者和未來(lái)的運(yùn)營(yíng)者。”
對(duì)算力中心來(lái)說(shuō),青云AI算力調(diào)度平臺(tái)使用效果如何,實(shí)踐案例最有說(shuō)服力。
據(jù)林源介紹,青云AI算力調(diào)度平臺(tái)正式發(fā)布前,已經(jīng)在國(guó)家超級(jí)計(jì)算濟(jì)南中心(以下簡(jiǎn)稱(chēng)“濟(jì)南超算”)應(yīng)用,取得了良好效果。
濟(jì)南超算擁有超1000P算力,300P存儲(chǔ),是一個(gè)多元異構(gòu)算力中心,包括HPC、智算和以CPU為主的云計(jì)算,既有NVIDIA GPU,也考慮到國(guó)產(chǎn)化兼容,擁有一部分國(guó)產(chǎn)GPU。自3年前起,濟(jì)南超算的整個(gè)調(diào)度平臺(tái)由青云科技獨(dú)家供應(yīng),運(yùn)營(yíng)至今,平穩(wěn)支撐濟(jì)南超算來(lái)自高校的傳統(tǒng)科學(xué)計(jì)算、政務(wù)云和企業(yè)數(shù)字化應(yīng)用上云、智慧城市、AI等多類(lèi)客戶(hù)群體業(yè)務(wù),助力濟(jì)南超算提高算力資源利用,目前已經(jīng)實(shí)現(xiàn)盈利。
用林源的話說(shuō),濟(jì)南超算案例說(shuō)明“青云AI算力調(diào)度平臺(tái)具備所說(shuō)的能力,我們干過(guò),而且干成了。”
從對(duì)話的ChatGPT到生成照片的妙鴨相機(jī),AI已經(jīng)在多個(gè)領(lǐng)域展現(xiàn)了驚人的生產(chǎn)力與創(chuàng)造力,新一波AI大潮席卷而來(lái),模型迭代迅速,智能算力建設(shè)與應(yīng)用落地加速,企業(yè)如何抓住市場(chǎng)新機(jī)遇,踏浪向前?
面對(duì)AI帶來(lái)的一系列變革,青云希望通過(guò)開(kāi)放的、成熟的、可運(yùn)營(yíng)的AI算力調(diào)度平臺(tái),通過(guò)自營(yíng)、合營(yíng)乃至支撐第三方運(yùn)營(yíng)的方式,與生態(tài)同盟一起貢獻(xiàn)“AI Cloud”,共同前行。
申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!