8月28日，2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會在貴州貴陽舉行。會議期間，中國電信舉辦了以“聚數(shù)乘云 天翼賦能數(shù)字經(jīng)濟新生態(tài)”為主題的天翼云中國行·貴州站“數(shù)據(jù)賦能”交流活動。貴州省副省長蔡朝林、國家數(shù)據(jù)局副局長夏冰、中國電信集團有限公司副總經(jīng)理唐珂出席活動。貴州省大數(shù)據(jù)發(fā)展管理局、貴州省通信管理局、貴州省工業(yè)和信息化廳、貴陽市人民政府、中國信息通信研究院云計算與大數(shù)據(jù)研究所等企事業(yè)單位代表蒞臨現(xiàn)場。會上，中國電信全國首發(fā)上線“魔樂（Modelers）開發(fā)者社區(qū)”。
Modelers開發(fā)者社區(qū)上線首發(fā)儀式
當前，人工智能已進入加快推進應用落地的關鍵階段。為進一步驅(qū)動國內(nèi)人工智能產(chǎn)業(yè)發(fā)展，加快技術創(chuàng)新和商業(yè)落地，中國電信聯(lián)合伙伴發(fā)布魔樂（Modelers）開發(fā)者社區(qū)。作為開發(fā)者交流、學習和創(chuàng)新的平臺，魔樂（Modelers）開發(fā)者社區(qū)集成了模型庫、數(shù)據(jù)集和體驗空間、開發(fā)工具鏈等核心組件，覆蓋自然語言處理、視覺、音頻等多個領域，可提供原生模型、易用開發(fā)工具、豐富的生態(tài)資源，幫助開發(fā)者獲取領先的人工智能技術，打造出更有競爭力和差異化的模型及應用。天翼云通過建設社區(qū)，構建中文環(huán)境下的算力、數(shù)據(jù)、模型、應用和新CDMA服務，希望吸引全國開發(fā)者，共同繁榮國產(chǎn)AI生態(tài)。
會上，天翼云科技有限公司副總經(jīng)理弓劍煒以“云智一體 國云助力數(shù)字經(jīng)濟高質(zhì)量發(fā)展”為題發(fā)表演講。弓劍煒表示，天翼云構建領先的“息壤”一體化智算服務體系和能力，全方位開放生態(tài)合作，為廣大客戶提供“供得上、用得起、用得好”的算力服務。“息壤”突破了多項關鍵技術，擁有強大的算網(wǎng)調(diào)度能力、高效的異構計算能力、一站式的訓推服務能力，積累了豐富的落地應用案例。
天翼云科技有限公司副總經(jīng)理 弓劍煒
算網(wǎng)調(diào)度能力方面 ，“息壤”在三個方面取得顯著技術突破。通過算力插件和算力網(wǎng)關，實現(xiàn)了算力的統(tǒng)一、高效和云化接入；通過算數(shù)協(xié)同和多級算力互聯(lián)調(diào)度，實現(xiàn)了算數(shù)網(wǎng)的一體化調(diào)度，數(shù)隨算走，算隨數(shù)動，調(diào)度區(qū)域更廣，算力更泛在；借助大模型認知能力和業(yè)務調(diào)度，實現(xiàn)算力選擇和應用部署簡單化，故障自動恢復與負載均衡，使算力簡便易用。
基于上述技術突破和產(chǎn)品化應用，“息壤”可服務于三大算力場景。一是天翼云自營公共算力服務平臺，目前已接入39家算力伙伴，實現(xiàn)三方各類算力可調(diào)度22EFLOPS，顯著擴大算力規(guī)模和品類，滿足公有云客戶的多元算力需求。二是幫助客戶構建行業(yè)算力互聯(lián)網(wǎng)，例如高校算力聯(lián)盟等，實現(xiàn)行業(yè)內(nèi)算力利用率的有效提升。三是幫助地方政府構建城市算力互聯(lián)網(wǎng)，實現(xiàn)區(qū)域內(nèi)多方算力的一體化統(tǒng)籌調(diào)度，助力地方經(jīng)濟和產(chǎn)業(yè)發(fā)展，目前已在貴州等多個區(qū)域成功實施。
異構計算能力方面 ，“息壤”具備高效的異構計算能力，能夠破解大模型訓練推理中面臨的大算力、高性能、高穩(wěn)定需求等挑戰(zhàn)。在大算力需求方面，天翼云建設PB級并行文件存儲，并組建低延時超大規(guī)模RDMA網(wǎng)絡，通過計算、內(nèi)存和通訊的多維優(yōu)化，提升綜合算效。在性能方面，對AI框架進行升級、存儲加速，實現(xiàn)checkpoint文件快速保存、加載，將國產(chǎn)算力的綜合算效提升到了行業(yè)可比水平。在穩(wěn)定性方面，通過多項指標的監(jiān)控分析，實現(xiàn)故障訓前發(fā)現(xiàn)，有效控制大模型訓練中斷恢復時長，實現(xiàn)訓練任務長期穩(wěn)定、高可用運行。此外，天翼云基于國產(chǎn)萬卡智算集群和自研智算平臺，已具備支撐萬億參數(shù)基礎大模型訓練的能力。
訓推服務能力方面 ，“息壤”一站式的訓推服務能力，可降低大模型應用創(chuàng)新開發(fā)門檻。平臺預置行業(yè)數(shù)據(jù)集、納管國內(nèi)外主流AI加速硬件、預置基于國產(chǎn)算力的多個基礎大模型等全棧工具鏈能力，將大模型精調(diào)場景簡化操作至選數(shù)據(jù)、選硬件和選模型三個步驟，簡化部署、提升效率；通過自研AI框架、3D并行加速、自研訓練加速庫、容器調(diào)度優(yōu)化等核心技術，大幅提升訓練效率；通過模型量化壓縮、自研推理加速算子庫、自研AI推理加速框架等核心技術，顯著提高推理效率；通過全鏈路故障檢測、定位、告警，全鏈路日志監(jiān)控與可視化、斷點續(xù)訓快速恢復等核心技術，實現(xiàn)訓推過程全鏈路監(jiān)控。
人工智能產(chǎn)業(yè)的發(fā)展和繁榮離不開生態(tài)沃土的“滋養(yǎng)”。此次會議首發(fā)上線魔樂（Modelers）開發(fā)者社區(qū)。通過社區(qū)建設，天翼云將協(xié)同伙伴聚集更多的優(yōu)質(zhì)中文AI資源，加速AI應用商業(yè)落地。天翼云還開放AI云電腦平臺，打造AI應用中心，具備AI助手、AI空間、AI客服、AI低代碼等AI創(chuàng)新應用，使AI應用能夠更廣泛地接入和使用，同時推出算數(shù)融合套餐，為用戶提供更加靈活和高效的服務，全力構建開放的模型、數(shù)據(jù)、應用生態(tài)，共鑄AI產(chǎn)業(yè)繁榮。
中國信通院云計算與大數(shù)據(jù)研究所所長何寶宏在會上介紹了云計算和大數(shù)據(jù)賦能產(chǎn)業(yè)發(fā)展現(xiàn)狀及趨勢。他表示，隨著AI原生帶來的云技術革新和大模型規(guī)?；涞?，云計算技術與產(chǎn)業(yè)融合價值愈加凸顯，各行業(yè)上云積極性持續(xù)攀升，云計算市場將迎來新一輪增長，AI加速產(chǎn)業(yè)格局重新洗牌。展望未來，作為數(shù)字社會底座，云計算的價值將被繼續(xù)挖掘，我國也將從“數(shù)據(jù)大國”邁向“數(shù)據(jù)強國”。
中國信通院云計算與大數(shù)據(jù)研究所所長 何寶宏
人工智能已經(jīng)成為數(shù)字經(jīng)濟發(fā)展的新引擎。作為云計算原創(chuàng)技術策源地、數(shù)字中國建設主力軍，天翼云將不斷深耕云計算領域核心技術，依托豐富的智算資源、強大的智算一體化平臺能力、開放的模型應用生態(tài)和豐富的實踐案例，攜手廣大客戶與合作伙伴共同賦能千行百業(yè)數(shù)智化轉(zhuǎn)型，持續(xù)為數(shù)字經(jīng)濟發(fā)展和數(shù)字中國建設注入澎湃動能。
申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！
