廣州熱線

7月5日，2024世界人工智能大會期間，中國電信星辰人工智能生態(tài)論壇在上海世博中心啟幕。論壇以“星辰注智，煥新領航”為主題，圍繞人工智能技術發(fā)展趨勢，分享中國電信與產業(yè)各界在人工智能領域的創(chuàng)新與實踐。天翼云科技有限公司董事長、總經理胡志強出席，并發(fā)表演講《云智一體 國云煥新》。他表示，人工智能已成為新一輪科技革命和產業(yè)變革的核心驅動力量。天翼云堅持科技創(chuàng)新驅動高質量發(fā)展，以豐富的智算資源供給、強大的智算服務能力和開放的模型應用生態(tài)，為數字經濟發(fā)展注入新動能。

在智算資源供給方面，天翼云自建了豐富、多樣化的智能算力資源。圍繞AI產業(yè)集聚地區(qū)，天翼云規(guī)劃建設北京、上海、廣東、浙江、安徽人工智能公共算力中心，提供訓推一體化能力，并先后建成上海、北京萬卡池，這也是全國最早建成并真正投產運行的兩個國產化、全液冷、單集群萬卡公共智算中心;在清潔能源集聚地，建設內蒙、貴州、寧夏智算中心，提供綠色算力;此外，天翼云還在31省預部署AI云電腦和推理池，在280多個地市的一城一池節(jié)點和1000多個邊緣節(jié)點按需下沉AI云電腦算力和推理算力;提供國內外主流的GPU、NPU算力方案，面向不同場景為用戶提供公有云、私有云、邊緣云多種形態(tài)服務。

另一方面，天翼云匯聚社會多方算力，通過高效調度實現算力供需匹配。天翼云重點研發(fā)算力分發(fā)網絡平臺“息壤”，從算力統(tǒng)一接入、算數網一體化調度、算力簡便易用三方面進行技術創(chuàng)新，實現裸算力云化接入、算力更泛在、算力選擇和應用部署更簡單，促進算力互聯互通、高效利用、供需匹配。

基于此，息壤可賦能三大算力服務場景。一是天翼云自營的公共算力服務平臺，目前已接入多家算力伙伴，擴大了天翼云算力規(guī)模和品類，滿足公有云客戶的多元算力需求;二是行業(yè)算力互聯網，如國資央企智算云管理調度平臺，接入多家央企算力，提高國資監(jiān)管水平，提升算力利用率;三是城市算力互聯網，通過整合區(qū)域內多方算力，結合產業(yè)政策，實現一體化統(tǒng)籌調度算力，目前已在多個區(qū)域成功實踐。

當前，基礎大模型訓練呈現參數越來越大的趨勢，在超大規(guī)模參數的基礎大模型開發(fā)訓練場景中，對AI基礎設施的算力、性能、穩(wěn)定性都提出了更高要求。天翼云基于單集群萬卡智算中心，搭載一體化計算加速平臺云驍和一站式智算服務平臺慧聚，從基礎設施到平臺，構建了基礎大模型訓練解決方案。

在大算力需求方面，天翼云建設了可橫向擴展的PB級HPFS，滿足存儲要求;組建了低延時的超大規(guī)模RDMA網絡，滿足基礎算力需求;同時，通過計算、內存、通信多維優(yōu)化，提升綜合算效。在性能方面，天翼云升級AI框架，編譯效率翻番，通過拓撲感知調度，集合通信效率提升顯著，多種加速優(yōu)化后將國產算力的綜合算效比提升到了行業(yè)可比水平。在穩(wěn)定性方面，故障訓前發(fā)現，結合斷點續(xù)訓能力，實現訓練任務長期穩(wěn)定、高可用運行。

構建國產萬卡集群不是一萬張卡的簡單堆疊，而是一項高度復雜的系統(tǒng)工程，需要解決超大規(guī)模的組網互聯、高效率的集群計算、長期穩(wěn)定性和高可用性等眾多技術難題。天翼云基于國產萬卡智算集群和自研智算平臺，已具備支撐萬億參數基礎大模型訓練的能力。

在行業(yè)大模型訓推過程中，普遍存在著訓練部署工程化復雜、訓推效率有待提高、訓練中斷頻繁等挑戰(zhàn)。面向行業(yè)大模型訓推場景，天翼云提供一站式智算服務。其中，“慧聚”平臺預置行業(yè)數據集、納管國內外主流AI加速硬件、并預置基于國產算力的基礎大模型等全棧工具鏈能力，大模型精調場景通過選數據、選硬件、選模型3步，即可實現大模型訓推;通過自研AI框架、3D并行加速、自研訓練加速庫、容器調度優(yōu)化等核心技術，大幅提升訓練效率;通過模型量化壓縮、自研推理加速算子庫、自研AI推理加速框架等核心技術，推理效率也明顯提升;通過全鏈路故障分鐘級檢測、定位、告警，全鏈路日志監(jiān)控與可視化、斷點續(xù)訓快速恢復等核心技術，實現訓推過程全鏈路監(jiān)控。

基于技術創(chuàng)新與項目經驗沉淀，天翼云打造了全面的平臺化能力和解決方案，保障客戶高效、便捷、穩(wěn)定、安全使用智算服務。

在模型應用生態(tài)建設方面，天翼云在業(yè)界率先發(fā)布AI云電腦。AI云電腦具有算力更強大、更彈性、更安全、更優(yōu)惠的優(yōu)勢，降低大眾使用AI的門檻，加速推進AI普惠化。目前天翼AI云電腦已接入多個主流通用大模型，以及教育、醫(yī)療、法律、心理等多個行業(yè)大模型，打造AI應用中心，創(chuàng)新推出AI會議、AI低代碼、AI文檔、AI教育等場景化標桿應用，提升客戶辦公、生產效率。

此外，天翼云打造紅云大模型開發(fā)者社區(qū)，聚合本土中文優(yōu)質AI資源，加速AI應用創(chuàng)新和商業(yè)閉環(huán)。通過簡單易用的工具鏈，端到端使能AI應用開發(fā)全流程，助力孵化國產原生模型。

大會期間，天翼云攜智算創(chuàng)新成果亮相世博展覽館，展出了國內領先的單體萬卡液冷智算池、“息壤”“云驍”“慧聚”三大智算平臺、AI云電腦以及基于天翼云智算云底座的星辰大模型等硬核技術成果，全方位展現在人工智能領域的深厚實力。

人工智能正成為發(fā)展新質生產力的重要引擎，作為云服務國家隊，天翼云具有豐富的智算資源儲備、強大的智算平臺能力以及開放的模型應用生態(tài)。未來，天翼云將持續(xù)深耕技術創(chuàng)新，攜手產業(yè)各界共創(chuàng)智算未來，共贏AI時代。