打破AI算力限制，全對(duì)等互聯(lián)引領(lǐng)云端AI新時(shí)代
在今日的華為開發(fā)者大會(huì)2025（HDC 2025）上，華為云新一代昇騰AI云服務(wù)無疑成為了焦點(diǎn)?；贑loudMatrix384超節(jié)點(diǎn)的新一代昇騰AI云服務(wù)全面上線，為大模型應(yīng)用提供了“澎湃算力”，標(biāo)志著AI算力限制的打破，全對(duì)等互聯(lián)引領(lǐng)云端AI新時(shí)代。
隨著大模型訓(xùn)練和推理對(duì)算力需求的爆炸式增長(zhǎng)，傳統(tǒng)計(jì)算架構(gòu)已難以支撐AI技術(shù)的代際躍遷。華為云新一代昇騰AI云服務(wù)基于CloudMatrix384超節(jié)點(diǎn)，首創(chuàng)將384顆昇騰NPU和192顆鯤鵬CPU通過全新高速網(wǎng)絡(luò)MatrixLink全對(duì)等互聯(lián)，形成一臺(tái)超級(jí)“AI服務(wù)器”。這一創(chuàng)新性的架構(gòu)，實(shí)現(xiàn)了單卡推理吞吐量躍升到2300Tokens/s的驚人成績(jī)。
CloudMatrix384超節(jié)點(diǎn)架構(gòu)的優(yōu)勢(shì)在于其強(qiáng)大的性能和靈活性。它能夠更好地支持混合專家MoE大模型的推理，實(shí)現(xiàn)“一卡一專家”，一個(gè)超節(jié)點(diǎn)可以支持384個(gè)專家并行推理，提升效率。同時(shí)，超節(jié)點(diǎn)還可以支持“一卡一算力任務(wù)”，靈活分配資源，提升任務(wù)并行處理，減少等待，將算力有效使用率（MFU）提升50%以上。
與新浪的合作，基于CloudMatrix384昇騰AI云服務(wù)，為“智慧小浪”智能服務(wù)體系構(gòu)建了統(tǒng)一的推理平臺(tái)。通過軟硬協(xié)同調(diào)優(yōu)，NPU利用率提升超過40%，使得新浪能夠?yàn)閿?shù)百萬用戶高效提供推理服務(wù)，模型上線速度成倍加快。
在科研領(lǐng)域，中國(guó)科學(xué)院基于CloudMatrix384超節(jié)點(diǎn)打造了自己的模型訓(xùn)練框架，快速構(gòu)建了中國(guó)科學(xué)院AI forScience科研大模型，這是對(duì)擺脫國(guó)外高性能AI算力平臺(tái)依賴的重要一步。這一創(chuàng)新性的嘗試，無疑將推動(dòng)我國(guó)科研領(lǐng)域的發(fā)展。
在互聯(lián)網(wǎng)領(lǐng)域，360打造的納米AI搜索，為用戶提供超級(jí)AI搜索服務(wù)，也已開啟了CloudMatrix384超節(jié)點(diǎn)的測(cè)試。隨著云計(jì)算和AI技術(shù)的融合，未來納米AI搜索將為用戶帶來更加智能、高效的搜索體驗(yàn)。
總的來說，華為云新一代昇騰AI云服務(wù)無疑為AI開發(fā)者們提供了一個(gè)全新的平臺(tái)。它打破了AI算力的限制，引領(lǐng)了云端AI的新時(shí)代。通過全對(duì)等互聯(lián)的架構(gòu)，昇騰AI云服務(wù)能夠更高效地處理大規(guī)模模型訓(xùn)練和推理任務(wù)，提升資源利用率和交付效率。這種創(chuàng)新的云服務(wù)模式，將為華為云帶來更多的市場(chǎng)份額，也將為整個(gè)AI生態(tài)帶來巨大的推動(dòng)力。
我們期待著華為云新一代昇騰AI云服務(wù)在未來的表現(xiàn)，相信在不斷的創(chuàng)新和發(fā)展中，它將為全球的AI開發(fā)者提供更強(qiáng)大、更靈活、更高效的云端AI算力，推動(dòng)人工智能技術(shù)的進(jìn)一步發(fā)展。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
