中國電信專家：與國產(chǎn)芯片廠商聯(lián)合打造信創(chuàng)大模型訓練平臺

7月20日消息（岳明）在日前召開的“中國互聯(lián)網(wǎng)大會--國家新型互聯(lián)網(wǎng)交換中心與算力網(wǎng)絡(luò)融合發(fā)展論壇”上，中國電信大模型技術(shù)專家李康作了題為《大模型帶來智算大算力發(fā)展》的主題演講。

李康指出，我國智能算力總體呈現(xiàn)出快速增長趨勢，2022年國內(nèi)服務器銷售72.55億美元，預計2025年銷售額可以達到121億；2022年智算算力整體規(guī)模在268 EFlops，預計2025達到922268 EFlops。他認為，智算算力快速增長的背后，大模型功不可沒。

大模型帶來大集群智算中心需求。大模型訓練需要大算力，比如GPT-3，1750億的參數(shù)，使用1萬張GPU卡訓練14.8天?，F(xiàn)在整體市場是玩家堆參數(shù)、堆性能的狀態(tài)，很多玩家涌入市場，市場的算力缺口非常大。百億、千億參數(shù)的大模型只是開始，萬億參數(shù)的大模型將慢慢的會成為主流。“從大模型發(fā)展來說，大力出奇跡，萬億參數(shù)不是終點，也只是一個階段。”

當前，國內(nèi)算力是剛需，現(xiàn)在有一些廠商把大模型基模放到海外去訓練，訓練回來之后，在國內(nèi)進行微調(diào)。但是，受到數(shù)據(jù)出境限制，其實這種效果是不太好的，尤其是涉及到比如行業(yè)大模型、專屬大模型訓練，這些數(shù)據(jù)不能出域。針對這些特點來說，這些訓練只能在國內(nèi)進行，因此國內(nèi)的訓練算力需求的發(fā)展是非常旺盛的。

李康表示，大模型的訓練和推理有兩個特點，總體需求呈現(xiàn)往上提升的狀態(tài)。訓練算力，因為當前大模型的爆發(fā)，訓練算力屬于飆升的狀態(tài)。但是隨著通用大模型市場趨于飽和，它的增長曲線也會逐漸放緩。但是推理算力不一樣，推理是穩(wěn)步上升的曲線，現(xiàn)在大模型市場落地還處于初步起步階段，所以現(xiàn)在推理算力需求沒那么旺盛。“我們預計2025年推理和需求達到相當，隨后推理算力反超訓練算力。”

李康指出，目前英偉達依然是智算算力的供給主力，國產(chǎn)的GPU也是加速追趕。2022年，國內(nèi)AI芯片的主要份額英偉達占82%，這取決于它的非常強大的存在，尤其是早期性能和早期的大模型框架使用了CUDA架構(gòu)，所以有天然的適配性。它的生態(tài)目前來說是無法被擊破的，但是國內(nèi)現(xiàn)在也在發(fā)展，尤其是一些頭部大模型商研究機構(gòu)，已經(jīng)在開展國內(nèi)芯片的適配工作。比如說華為就派了特戰(zhàn)隊到大模型廠商現(xiàn)場進行適配需求，適配做大模型訓練。電信也會與國產(chǎn)芯片廠商聯(lián)合打造信創(chuàng)大模型訓練平臺，支持開創(chuàng)信創(chuàng)大模型。

中國電信專家：創(chuàng)新算力供給模式，實現(xiàn)全網(wǎng)資源調(diào)度服務大模型市場

在日前召開的“中國互聯(lián)網(wǎng)大會--國家新型互聯(lián)網(wǎng)交換中心與算力網(wǎng)絡(luò)融合發(fā)展論壇”上，中國電信大模型技術(shù)專家李康作了題為《大模型帶來智算大算力發(fā)展》的主題演講。

李康指出，算力供給模式有三種：第一種是公有云模式，算力供給以公有云的模式為主，對于基礎(chǔ)大模型的訓練，玩家都在堆性能和參數(shù)，大力出奇跡。第二種數(shù)據(jù)不能出域的行業(yè)訓練和推理，因為數(shù)據(jù)不能出域，而且對于訓練有強大的要求，并且這些行業(yè)客戶具有一定資金能量，這種是以私有云的模式進行補充。第三種是對于數(shù)據(jù)不能出域，本地可以進行微調(diào)和對齊的需求，以移動算力模式為主。比如說移動算力車、移動手機箱就可以滿足需求。

李康表示，現(xiàn)階段全國智算需求的地域，主要集中在京津冀、江浙滬、粵港澳和川陜渝。但是，全國整體算力需求和供給地域是不均，所以調(diào)度會成為建設(shè)重點。中國電信會依托云網(wǎng)交換中心基礎(chǔ)設(shè)施，實現(xiàn)全國算力調(diào)度服務大模型市場。

據(jù)李康介紹，中國電信在大模型市場的整體布局有兩部分：首先，布局全網(wǎng)算力，電信擁有非常豐富的IDC資源和專網(wǎng)資源，針對2+4+31+X的算力中心布局，建設(shè)模式可以提供大集群式的集中算力和區(qū)域算力、邊緣算力、移動算力，依次滿足不同客戶的需求。其次，布局大模型市場，進行行業(yè)洞察并規(guī)劃商業(yè)模式，比如提供專屬服務模式給客戶進行定制，可以提供SaaS和API模式，或者是和合作伙伴聯(lián)合生態(tài)打造MaaS平臺，提供大模型工具。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。