近日，中國信息通信研究院(以下簡稱“中國信通院”)完成可信AI《大模型推理平臺通用能力成熟度》首輪評估。
商湯大裝置萬象大模型開發(fā)平臺，獲得當前最高評級——4+級，并成為國內(nèi)首家獲得最高評級的大模型推理平臺。
中國信通院依托人工智能關鍵技術和應用評測工業(yè)和信息化部重點實驗室、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟AI Infra工作組，聯(lián)合七十余家單位共同編制了《大模型推理平臺技術要求》標準，并依托該標準開展可信AI大模型推理平臺首批評估，是國內(nèi)最具影響力和權威的大模型推理平臺評估之一。
該評估聚焦大模型推理平臺的功能、性能、穩(wěn)定性，關注部署、推理、服務與管理環(huán)節(jié)，以實現(xiàn)低時延、高吞吐、可擴展、高易用、低成本目標。本次共評估88個能力項，其中基本功能34項，高級功能54項。
結果顯示，商湯大裝置的萬象大模型開發(fā)平臺在模型的部署、推理、服務環(huán)節(jié)均表現(xiàn)優(yōu)異，可為開發(fā)者提供高性價比、靈活易用的服務，配備前沿模型、算法、推理引擎、知識庫等套件，助力開發(fā)者快速構建行業(yè)模型及應用編排。
商湯大裝置萬象大模型開發(fā)平臺提供從大模型開發(fā)到應用構建的全鏈條開發(fā)工具，為企業(yè)大模型落地提供一站式高效服務。萬象可兼容GPU、NPU等異構推理加速卡;其內(nèi)置自研高效推理引擎，降低推理成本50%以上;同時，具備完整的安全機制，為企業(yè)大模型落地提供安全保障。
目前，商湯大裝置萬象大模型開發(fā)平臺已在交通、消費、政務、自動駕駛、智能家居、醫(yī)療等多個行業(yè)多種業(yè)務場景中落地。
交通領域，基于萬象，我們?yōu)槟晨蛻魳嫿斯こ炭辈煸O計領域智能平臺，可實現(xiàn)知識檢索、智能問答、報告輔助生成等功能，有效解決了客戶在知識傳承困難、融合性差和應用程度低等方面的痛點。
消費領域，某企業(yè)希望為員工配備AI助理，改變依賴查閱文檔獲取知識的低效方式。通過萬象平臺的調(diào)用大模型、檢索增強生成(RAG)技術、文檔插件及工程化優(yōu)化，提升了知識獲取效率。
政務領域，某政府機構計劃打造小型AI創(chuàng)新平臺，基于萬象模型開發(fā)平臺及其配套的模型優(yōu)化、API調(diào)用、部署和監(jiān)控服務，大大簡化了復雜的部署工程，實現(xiàn)了企業(yè)開箱即用。
日前，國際數(shù)據(jù)公司(IDC)發(fā)布《中國模型即服務(MaaS)及AI大模型解決方案市場追蹤(2024H2)》，報告顯示，商湯大裝置萬象平臺憑借13%的市場份額穩(wěn)居國內(nèi)AI大模型解決方案市場第二位，再次領跑行業(yè)第一梯隊。未來，商湯大裝置將繼續(xù)依托AI原生技術棧和行業(yè)級解決方案，結合專家服務體系，持續(xù)致力企業(yè)突破大模型落地“最后一公里”，驅(qū)動企業(yè)智能化轉(zhuǎn)型與創(chuàng)新增長。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
