嘉楠科技的AI芯片“上下”之道:IC開(kāi)發(fā)上云,應(yīng)用場(chǎng)景下沉

原標(biāo)題:嘉楠科技的AI芯片“上下”之道:IC開(kāi)發(fā)上云,應(yīng)用場(chǎng)景下沉

IC開(kāi)發(fā)方面通過(guò)“上云”來(lái)充分利用云的靈活算力降本增效并縮短開(kāi)發(fā)周期,芯片應(yīng)用場(chǎng)景則聚焦安防、新零售等“下沉”場(chǎng)景開(kāi)發(fā)新一代ASIC芯片賦能AIoT,嘉楠科技已經(jīng)摸索出一套連接“云+AI+邊緣”的芯片新打法。

從2016年Alpha Go橫空出世,AI這個(gè)詞就熱度不斷?,F(xiàn)在說(shuō)起AI,可能大家瞬間想到的是那些五花八門(mén)的AI智能音箱:Siri、亞馬遜Alexa,微軟小冰,以及國(guó)內(nèi)的百度小度、小米小愛(ài)等。但其實(shí)經(jīng)歷過(guò)“三起兩落”的AI,隨云計(jì)算、IoT、5G等技術(shù)的成熟,更大的可能性在智慧農(nóng)業(yè)、智能安防、自動(dòng)駕駛以及新零售等產(chǎn)業(yè)互聯(lián)網(wǎng)垂直場(chǎng)景。

來(lái)源:《產(chǎn)業(yè)智能化白皮書(shū)——清華大學(xué)全球產(chǎn)業(yè)研究院》

與此同時(shí),受益于國(guó)家政策引導(dǎo)和企業(yè)的廣泛部署,資方和市場(chǎng)均看好AI芯片的發(fā)展走向。據(jù)中金報(bào)告預(yù)測(cè),2022年國(guó)內(nèi)整體AI芯片市場(chǎng)規(guī)模將會(huì)達(dá)到596.2億美元,CAGR(復(fù)合年均增長(zhǎng)率)57%,其中云端訓(xùn)練AI芯片172.1億美元,CAGR 53.5%,云端推斷芯片71.9億美元,CAGR 84.1%,邊緣計(jì)算AI芯片352.2億美元,CAGR 55.2%。可以說(shuō)AI芯片領(lǐng)域整體是有很多機(jī)會(huì)的,但最大的機(jī)會(huì)在哪呢?

來(lái)源:《AI芯片:應(yīng)用落地推動(dòng)產(chǎn)品多樣化——中金研究部》

應(yīng)用場(chǎng)景聚焦下沉,AI芯片的最大機(jī)會(huì)在于邊緣

如同Alpha Go需要48個(gè)Google AI芯片的加持才得以在國(guó)際棋壇大殺四方一樣。作為AI架構(gòu)的核心部件,伴隨算法的迭代,AI芯片也經(jīng)歷了從CPU、GPU、FPGA、到現(xiàn)在主流ASIC芯片的發(fā)展過(guò)程,其通用性和延展性逐漸收縮,更加聚焦于產(chǎn)業(yè)互聯(lián)網(wǎng)時(shí)代“網(wǎng)連萬(wàn)物”(即通常所說(shuō)的AIoT)的應(yīng)用要求。

具體來(lái)講,07年以前對(duì)芯片還沒(méi)有特別強(qiáng)烈的需求,通用的CPU芯片即可提供足夠算力。之后隨著移動(dòng)互聯(lián)網(wǎng)的誕生和發(fā)展,高清視頻和游戲快速發(fā)展,在圖形處理方面更有優(yōu)勢(shì)的GPU發(fā)展迅速,在這之后一段時(shí)間內(nèi)成為當(dāng)時(shí)AI芯片的主流。

但是,GPU只是在圖形處理上有優(yōu)勢(shì),對(duì)于AI深度學(xué)習(xí)則沒(méi)有針對(duì)性?xún)?yōu)化。與此同時(shí),隨著4G以及大數(shù)據(jù)和云計(jì)算等技術(shù)的發(fā)展,AI作為一個(gè)老技術(shù)煥發(fā)出新生機(jī),在人臉識(shí)別、自然語(yǔ)言處理、語(yǔ)音識(shí)別、無(wú)人駕駛等領(lǐng)域的需求日益擴(kuò)大。這時(shí)候針對(duì)深度學(xué)習(xí)開(kāi)發(fā)的 FPGA芯片和ASIC芯片開(kāi)始登上舞臺(tái)。

FPGA(FIELD-PROGRAMMABLE GATE ARRAY),即 “現(xiàn)場(chǎng)可編程門(mén)陣列”,又被稱(chēng)為“萬(wàn)能芯片”。用戶(hù)通過(guò)燒入FPGA配置文件,來(lái)定義門(mén)電路以及存儲(chǔ)器之間的連線(xiàn),用硬件描述語(yǔ)言(HDL)設(shè)計(jì)其硬件電路,從而定義需要芯片的功能。但缺點(diǎn)是單芯片成本和功耗依然比較高。

但隨后IoT和邊緣計(jì)算等的發(fā)展,使得產(chǎn)業(yè)互聯(lián)網(wǎng)的計(jì)算需求得到前所未有的釋放?!斑@些邊緣設(shè)備相比于高運(yùn)算力,更加靈活和即時(shí)的運(yùn)算反饋更加重要,所以這個(gè)階段單芯片體積更小、成本更低、功耗更小的ASIC芯片稱(chēng)為新的主流”,國(guó)內(nèi)AI芯片明星公司嘉楠科技CEO張楠賡如此總結(jié)道。而像嘉楠K210等針對(duì)端側(cè)的AI芯片也更加與現(xiàn)在智能工農(nóng)業(yè)生產(chǎn)場(chǎng)景和C端生活場(chǎng)景中形形色色的海量設(shè)備所需要的AI算力、感知交互能力、實(shí)時(shí)交互能力以及訓(xùn)練數(shù)據(jù)隱私等需求所匹配,提供設(shè)備邊緣側(cè)的立體化支持。

另一方面,經(jīng)過(guò)長(zhǎng)期發(fā)展的通用化芯片領(lǐng)域如CPU等成為巨頭盤(pán)踞的地方,Intel、NVIDIA都有很完整的產(chǎn)品矩陣。而現(xiàn)在AI芯片,尤其是ASIC現(xiàn)在競(jìng)爭(zhēng)還不是很充分,而且其應(yīng)更加適配邊緣端的特性也連接了一個(gè)萬(wàn)億級(jí)的IoT市場(chǎng),也是國(guó)內(nèi)小巨頭入場(chǎng)的機(jī)會(huì)?!岸藗?cè)AI現(xiàn)在還有很多機(jī)會(huì),是個(gè)藍(lán)海,更適合創(chuàng)業(yè)者去折騰”,張楠賡在一次采訪時(shí)如此說(shuō)道,這也代表了國(guó)內(nèi)AI領(lǐng)域這些年輕創(chuàng)業(yè)者們對(duì)于大技術(shù)趨勢(shì)的判斷。

IC開(kāi)發(fā)聚焦上云,AI芯片研發(fā)的最大機(jī)會(huì)則在云計(jì)算

其實(shí)在AI芯片的開(kāi)發(fā)和制造過(guò)程中,其硬件成本比較明確(受制于原料供應(yīng)、工藝水平、供需關(guān)系等決定)一定時(shí)期內(nèi)也比較固定。而經(jīng)典 IC 開(kāi)發(fā)環(huán)境中,IC 、 IT 團(tuán)隊(duì)都面臨著EDA 峰值性能需求難以滿(mǎn)足;數(shù)據(jù)遷移耗時(shí)費(fèi)力;多項(xiàng)目并行發(fā)生資源搶奪;長(zhǎng)達(dá)數(shù)周的EDA進(jìn)程被停電等外力中斷;異地辦公圖像卡頓;數(shù)據(jù)安全等一系列問(wèn)題挑戰(zhàn)。

來(lái)源:《全球及中國(guó)芯片產(chǎn)業(yè)發(fā)展解析——前瞻產(chǎn)業(yè)研究院》

與此同時(shí),國(guó)內(nèi)AI產(chǎn)業(yè)的蓬勃發(fā)展帶來(lái)一個(gè)全民IC(半導(dǎo)體芯片)時(shí)代。除傳統(tǒng)IC企業(yè)外,互聯(lián)網(wǎng)企業(yè)也加入的入場(chǎng)則帶來(lái)了如云這樣的新生產(chǎn)工具,給了靈活算力部署以可能,以應(yīng)對(duì)IC開(kāi)發(fā)過(guò)程中的EDA過(guò)高等問(wèn)題,將成為未來(lái)降低IC開(kāi)發(fā)成本,突破8:20定價(jià)法的機(jī)會(huì)所在。

對(duì)此,嘉楠科技技術(shù)副總裁吳敬杰在前不久舉行的AWS技術(shù)峰會(huì)上,以解決CPU密集峰值需求場(chǎng)景為例,介紹嘉楠科技利用AWS助力IC開(kāi)發(fā)的過(guò)程:通過(guò)Jenkins 對(duì)接AWS API, 嘉楠科技在有新代碼提交時(shí)啟用AWS Spot Instance, 在余量不足時(shí)啟用On demand的EC2 Instance,降低自采設(shè)備造成的大量閑置運(yùn)維成本,并能在第一時(shí)間滿(mǎn)足CPU密集峰值需求。同時(shí),AWS提供的遠(yuǎn)程虛擬桌面解決方案,實(shí)現(xiàn)從云到客戶(hù)端加密和云上桌面+云下一并管理。云也大幅簡(jiǎn)化嘉楠的資源使用分析操作,提升了分析操作的準(zhǔn)確度。

AWS靈活的SDN網(wǎng)絡(luò),使嘉楠在幾分鐘內(nèi)在云上構(gòu)建符合需求網(wǎng)絡(luò)成為可能,從而得以投入更多精力優(yōu)化業(yè)務(wù)本身。目前嘉楠科技的網(wǎng)絡(luò)架構(gòu),如果用傳統(tǒng)方式搭建需要2個(gè)月,但用云的方案搭建僅僅用了兩周時(shí)間。

得益于和AWS的合作,能夠快速部署IC開(kāi)發(fā)的高效率大大解放了嘉楠的數(shù)字生產(chǎn)力。嘉楠在2018年全球首發(fā)量產(chǎn)7nm投片,并成功推出RISC-V AI芯片勘智K210。目前已經(jīng)在智能農(nóng)業(yè)、人臉識(shí)別門(mén)鎖、無(wú)感門(mén)禁、智能水表等場(chǎng)景落地。

在分享會(huì)的最后,吳敬杰總結(jié)了6點(diǎn)云端進(jìn)行IC開(kāi)發(fā)的優(yōu)勢(shì):大幅彌補(bǔ)經(jīng)典 IC開(kāi)發(fā)環(huán)境的不足;滿(mǎn)足深工藝對(duì)設(shè)計(jì)資源的需求;云計(jì)算成本通過(guò)優(yōu)化可與傳統(tǒng)方案持平,但能夠獲得更豐富的計(jì)算資源;高性能云計(jì)算服務(wù)可助力端側(cè) AI 芯片設(shè)計(jì)和應(yīng)用;云端安全性被充分考量;Silicon Proven(硅驗(yàn)證)是IC業(yè)對(duì)工具價(jià)值的最終評(píng)定標(biāo)準(zhǔn)。

誠(chéng)如吳敬杰所講,云端進(jìn)行IC開(kāi)發(fā)有諸多優(yōu)勢(shì),IC開(kāi)發(fā)上云也是“云+AI”的某種體現(xiàn)。但面對(duì)AI領(lǐng)域甚至是泛科技領(lǐng)域的大中小公司爭(zhēng)相入局,聚焦廣闊IoT的邊緣端的AI芯片場(chǎng)景下沉則是新的機(jī)會(huì)所在?!吧显啤焙汀跋鲁痢?,對(duì)于AI芯片來(lái)說(shuō),這兩者并不沖突。

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2019-08-08
嘉楠科技的AI芯片“上下”之道:IC開(kāi)發(fā)上云,應(yīng)用場(chǎng)景下沉
作為AI架構(gòu)的核心部件,伴隨算法的迭代,AI芯片也經(jīng)歷了從CPU、GPU、FPGA、到現(xiàn)在主流ASIC芯片的發(fā)展過(guò)程,其通用性和延展性逐漸收縮,更加聚焦于產(chǎn)業(yè)互聯(lián)網(wǎng)時(shí)代“網(wǎng)連萬(wàn)物”(即通常所說(shuō)的AIo

長(zhǎng)按掃碼 閱讀全文