矩陣乘法構(gòu)成了所有人工智能計算的支柱。3D光學(xué)計算帶來的高吞吐量和低延遲對于人工智能推理任務(wù)尤其有價值。

當(dāng)前的人工智能世界耗電且計算有限。模型開發(fā)的軌跡很快，但隨著這種進(jìn)步，需要大幅增加計算能力?，F(xiàn)有的基于晶體管的計算正在接近其物理極限，并且已經(jīng)難以滿足這些不斷增長的計算需求。

大型企業(yè)已經(jīng)嘗試通過開發(fā)自己的定制芯片解決方案來解決這個問題。然而，硬件瓶頸可能過于嚴(yán)重，無法用傳統(tǒng)的電子處理器來克服。那么，技術(shù)如何才能充分滿足對計算能力呈指數(shù)級增長的需求呢？

矩陣乘法

在大型語言模型中，90%以上的計算任務(wù)都使用矩陣乘法。通過以結(jié)構(gòu)化方式進(jìn)行乘法和加法的基本運算，矩陣乘法支持人工智能的不同功能塊。這不僅僅是語言模型。這種基本的線性代數(shù)運算是幾乎每種神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)：實現(xiàn)神經(jīng)元的大規(guī)?；ミB，執(zhí)行圖像分類和對象檢測的卷積，處理順序數(shù)據(jù)等。這是一個簡單的概念，但對于有效操縱和轉(zhuǎn)換支持人工智能和無數(shù)其他應(yīng)用的數(shù)據(jù)來說是不可或缺的，因此矩陣乘法的重要性怎么估計都不為過。

隨著人工智能模型變得越來越大，必須執(zhí)行更多的矩陣運算，這意味著需要越來越多的計算能力。為了達(dá)到所需的性能，即使是現(xiàn)在，電子產(chǎn)品也被推到了極限。還有其他選擇嗎？

光學(xué)矩陣乘法

光學(xué)已經(jīng)以多種方式用于改變我們的生活，最引人注目的是光纖網(wǎng)絡(luò)中的光通信。光學(xué)計算自然是下一步。數(shù)字電子學(xué)需要大量晶體管來執(zhí)行最簡單的算術(shù)運算，而光學(xué)計算則利用物理定律進(jìn)行計算。輸入信息被編碼為光束，并利用光學(xué)的自然特性（例如干涉和衍射）執(zhí)行矩陣乘法。信息可以以多種波長、偏振和空間模式進(jìn)行編碼，從而允許無限量的并行處理，并且計算實際上以光速進(jìn)行。

通過3D光學(xué)添加新維度

隨著登納德縮放定律和摩爾定律的結(jié)束，是時候重新審視計算的基礎(chǔ)知識了。數(shù)字電子產(chǎn)品本質(zhì)上局限于“2D”布局——晶體管柵極和電路制造在晶圓上，計算是通過2D平面上不同單元之間的信息流動進(jìn)行的。這種2D計算架構(gòu)需要不斷增加的晶體管密度，導(dǎo)致嚴(yán)重的互連問題，并遭受臭名昭著的內(nèi)存瓶頸。隨著3D堆疊存儲器的發(fā)展，2D設(shè)計的變革現(xiàn)已開始，但整個行業(yè)的適應(yīng)還有很長的路要走。

現(xiàn)在，光學(xué)可以通過在3D空間中自然地執(zhí)行計算來徹底改變游戲規(guī)則。添加新維度可以放松傳統(tǒng)計算中的許多限制?；ミB組件更容易，能源效率更高，并且它允許不斷增加的吞吐量（在給定時間內(nèi)可以執(zhí)行多少計算），而不影響延遲（每次計算執(zhí)行的速度）。這對于3D光學(xué)來說是完全獨特的：無論是將10個數(shù)字相乘還是10,000個數(shù)字相乘，這一切都會以光速同時發(fā)生。這對光學(xué)處理器的可擴展性產(chǎn)生了巨大的影響，使其能夠達(dá)到當(dāng)前數(shù)字處理器速度的1000倍。

除了3D光學(xué)固有的可擴展性之外，光學(xué)器件的時鐘速度可以提供比傳統(tǒng)電子器件快100倍的速度，并且波長復(fù)用（使用多個波長的光并行處理信息）的能力為進(jìn)一步提高100倍打開了大門。將這一切結(jié)合在一起，使能夠以指數(shù)方式擴展計算速度，并具有更高的吞吐量、更低的延遲和更高的可靠性，而這些只有3D光學(xué)矩陣乘法才能提供。

這對人工智能意味著什么？

無論應(yīng)用如何，矩陣乘法構(gòu)成了所有人工智能計算的支柱。值得注意的是，3D光學(xué)帶來的高吞吐量和低延遲對于數(shù)據(jù)中心的人工智能推理任務(wù)特別有價值，這是一種由實時響應(yīng)能力和效率推動的應(yīng)用程序。

與傳統(tǒng)電子或集成光子學(xué)相比，3D光學(xué)計算在帶寬、延遲、速度和可擴展性方面取得顯著改進(jìn)，再加上與現(xiàn)有機器學(xué)習(xí)算法的兼容性，有望徹底改變所有人工智能應(yīng)用。

CIBIS峰會

由千家網(wǎng)主辦的2023年第24屆CIBIS建筑智能化峰會即將正式拉開帷幕，本屆峰會主題為“智慧連接，‘筑’就未來”， 將攜手全球知名智能化品牌及業(yè)內(nèi)專家，共同探討物聯(lián)網(wǎng)、AI、云計算、大數(shù)據(jù)、IoT、智慧建筑、智能家居、智慧安防等熱點話題與最新技術(shù)應(yīng)用，分享如何利用更知慧、更高效、更安全的智慧連接技術(shù)，“筑”就未來美好智慧生活。歡迎建筑智能化行業(yè)同仁報名參會，分享交流！

報名方式

長沙站（11月09日）：https://www.huodongxing.com/event/7715337579900

上海站（11月21日）：https://www.huodongxing.com/event/9715337959000

北京站（11月23日）：https://www.huodongxing.com/event/3715338464800

廣州站（12月07日）：https://www.huodongxing.com/event/6715338767700

更多2023年CIBIS峰會信息，詳見峰會官網(wǎng)：http://summit.qianjia.com/

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。