2023年初，ChatGPT橫空出世，標(biāo)志著生成式人工智能崛起。
作為一種新興的數(shù)據(jù)安全技術(shù)范式，隱私計算借此契機，再次成為焦點。
近日，召開的2023中國人工智能大會共有8個平行專題論壇，其中就包含聚焦隱私計算的“隱私計算與人工智能發(fā)展專題論壇”。無獨有偶，今年7月初舉辦的2023世界人工智能大會上，同樣針對隱私計算技術(shù)開設(shè)了“數(shù)據(jù)要素與隱私計算高峰論壇”。
2023年，被視為隱私計算“融合應(yīng)用之年”，是隱私計算在多個行業(yè)場景大規(guī)模應(yīng)用的關(guān)鍵年份，在人工智能加速落地的時代，這一“數(shù)據(jù)安全技術(shù)基座”將迎來更多的爆發(fā)機遇。
隱私計算是在保護數(shù)據(jù)本身不對外泄露的前提下實現(xiàn)數(shù)據(jù)分析計算的技術(shù)集合，達(dá)到對數(shù)據(jù)“可用、不可見”的目的;在充分保護數(shù)據(jù)和隱私安全的前提下，實現(xiàn)數(shù)據(jù)價值的轉(zhuǎn)化和釋放?；谶@一特性，隱私計算可以確保在不泄露數(shù)據(jù)內(nèi)容的情況下，幫助人工智能獲取更多、更廣、更深的數(shù)據(jù)資源。
從1949年香農(nóng)開創(chuàng)現(xiàn)代密碼學(xué)時代起，安全多方計算、零知識證明被陸續(xù)提出，多種新的技術(shù)路線和隱私計算方案(例如混淆電路、基于秘密分享的MPC、半同態(tài)加密等協(xié)議和算法等)也陸續(xù)出現(xiàn)，七十余年間，隱私計算的技術(shù)體系逐步發(fā)展和壯大，并開始有大規(guī)模的項目落地。
2019年后，隱私計算進入應(yīng)用期，在數(shù)據(jù)要素市場建設(shè)和數(shù)據(jù)價值發(fā)揮的時代背景下，產(chǎn)業(yè)需求快速增長，隱私計算走出學(xué)院派與實驗室，廣泛與行業(yè)應(yīng)用場景相結(jié)合。各類隱私計算廠商也如雨后春筍一般涌現(xiàn)出來，激發(fā)了隱私計算技術(shù)可用性的快速提升。
時間來到2023年。數(shù)字經(jīng)濟建設(shè)提檔加速，人工智能方興未艾，人們開始了對區(qū)塊鏈、元宇宙等概念的探索。新技術(shù)崛起，為隱私計算帶來了全新的挑戰(zhàn)與機遇。
融合發(fā)展：人工智能帶來挑戰(zhàn)與機遇
2023中國人工智能大會期間，上海交通大學(xué)講席教授、博導(dǎo)、日本工程院外籍院士李頡在演講中指出，人工智能的三大基礎(chǔ)是算法、數(shù)據(jù)、算力。聚焦數(shù)據(jù)層面，如何在合規(guī)尊重用戶隱私的條件下充分發(fā)揮數(shù)據(jù)價值，如何打破壁壘、連接數(shù)據(jù)孤島、提高可用數(shù)據(jù)的數(shù)量和質(zhì)量，已成為人工智能發(fā)展需要解決的關(guān)鍵問題，而隱私計恰恰就是打破數(shù)據(jù)孤島、拓展數(shù)據(jù)疆界的關(guān)鍵技術(shù)。
人工智能技術(shù)革命背后意味著巨大的隱私挑戰(zhàn)。
在以深度學(xué)習(xí)為主導(dǎo)的人工智能浪潮中，基于大數(shù)據(jù)的深度學(xué)習(xí)技術(shù)最開始在互聯(lián)網(wǎng)領(lǐng)域成功落地，并廣泛運用于搜索、推薦、語音識別、機器翻譯等各個方面。隨著人工智能超級模型工作的推進，算法訓(xùn)練模型所使用的數(shù)據(jù)規(guī)模越大，模型參數(shù)規(guī)模越大，模型在使用時候識別精度就越高。至此，AI進入大模型時代，并有望在醫(yī)療、金融、教育等數(shù)據(jù)豐富的行業(yè)首先落地。
AIGC的出現(xiàn)標(biāo)志著人工智能發(fā)展史走到了“奇點”。數(shù)字技術(shù)迎來顛覆性的變局，也將會帶來新的沖擊和挑戰(zhàn)。尤其是AIGC的訓(xùn)練過程基于大量數(shù)據(jù)集，這一屬性也會使數(shù)據(jù)收集、使用、流通和計算面臨更多合規(guī)要求。因此，在展望AIGC未來的同時，仍需要增強隱私計算技術(shù)的應(yīng)用，并通過建立監(jiān)管機制、增強相關(guān)立法，確保AIGC合規(guī)發(fā)展。
未來方向：乘時乘勢，帶入千行百業(yè)
AIGC崛起，有望成為隱私計算迎來“原爆點”的契機。
在技術(shù)層面，隱私計算不同技術(shù)路線正在走向融合，實現(xiàn)“1+1>2”的效果。與此同時，隱私計算與區(qū)塊鏈、人工智能、工業(yè)互聯(lián)網(wǎng)也逐步融合，尤其是隱私計算與硬件的結(jié)合已產(chǎn)生多款一體機等軟硬件結(jié)合產(chǎn)品，預(yù)計將會越來越豐富。聚焦AIGC，當(dāng)前業(yè)內(nèi)均在嘗試使用各種方式保護用戶數(shù)據(jù)隱私。除了較為直接的方法，如向用戶提供警告信息之外，隱私計算也已成為AIGC中隱私保護的重要工具，聯(lián)邦學(xué)習(xí)和可信執(zhí)行環(huán)境是其中較有代表性的技術(shù)路線。
在AIGC服務(wù)的生命周期中，用于訓(xùn)練的大規(guī)模數(shù)據(jù)集和用戶的私人信息需要得到保護，可以利用聯(lián)邦學(xué)習(xí)來解決訓(xùn)練數(shù)據(jù)的安全問題。由于AIGC應(yīng)用與互聯(lián)網(wǎng)高度集成，用于AIGC模型訓(xùn)練的數(shù)據(jù)發(fā)生在邊緣服務(wù)器和移動設(shè)備上，它們對各種威脅隱私的攻擊的防御能力較弱。最近，研究人員已經(jīng)提出幾個分布式學(xué)習(xí)框架用于隱私保護，利用聯(lián)邦學(xué)習(xí)技術(shù)，可以實現(xiàn)在邊緣服務(wù)器和移動設(shè)備上進行模型微調(diào)和推理，聯(lián)邦學(xué)習(xí)在訓(xùn)練期間不傳輸原始數(shù)據(jù)，從而確保AIGC模型訓(xùn)練過程的安全性。
在此基礎(chǔ)上，將可信執(zhí)行環(huán)境(TEE)和聯(lián)邦學(xué)習(xí)技術(shù)結(jié)合，可以為大語言模型提供更完善的隱私和數(shù)據(jù)保護。借助基于TEE的聯(lián)邦學(xué)習(xí)解決方案，在訓(xùn)練階段，TEE中的數(shù)據(jù)處理都處于加密狀態(tài)，在推理階段TEE能夠保護用戶輸入和模型結(jié)果的隱私;同時，TEE的硬件隔離和安全驗證機制可以防止未經(jīng)授權(quán)的訪問和攻擊，增強模型運行時的安全性。
伴隨著技術(shù)的不斷成熟，國內(nèi)外隱私計算產(chǎn)業(yè)化的步伐明顯加快。未來幾年，將是隱私計算技術(shù)產(chǎn)品加速迭代、應(yīng)用場景快速拓展、產(chǎn)業(yè)生態(tài)逐步成熟的重要階段。
以AIGC的“奇點”為契機，隱私計算有望迎來“原爆點”，被帶入千行百業(yè)。聯(lián)邦學(xué)習(xí)、TEE等多種技術(shù)體系間也將實現(xiàn)更深刻的融合。
在不遠(yuǎn)的將來，這項技術(shù)將如同移動互聯(lián)網(wǎng)、水、電網(wǎng)一般，成為數(shù)字時代的底層基礎(chǔ)設(shè)施。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
