AI安全新規(guī)出臺(tái)：螞蟻、清華、中國(guó)電信聯(lián)手畫(huà)紅線(xiàn)
隨著人工智能技術(shù)在全球范圍內(nèi)的快速普及，AI智能體的安全問(wèn)題日益凸顯。近日，世界數(shù)字科學(xué)院（WDTA）在聯(lián)合國(guó)日內(nèi)瓦總部正式發(fā)布了《AI智能體運(yùn)行安全測(cè)試標(biāo)準(zhǔn)》，這是全球首個(gè)針對(duì)單智能體運(yùn)行安全的技術(shù)標(biāo)準(zhǔn)。該標(biāo)準(zhǔn)由螞蟻集團(tuán)、清華大學(xué)、中國(guó)電信牽頭，聯(lián)合普華永道、新加坡南洋理工大學(xué)、美國(guó)圣路易斯華盛頓大學(xué)等二十余家國(guó)內(nèi)外機(jī)構(gòu)共同編制，標(biāo)志著AI安全治理邁入新階段。
填補(bǔ)全球AI安全測(cè)試空白
當(dāng)前，AI智能體在金融、醫(yī)療、教育等領(lǐng)域的應(yīng)用日益廣泛，但其潛在的安全風(fēng)險(xiǎn)也引發(fā)行業(yè)關(guān)注。智能體在跨越“語(yǔ)言墻”時(shí)可能產(chǎn)生不可控的“行為”偏差，甚至導(dǎo)致數(shù)據(jù)泄露、決策失誤等嚴(yán)重后果。然而，此前全球范圍內(nèi)缺乏統(tǒng)一的AI智能體安全測(cè)試標(biāo)準(zhǔn)，使得企業(yè)和機(jī)構(gòu)在部署AI技術(shù)時(shí)面臨較高的不確定性。
此次發(fā)布的《AI智能體運(yùn)行安全測(cè)試標(biāo)準(zhǔn)》首次構(gòu)建了全鏈路風(fēng)險(xiǎn)分析框架，涵蓋輸入輸出、大模型、RAG（檢索增強(qiáng)生成）、記憶和工具五個(gè)關(guān)鍵環(huán)節(jié)，并與運(yùn)行環(huán)境進(jìn)行對(duì)應(yīng)分析。同時(shí)，標(biāo)準(zhǔn)還細(xì)化了智能體風(fēng)險(xiǎn)類(lèi)型，并創(chuàng)新性地提出了模型檢測(cè)、網(wǎng)絡(luò)通信分析和工具模糊測(cè)試等方法，為AI智能體的安全運(yùn)行提供了可量化的評(píng)估依據(jù)。
產(chǎn)學(xué)研協(xié)同推動(dòng)標(biāo)準(zhǔn)落地
該標(biāo)準(zhǔn)的制定匯聚了全球頂尖學(xué)術(shù)機(jī)構(gòu)、科技企業(yè)和行業(yè)專(zhuān)家的智慧。螞蟻集團(tuán)作為主要牽頭方之一，憑借其在金融科技領(lǐng)域的安全實(shí)踐，為標(biāo)準(zhǔn)的可操作性提供了重要支持。清華大學(xué)和中國(guó)電信則分別從學(xué)術(shù)研究和通信安全的角度貢獻(xiàn)了關(guān)鍵技術(shù)方案。此外，普華永道、南洋理工大學(xué)等國(guó)際機(jī)構(gòu)的參與，也確保了標(biāo)準(zhǔn)在全球范圍內(nèi)的適用性。
值得注意的是，這并非WDTA首次發(fā)布AI安全相關(guān)標(biāo)準(zhǔn)。此前，該機(jī)構(gòu)已推出“生成式人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)”“大語(yǔ)言模型安全測(cè)試方法”和“大模型供應(yīng)鏈安全要求”三項(xiàng)標(biāo)準(zhǔn)，OpenAI、谷歌、微軟、百度等企業(yè)均參與其中。此次新標(biāo)準(zhǔn)的發(fā)布，進(jìn)一步完善了AI安全治理體系，為行業(yè)提供了更全面的技術(shù)參考。
金融、醫(yī)療領(lǐng)域率先應(yīng)用
目前，該標(biāo)準(zhǔn)的部分測(cè)評(píng)與認(rèn)證已在金融、醫(yī)療等高風(fēng)險(xiǎn)領(lǐng)域落地。在金融行業(yè)，智能體的安全漏洞可能導(dǎo)致交易異常或客戶(hù)隱私泄露，而新標(biāo)準(zhǔn)通過(guò)工具模糊測(cè)試等方法，能夠有效識(shí)別潛在風(fēng)險(xiǎn)。在醫(yī)療領(lǐng)域，AI輔助診斷系統(tǒng)的可靠性直接關(guān)乎患者安全，標(biāo)準(zhǔn)的實(shí)施有助于提升智能體的行為可控性。
業(yè)界普遍認(rèn)為，這一標(biāo)準(zhǔn)的推出不僅為AI智能體的安全運(yùn)行劃定了“紅線(xiàn)”，也為全球AI生態(tài)的可持續(xù)發(fā)展提供了重要支撐。未來(lái)，隨著更多行業(yè)采用該標(biāo)準(zhǔn)，AI技術(shù)的可信度有望進(jìn)一步提升，從而加速其在關(guān)鍵領(lǐng)域的規(guī)?；瘧?yīng)用。
結(jié)語(yǔ)
AI技術(shù)的快速發(fā)展離不開(kāi)安全基石的穩(wěn)固。此次螞蟻集團(tuán)、清華大學(xué)和中國(guó)電信等機(jī)構(gòu)聯(lián)手制定的《AI智能體運(yùn)行安全測(cè)試標(biāo)準(zhǔn)》，不僅填補(bǔ)了全球AI安全測(cè)試的空白，也為行業(yè)提供了可落地的技術(shù)方案。在AI與實(shí)體經(jīng)濟(jì)深度融合的背景下，此類(lèi)標(biāo)準(zhǔn)的持續(xù)完善將成為技術(shù)健康發(fā)展的重要保障。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
