人工智能安全守護(hù)計(jì)劃啟動(dòng) 將建立AI系統(tǒng)情報(bào)共享機(jī)制

7月26日消息，近日，微軟大規(guī)模藍(lán)屏事件引發(fā)各界反思。一次互聯(lián)網(wǎng)時(shí)代的軟件BUG能夠引起全球大范圍“癱瘓”，如果同樣的劇情在AI時(shí)代上演，損失可能更大。

在中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（以下簡(jiǎn)稱 “AIIA”）安全治理委員會(huì)成果發(fā)布會(huì)上，AIIA秘書長(zhǎng)、中國(guó)信通院院長(zhǎng)余曉暉表示，當(dāng)前人工智能安全治理需要匯聚行業(yè)各方智慧和力量，共同完善人工智能安全風(fēng)險(xiǎn)識(shí)別方法論，建立更為敏捷、精確的安全風(fēng)險(xiǎn)識(shí)別機(jī)制，盡早、盡快發(fā)現(xiàn)風(fēng)險(xiǎn)，加強(qiáng)人工智能安全評(píng)測(cè)技術(shù)工具的研究，通過(guò)技術(shù)來(lái)治理技術(shù)。

據(jù)介紹，為應(yīng)對(duì)當(dāng)前人工智能所帶來(lái)的安全挑戰(zhàn)，AIIA安全治理委員會(huì)重點(diǎn)圍繞人工智能的治理框架、風(fēng)險(xiǎn)管理、內(nèi)生安全、安全應(yīng)用開展了大量的理論和技術(shù)研究工作。

會(huì)上，人工智能安全守護(hù)計(jì)劃正式啟動(dòng)，該計(jì)劃將打造AI Guard品牌，共同建立AI系統(tǒng)情報(bào)共享機(jī)制、AIGC真實(shí)性和可信賴來(lái)源互認(rèn)機(jī)制，推動(dòng)設(shè)立人工智能相關(guān)保險(xiǎn)產(chǎn)品，提升國(guó)內(nèi)人工智能技術(shù)的服務(wù)提供方、使用方的安全防護(hù)能力。

中國(guó)信通院人工智能所黑一鳴博士發(fā)布了自研的大模型安全加固解決方案。該能力通過(guò)模型微調(diào)、外掛安全知識(shí)庫(kù)等模式對(duì)開源大模型自身進(jìn)行安全防護(hù)加固，在保持模型原有通用能力和推理效率的前提下，增強(qiáng)其抵御多種誘導(dǎo)攻擊的能力。

值得一提的是，人工智能天生具備高度交叉的技術(shù)和產(chǎn)業(yè)屬性，跨界融合正成為人工智能發(fā)展的主流形態(tài)。

中國(guó)法學(xué)會(huì)法治研究所研究員、中國(guó)法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)副秘書長(zhǎng)劉金瑞表示，“對(duì)于法學(xué)專家來(lái)講，首先要了解技術(shù)特征。如果不了解技術(shù)特征，你寫的規(guī)范和規(guī)制的思路是不適用這個(gè)技術(shù)的，換句話說(shuō)是無(wú)效的，可能邏輯推演是嚴(yán)謹(jǐn)?shù)模F(xiàn)實(shí)中是沒(méi)法用的。所以對(duì)于法學(xué)專業(yè)來(lái)講，你要根據(jù)這種特征和特性來(lái)設(shè)計(jì)一套配置方案出來(lái)。這是最大的挑戰(zhàn)?！?/p>

據(jù)北京市金杜律師事務(wù)所合伙人寧宣鳳律師透露，隨著人工智能發(fā)展，國(guó)家層面是通過(guò)小切口這種方式進(jìn)行立法，包括深度合成、算法、AIGC等領(lǐng)域開展治理，也出臺(tái)像科技倫理審查辦法等。“人工智能法我們所知也是在制定過(guò)程中”。

生成海報(bào)