11月12日消息，據(jù)國(guó)外媒體報(bào)道，你的臉正快速成為通往數(shù)字世界的鑰匙。計(jì)算機(jī)、手機(jī)甚至在線商店正開始使用你的臉作為密碼。但來自卡內(nèi)基梅隆大學(xué)的最新研究顯示，面部識(shí)別軟件遠(yuǎn)不安全。在上月末的一個(gè)安全大會(huì)上，研究人員展示其論文，顯示他們能夠誘騙AI臉部識(shí)別系統(tǒng)錯(cuò)誤識(shí)別臉部——讓攝像頭前的人顯示成為另一個(gè)人，甚至使得系統(tǒng)認(rèn)不出他是人。憑借一副特制的眼鏡框，該團(tuán)隊(duì)迫使商用級(jí)臉部識(shí)別軟件誤認(rèn)人臉的成功率達(dá)到100%。研究人員在阿里巴巴用于支付寶人臉識(shí)別的軟件上也取得了同樣的成果。
現(xiàn)代臉部識(shí)別軟件依賴于深度神經(jīng)網(wǎng)絡(luò)——一種從大量信息中學(xué)習(xí)模式的人工智能技術(shù)。在被呈現(xiàn)過數(shù)百萬張人臉之后，該類軟件就能習(xí)得臉部概念，懂得如何分辨不同的臉。該類軟件在學(xué)習(xí)人臉的模樣時(shí)，它非常依靠于特定的細(xì)節(jié)，如鼻子和眉毛的形狀?？▋?nèi)基梅隆大學(xué)打造的眼鏡并不只是覆蓋那些臉部細(xì)節(jié)，還會(huì)印上被計(jì)算機(jī)認(rèn)為是人臉細(xì)節(jié)的圖案。
上面是真人，下面是系統(tǒng)識(shí)別出的人
為了展開測(cè)試，研究人員開發(fā)了一個(gè)先進(jìn)的面部識(shí)別系統(tǒng)。在測(cè)試中，作為測(cè)試對(duì)象的一位白人男士戴著特制的眼鏡，在系統(tǒng)中被識(shí)別成演員米拉?喬沃維奇（Milla Jovovich）的概率高達(dá)87.57%。一位同樣佩戴特制眼鏡的亞洲女士被系統(tǒng)算法認(rèn)為是中東男士的概率也達(dá)到87.57%。其他臉部被“盜”的名人包括卡森?戴利（Carson Daly）、科林?鮑威爾（Colin Powell）和約翰?馬爾科維奇（John Malkovich）。對(duì)于這些人，研究人員分別使用了40張他們的照片來做出用于鑒別出他們的眼鏡。
該測(cè)試并非理論性的——卡內(nèi)基梅隆大學(xué)用光滑的照片紙打印出了那些眼鏡，在攝像頭之前戴上它們，以模擬進(jìn)入一座有臉部識(shí)別系統(tǒng)提供保護(hù)的建筑的場(chǎng)景。那些眼鏡的制造成本為每副0.22美元。當(dāng)研究人員用他們的眼鏡設(shè)計(jì)針對(duì)商用臉部識(shí)別系統(tǒng)Face 進(jìn)行測(cè)試時(shí)，他們能夠做出測(cè)試中能100%冒充別人的眼鏡。Face 目前的企業(yè)合作伙伴包括聯(lián)想和英特爾，且被阿里巴巴用于安全支付。然而，那種測(cè)試是以數(shù)字形式進(jìn)行的——研究人員是將眼鏡編輯到照片上，因此在現(xiàn)實(shí)生活中躲過系統(tǒng)的成功率可能會(huì)低一些。
卡內(nèi)基梅隆大學(xué)的研究是基于谷歌、OpenAI和賓夕法尼亞州大學(xué)之前的研究成果，后者發(fā)現(xiàn)深度神經(jīng)網(wǎng)絡(luò)受訓(xùn)練的方式存在系統(tǒng)性缺陷。通過利用那些缺陷，比如借助被稱作對(duì)抗樣本的有目的性的惡意數(shù)據(jù)，就像卡內(nèi)基梅隆大學(xué)研究中打印在眼鏡上的圖像，研究人員能夠迫使AI作出它原本不會(huì)作的決策。
在實(shí)驗(yàn)室中，這意味著一位40歲的白人女士研究人員被識(shí)別成約翰·馬爾科維奇，不過該研究的成果也有可能會(huì)被試圖侵入建筑或者從計(jì)算機(jī)竊取文件的人取得。
- 閃存普惠，一步到位！華為商業(yè)市場(chǎng)極簡(jiǎn)全閃數(shù)據(jù)中心Pro+重磅發(fā)布
- 《企業(yè)數(shù)據(jù)治理實(shí)踐白皮書》發(fā)布，啟信寶聯(lián)合六大數(shù)交所共同編制
- 業(yè)界首個(gè)！華為數(shù)據(jù)中心自動(dòng)駕駛網(wǎng)絡(luò)通過EANTC L4自智網(wǎng)絡(luò)等級(jí)測(cè)評(píng)
- AI模型的耗電量驚人 下一步是建設(shè)太空數(shù)據(jù)中心？
- 為什么制造商必須協(xié)調(diào)IT和OT，才能實(shí)現(xiàn)智能工業(yè)的成功？
- 打造AI時(shí)代先進(jìn)算力底座，鯤鵬開發(fā)者峰會(huì)2025即將開幕
- 金山辦公宣布未來五年戰(zhàn)略：重建海外基地，優(yōu)化WPS Office用戶體驗(yàn)
- 是德科技攜KAI系列布局AI新時(shí)代
- 微軟全球再裁6000人：無關(guān)績(jī)效，關(guān)乎未來
- 華為發(fā)布AI數(shù)據(jù)湖解決方案，助力企業(yè)加速擁抱AI
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
