隨著人工智能被用于更多高風(fēng)險決策，強(qiáng)調(diào)這些決策要盡可能公平和準(zhǔn)確，沒有任何固有偏見，已成為一些學(xué)術(shù)和企業(yè)團(tuán)體的追求。麻省理工人工智能實驗室的研究人員發(fā)表了一篇新論文，旨在譴責(zé)在某些場景下使用選擇性回歸，因為這種技術(shù)會降低數(shù)據(jù)集中代表性不足的群體模型的整體性能。
這些代表性不足的群體往往是女性和有色人種，這種對他們的忽視導(dǎo)致了一些關(guān)于人工智能種族主義和性別歧視的報道。在一個賬戶中，用于風(fēng)險評估的人工智能錯誤地將黑人囚犯標(biāo)記為白人囚犯的兩倍。在另一項案例中，沒有任何背景的男性照片被認(rèn)定為醫(yī)生和家庭主婦的比例高于女性。通過選擇性回歸，人工智能模型可以對每個輸入做出兩個選擇：預(yù)測或棄權(quán)。只有在對決策有信心的情況下，該模型才會做出預(yù)測，在幾次測試中，通過排除無法正確評估的輸入來提高模型的性能。然而，當(dāng)輸入被刪除時，它會放大數(shù)據(jù)集中已經(jīng)存在的偏見。一旦AI模型被部署到現(xiàn)實生活中，這將導(dǎo)致代表性不足的群體進(jìn)一步不準(zhǔn)確，因為它無法像在開發(fā)過程中那樣刪除或拒絕代表性不足的群體。最終希望確保以明智的方式考慮跨組的錯誤率，而不是僅僅最小化模型的一些廣泛的錯誤率。
麻省理工學(xué)院的研究人員還引入了一種新技術(shù)，旨在提高模型在每個子組中的模型性能。這種技術(shù)被稱為單調(diào)選擇性風(fēng)險，一種模型沒有棄權(quán)，而是包含種族和性別等敏感屬性，而另一種則不包含。同時，兩個模型都做出決策，沒有敏感數(shù)據(jù)的模型被用作數(shù)據(jù)集中偏差的校準(zhǔn)。為這個特定問題提出正確的公平概念是一項挑戰(zhàn)。但是通過執(zhí)行這個標(biāo)準(zhǔn)，單調(diào)的選擇風(fēng)險，我們可以確保當(dāng)減少覆蓋范圍時，模型性能實際上在所有子組中都變得更好。當(dāng)使用醫(yī)療保險數(shù)據(jù)集和犯罪數(shù)據(jù)集進(jìn)行測試時，新技術(shù)能夠降低代表不足的群體的錯誤率，同時不顯著影響模型的整體性能。研究人員打算將這項技術(shù)應(yīng)用到新的應(yīng)用中，比如房價、學(xué)生平均學(xué)分績點和貸款利率，看看它是否可以用于其他任務(wù)。
- Q2中國智能手機(jī)出貨量同比下降2.4%，華為連續(xù)兩個季度保持領(lǐng)先
- Dell'Oro報告：6G到來之前 全球RAN市場將達(dá)1600億美元
- 中國移動數(shù)據(jù)中心交換機(jī)產(chǎn)品集采：華為、中興等五家中標(biāo)
- 雙喜臨門！通鼎集團(tuán)上榜2025蘇州民營企業(yè)100強(qiáng)、2025蘇州民營企業(yè)研發(fā)投入100家名單！
- 光傳輸市場止跌回升 未來五年平均增長率5%
- 光傳輸市場止跌回升 未來五年平均增長率5%
- 上半年186700000000GB，你貢獻(xiàn)了多少？
- 黃仁勛痛批美國5G慘敗：AI與6G時代的競爭，得開發(fā)者者得天下
- 黃仁勛：美國在5G慘敗，不能在AI和6G重蹈覆轍
- 液冷賦能：可持續(xù)數(shù)據(jù)中心如何應(yīng)對AI熱浪
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
