螞蟻集團首度公開“可信AI”架構(gòu)體系 包括數(shù)據(jù)隱私保護、公平性等四方面

6月11日消息，日前，在“2021全球人工智能技術(shù)大會”上，螞蟻集團首席AI科學(xué)家漆遠首次提出了“可信AI”的技術(shù)架構(gòu)體系，并分享了螞蟻集團基于該技術(shù)架構(gòu)體系研發(fā)落地的多項應(yīng)用成果。

漆遠表示，AI是數(shù)字經(jīng)濟的源動力，確保AI的安全性和公平性是行業(yè)共性課題。圍繞“可信AI”這一技術(shù)命題，他提出了包含“數(shù)據(jù)隱私保護”、“魯棒性”、“可解釋性與因果分析”和“公平性”四個方面的技術(shù)架構(gòu)體系。

在“數(shù)據(jù)隱私保護”方面，傳統(tǒng)的數(shù)據(jù)保護方法客觀上形成了“數(shù)據(jù)孤島”，影響了如醫(yī)療、金融等領(lǐng)域的協(xié)同作戰(zhàn)，也制約AI技術(shù)以及行業(yè)發(fā)展。因此，拓展數(shù)據(jù)價值的隱私計算技術(shù)，對實現(xiàn)“數(shù)據(jù)不動價值動”顯得尤為重要。

漆遠透露，截至今年3月，螞蟻集團隱私技術(shù)專利申請數(shù)量以740個位居全球第一，落地實踐成果豐富。比如營銷反作弊場景下，幫助超過1萬家合作伙伴識別薅羊毛風險，節(jié)省營銷資金超300億。

在提高模型“魯棒性”（Robustness）方面，為了應(yīng)對黑產(chǎn)攻擊、并使得模型能適應(yīng)復(fù)雜多變的數(shù)據(jù)環(huán)境，還需要引入博弈論思想生成攻擊手段，并進行智能防御，通過左右手互搏，加強抗打擊能力。據(jù)悉，螞蟻集團正在風險交易識別、黑灰賬戶身份識別等風控場景持續(xù)打磨這項能力。

關(guān)于“可解釋性與因果分析”，漆遠解釋，AI模型不能是黑盒。“人類希望知道模型背后的邏輯、收獲新的知識，并在它出現(xiàn)問題時踩好剎車，確保AI合規(guī)合法。”他認為，這背后需要數(shù)據(jù)驅(qū)動與模型推理能力結(jié)合起來，產(chǎn)生可解釋的結(jié)果。目前，螞蟻集團已經(jīng)將這項能力在智能風控、投訴審理，反洗錢等領(lǐng)域廣泛應(yīng)用。

另外，漆遠透露，螞蟻集團已完成了“空中手勢”驗證碼識別方案的研發(fā)，幫助視障人群通過“滑動驗證碼”關(guān)卡，該方案將免費開放給更多企業(yè)。

生成海報