蘋果新AI研究：如何讓手機系統(tǒng)更懂你，避免潛在風(fēng)險，讓科技更貼心，生活更美好
隨著人工智能（AI）技術(shù)的不斷進步，我們的手機系統(tǒng)也在不斷地智能化。在這個過程中，蘋果公司與華盛頓大學(xué)的研究人員共同發(fā)表了一篇論文，探討如何讓AI更懂用戶，避免潛在風(fēng)險，讓科技更貼心，生活更美好。
AI智能體的自主行為是2026年蘋果系統(tǒng)升級的核心功能之一。然而，隨著這一功能的普及，我們也面臨著一些新的問題和挑戰(zhàn)。手機作為個人設(shè)備，存儲著大量的個人信息，包括銀行金融數(shù)據(jù)、健康記錄、照片和私人信息。當(dāng)AI智能體代行任務(wù)時，如何區(qū)分哪些動作可能造成持久或危險后果，何時停止并請求用戶確認，成為了亟待解決的問題。
蘋果的研究人員提出了一種新的方法，通過創(chuàng)建一個“分類法”（結(jié)構(gòu)化列表），用于定義UI動作的不同影響類型。這種方法為AI提供了推理人類意圖的框架，相當(dāng)于一份“風(fēng)險檢查”程序，幫助AI判斷哪些動作可能出錯或為何需要額外確認。
為了訓(xùn)練AI區(qū)分動作風(fēng)險，研究人員讓參與者記錄高風(fēng)險動作，如修改賬戶密碼、發(fā)送消息、更新支付詳情等。他們將新數(shù)據(jù)與現(xiàn)有覆蓋安全、常規(guī)交互的數(shù)據(jù)集結(jié)合，用分類法標(biāo)注所有數(shù)據(jù)，隨后測試了包括OpenAI GPT-4在內(nèi)的五大AI模型。
研究表明，這種方法有助于提高風(fēng)險判斷準(zhǔn)確率。然而，即使表現(xiàn)最佳的“GPT-4多模態(tài)”模型，正確率也僅約58%。這表明AI模型在處理真實世界高風(fēng)險任務(wù)時仍存在困難。
盡管如此，蘋果的研究人員并未因此氣餒。他們認為，用戶需要的是“有用且安全”的自動化功能。誤刪賬戶的AI是災(zāi)難，但要是連調(diào)整音量這種操作都要請示用戶的話還不如不做。因此，他們提出了一個更具包容性和適應(yīng)性的方法，以解決這個問題。
他們的方法支持個性化，幫助AI設(shè)計者識別當(dāng)前模型的薄弱點。例如，用戶可以自定義何時需要請求批準(zhǔn)。這種方法不僅可以提高用戶體驗，還能減少不必要的麻煩和潛在的風(fēng)險。
然而，我們也要意識到，教AI“識別按鈕”還不夠，它必須理解“點擊背后的意義”。這不僅對AI來說是項艱巨的任務(wù)，而且也是我們面臨的挑戰(zhàn)。人類可以通過上下文提示和歷史經(jīng)驗來進行判斷，但機器卻很難完美地解決這種復(fù)雜性操作。這就需要我們在設(shè)計和開發(fā)AI系統(tǒng)時，更多地考慮其背后的邏輯和原理，以使其能夠更好地理解并執(zhí)行任務(wù)。
總的來說，蘋果的新AI研究為我們提供了一個新的視角和方法，讓我們對未來的手機系統(tǒng)充滿了期待。它不僅能夠幫助我們更好地理解和使用AI技術(shù)，還能使我們的生活更加便捷和安全。我們有理由相信，隨著AI技術(shù)的不斷進步和發(fā)展，我們的生活將會變得更加美好。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
