Gartner預測，到2027年，跨境生成式人工智能（GenAI）引起的AI相關數據泄露比例將超過40%。
GenAI在終端用戶中的普及速度已超過了數據治理和安全措施的發(fā)展速度，而支持這些技術所需的集中算力引發(fā)了對數據本地化的擔憂。
Gartner研究副總裁Joerg Fritsch表示：“由于監(jiān)管不力，常常會發(fā)生意外的跨境數據傳輸，尤其是當GenAI被集成到現有產品但卻沒有明確的說明或公告時。企業(yè)注意到員工使用GenAI工具創(chuàng)作內容的變化。雖然此類工具可用于經過批準的業(yè)務應用，但如果它們將敏感提示發(fā)送到托管在未知位置的AI工具和 API，就會產生安全風險。”
全球AI標準缺失導致運營效率低下
缺乏全球統(tǒng)一的AI和數據治理最佳實踐與標準，導致市場碎片化，企業(yè)不得不制定針對特定地區(qū)的戰(zhàn)略，這加劇了企業(yè)所面臨的挑戰(zhàn)，這可能會限制企業(yè)在全球擴展業(yè)務和從AI產品與服務中獲益的能力。
Fritsch表示：“本地化AI政策增加了管理數據流和保持質量的復雜性，而這會降低企業(yè)的運營效率。為了保護敏感數據和確保合規(guī)性，企業(yè)必須投資于先進的AI治理和安全性。這一需求可能會推動AI安全、治理與合規(guī)服務市場的增長并促進提高AI流程透明度和可控性的技術解決方案的發(fā)展。”
企業(yè)必須在AI治理成為全球性規(guī)定之前采取行動
Gartner預測，到2027年，全球所有主權AI法律法規(guī)都將要求企業(yè)落實AI治理。
Fritsch表示：“如果企業(yè)無法整合所需要的治理模型和控制措施，就會處于競爭劣勢，尤其是缺乏資源快速擴展現有數據治理框架的企業(yè)。”
為了降低AI數據泄露風險，尤其是跨境GenAI的濫用風險并確保合規(guī)性，Gartner 建議企業(yè)采取以下戰(zhàn)略行動：
加強數據治理：企業(yè)必須擴展數據治理框架并加入關于使用AI處理數據的準則，確保遵守國際法規(guī)并對意外的跨境數據傳輸進行監(jiān)控。為此，企業(yè)需要將數據沿襲和數據傳輸影響評估納入常規(guī)隱私影響評估。
成立治理委員會：成立委員會加強AI監(jiān)督，確保AI部署和數據處理的溝通透明。該委員會需要負責技術監(jiān)督、風險和合規(guī)管理以及溝通和決策報告。
加強數據安全性：使用先進技術、加密和匿名化保護敏感數據。例如，驗證特定地理區(qū)域的執(zhí)行環(huán)境是否可信并在數據必須離開這些區(qū)域時使用差分隱私等先進的匿名化技術。
投資TRiSM產品：為專為AI打造的信任、風險和安全管理（TRiSM）產品與功能規(guī)劃和分配預算，包括AI治理、數據安全治理、提示過濾和編輯以及非結構化數據合成生成。Gartner預測，到2026年，采用AI TRiSM控制措施的企業(yè)將減少至少50%的不準確或不合法信息，并因此減少錯誤決策。
Gartner 客戶可在2025年預測：AI時代和未來量子計算時代的隱私中了解更多信息。
免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。
