一項新調查揭示了企業(yè)面臨的五大新興風險，對人工智能（AI）增強型惡意攻擊的擔憂在2024年第一季度的新興風險排名中位居榜首。
人工智能輔助工具引發(fā)惡意行為的前景令全球風險領導者感到擔憂。語音和圖像生成等人工智能輔助工具相對易于使用且質量高，增強了實施惡意攻擊的能力，并帶來廣泛后果。
今年第一季度，Gartner對345名高級企業(yè)風險主管進行了調查，以捕捉和評估他們面臨的20大新興風險，并讓領導者了解這些風險的原因和潛在后果。
在2024年第一季度的調查中，與人工智能相關的風險占據(jù)了前兩位，其中人工智能增強型惡意攻擊被列為最大的新興風險，人工智能輔助的虛假信息也引起了人們的擔憂。
人工智能攻擊和錯誤信息的原因
人工智能攻擊和虛假信息的主要驅動因素之一是其能力的快速擴展。人工智能增強可以提供惡意代碼，并促進網(wǎng)絡釣魚和社會工程，從而實現(xiàn)更精準的入侵、更高的可信度和更具破壞性的攻擊。
低成本和快速增長也讓用戶接觸到了這項技術，而他們卻不太清楚如何識別人工智能工具提供的信息是有效信息，還是虛假或歪曲的信息。
需要緩解的潛在后果
人工智能增強型攻擊和錯誤信息的潛在影響是深遠的，會對聲譽、生產力和組織的響應能力產生重大影響。違規(guī)行為和披露要求的增加可能會削弱客戶、消費者和合作伙伴對組織和品牌的信任。
人工智能增強型攻擊和錯誤信息的速度和質量，也阻礙了信息安全團隊應對和適應新安全形勢的能力，進一步放大了其漏洞。
以下是AI攻擊成為企業(yè)面臨的新主要風險的一些關鍵原因：
自動化攻擊手段：
AI技術可以用于自動化網(wǎng)絡攻擊，例如自動化的釣魚攻擊（phishing）和分布式拒絕服務攻擊（DDoS）。這些攻擊可以以更高效、更大規(guī)模進行，難以被傳統(tǒng)防御手段快速檢測和阻止。
智能化惡意軟件：
AI驅動的惡意軟件能夠學習并適應防御系統(tǒng)，變得更加隱蔽和難以檢測。例如，AI可以幫助惡意軟件不斷修改自身代碼以避免被防病毒軟件發(fā)現(xiàn)。
社會工程攻擊：
AI技術可以通過分析社交媒體和其他公開數(shù)據(jù)，生成更為逼真的社會工程攻擊。例如，使用AI生成的語音或視頻，可以模仿企業(yè)高層，實施詐騙行為（如CEO欺詐）。
數(shù)據(jù)泄露和隱私風險：
AI技術能夠更快地處理和分析大量數(shù)據(jù)，這使得一旦數(shù)據(jù)被不法分子獲取，他們可以更快速地識別并利用敏感信息，導致更嚴重的數(shù)據(jù)泄露和隱私侵害。
對抗性攻擊：
AI模型本身也成為攻擊目標。攻擊者可以通過對抗性樣本（adversarialexamples）來欺騙AI系統(tǒng)，使其做出錯誤判斷。這在自動駕駛、金融交易等高風險應用中尤其危險。
深度偽造技術：
深度偽造（Deepfake）技術可以生成高度逼真的假視頻和音頻，這不僅威脅到個人隱私和聲譽，也可能被用來傳播虛假信息，影響公共輿論和企業(yè)聲譽。
供應鏈攻擊：
AI可以用于識別并攻擊企業(yè)供應鏈中的薄弱環(huán)節(jié)，導致整個供應鏈的安全風險增加。例如，攻擊者可以通過AI分析找到最易受攻擊的供應商進行入侵，然后通過供應商網(wǎng)絡進入目標企業(yè)系統(tǒng)。
企業(yè)應當采取多種措施來應對AI帶來的安全威脅，包括：
加強網(wǎng)絡安全防護：采用先進的安全技術和策略，如零信任架構、多因素認證和持續(xù)監(jiān)控。
員工培訓和意識提升：提高員工對AI相關安全威脅的認知，培養(yǎng)其防范社會工程攻擊的能力。
引入AI安全技術：利用AI技術增強安全防護，例如威脅檢測和響應系統(tǒng)、異常行為分析等。
制定應急響應計劃：確保企業(yè)具備快速應對和恢復的能力，以減少潛在攻擊的影響。
通過這些措施，企業(yè)可以更好地應對AI技術帶來的新型安全挑戰(zhàn)，保護自身免受攻擊。
免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。
