有關 AI 優勢與風(fēng)險的争論如今已成媒體日常，很(hěn)多此類讨論都集中在潛在負面影響上(shàng)，話(huà)題範圍從(cóng)工(gōng)作(zuò)自(zì)動化導緻廣泛失業到(dào) AI 用(yòng)于創建 “深度僞造” 視(shì)頻。但(dàn)另一方面，我們已經在享受 AI 自(zì)動化助手的正面效果所帶來(lái)的種種好(hǎo)處，而自(zì)動駕駛汽車之類的未來(lái)好(hǎo)處現(xiàn)在眼見着即将到(dào)來(lái)。
AI 将對(duì)幾乎所有技術和(hé)行業産生革命性影響，網絡安全也(yě)不例外(wài)。
那麽，AI 将給網絡攻擊和(hé)防禦帶來(lái)怎樣的短期與長期發展？我們又該爲此做好(hǎo)哪些(xiē)準備？
AI 與網絡安全：不斷增長的威脅
AI 已經能(néng)夠強化惡意軟件，使之可以進化和(hé)自(zì)适應，對(duì)抗安全防禦措施。相應地，機器學習也(yě)被用(yòng)來(lái)分析目标網絡中的漏洞。很(hěn)快(kuài)，AI 甚至會(huì)具有通過加密貨币平台撐起攻擊資金(jīn)鏈的功能(néng)，無需人工(gōng)幹預，自(zì)動流轉收益。
在國家層面，軍用(yòng)級 AI 也(yě)将成爲關鍵基礎設施的重大(dà)威脅，還會(huì)成爲傳統網絡戰方法的補充。理(lǐ)論上(shàng)，這(zhè)些(xiē)新 AI 攻擊方法都可能(néng)商品化，當成服務出售。同時(shí)，AI 不斷增強的功能(néng)會(huì)促進虛假在線人物的創建。人們在與這(zhè)些(xiē)虛假在線人物互動時(shí)很(hěn)可能(néng)根本分辨不出到(dào)底是不是真人，從(cóng)而陷入 AI 驅動的大(dà)規模自(zì)動化社會(huì)工(gōng)程欺詐陷阱。
更遠的将來(lái)，AI 還有可能(néng)具備戰略行動能(néng)力，包括策劃和(hé)編排自(zì)己的攻擊。盡管看(kàn)起來(lái)可能(néng)有點玄幻，但(dàn)我們可能(néng)會(huì)看(kàn)到(dào)一個大(dà)範圍内持續上(shàng)演 AI 對(duì)戰的未來(lái)——不僅僅在攻擊與防禦系統之間，而是多個惡意 AI 之間搶奪數字資源。
如何應對(duì)？
當然，AI 也(yě)是網絡防禦的重要工(gōng)具。事(shì)實上(shàng)，随着我們越來(lái)越多地采用(yòng)基于雲的服務和(hé)虛拟化網絡，傳統防禦策略逐漸過時(shí)，AI 正成爲對(duì)抗網絡攻擊不可或缺的工(gōng)具。
安全供應商早在多年前就開(kāi)始大(dà)量使用(yòng)機器學習算(suàn)法了(le)。1990 年代，早期應用(yòng)包括使用(yòng)貝葉斯邏輯過濾垃圾電子郵件，或者使用(yòng)大(dà)型神經網絡分類垃圾郵件。如今，進一步的發展将機器學習算(suàn)法與高(gāo)級數據可視(shì)化相結合，創建智能(néng)安全界面。而且，使用(yòng) AI 實時(shí)處理(lǐ)大(dà)量信息可以讓響應時(shí)間大(dà)幅縮短，還可以分析趨勢和(hé)模式，預測網絡攻擊的發生。
安全 “免疫系統” 的開(kāi)發當下(xià)也(yě)在不斷納入 AI。比如說，英國電信就在審查生物系統模型如何顯示病毒在種群中的傳播情況。将從(cóng)這(zhè)些(xiē)模型中學到(dào)的東西應用(yòng)到(dào)英國電信的網絡上(shàng)，他(tā)們就可以訓練 AI 系統去測試不同防禦策略，減少或阻止網絡攻擊中惡意軟件的傳播，控制感染并根除感染原因。而且這(zhè)是個互惠互利的過程，因爲分析該 AI 響應可使人類提升自(zì)身對(duì)網絡威脅的理(lǐ)解和(hé)準備度。
展望未來(lái)，随着成功響應網絡攻擊的能(néng)力越來(lái)越好(hǎo)，AI 還會(huì)具有 “自(zì)愈能(néng)力”，動态複制人類分析師設計(jì)的最佳防禦策略。這(zhè)将進一步加速響應，解放(fàng)人類專家的雙手，讓他(tā)們可以從(cóng)事(shì)更複雜(zá)的調查。
AI 與網絡安全：管理(lǐ)威脅
與大(dà)多數技術一樣，AI 提供的功能(néng)是 “不可知(zhī)的”——既能(néng)用(yòng)于防禦也(yě)能(néng)用(yòng)于攻擊，且這(zhè)兩個領域中的成功都取決于底層策略與投資。
英國電信的 AI 用(yòng)例已經表明(míng)，數據集訪問是絕對(duì)的關鍵因素——如果沒有數據，即便最先進的 AI 和(hé)機器學習技術也(yě)會(huì)很(hěn)快(kuài)失去準确度與可用(yòng)性。這(zhè)看(kàn)起來(lái)似乎是不言自(zì)明(míng)的，而且對(duì)具有大(dà)量數據和(hé)不同輸入的大(dà)企業而言不算(suàn)大(dà)問題，但(dàn)數據訪問将是該領域未來(lái)成功的巨大(dà)驅動力。
人類與 AI 功能(néng)的協同能(néng)力也(yě)是一大(dà)影響因素，因爲實際操作(zuò)中很(hěn)難找到(dào)能(néng)讓分析師處理(lǐ)和(hé)調查大(dà)量數據的好(hǎo)方法。先進的可視(shì)化和(hé)實時(shí)交互接口是該過程的重要部分，但(dàn)将分析師輸入與機器學習算(suàn)法（稱爲 “主動學習”）輸出相結合卻特别困難。這(zhè)需要深入理(lǐ)解分析師工(gōng)作(zuò)方式，充分了(le)解算(suàn)法實時(shí)重配置及重訓練方式，還會(huì)對(duì) AI 實現(xiàn)的成功程度産生重要影響。
AI 系統的深層漏洞尚未得到(dào)人們的充分認知(zhī)，給惡意黑客留下(xià)了(le)利用(yòng) AI 的獨特機會(huì)。與抗生素的發展類似，構建針對(duì) AI 網絡威脅的防禦體系可能(néng)代價頗高(gāo)，需要慎重考慮。敵對(duì) AI 會(huì)不斷進化，就像細菌對(duì)抗生素産生抗藥性一樣。最佳防禦或許是盡可能(néng)多地研究各種情況，然後規劃響應。