人工智能與網(wǎng)絡(luò)如何保護美國國家核安全

美國的一些國家安全官員相信，人工智能作為力量倍增器，應(yīng)用于攻擊性和防御性網(wǎng)絡(luò)武器，將給網(wǎng)絡(luò)安全帶來變革性影響，確實能夠提升改善核安全。

一是人工智能與網(wǎng)絡(luò)技術(shù)得以快速發(fā)展。近年來，隨著機器學(xué)習(xí)技術(shù)的發(fā)展，解決了人工智能領(lǐng)域的一些技術(shù)瓶頸問題，使廣泛應(yīng)用的無人武器系統(tǒng)和網(wǎng)絡(luò)系統(tǒng)的性能得到顯著提升，正通過許多種方式改變核安全，對國家的網(wǎng)絡(luò)安全和戰(zhàn)略穩(wěn)定產(chǎn)生正面的影響。

二是人工智能可以提升軍隊應(yīng)對網(wǎng)絡(luò)攻擊的能力。人工智能網(wǎng)絡(luò)防御工具（或者稱反人工智能工具），其目的在于識別網(wǎng)絡(luò)行為模式的變化，檢測網(wǎng)絡(luò)異常和軟件代碼漏洞，查找重要的證據(jù)，追蹤并確定攻擊者的身份。而利用人工智能機器學(xué)習(xí)技術(shù)（如深度學(xué)習(xí)技術(shù)），可以及時發(fā)現(xiàn)正常網(wǎng)絡(luò)活動出現(xiàn)的偏差，協(xié)助建立更加牢固的防線，抵御網(wǎng)絡(luò)入侵，保護國家核安全。

三是利用人工智能技術(shù)開發(fā)主動性網(wǎng)絡(luò)工具。在對美國核系統(tǒng)積極防御的同時，國家也可以運用人工智能技術(shù)，開發(fā)對抗性人工智能武器，以加強網(wǎng)絡(luò)安全，比如枚舉目標空間或者重新封裝惡意軟件，以規(guī)避對手對我方網(wǎng)絡(luò)和系統(tǒng)進行偵測或者攻擊，并且能主動對對手開展網(wǎng)絡(luò)反制和攻擊行動。此外，人們還認為，通過網(wǎng)絡(luò)攻擊（即欺騙、入侵、操縱與數(shù)字干擾）滲透對方的核武器系統(tǒng)，可以破壞其通信系統(tǒng)，并最終（且對方可能根本不知道）獲取核與非核指揮控制系統(tǒng)的控制權(quán)。

四是美國軍方著手研發(fā)人工智能網(wǎng)絡(luò)防御工具。正是考慮到人工智能的強大力量，美國國防部國防創(chuàng)新組正在開發(fā)一款程序，利用人工智能技術(shù)破解高層級戰(zhàn)略問題，繪制事件概率鏈條，制定備用戰(zhàn)略，使國防部系統(tǒng)在遭受人工智能網(wǎng)絡(luò)攻擊時能夠快速恢復(fù)，而且系統(tǒng)配置和故障修復(fù)的速度可以比人做的更快更好。

人工智能與網(wǎng)絡(luò)相結(jié)合給美國國家核安全帶來的威脅

將人工智能技術(shù)賦予網(wǎng)絡(luò)中，會導(dǎo)致對手使用惡意軟件，采取秘密行動、欺騙、計謀等手段，控制、操縱或欺騙核網(wǎng)絡(luò)系統(tǒng)，從而威脅國家核安全。近期對兩用預(yù)警系統(tǒng)成功實施網(wǎng)絡(luò)攻擊的報告也表明，核指揮、控制與通信系統(tǒng)（NC3）遭受網(wǎng)絡(luò)入侵的猜測正在快速變?yōu)楝F(xiàn)實。

一是人工智能等新技術(shù)將威脅核安全。為增強信息能力而開發(fā)人工智能、5G網(wǎng)絡(luò)、機器學(xué)習(xí)、大數(shù)據(jù)分析、量子計算等，可能會被對手利用，開發(fā)出自動的、先進的、持續(xù)性的威脅工具，破壞核信息系統(tǒng)安全。而且，隨著人工智能和機器學(xué)習(xí)的不斷發(fā)展，可能不需要過多的人力，也不需要很高的技術(shù)水平，就可以持續(xù)對核網(wǎng)絡(luò)開展威脅行動。最近國際戰(zhàn)略研究所舉辦的研討會也證實，預(yù)警系統(tǒng)接收到的惡意操作數(shù)據(jù)，不僅會在特定的情況下破壞人工智能系統(tǒng)的輸出結(jié)果，而且如果在程序執(zhí)行階段，還會破壞整個網(wǎng)絡(luò)環(huán)境的可靠性。因此，人工智能機器學(xué)習(xí)技術(shù)通過操縱數(shù)字信息世界，做出使用核武器的錯誤決策，會加劇國家間爆發(fā)沖突的風(fēng)險。考慮到當前美國與如中國、俄羅斯、朝鮮等有核國家之間的緊張關(guān)系，不難想象，如果一個第三方組織或代理國家充滿惡意，使用人工智能深度偽裝，融合數(shù)據(jù)中毒技術(shù)對一方國家核安全開展秘密網(wǎng)絡(luò)攻擊，可能引發(fā)這些有核國家局勢緊張。此外，在競爭性戰(zhàn)略的背景下，各個國家傾向于對他國的意圖往壞處揣測。一個國家通過人工智能技術(shù)提高本國戰(zhàn)略部隊生存能力的舉措，可能被其它國家視為對其核報復(fù)能力和核二次打擊能力的威脅。

二是人工智能網(wǎng)絡(luò)行動可能導(dǎo)致國家攻防戰(zhàn)略模糊。早期階段的人工智能網(wǎng)絡(luò)行動，通常搞不清楚對手是打算搜集情報還是準備實施攻擊。模糊的網(wǎng)絡(luò)攻防策略，可能加劇對手對先發(fā)打擊的恐懼，增加其先機制敵的打算，在極端情況下還可能促使對手產(chǎn)生使用核武器的考慮。如果在危機期間使用人工智能網(wǎng)絡(luò)情報搜集工具（或者間諜行為），更容易讓對手產(chǎn)生誤解，認為這是對其核力量進行先發(fā)制人打擊的前奏。此外，在危機條件下，攻擊性人工智能網(wǎng)絡(luò)工具成功破壞對手的核武器系統(tǒng)，導(dǎo)致出現(xiàn)“信息不對稱”的局面，可能引起單方或者雙方高估（或者低估）對方的報復(fù)能力，隨之可能采取冒險行動。比如，公開研究表明，中國分析人士認為，中國的核指揮、控制、通信系統(tǒng)容易遭受網(wǎng)絡(luò)滲透，哪怕攻擊者的目的僅限于網(wǎng)絡(luò)間諜活動，也會被視為高度升級的國家安全威脅問題。因此在危機或沖突期間，人工智能網(wǎng)絡(luò)能力的作用存在一些不確定性，可能會降低雙方對風(fēng)險的承受能力，增加其先發(fā)制人的考慮。

三是人工智能技術(shù)使核攻擊反應(yīng)時間大為縮短。在對手核打擊發(fā)起的短時間內(nèi)，針對核武器系統(tǒng)的人工智能網(wǎng)絡(luò)攻擊幾乎不可能被提前發(fā)現(xiàn)和識別，更不可能對攻擊源、攻擊性質(zhì)進行判斷。根據(jù)公開的信息來源，在預(yù)警系統(tǒng)發(fā)出即將遭受攻擊的初步征兆后，北美航天航空防御司令部的操作人員只有不到三分鐘時間進行評估和確認。這樣緊迫的決策時間會使政治領(lǐng)導(dǎo)者承受巨大壓力，不得不使用不完整甚至可能是錯誤的信息做出決策，容易導(dǎo)致危機再度升級。

四是人工智能與網(wǎng)絡(luò)結(jié)合可能導(dǎo)致決策復(fù)雜化。人工智能、5G網(wǎng)絡(luò)支持下的機器學(xué)習(xí)、大數(shù)據(jù)分析和傳感技術(shù)，針對即將到來的威脅，能夠以更快的速度和更高的精度向指揮官發(fā)出預(yù)警，減少在敏感的指揮控制環(huán)節(jié)發(fā)生事故。然而，技術(shù)結(jié)合也導(dǎo)致兩種風(fēng)險并存。其一，人工智能機器學(xué)習(xí)作為網(wǎng)絡(luò)攻擊行為的力量倍增器，使一些攻擊行為更加難于發(fā)現(xiàn)，如數(shù)據(jù)中毒欺騙、深度偽裝、數(shù)據(jù)控制、網(wǎng)絡(luò)入侵、數(shù)字干擾等，尤其是網(wǎng)絡(luò)攻擊者在電磁頻譜對抗環(huán)境中使用這些先進的持續(xù)性威脅工具。其二，在不能成功發(fā)現(xiàn)網(wǎng)絡(luò)攻擊行為的情況下，以機器速度確認威脅源（或者攻擊屬性）幾乎是不可能的。因此，當危機發(fā)生時，如果一個國家沒有能力判定攻擊者的意圖，可能會得出對方的攻擊行動是計劃破壞其核威懾的結(jié)論，從而影響決策。此外，如果不了解人工智能系統(tǒng)如何輔助系統(tǒng)做出決策，可能會導(dǎo)致操作人員對系統(tǒng)的性能或者信心過滿，或者信心不足，也會導(dǎo)致決策復(fù)雜化。

五是人工智能的技術(shù)尚不成熟。由于人工智能機器學(xué)習(xí)系統(tǒng)需要通過高質(zhì)量的數(shù)據(jù)集來訓(xùn)練驗證他們的算法，因此隨之產(chǎn)生一個問題，如果將“中毒”數(shù)據(jù)注入訓(xùn)練數(shù)據(jù)集，會導(dǎo)致這些人工智能機器學(xué)習(xí)系統(tǒng)以人們不希望的和可能無法檢測的方式運行。除非終止系統(tǒng)的機器學(xué)習(xí)算法，否則在實際應(yīng)用階段，系統(tǒng)可能學(xué)習(xí)到一些人們不愿意讓其學(xué)習(xí)的內(nèi)容，甚至執(zhí)行一些設(shè)計者不期望其去執(zhí)行的工作或任務(wù)。因此，這就是為什么在武器系統(tǒng)方面，目前人們大多將人工智能機器學(xué)習(xí)限定在實驗研究領(lǐng)域的主要原因之一。