人工智能與網(wǎng)絡(luò)如何保護(hù)美國國家核安全

美國的一些國家安全官員相信，人工智能作為力量倍增器，應(yīng)用于攻擊性和防御性網(wǎng)絡(luò)武器，將給網(wǎng)絡(luò)安全帶來變革性影響，確實能夠提升改善核安全。

一是人工智能與網(wǎng)絡(luò)技術(shù)得以快速發(fā)展。近年來，隨著機(jī)器學(xué)習(xí)技術(shù)的發(fā)展，解決了人工智能領(lǐng)域的一些技術(shù)瓶頸問題，使廣泛應(yīng)用的無人武器系統(tǒng)和網(wǎng)絡(luò)系統(tǒng)的性能得到顯著提升，正通過許多種方式改變核安全，對國家的網(wǎng)絡(luò)安全和戰(zhàn)略穩(wěn)定產(chǎn)生正面的影響。

二是人工智能可以提升軍隊?wèi)?yīng)對網(wǎng)絡(luò)攻擊的能力。人工智能網(wǎng)絡(luò)防御工具（或者稱反人工智能工具），其目的在于識別網(wǎng)絡(luò)行為模式的變化，檢測網(wǎng)絡(luò)異常和軟件代碼漏洞，查找重要的證據(jù)，追蹤并確定攻擊者的身份。而利用人工智能機(jī)器學(xué)習(xí)技術(shù)（如深度學(xué)習(xí)技術(shù)），可以及時發(fā)現(xiàn)正常網(wǎng)絡(luò)活動出現(xiàn)的偏差，協(xié)助建立更加牢固的防線，抵御網(wǎng)絡(luò)入侵，保護(hù)國家核安全。

三是利用人工智能技術(shù)開發(fā)主動性網(wǎng)絡(luò)工具。在對美國核系統(tǒng)積極防御的同時，國家也可以運用人工智能技術(shù)，開發(fā)對抗性人工智能武器，以加強(qiáng)網(wǎng)絡(luò)安全，比如枚舉目標(biāo)空間或者重新封裝惡意軟件，以規(guī)避對手對我方網(wǎng)絡(luò)和系統(tǒng)進(jìn)行偵測或者攻擊，并且能主動對對手開展網(wǎng)絡(luò)反制和攻擊行動。此外，人們還認(rèn)為，通過網(wǎng)絡(luò)攻擊（即欺騙、入侵、操縱與數(shù)字干擾）滲透對方的核武器系統(tǒng)，可以破壞其通信系統(tǒng)，并最終（且對方可能根本不知道）獲取核與非核指揮控制系統(tǒng)的控制權(quán)。

四是美國軍方著手研發(fā)人工智能網(wǎng)絡(luò)防御工具。正是考慮到人工智能的強(qiáng)大力量，美國國防部國防創(chuàng)新組正在開發(fā)一款程序，利用人工智能技術(shù)破解高層級戰(zhàn)略問題，繪制事件概率鏈條，制定備用戰(zhàn)略，使國防部系統(tǒng)在遭受人工智能網(wǎng)絡(luò)攻擊時能夠快速恢復(fù)，而且系統(tǒng)配置和故障修復(fù)的速度可以比人做的更快更好。

人工智能與網(wǎng)絡(luò)相結(jié)合給美國國家核安全帶來的威脅

將人工智能技術(shù)賦予網(wǎng)絡(luò)中，會導(dǎo)致對手使用惡意軟件，采取秘密行動、欺騙、計謀等手段，控制、操縱或欺騙核網(wǎng)絡(luò)系統(tǒng)，從而威脅國家核安全。近期對兩用預(yù)警系統(tǒng)成功實施網(wǎng)絡(luò)攻擊的報告也表明，核指揮、控制與通信系統(tǒng)（NC3）遭受網(wǎng)絡(luò)入侵的猜測正在快速變?yōu)楝F(xiàn)實。

一是人工智能等新技術(shù)將威脅核安全。為增強(qiáng)信息能力而開發(fā)人工智能、5G網(wǎng)絡(luò)、機(jī)器學(xué)習(xí)、大數(shù)據(jù)分析、量子計算等，可能會被對手利用，開發(fā)出自動的、先進(jìn)的、持續(xù)性的威脅工具，破壞核信息系統(tǒng)安全。而且，隨著人工智能和機(jī)器學(xué)習(xí)的不斷發(fā)展，可能不需要過多的人力，也不需要很高的技術(shù)水平，就可以持續(xù)對核網(wǎng)絡(luò)開展威脅行動。最近國際戰(zhàn)略研究所舉辦的研討會也證實，預(yù)警系統(tǒng)接收到的惡意操作數(shù)據(jù)，不僅會在特定的情況下破壞人工智能系統(tǒng)的輸出結(jié)果，而且如果在程序執(zhí)行階段，還會破壞整個網(wǎng)絡(luò)環(huán)境的可靠性。因此，人工智能機(jī)器學(xué)習(xí)技術(shù)通過操縱數(shù)字信息世界，做出使用核武器的錯誤決策，會加劇國家間爆發(fā)沖突的風(fēng)險。考慮到當(dāng)前美國與如中國、俄羅斯、朝鮮等有核國家之間的緊張關(guān)系，不難想象，如果一個第三方組織或代理國家充滿惡意，使用人工智能深度偽裝，融合數(shù)據(jù)中毒技術(shù)對一方國家核安全開展秘密網(wǎng)絡(luò)攻擊，可能引發(fā)這些有核國家局勢緊張。此外，在競爭性戰(zhàn)略的背景下，各個國家傾向于對他國的意圖往壞處揣測。一個國家通過人工智能技術(shù)提高本國戰(zhàn)略部隊生存能力的舉措，可能被其它國家視為對其核報復(fù)能力和核二次打擊能力的威脅。

二是人工智能網(wǎng)絡(luò)行動可能導(dǎo)致國家攻防戰(zhàn)略模糊。早期階段的人工智能網(wǎng)絡(luò)行動，通常搞不清楚對手是打算搜集情報還是準(zhǔn)備實施攻擊。模糊的網(wǎng)絡(luò)攻防策略，可能加劇對手對先發(fā)打擊的恐懼，增加其先機(jī)制敵的打算，在極端情況下還可能促使對手產(chǎn)生使用核武器的考慮。如果在危機(jī)期間使用人工智能網(wǎng)絡(luò)情報搜集工具（或者間諜行為），更容易讓對手產(chǎn)生誤解，認(rèn)為這是對其核力量進(jìn)行先發(fā)制人打擊的前奏。此外，在危機(jī)條件下，攻擊性人工智能網(wǎng)絡(luò)工具成功破壞對手的核武器系統(tǒng)，導(dǎo)致出現(xiàn)“信息不對稱”的局面，可能引起單方或者雙方高估（或者低估）對方的報復(fù)能力，隨之可能采取冒險行動。比如，公開研究表明，中國分析人士認(rèn)為，中國的核指揮、控制、通信系統(tǒng)容易遭受網(wǎng)絡(luò)滲透，哪怕攻擊者的目的僅限于網(wǎng)絡(luò)間諜活動，也會被視為高度升級的國家安全威脅問題。因此在危機(jī)或沖突期間，人工智能網(wǎng)絡(luò)能力的作用存在一些不確定性，可能會降低雙方對風(fēng)險的承受能力，增加其先發(fā)制人的考慮。

三是人工智能技術(shù)使核攻擊反應(yīng)時間大為縮短。在對手核打擊發(fā)起的短時間內(nèi)，針對核武器系統(tǒng)的人工智能網(wǎng)絡(luò)攻擊幾乎不可能被提前發(fā)現(xiàn)和識別，更不可能對攻擊源、攻擊性質(zhì)進(jìn)行判斷。根據(jù)公開的信息來源，在預(yù)警系統(tǒng)發(fā)出即將遭受攻擊的初步征兆后，北美航天航空防御司令部的操作人員只有不到三分鐘時間進(jìn)行評估和確認(rèn)。這樣緊迫的決策時間會使政治領(lǐng)導(dǎo)者承受巨大壓力，不得不使用不完整甚至可能是錯誤的信息做出決策，容易導(dǎo)致危機(jī)再度升級。

四是人工智能與網(wǎng)絡(luò)結(jié)合可能導(dǎo)致決策復(fù)雜化。人工智能、5G網(wǎng)絡(luò)支持下的機(jī)器學(xué)習(xí)、大數(shù)據(jù)分析和傳感技術(shù)，針對即將到來的威脅，能夠以更快的速度和更高的精度向指揮官發(fā)出預(yù)警，減少在敏感的指揮控制環(huán)節(jié)發(fā)生事故。然而，技術(shù)結(jié)合也導(dǎo)致兩種風(fēng)險并存。其一，人工智能機(jī)器學(xué)習(xí)作為網(wǎng)絡(luò)攻擊行為的力量倍增器，使一些攻擊行為更加難于發(fā)現(xiàn)，如數(shù)據(jù)中毒欺騙、深度偽裝、數(shù)據(jù)控制、網(wǎng)絡(luò)入侵、數(shù)字干擾等，尤其是網(wǎng)絡(luò)攻擊者在電磁頻譜對抗環(huán)境中使用這些先進(jìn)的持續(xù)性威脅工具。其二，在不能成功發(fā)現(xiàn)網(wǎng)絡(luò)攻擊行為的情況下，以機(jī)器速度確認(rèn)威脅源（或者攻擊屬性）幾乎是不可能的。因此，當(dāng)危機(jī)發(fā)生時，如果一個國家沒有能力判定攻擊者的意圖，可能會得出對方的攻擊行動是計劃破壞其核威懾的結(jié)論，從而影響決策。此外，如果不了解人工智能系統(tǒng)如何輔助系統(tǒng)做出決策，可能會導(dǎo)致操作人員對系統(tǒng)的性能或者信心過滿，或者信心不足，也會導(dǎo)致決策復(fù)雜化。

五是人工智能的技術(shù)尚不成熟。由于人工智能機(jī)器學(xué)習(xí)系統(tǒng)需要通過高質(zhì)量的數(shù)據(jù)集來訓(xùn)練驗證他們的算法，因此隨之產(chǎn)生一個問題，如果將“中毒”數(shù)據(jù)注入訓(xùn)練數(shù)據(jù)集，會導(dǎo)致這些人工智能機(jī)器學(xué)習(xí)系統(tǒng)以人們不希望的和可能無法檢測的方式運行。除非終止系統(tǒng)的機(jī)器學(xué)習(xí)算法，否則在實際應(yīng)用階段，系統(tǒng)可能學(xué)習(xí)到一些人們不愿意讓其學(xué)習(xí)的內(nèi)容，甚至執(zhí)行一些設(shè)計者不期望其去執(zhí)行的工作或任務(wù)。因此，這就是為什么在武器系統(tǒng)方面，目前人們大多將人工智能機(jī)器學(xué)習(xí)限定在實驗研究領(lǐng)域的主要原因之一。