AI病毒來襲，拿什么拯救你我的電腦？

　 域名預(yù)訂/競價(jià)，好“米”不錯(cuò)過

文|雷宇

來源|智能相對論(aixdlun)

在劉慈欣的科幻小說《中國2185》中，除領(lǐng)土，領(lǐng)海，領(lǐng)空外，還有一個(gè)被稱為電子領(lǐng)土的地方，這個(gè)地方除了容易受常規(guī)武器破壞外，還容易受到軟件武器的威脅。

軟件武器分為軟件病毒和軟件炸彈兩大類，其中軟件病毒是一種程序，它在電腦系統(tǒng)中遇到一個(gè)程序時(shí)，就把自己復(fù)制成兩份，其中一份進(jìn)入到所遇到的程序中，以破壞這個(gè)程序，并隨著這個(gè)程序把自己傳染到電腦網(wǎng)絡(luò)系統(tǒng)的其它部分。軟件炸彈和軟件病毒類似，但它僅僅是在電腦系統(tǒng)中飛快地復(fù)制自己，使自己的數(shù)量以幾何級數(shù)增長，最后占敵方電腦系統(tǒng)的內(nèi)存而使其系統(tǒng)癱瘓。

事實(shí)上，伴隨著人工智能技術(shù)的發(fā)展，AI病毒甚至比小說中描述的還要強(qiáng)悍。最近，IBM研究院在計(jì)算機(jī)安全大會(huì)BlackHat上展示了他們制造的惡意軟件：DeepLocker。它“靜若處子，動(dòng)若脫兔”，臥薪嘗膽18年也在所不惜，只有目標(biāo)出現(xiàn)時(shí)才會(huì)精準(zhǔn)發(fā)作。

普通病毒尚有招可應(yīng)，AI病毒則致破壞于無聲

《神雕俠侶》中的楊過在石壁上發(fā)現(xiàn)了劍魔獨(dú)孤求敗刻下的字，其中有這么幾句：

「紫薇軟劍」三十歲前所用，誤傷義士不祥，悔恨無已，乃棄之深谷。重劍無鋒，大巧不工。四十歲前恃之橫行天下。四十歲后，不滯于物，草木竹石均可為劍。自此精修，漸進(jìn)于無劍勝有劍之境。在這之中提到了三把劍：紫薇軟劍、玄鐵重劍、無劍。智能相對論(aixdlun)分析師雷宇認(rèn)為，這三把劍可以預(yù)示電腦病毒發(fā)展的三個(gè)階段。

第一階段：紫薇軟劍，用劍作為“器”的性狀來發(fā)揮威力。

這一階段的代表是熊貓燒香病毒。熊貓燒香作為一種蠕蟲病毒的變種，2007年，在全國范圍流行，被感染用戶系統(tǒng)中所有.exe可執(zhí)行文件全部被改成熊貓舉著三根香的模樣。雖然這款病毒能自動(dòng)傳播、自動(dòng)感染硬盤且破壞力大，但只要用戶及時(shí)下載更新殺毒軟件，或者一些殺毒軟件推出的專殺工具，就可以對熊貓燒香病毒進(jìn)行查殺。

對于以“器”的形狀發(fā)揮威力的病毒來說，只要有更厲害的“器”，便可制服。

第二階段：玄鐵重劍，通過一些特定的招式驅(qū)動(dòng)劍。

2017年5月，wannacry敲詐勒索病毒全球大規(guī)模爆發(fā)。被該勒索軟件入侵之后，用戶系統(tǒng)的圖片、文檔資源等都會(huì)被加密，同時(shí)桌面上會(huì)彈出勒索對話框，向用戶勒索一定數(shù)額的比特幣贖金。最周造成很多計(jì)算機(jī)用戶的重要資料丟失，損失巨大。事實(shí)上，WannaCry主要是利用Windows系統(tǒng)漏洞傳播，打上安全補(bǔ)丁就可以有效防范。

對于以特定招式發(fā)揮威力的病毒來說，只需要在招式上改進(jìn)，功力精進(jìn)倒也可以避免這種威脅。但是，AI病毒卻讓人防不勝防。

第三階段：無劍，以無劍勝有劍。

AI病毒可能掌握復(fù)雜和靈活的對抗樣本，“欺騙”殺毒軟件，“偷偷隱藏”，并不好對付。DeepLocker的針對性特別強(qiáng)，而且它隱藏在某些軟件中，用戶毫無知覺的將其下載。它可以通過人臉識別，語音識別，大數(shù)據(jù)分析等實(shí)現(xiàn)對用戶的偵測與分析，但是程序并不會(huì)顯示它正在進(jìn)行某種操作。一般目標(biāo)屬性識別采取了復(fù)雜的DNN結(jié)構(gòu)，目標(biāo)屬性和密匙則被加密到了DNN中，只有通過DNN來判斷多個(gè)維度的目標(biāo)屬性符合時(shí)，病毒才會(huì)啟動(dòng)攻擊，不再“深藏功與名”。

實(shí)際上，AI病毒有點(diǎn)像掃地僧，看似不起眼，實(shí)則是以不變應(yīng)萬變，要么不出招，要么放大招。

AI病毒也許猖獗，但AI對抗AI的“一出好戲”正在上演

Darktrace(中文或可譯為“白夜追兇”?)是一家市值超過8.5億美元的英國公司，主要采用人工智能方式來保障網(wǎng)絡(luò)安全。不僅能夠應(yīng)對人類黑客的攻擊，而且還能搞定機(jī)器學(xué)習(xí)的威脅。該公司主推的一款產(chǎn)品名為“企業(yè)免疫系統(tǒng)( Enterprise Immune System )”，利用機(jī)器學(xué)習(xí)技術(shù)增強(qiáng)自身防御能力，把大部分網(wǎng)絡(luò)攻擊在追蹤過程中消滅掉。除此之外，以色列初創(chuàng)公司SecBI也相繼推出了更先進(jìn)的機(jī)器學(xué)習(xí)和AI技術(shù)來大家網(wǎng)絡(luò)黑客襲擊。

1. AI病毒無孔不入，資產(chǎn)數(shù)據(jù)成“出頭鳥”

AI病毒最常見的行為就是對資產(chǎn)和數(shù)據(jù)的網(wǎng)絡(luò)敲詐，以下是針對49個(gè)組織的345個(gè)網(wǎng)絡(luò)安全預(yù)測。

數(shù)據(jù)來自文章《Cybersecurity in 2017: A roundup of predictions》，2017

物聯(lián)網(wǎng)的安全問題被排在了首位。工廠設(shè)備，醫(yī)院的核磁共振設(shè)備以及自動(dòng)販賣機(jī)損壞時(shí)，需要及時(shí)修復(fù)，不然勢必會(huì)讓網(wǎng)絡(luò)黑客或AI病毒有機(jī)可趁，出現(xiàn)需要支付贖金才能恢復(fù)聯(lián)機(jī)的情況。同時(shí)需要及時(shí)備份數(shù)據(jù)，不然企業(yè)很可能會(huì)在數(shù)據(jù)恢復(fù)上再大費(fèi)周章。

由于現(xiàn)階段對物聯(lián)網(wǎng)軟件和硬件的內(nèi)部工作機(jī)制的了解非常有限，如果物聯(lián)網(wǎng)設(shè)備被盜用，很難說會(huì)發(fā)生什么?！段锫?lián)網(wǎng)安全》一書中曾提到，數(shù)據(jù)，無論是視頻、音頻、環(huán)境或其他敏感信息，往往都可以通過受入侵物聯(lián)網(wǎng)設(shè)備盜取出去，可能還會(huì)為犯罪分子提供組織有價(jià)值的信息來利用。

每隔不久我們就會(huì)看到不法分子盜取QQ甚至微信，騙取其好友錢財(cái)?shù)南?，為什么這樣的事會(huì)屢禁不止呢?除了被害者缺乏安全意識，還有就是現(xiàn)在的手段越來越高階。比如AI病毒可以通過學(xué)習(xí)被攻擊對象的電子郵件，聊天記錄，語音等，模仿受害者的寫作風(fēng)格和語音語色，從而進(jìn)行詐騙。也許在未來，對面和你語音，斗圖，侃房價(jià)的那個(gè)人，是想騙你錢的AI病毒。更可怕的是，你可能很難區(qū)分，畢竟前不久在谷歌開發(fā)者大會(huì)上亮相的語音助手就幾乎與真人無異了。

2. 當(dāng)AI病毒開始攻擊AI，AI還能“絕地反擊”嗎?

AI攻擊AI，往往會(huì)使人工智能系統(tǒng)精度下降最終使得輸入結(jié)果出現(xiàn)偏差。實(shí)際上，影響不僅僅在于把貓識別成老虎這樣的小事。更可怕的是，具有定源、定向攻擊的病毒誤導(dǎo)機(jī)器，比如在無人駕駛中，把長頸鹿識別成塑料袋，把綠燈識別為紅燈等。而這產(chǎn)生的后果不堪設(shè)想。

但在AI病毒攻擊AI之前，它也需要掌握一些“敵情”。主要有如下兩點(diǎn)：

1.數(shù)據(jù)。包括用于訓(xùn)練網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)集、網(wǎng)絡(luò)結(jié)構(gòu)(具體包含神經(jīng)網(wǎng)絡(luò)的層數(shù)及類型)，神經(jīng)元的激活函數(shù)、權(quán)重及偏置項(xiàng)矩陣等。

2.算法。“敵方”訓(xùn)練數(shù)據(jù)以及訓(xùn)練網(wǎng)絡(luò)時(shí)的算法細(xì)節(jié)。

我們知道，人工智能依然存在黑箱，在對人工智能進(jìn)行攻擊的時(shí)候，不僅難以的得到對方的算法，也沒有辦法改變輸入結(jié)果，很難實(shí)現(xiàn)有效的攻擊。

但是，神經(jīng)網(wǎng)絡(luò)固有的非線性結(jié)構(gòu)使它們能夠生成更為復(fù)雜和更為靈活的對抗樣本，從而欺騙目標(biāo)模型。因此，在未來，通過人工智能技術(shù)對抗人工智能的黑暗面已經(jīng)成了行業(yè)發(fā)展的既定事實(shí)。

結(jié)論

回到開頭，小說描述的電子領(lǐng)土實(shí)際上已經(jīng)得到了一定程度上的實(shí)現(xiàn)。我們當(dāng)代人在互聯(lián)網(wǎng)上或多或少都有自己的一方領(lǐng)土，哪里包含了我們的隱私我們的喜怒哀樂，而這些都勾勒出了我們在電子領(lǐng)土上的畫像。

AI病毒的肆虐，某種程度上不是流行感冒，而是流行頑疾，易傳染難根治。那你覺得可治嗎?

【完】

智能相對論(微信id:aixdlun)：深挖人工智能這口井，評出咸淡，講出黑白，道出vb深淺。重點(diǎn)關(guān)注領(lǐng)域：AI+醫(yī)療、機(jī)器人、智能駕駛、AI+硬件、物聯(lián)網(wǎng)、AI+金融、AI+安全、AR/VR、開發(fā)者以及背后的芯片、算法、人機(jī)交互等。

申請創(chuàng)業(yè)報(bào)道，分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！