生物識別、深度學習、自然語言處理等人工智能技術的日新月異，讓智能走進尋常百姓家，不僅是智能手機已經普遍用上指紋識別，人臉識別、紅膜識別、聲紋識別等生物識別技術也開始興起，指紋鎖這樣的電子鎖也成為家裝的新選擇。然而，一個事實卻是，無論是人臉、虹膜還是指紋、聲紋，都頻頻被成功破解。有人說，在AI的時代不談安全，相當于"裸奔"。甚至有人給出了迫不得已的建議:安兩把鎖，一把指紋鎖防傳統(tǒng)的賊，一把鐵鎖防黑客。
其實，這種迫不得已的背后，引出的卻是一個時代的命題：
我們應該如何在AI的時代談安全?AI安全較之此前的網絡安全有何不同?怎樣才是AI安全的解決之道？
AI安全迫在眉睫
生物識別技術的興起，背后是對獨一無二的指紋、聲紋圖譜等生物特征的利用，正是因為這些生物特征每個人都不一樣，因此，方才為成為身份識別和安全驗證的解決方案。譬如，理論上任何兩個人的聲紋圖譜都是存在差異的。再如，指紋這個最早的也是最基本的生物特征早已被應用在現(xiàn)實生活中。然而，道高一尺魔高一丈，黑客的能力和戰(zhàn)斗力是跟隨技術的更新?lián)Q代而更新?lián)Q代的。
譬如，一位畢業(yè)于浙江大學計算機專業(yè)的女黑客"tyy"，只用了兩分半的時間，就利用設備漏洞，直接修改設備中的人臉信息，實現(xiàn)用任意人臉來攻破人臉識別系統(tǒng)，成功打開門禁。更有黑客用了不到10秒，就用一張打印的照片在一定光線環(huán)境下解鎖了一部手機。
這事兒發(fā)生在剛剛結束的GeekPwn2017國際安全極客大賽上，這場大賽中，白帽黑客們現(xiàn)場競技，幾分鐘甚至幾秒鐘就輕松攻破人臉識別、虹膜識別、指紋識別等生物識別系統(tǒng)。
即便是聲音也能仿照，通過語音合成挑戰(zhàn)聲紋識別。一般而言，聲音是具有唯一性的，按說聲紋識別技術應該是堅不可摧的。然而，事實卻證明，語音合成的聲音卻能攻破聲紋防線。在上述大賽上，選手就根據游戲《王者榮耀》里英雄配音者所提供的聲音樣本，模擬了其聲紋特征，合成一段"攻擊"語音，對現(xiàn)場提供的四個具有聲紋識別功能的設備發(fā)起攻擊，欺騙并通過了"聲紋鎖"的驗證。
不僅如此，一部裝有最新iOS系統(tǒng)的iPhone8手機中的照片也被黑客輕而易舉地盜取。而此前，三星號稱"超級安全"的新款手機蓋樂世S8/S8+也曾陷入虹膜識別被破解的尷尬。據報道，這款手機在上市不到一個月時間內被曝出遭德國黑客輕松攻破。
生物識別是基于某一生物特征的唯一性和不可變更性，然而，一旦被克隆盜用，帶來的不僅是財產損失，還會有各種意想不到的風險隱患。或許也正是因為這個原因，今年GeekPwn直接將人工智能挑戰(zhàn)賽作為全年的重點項目。
利用AI存在的某些漏洞向AI發(fā)起攻擊，是AI安全攻防的一個基本形式。然而，與傳統(tǒng)的網絡安全相比，AI安全遠非漏洞這么簡單。
AI安全與網絡安全的大不同
數(shù)據顯示，到2020年，會有500億臺物聯(lián)網設備在全球部署。埃森哲預測，人工智能可能將勞動生產率提升40%，讓人們更有效地利用時間。到2035年，人工智能將讓年度經濟增長率提升一倍。
正是在這樣的背景下，去談人工智能安全顯得極為必要。與傳統(tǒng)網絡安全更多的是針對PC設備和服務器設備進行的安全防范維護，更多的是對付Windows的漏洞和木馬等相比，人工智能時代的AI安全，對應的是數(shù)百億臺的設備，而且設備不僅是PC，更是手機、電視、冰箱、空調、各種專業(yè)物聯(lián)網設備在內的一切所想得到的、能插電的設備?？梢哉f，僅僅從設備海量而言，AI安全也都是既具有挑戰(zhàn)性但又有迫切性的。
如百度總裁張亞勤所言，"AI時代，一個最大的挑戰(zhàn)，就是安全的問題。"張亞勤從設備量級、物聯(lián)網碎片化以及攻擊方式三個方面談了他的看法:其一，伴隨萬物互聯(lián)百億甚至千億臺設備的全球部署，其影響層面在傳統(tǒng)程序安全、數(shù)據安全、金融安全的基礎上，已經波及人身安全和社會安全;其二，AI時代的IoT碎片化程度會有指數(shù)級的增加，AI安全具備高度的復雜性;其三，針對安全的攻擊方式將升級換代。
不僅如此，AI安全所涉及的范圍還空前廣泛，譬如，在傳統(tǒng)安全層面，比如AI系統(tǒng)的硬件、軟件、框架、協(xié)議等需要安全升級。再如，AI自身層面的安全，比如錯誤地引導機器學習系統(tǒng)，以達到攻擊者的目的，或者破壞機器學習的樣本，讓機器學習得出錯誤的結果?？梢哉f，無論是軟硬件還是自身層面，AI安全已經是從傳統(tǒng)網絡安全中"脫胎換骨"，像錯誤地引導機器學習，這事兒根本不敢想，因為，一旦能做到這樣的攻擊，尤其是對于諸如金融、醫(yī)療、社會公共事業(yè)等領域，倘若沒有全方位地安全防范，將會產生致命的、難以預估的安全事件，甚至是釀成大禍。
可以說，AI安全需要云、管、端一體化，不僅僅是針對硬件、軟件的安全防護這么簡單。這種將云端、終端、管道一體化的安全，則是傳統(tǒng)網絡安全公司難以搞定的。而這一重任勢必要落到有經驗、有技術、有積累的人工智能公司身上。譬如，已經提前4年布局人工智能的百度，以及率先發(fā)力AI安全的百度安全，在最近就牽頭做了一件為AI安全保駕護航的大事。
破題AI安全 生態(tài)聯(lián)盟緣何成最優(yōu)解決方案
這件事就是，11月6日，百度安全聯(lián)合華為、中國信息通信研究院發(fā)起成立了"OASES智能終端安全生態(tài)聯(lián)盟"(OpenAI System Security Alliance，簡稱OASES聯(lián)盟)。
這件事的意義不小，不僅因為這是國內首個致力于AI時代提升智能終端生態(tài)安全的聯(lián)盟組織，更重要的是，這是找到了破題AI安全這一時代命題的解決方案。因為，人工智能涉及的維度和層面很多，不僅云、端、管，更有龐雜如毛細血管一樣的細枝末節(jié)，每一個細微之處忽略了安全防范，都可能帶來風險。
這種防范，需要像Linux、Android一樣有開源的系統(tǒng)和解決方案去全面化推廣，而推廣就勢必會牽涉到云、端、管等各路公司、各路軟硬件，這種情況下，有一個聯(lián)盟存在，好比是有了能量補給的倉庫，隨用隨取，自由部署，互聯(lián)互通。如此，AI安全方才有的談、有的做。
而這事兒為什么是百度牽頭呢?一個可能原因是，百度在AI上發(fā)力較早，加上做的都是底層技術和系統(tǒng)、開放平臺的事情，所以能對AI安全有更全面和深入的理解。也是因為此，方才推動百度去想牽頭做這樣一個聯(lián)盟。
百度牽頭成立這個聯(lián)盟蠻有誠意。從百度安全事業(yè)部總經理馬杰對聯(lián)盟的解讀可以看出，"我們建立聯(lián)盟，不想說一個特別空的東西，最好有實際的東西，使得大家先得到一點幫助--這可能也是非常重要的一步，大家先往前邁一點。"做聯(lián)盟，尤其是做大家之前沒有涉及的AI安全生態(tài)聯(lián)盟，要讓盡可能的公司和組織加入進來，的確需要秀一下誠意。百度此次拿出自己在人工智能領域深耕多年的技術，不僅免費授權給聯(lián)盟廠商使用，還將核心技術開源，專利共享，以打消產業(yè)鏈同行的顧慮，推動核心安全技術在各個環(huán)節(jié)節(jié)點的真正落地應用。
此舉可謂是拋磚引玉，像華為、中國信息通信研究院這樣的伙伴加入，大家則能一起把聯(lián)盟推廣起來，只有越來越多的組織加入，這個聯(lián)盟的生態(tài)效應也就會日趨顯現(xiàn)。
一如Android開源一樣，Google并不從Android上面盈利，但是也正因為此，造就了一個安卓智能手機盛世。同樣的，只要做好專利共享、技術開源、標準共建，堅持去開源、去共贏、去輸出，由百度、華為們聯(lián)合發(fā)起的這一OASES聯(lián)盟，就有望通過聯(lián)盟合作伙伴的合力，共同推動AI安全技術與服務的應用落地，并有望引領大生態(tài)、大安全的AI時代。
01月07日 18:14
