汽車系統(tǒng)顯示需要進行檢查
根據(jù)評委于旸的解釋，車機設(shè)備原本就是連接到汽車的系統(tǒng)之中，其就有很大的權(quán)力。往往這些車機設(shè)備會提供一個手機APP的控制功能，那么它與手機之間就需要通過藍牙等方式進行連接。雖然手機APP本身不會進行惡意操作，但是它為攻擊者提供了一條路徑。
門禁作為IOT設(shè)備中的重要應(yīng)用，正日漸出現(xiàn)在越來越多使用場景中。這個項目的挑戰(zhàn)者也是在今年年中GEEKPWN大賽中，成功破解單車的tyy。
在挑戰(zhàn)開始之前，評委對這次的攻擊對象——漢王人臉識別門禁進行了檢測，并且將自己的臉錄入了系統(tǒng)，并且驗證了tyy無法通過刷臉通過門禁。
在開始挑戰(zhàn)之后，選手在不碰觸門禁的前提下，只用了兩分半的時間，就完成了操作。此時，評委已經(jīng)無法通過門禁，而tyy則可以刷臉通過門禁。
根據(jù)tyy的介紹，這次的攻擊是通過連接到門禁所連接的網(wǎng)絡(luò)中，然后入侵到門禁系統(tǒng)中將評委的臉替換成了自己的臉。
相對于現(xiàn)在做人臉識別的企業(yè)都在強調(diào)技術(shù)有多么的安全，這種不針對AI技術(shù)層面的攻擊，依然利用傳統(tǒng)方法控制設(shè)備的手段，也提供了一種思考：AI 產(chǎn)品越來越多落地的今天，單純看一項技術(shù)的指標是無法應(yīng)對復(fù)雜的環(huán)境的，產(chǎn)品就應(yīng)當作為一個整體的系統(tǒng)去設(shè)計與規(guī)劃，任何缺口都可能成為崩潰的導(dǎo)火索。
針對門禁的攻擊提供了一種思路，而來自百度安全實驗室Xlab的選手，則試圖通過復(fù)制人體信息并解鎖手機，來證明人臉、虹膜等識別技術(shù)，并不如想象的那般安全。
挑戰(zhàn)開始前，評委在主流的兩部手機上，一臺錄入了自己的指紋，一臺錄入了指紋、虹膜與人臉信息來開鎖手機。
選手分別通過讓評委接觸偽裝的接線板獲得指紋；佩戴特制的VR眼鏡獲得虹膜信息；利用一張自拍照獲得人臉信息。
制造“面部識別”的環(huán)境
而在開鎖手機階段，選手則制造了假的“肢體”來欺騙手機識別系統(tǒng)：
根據(jù)選手的解釋，這樣的攻擊本質(zhì)上就是復(fù)制生物信息，而相比如可以替換的數(shù)字密碼，人體的生物信息是唯一不可變的，安全隱患更為嚴重。
“白紙黑字” 一般用來比喻有確鑿的文字憑據(jù)，但是未來筆跡的堅定可能會有很大的麻煩。大會的現(xiàn)場，挑戰(zhàn)者使用了一臺電腦與一個機器臂，便完成了對人類筆跡的模仿。
在事前，選手收到了陳楸帆（被模仿者）的1000個文字，作為基礎(chǔ)數(shù)據(jù)庫學習。在舞臺上，選手的機器與陳楸帆分別抒寫同一段文字，然后將兩者的文字混合在一起，重新拼湊出上述的文字，最終由GEEKPWN團隊請來的筆跡鑒定師識別。
筆跡鑒定師逐個字判斷是人寫的還是機器寫的，正確的加一分，錯誤扣一分，最后的分數(shù)超過字數(shù)的一半算機器挑戰(zhàn)失敗，反之則挑戰(zhàn)成功。而最后的結(jié)果，則是機器寫出來的字，成功躲過了鑒定師的火眼金睛。
根據(jù)選手的介紹，這個系統(tǒng)依賴的技術(shù)就是“GAN”，即是對抗神經(jīng)網(wǎng)絡(luò)（Generative Adversarial Networks）。而這個系統(tǒng)由兩部分構(gòu)成，生成算法與判別算法，一個是要生成無法判定真假的數(shù)據(jù)，一個則是要判別出真實的數(shù)據(jù)與生成數(shù)據(jù)。而這樣的一套系統(tǒng)，在數(shù)據(jù)的支持下，只需要20個小時，就能夠成功模仿一個人類的筆記。
除了上述，geekpwn上還有一些很有意義的破解，比如在票務(wù)APP上生成訂單號與金額之后，不需要付款便能生成賬單；在不接觸銀行卡的情況下，利用云pos機的漏洞獲取銀行卡的信息，并能夠用復(fù)制的卡片刷卡成功……
但是從參賽團隊的項目上來看，破解人工智能的項目占了絕對最大的比重。在人工智能技術(shù)處在廣泛摸索應(yīng)用場景的時代，其安全問題也自然突兀了出來。
在與GEEKPWN大賽發(fā)起人王琦的交流中，他也對鈦媒體發(fā)表了自己對于人工智能安全的看法。
在他看來，人工智能安全隱患分為兩部分，一個是用AI的技術(shù)去搞破壞；一個則是AI可能存在被欺騙，不良的大數(shù)據(jù)學習就會帶來不良的結(jié)果。
而目前所面對的難點則是，人們對于AI的理解不正確，有一種莫名的抗拒。其實真正該焦慮的不是被替代的問題，而是AI本身的原理并不明確，無法反推，只是某種算法導(dǎo)致了一種結(jié)果，但是結(jié)果為什么會這樣則不知曉，若是有一天AI出現(xiàn)了重大的問題就不能有一個清晰的解決方案。（本文首發(fā)鈦媒體，張霖/文）
快報
根據(jù)《網(wǎng)絡(luò)安全法》實名制要求，請綁定手機號后發(fā)表評論
感覺像玩解謎游戲 我要查查這個大會明年有沒有……