圖片來源：unsplash
微軟近期的“藍(lán)屏事件”令全球嘩然，由于系統(tǒng)宕機(jī)波及的范圍過大，航空、電信、金融機(jī)構(gòu)、醫(yī)療、媒體等各行業(yè)無差別地受到影響，所造成的經(jīng)濟(jì)損失尚無權(quán)威估量。這只“黑天鵝”再次把安全機(jī)制拷問推到聚光燈前。
當(dāng)下，生成式AI不再是一套獨(dú)立存在的技術(shù)系統(tǒng)，而是深度融入生產(chǎn)生活的各個(gè)環(huán)節(jié)，以往“殺毒軟件式”的攻防思路還能否適應(yīng)人工智能時(shí)代的安全要求？未來，當(dāng)人們把個(gè)人駕駛、陪護(hù)等關(guān)乎身體的交互場景交由機(jī)器代辦后，安全漏洞的危害可能就不止于財(cái)產(chǎn)損失或信息泄露。
從管理機(jī)制到產(chǎn)品設(shè)計(jì)、響應(yīng)機(jī)制，全方位地把安全寫入企業(yè)的DNA中，勢在必行。
從個(gè)人PC時(shí)代走過來的人都熟悉一個(gè)早年裝機(jī)必備工具——殺毒軟件，其本質(zhì)是一把“門鎖”。個(gè)人上網(wǎng)要與服務(wù)器做數(shù)據(jù)交換，“門鎖”的作用是篩選、擋住黑客軟件的數(shù)據(jù)交換。但令人感到諷刺的是，這次微軟藍(lán)屏事件據(jù)說是與某款第三方安全軟件的更新有關(guān)，就好比門鎖升級(jí)，門卻開了。
后來步入公有云時(shí)代，這比本地化部署更具性價(jià)比，但對數(shù)據(jù)安全的擔(dān)憂曾一度阻礙企業(yè)的上云。
眼下的生成式AI階段對數(shù)據(jù)安全提出了更復(fù)雜多變的考驗(yàn)。比如提示詞注入(Prompt Injection)，這是利用人工智能模型對輸入輸出存在的漏洞進(jìn)行攻擊的一種方式，攻擊者可以通過精心設(shè)計(jì)的提示語讓模型產(chǎn)生意料之外的輸出，造成信息泄露或系統(tǒng)損害；再比如數(shù)據(jù)污染(Data Poisoning)，人工智能模型的訓(xùn)練依賴大量的訓(xùn)練數(shù)據(jù)，如果訓(xùn)練數(shù)據(jù)被惡意篡改，就可能導(dǎo)致模型產(chǎn)生錯(cuò)誤行為?？梢姡@些都是在生成式AI環(huán)境下特有的攻擊手段，但本質(zhì)上沒有脫離計(jì)算機(jī)安全的基本范疇。
AI與云密不可分，無論是公有云還是生成式AI，客戶關(guān)系本質(zhì)上都是一種訂閱關(guān)系，而非消費(fèi)互聯(lián)網(wǎng)下的買賣關(guān)系。長期合作中建立起的信任感使企業(yè)客戶的遷移成本變高，彼此間黏性增強(qiáng)。與本地化部署買A產(chǎn)品還是B產(chǎn)品的決策不同，訂閱客戶相當(dāng)于把半條身家性命交予云平臺(tái)，后者的安全性就是前者的業(yè)務(wù)基石。
而決定產(chǎn)品設(shè)計(jì)的安全理念始終踐行如一的，除了嚴(yán)謹(jǐn)?shù)募夹g(shù)機(jī)制之外，更源于高層的管理機(jī)制——安全不是CTO工程，而是CEO工程。
亞馬遜云科技首席信息安全官Chris Betz曾在上個(gè)月美國re: Inforce主題演講中介紹，八年前亞馬遜云科技決定讓安全團(tuán)隊(duì)直接向CEO匯報(bào)，目前每周五領(lǐng)導(dǎo)層都會(huì)在首席執(zhí)行官和亞馬遜云科技安全領(lǐng)導(dǎo)的帶領(lǐng)下，與各個(gè)服務(wù)團(tuán)隊(duì)開會(huì)討論重要的安全問題，各開發(fā)人員、產(chǎn)品經(jīng)理、總經(jīng)理參與其中。這種管理機(jī)制設(shè)計(jì)重新定義了如何將安全融入公司文化中。
在響應(yīng)流程上，亞馬遜云科技內(nèi)部創(chuàng)建了Guardians計(jì)劃。Guardians是深入各服務(wù)團(tuán)隊(duì)的工程師，他們從計(jì)劃會(huì)議到立項(xiàng)會(huì)議，從安全評(píng)審到整個(gè)開發(fā)周期的每個(gè)步驟都在場。一旦出現(xiàn)安全問題，不會(huì)像其他公司那樣在各部門間來回傳遞工單而耽誤時(shí)間，會(huì)立刻“升級(jí)處理”，員工可越級(jí)匯報(bào)，交由安全團(tuán)隊(duì)負(fù)責(zé)，內(nèi)部鼓勵(lì)這種快速響應(yīng)理念。
亞馬遜首席執(zhí)行官安迪•賈西(Andy Jassy) 曾說過，安全是亞馬遜的“Job Zero”。事實(shí)上，安全也是整個(gè)數(shù)智社會(huì)的“Job Zero”，即“0號(hào)任務(wù)”。把安全植入每個(gè)產(chǎn)品技術(shù)的所有研發(fā)、測試、部署、調(diào)用、兼容……亞馬遜云科技專注于在所有環(huán)節(jié)構(gòu)建“安全機(jī)制”，在智能時(shí)代正凸顯出價(jià)值。
2024年迎來生成式AI大爆發(fā)，很多企業(yè)客戶選擇在亞馬遜云平臺(tái)上做生成式AI技術(shù)的開發(fā)與創(chuàng)新，很重要的一個(gè)因素是看中其安全性。數(shù)據(jù)顯示，全球96%的AI與機(jī)器學(xué)習(xí)獨(dú)角獸企業(yè)，及90%的2024福布斯AI 50強(qiáng)企業(yè)選擇了亞馬遜云科技。亞馬遜云科技在新階段提出生成式AI基礎(chǔ)設(shè)施安全、技術(shù)棧安全和數(shù)據(jù)安全的全面安全理念，與以往相比做了顯著升級(jí)。
在7月25日的re:Inforce大會(huì)上，亞馬遜云科技為Amazon GuardDuty全托管服務(wù)增加了新的安全功能——S3云存儲(chǔ)惡意軟件防護(hù)，可幫用戶自動(dòng)掃描文件，并隔離惡意軟件。
目前，亞馬遜云科技針對生成式AI的三層技術(shù)棧做了系統(tǒng)性的安全部署與升級(jí)。其中，底層Nitro系統(tǒng)從設(shè)計(jì)上將客戶數(shù)據(jù)與運(yùn)營商完全隔離，確保亞馬云科技的運(yùn)維團(tuán)隊(duì)無法訪問客戶在EC2實(shí)例上運(yùn)行的工作負(fù)載和數(shù)據(jù)。以往，Nitro Enclave隔離功能只能運(yùn)行在CPU上，限制了它對更大規(guī)模參數(shù)模型的支持，未來亞馬遜云科技計(jì)劃拓展這一Nitro端到端加密流程，將其與機(jī)器學(xué)習(xí)加速器和GPU無縫集成，讓后者處理運(yùn)算效率大大提升。
值得一提的是，在2017年Amazon Nitro系統(tǒng)誕生前，亞馬遜平臺(tái)EC2實(shí)例大概有70個(gè)種類，這之后的6年，EC2實(shí)例增長到750種。這個(gè)過程中，亞馬遜云科技一步步將網(wǎng)絡(luò)、存儲(chǔ)的虛擬化、安全、監(jiān)控等都卸載到Nitro硬件上，將服務(wù)器算力100%為用戶實(shí)例所用。這些是在架構(gòu)設(shè)計(jì)之初主動(dòng)設(shè)計(jì)的，把虛擬化的安全納入硬件層考慮，而不是產(chǎn)生安全隱患時(shí)的被動(dòng)響應(yīng)。
在中間層，模型托管平臺(tái)Amazon Bedrock對數(shù)據(jù)進(jìn)行加密，允許客戶創(chuàng)建、管理和控制加密密鑰，且承諾不會(huì)使用客戶數(shù)據(jù)來訓(xùn)練或改進(jìn)原始的基礎(chǔ)模型。當(dāng)客戶微調(diào)模型時(shí)，亞馬遜云科技會(huì)創(chuàng)建一個(gè)該模型的私有版本，將其放入安全的容器中，意味著數(shù)據(jù)不會(huì)與亞馬遜云科技共享。
對于最上層的代碼編寫，Amazon Q Developer可以協(xié)助開發(fā)人員編碼、測試、排查隱患、安全掃描和修復(fù)。在一個(gè)近乎實(shí)時(shí)生成代碼建議和推薦的開發(fā)環(huán)境下，從一開始就基于安全性和隱私性出發(fā)、編寫高質(zhì)量的代碼，顯然要比完成測試、甚至交付后再去修改要有效率。
這樣一個(gè)體系化的安全工程構(gòu)筑了亞馬遜云科技客戶的安全保障，也讓一些中國出海企業(yè)受益。
貨拉拉的海外品牌Lalamove選擇亞馬遜云科技在新加坡、和巴西圣保羅等地區(qū)進(jìn)行 IT 部署。“千島之地”東南亞的物流環(huán)境十分復(fù)雜，對業(yè)務(wù)系統(tǒng)的安全穩(wěn)定和可拓展性要求也很高。Lalamove對亞馬遜云科技是多層面的技術(shù)合作，它利用 Amazon SageMaker 機(jī)器學(xué)習(xí)服務(wù)，在全面考量人、車、貨、路等貨運(yùn)元素的基礎(chǔ)上構(gòu)建了智慧貨運(yùn)平臺(tái)；它使用Graviton 芯片優(yōu)化云上工作負(fù)載，實(shí)現(xiàn)了20%的云上成本節(jié)約。
與技術(shù)紅利帶來快速增長機(jī)遇相比，建立體系化的安全文化需要經(jīng)年累月付出，并非一件易事。放眼更大的產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型進(jìn)程，安全因素也往往被放在次要地位考慮。
在今年5月份上海舉行的亞馬遜云科技中國峰會(huì)上，該公司宣布了“行業(yè)合作伙伴計(jì)劃”，組建垂直領(lǐng)域的人工智能技術(shù)團(tuán)隊(duì)，聚焦包括汽車、制造、金融在內(nèi)的八大行業(yè)，深耕企業(yè)數(shù)字化轉(zhuǎn)型，并與安全廠商聯(lián)手推出“亞馬遜云科技安全合作伙伴計(jì)劃”。這說明產(chǎn)業(yè)層面利用生成式AI做創(chuàng)新將迎來一個(gè)新的風(fēng)口。
人們隨之也看到了硬幣的另一面。
以眼下火熱的汽車行業(yè)為例，“軟件定義汽車”重新梳理了汽車的生產(chǎn)和使用，跳出了機(jī)械式代步工具的范疇。那么，誰來定義軟件呢？或者說，當(dāng)軟件定義汽車時(shí)，也同時(shí)“定義”了漏洞。任何ICT領(lǐng)域的攻擊手段幾乎都適用于汽車場景。
2023年以來，全球汽車安全態(tài)勢呈現(xiàn)嚴(yán)峻趨勢，據(jù)統(tǒng)計(jì)有64%針對車輛的攻擊來自黑客，絕大多數(shù)為遠(yuǎn)程攻擊。國內(nèi)也不容樂觀，據(jù)工信部統(tǒng)計(jì)，2023年1月至2024年1月，發(fā)生與車企相關(guān)的數(shù)據(jù)泄露事件20多起，涉及駕駛數(shù)據(jù)、用戶數(shù)據(jù)和業(yè)務(wù)數(shù)據(jù)。
軟件定義汽車更進(jìn)一步的目標(biāo)是自動(dòng)駕駛。近期國內(nèi)無人駕駛網(wǎng)約車的試點(diǎn)運(yùn)營已經(jīng)收集到不同城市的負(fù)面反饋，現(xiàn)實(shí)阻力重重。自動(dòng)駕駛本身的安全性已經(jīng)得到反復(fù)驗(yàn)證，地鐵、高鐵、飛機(jī)這些有特定運(yùn)行軌道的交通工具早已實(shí)現(xiàn)自動(dòng)駕駛，但這些所處的是一個(gè)相對封閉的網(wǎng)絡(luò)環(huán)境，而車輛自動(dòng)駕駛是更開放的網(wǎng)絡(luò)環(huán)境，安全不僅關(guān)乎個(gè)體司機(jī)，也涉及到企業(yè)、政府、甚至國家層面。
“藍(lán)屏事件”已經(jīng)敲響警鐘，行業(yè)發(fā)展的基礎(chǔ)是讓安全先行，從源頭設(shè)計(jì)上就要把安全置于最高級(jí)考慮。
貝索斯在亞馬遜一直強(qiáng)調(diào)“Day 1”文化，意在時(shí)刻保持創(chuàng)業(yè)者的初心、創(chuàng)造力和警覺，他還喜歡在財(cái)報(bào)中強(qiáng)調(diào)現(xiàn)金流能力而非凈利潤。亞馬遜的企業(yè)文化強(qiáng)調(diào)做“稱重機(jī)”，不做“投票機(jī)”，即圍繞客戶需求完善自身，無需理會(huì)華爾街一時(shí)的投票。在這種企業(yè)文化中，對安全建設(shè)的資源投入是一個(gè)長期持續(xù)過程，雖然難以通過財(cái)務(wù)數(shù)據(jù)直觀顯現(xiàn)，但已經(jīng)體現(xiàn)在客戶的選擇傾向上，并刻在企業(yè)的文化DNA中。
當(dāng)傳統(tǒng)工業(yè)時(shí)代的紅利衰減殆盡，整個(gè)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型、擁抱AI的腳步就會(huì)更快。而如果說數(shù)據(jù)是生成式AI的基礎(chǔ)和源頭，那安全就是面對這場新技術(shù)革命的信心和底氣——一切瞬息萬變，安全的基本原則卻恒久不變。（本文首發(fā)于鈦媒體APP）
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求，請綁定手機(jī)號(hào)后發(fā)表評(píng)論