圖片由AI生成
歐洲議會(huì)于2024年3月13日批準(zhǔn)通過了《人工智能法案》，會(huì)上523 票贊成、46票反對(duì)、49票棄權(quán)。這標(biāo)志著世界上首次全面規(guī)范人工智能的法律誕生，同時(shí)這也是世界上迄今為止最全面的人工智能立法。《人工智能法案》將于5月在歐盟國(guó)家中被正式批準(zhǔn)，預(yù)計(jì)年內(nèi)一些條款將開始適用。
《人工智能法案》涉及人權(quán)、產(chǎn)權(quán)以及主權(quán)三個(gè)領(lǐng)域。據(jù)鈦媒體APP觀察到，該法案內(nèi)容主要可以歸納為七點(diǎn)。第一點(diǎn)是關(guān)于人工智能系統(tǒng)在歐盟的市場(chǎng)投放、服務(wù)以及使用的統(tǒng)一規(guī)則；第二點(diǎn)是規(guī)定對(duì)特定人工智能實(shí)踐的禁止；第三點(diǎn)是規(guī)定對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的具體要求以及相關(guān)經(jīng)營(yíng)者的義務(wù)；第四點(diǎn)是制定對(duì)特定人工智能系統(tǒng)的統(tǒng)一透明度規(guī)則；第五點(diǎn)是制定對(duì)人工智能模型在市場(chǎng)中的準(zhǔn)則，也涉及到管理及創(chuàng)新發(fā)展。此外還通過設(shè)立AI辦公室以及人工智能管理委員會(huì)來加以管理，使得參與各國(guó)協(xié)調(diào)共同管理。
《人工智能法案》的發(fā)布對(duì)其他國(guó)家、組織的人工智能立法起到了借鑒和助推作用。IBM 近日表達(dá)了對(duì)歐盟《人工智能法案》的高度評(píng)價(jià)，他們稱歐盟《人工智能法案》提供了一個(gè)亟需的框架，以確保開發(fā)和部署人工智能技術(shù)過程中的透明度、問責(zé)制和人為監(jiān)督。并且IBM 表示相信該法規(guī)將促進(jìn)人們對(duì)人工智能系統(tǒng)的信任和信心，同時(shí)促進(jìn)創(chuàng)新和提高競(jìng)爭(zhēng)力。
首先，《人工智能法案》將人工智能系統(tǒng)風(fēng)險(xiǎn)分為不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和低風(fēng)險(xiǎn)四大類。法案采用基于風(fēng)險(xiǎn)的分級(jí)動(dòng)態(tài)監(jiān)管模式，并按照風(fēng)險(xiǎn)級(jí)別制定相應(yīng)的監(jiān)管規(guī)則，這保持了行業(yè)發(fā)展的相對(duì)平衡。
其次，通過設(shè)立人工智能監(jiān)管沙盒有助于平衡監(jiān)管與創(chuàng)新。法案表示監(jiān)管沙盒向任何符合資格和選擇標(biāo)準(zhǔn)的人工智能系統(tǒng)的潛在申請(qǐng)者開放，并且進(jìn)入監(jiān)管沙盒的標(biāo)準(zhǔn)是透明和公平的。這一點(diǎn)在確保人工智能發(fā)展創(chuàng)新的同時(shí)，法案也能繼續(xù)注重保護(hù)人的基本權(quán)利及民主等免受高風(fēng)險(xiǎn)人工智能的影響。
此外，《人工智能法案》對(duì)跨國(guó)人工智能企業(yè)也進(jìn)行了要求，規(guī)范了在政策管制程度的不同地區(qū)仍能遵循以人為本，進(jìn)一步降級(jí)法律風(fēng)險(xiǎn)。
最后，立法本身就可以在民眾心底建立維權(quán)意識(shí)，這不僅可以帶動(dòng)人工智能整體的健康發(fā)展，還能建立起公民對(duì)人工智能行業(yè)的信任。
在人工智能高速發(fā)展、不斷迭代的現(xiàn)階段，由于監(jiān)管不到位亦或是鉆法律空擋等，致使人工智能倫理事件頻發(fā)，甚至已經(jīng)威脅到了人的生命安全。那么作為人類首部人工智能相關(guān)立法的《人工智能法案》，能否減少甚至杜絕現(xiàn)階段社會(huì)面臨的人工智能事故呢？接下來將選取幾個(gè)較為經(jīng)典的人工智能案例，結(jié)合《人工智能法案》說明。
（1）未經(jīng)親屬授權(quán)，通過AI復(fù)活逝者
生成式AI現(xiàn)階段已融入到各行各業(yè)之中，該技術(shù)不光可以對(duì)產(chǎn)業(yè)賦能增加效率，還可以滿足人們的幻想與期盼。前不久，知名音樂人包小柏成功運(yùn)用AI技術(shù)“復(fù)活”了已故兩年的女兒，在打造的“數(shù)字世界”不僅可以進(jìn)行對(duì)話，還可以唱歌跳舞。這本來是積極的一面，代表了AI可以給予人們的正能量。然而，在這之后，越來越多的已故明星被AI技術(shù)“復(fù)活”，重點(diǎn)是未經(jīng)親屬授權(quán)，在家屬不了解的情況下將視頻推向短視頻平臺(tái)。這些事件引起了廣泛熱議并且傷害了部分家屬和一些粉絲。利用AI技術(shù)“復(fù)活”可能是對(duì)已故之人的思念，也有可能是制造熱點(diǎn)，這一點(diǎn)無法考證。但是確定的是，這已經(jīng)涉及到倫理風(fēng)險(xiǎn)中的社會(huì)性風(fēng)險(xiǎn)，即人工智能使用不合理，包括濫用、誤用等，對(duì)社會(huì)價(jià)值等方面產(chǎn)生負(fù)面影響的風(fēng)險(xiǎn)。那么在《人工智能法案》中能否在開始就減少或杜絕此類現(xiàn)象呢。
《人工智能法案》中明確提到了將人工智能系統(tǒng)風(fēng)險(xiǎn)分級(jí)外，還提出了應(yīng)被禁止的8種AI系統(tǒng)類型。其中就有禁止使用網(wǎng)絡(luò)或視頻監(jiān)控進(jìn)行無目標(biāo)的人臉收集以創(chuàng)建人臉識(shí)別數(shù)據(jù)庫，這一點(diǎn)可以解決AI“復(fù)活”的底層邏輯，利用AI“復(fù)活”需要先用視頻或圖片抓取人物，并通過模型后續(xù)生成。此外，還禁止了根據(jù)人的弱點(diǎn)，達(dá)到“嚴(yán)重扭曲”某人的行為目的或效果，造成重大傷害的AI系統(tǒng)。這一點(diǎn)也能盡最大程度避免了利用人的性格弱點(diǎn)，來牟取私利的行為。
（2）通過AI在網(wǎng)絡(luò)平臺(tái)抓取民眾心里，引導(dǎo)不良走向，甚至干預(yù)選舉
在2016年美國(guó)大選期間，劍橋數(shù)據(jù)公司通過大數(shù)據(jù)采集分析臉譜化以及定向推送等相關(guān)技術(shù)，從FACEBOOK平臺(tái)上抓取大量用戶個(gè)人隱私，把生活在屏幕背后的人還原成一個(gè)毫無隱私可言的人。因此便有了針對(duì)性極強(qiáng)的精準(zhǔn)信息投放，在個(gè)人不知不覺的時(shí)候在后臺(tái)進(jìn)行信息過濾，通過計(jì)算機(jī)建模對(duì)數(shù)據(jù)進(jìn)行分析，對(duì)精確的對(duì)象釋放個(gè)性定制的信息，影響其心智和行為，從而贏得他們的選票。從這一問題上我們也看到該項(xiàng)技術(shù)衍生的其他問題，例如部分公司利用此技術(shù)引導(dǎo)貸款，亦或是引導(dǎo)至不良方向等。由此看出，不法分子利用AI技術(shù)在網(wǎng)絡(luò)平臺(tái)引導(dǎo)民眾走向不良方向的問題是巨大的，衍生出的結(jié)果也是千變?nèi)f化的。
在《人工智能法案》中，全面禁止了部分AI技術(shù)的一些“不可接受”的用途，例如禁止由人工智能驅(qū)動(dòng)的社會(huì)評(píng)分系統(tǒng)，以及任何用于猜測(cè)一個(gè)人的種族、政治傾向或性取向的基于生物識(shí)別的工具。此外，還有此前我們提到的禁止操縱人類行為或利用人類弱點(diǎn)的AI系統(tǒng)。最后，設(shè)立人工智能監(jiān)管沙盒可以使得進(jìn)入的企業(yè)運(yùn)行是透明的，這將更有利于監(jiān)管。
（3）人工智能應(yīng)用到軍事，人道主義能否保障
2023年5月，美國(guó)空軍上校漢密爾頓在5月舉行的未來戰(zhàn)爭(zhēng)空天能力峰會(huì)上稱在一次模擬測(cè)試中，一架負(fù)責(zé)執(zhí)行防空火力壓制(SEAD)任務(wù)的無人機(jī)，殺死了人類操作員。據(jù)他稱，因?yàn)闊o人機(jī)收到了識(shí)別并摧毀敵方防空導(dǎo)彈的指令，并且最終開火權(quán)在人類操作員的手上。但是由于這架無人機(jī)使用的AI系統(tǒng)在進(jìn)行數(shù)據(jù)訓(xùn)練時(shí)，得到了“摧毀敵方防空系統(tǒng)”為最高優(yōu)先級(jí)。因此，當(dāng)人類操作員發(fā)出不允許攻擊的指令時(shí)，AI系統(tǒng)認(rèn)為操作員是在阻擾它執(zhí)行最優(yōu)先級(jí)命令，進(jìn)而選擇對(duì)自己的人類操作員發(fā)動(dòng)了攻擊。雖然這是一次測(cè)試，但是不可否定的是在應(yīng)用到軍事領(lǐng)域中，人工智能能否與人類兼容。
除此外，利用人工智能技術(shù)對(duì)其他國(guó)家產(chǎn)生主權(quán)威脅，以及利用人工智能到軍事沖突中加大人員傷亡以及誤傷，這樣的情形或已經(jīng)發(fā)生或?qū)⒃谖磥砩?jí)。在《人工智能法案》中其說明了不規(guī)定于軍事。但是在我國(guó)2021年發(fā)布的《關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》中，對(duì)于這些問題詳細(xì)的進(jìn)行了倡議。
例如表明在軍事政策上，各國(guó)在發(fā)展先進(jìn)武器裝備、提高正當(dāng)國(guó)防能力的同時(shí)，應(yīng)銘記人工智能的軍事應(yīng)用不應(yīng)成為發(fā)動(dòng)戰(zhàn)爭(zhēng)和追求霸權(quán)的工具，反對(duì)利用人工智能技術(shù)優(yōu)勢(shì)危害他國(guó)主權(quán)和領(lǐng)土安全的行為。
在技術(shù)安全上，各國(guó)應(yīng)不斷提升人工智能技術(shù)的安全性、可靠性和可控性，增強(qiáng)對(duì)人工智能技術(shù)的安全評(píng)估和管控能力，確保有關(guān)武器系統(tǒng)永遠(yuǎn)處于人類控制之下，保障人類可隨時(shí)中止其運(yùn)行。
值得一提的是我國(guó)也積極表明AI+軍事的過程上應(yīng)該注意人道主義倫理問題，表明各國(guó)應(yīng)確保新武器及其作戰(zhàn)手段符合國(guó)際人道主義法和其他適用的國(guó)際法，努力減少附帶傷亡、降低人員財(cái)產(chǎn)損失，避免相關(guān)武器系統(tǒng)的誤用惡用，以及由此引發(fā)的濫殺濫傷。
總體來看歐盟的《人工智能法案》不僅為其內(nèi)部在人工智能領(lǐng)域形成統(tǒng)一的規(guī)則和開發(fā)方向提供了法律基礎(chǔ)，而且在全球范圍內(nèi)推行了人工智能的監(jiān)管標(biāo)準(zhǔn)，從而掌握規(guī)則制定的主動(dòng)權(quán)。隨著《人工智能法案》的正式實(shí)行，如果嚴(yán)格按照法案，社會(huì)上的人工智能倫理問題將大大減少，但是在軍事主權(quán)上仍需世界各國(guó)共同努力。值得注意的是，本文列舉案例較少，主要挑選了一些經(jīng)典案例，不能代表人工智能帶來的所有風(fēng)險(xiǎn)。（本文首發(fā)于鈦媒體APP，作者｜谷碩，編輯｜劉洋雪）
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求，請(qǐng)綁定手機(jī)號(hào)后發(fā)表評(píng)論
不只是漏洞而已，想想吧
我看不是。
對(duì)，他這個(gè)不包括軍事方面。
新消息：首部人工智能法案誕生了
號(hào)稱是迄今為止最全面的人工智能立法。
這是個(gè)很大的漏洞。