本文來(lái)自Geekcar，作者盧姿伊
假設(shè)，一輛無(wú)人駕駛汽車(chē)正面臨艱難的抉擇——撞向兩個(gè)物體中的一個(gè)。它可以把方向盤(pán)打向左邊撞上沃爾沃SUV，或者打向右邊，無(wú)辜的Mini Cooper自認(rèn)倒霉。如果你來(lái)給這輛車(chē)編程，原則是將傷害最小化，在上述情況下你會(huì)讓它撞哪個(gè)？
從物理學(xué)角度講，你應(yīng)當(dāng)選擇將其撞向一輛更重的車(chē)，從而更好地吸收碰撞動(dòng)能，這么說(shuō)來(lái)就得撞沃爾沃了。另外，被撞的這輛車(chē)還應(yīng)當(dāng)以安全著稱(chēng)，這么說(shuō)，就更得撞沃爾沃了。
別高興得太早，事實(shí)是物理學(xué)并非唯一需要考慮的因素。選擇撞一個(gè)東西而不是另一個(gè)，這本身就是個(gè)糟糕的抽簽。從法律和道德層面來(lái)講，這都把無(wú)人駕駛汽車(chē)產(chǎn)業(yè)拉到了危險(xiǎn)的境地。
就算造成的傷害并非故意，一些“優(yōu)化撞車(chē)”算法天然需要作出精密而系統(tǒng)的識(shí)別，撞大型車(chē)輛。而被選中的車(chē)主得承受這一后果，即使他們什么錯(cuò)都沒(méi)有，錯(cuò)就錯(cuò)在他們注重安全，又需要一輛SUV來(lái)拉一大家子。這，聽(tīng)上去合理嗎？
這樣說(shuō)來(lái)，怎樣才算合理的編程設(shè)計(jì)遇到了道德困境。沃爾沃和別的SUV車(chē)主理所應(yīng)當(dāng)對(duì)那些優(yōu)先撞他們而不是小型車(chē)的無(wú)人駕駛車(chē)制造商不滿，盡管物理角度上這可能是最佳解決方案。
這算是個(gè)現(xiàn)實(shí)問(wèn)題？
某些車(chē)輛事故無(wú)可避免，甚至無(wú)人駕駛汽車(chē)也難逃一劫。一頭鹿有可能突然跳到你面前，其他車(chē)道的汽車(chē)也可能突然沖著你就來(lái)了。先不管什么物理的三七二十一，火燒眉毛的事故怎么破才是王道。在這種意義上，一輛無(wú)人駕駛汽車(chē)能做出最好的選擇。
人類(lèi)在危急情況下只會(huì)以本能作出反應(yīng)，然而一輛無(wú)人駕駛汽車(chē)卻是由軟件驅(qū)動(dòng)的，它能目不轉(zhuǎn)睛地持續(xù)掃描周遭環(huán)境，甚至在我們意識(shí)到危險(xiǎn)之前就能夠做出許多運(yùn)算了。它們會(huì)爭(zhēng)分奪秒地做出選擇，將碰撞傷害降到最低。不過(guò)軟件需要編程，目前還不清楚對(duì)于疑難問(wèn)題該怎么處理。
至于構(gòu)建邊界情況模型，我們?cè)谶@里也不試圖模仿真實(shí)世界里的情況。因?yàn)檫@些情況非常少見(jiàn)，然而卻無(wú)疑暴露了常規(guī)情況下隱匿或潛伏的問(wèn)題。自上述情景，我們能夠看出碰撞算法可能會(huì)被引入歧途，每次我們做出價(jià)值判斷，認(rèn)為一項(xiàng)事物比另一項(xiàng)事物更適合犧牲時(shí)，我們都該把它納入考慮背景。
早年，無(wú)人駕駛車(chē)的應(yīng)用場(chǎng)景主要控制在高速路上。這是個(gè)相對(duì)簡(jiǎn)單的環(huán)境，車(chē)主無(wú)需顧慮在市內(nèi)駕駛時(shí)要時(shí)時(shí)留意的行人，數(shù)不清的別的移動(dòng)標(biāo)的們。不過(guò)，谷歌卻于近期宣布，它在貨真價(jià)實(shí)的城市街道上邁出了測(cè)試無(wú)人汽車(chē)的人生第一步。隨著無(wú)人駕駛汽車(chē)的運(yùn)用環(huán)境更為變幻莫測(cè)險(xiǎn)象環(huán)生，它們將面對(duì)更艱難的抉擇，意即，撞道邊物體，甚至是，行人。
道德，不僅僅牽扯到傷害問(wèn)題
這一問(wèn)題在下述場(chǎng)景里將會(huì)更尖銳地暴露出來(lái)。請(qǐng)?jiān)俅卧O(shè)想，一輛無(wú)人駕駛汽車(chē)要撞車(chē)已經(jīng)在所難免了。它有倆選擇：一個(gè)戴頭盔的騎摩托車(chē)的，一個(gè)沒(méi)戴頭盔的。編程的正確方式是啥？
以“優(yōu)化撞車(chē)”之名，你可以使它撞向可以從事故中最快重新屹立起來(lái)的任何物體。在文章開(kāi)頭的場(chǎng)景里，你該撞那輛沃爾沃SUV。這里，該撞那個(gè)戴頭盔的摩托車(chē)手。一個(gè)好的算法應(yīng)當(dāng)知道，沒(méi)戴頭盔的騎自行車(chē)的被撞死亡概率要高得多，而死人則當(dāng)然是汽車(chē)生產(chǎn)商要竭力避免的了。
不過(guò)，我們也能一眼看出這一選擇的不公正性，正如從“優(yōu)化撞車(chē)”角度想問(wèn)題一樣有道理。通過(guò)撞那個(gè)戴頭盔的騎摩托車(chē)的，我們這不就是懲罰他的責(zé)任感嗎，因?yàn)樗麕ь^盔了？同時(shí)，我們給另一個(gè)騎摩托車(chē)的開(kāi)了綠燈，即使他人要不負(fù)責(zé)任得多，不戴頭盔在美國(guó)大多數(shù)州都是違法的。
這一區(qū)別對(duì)待不僅是不道德的，還是個(gè)壞政策。這一“優(yōu)化撞車(chē)”設(shè)計(jì)會(huì)鼓勵(lì)騎摩托車(chē)的們不再佩戴頭盔，樹(shù)大招風(fēng)，何必因此變成無(wú)人駕駛車(chē)的靶子呢，尤其是這種汽車(chē)未來(lái)會(huì)越來(lái)越多。就像在上個(gè)場(chǎng)景里，以安全著稱(chēng)的汽車(chē)銷(xiāo)量反而會(huì)受影響，比如沃爾沃和梅賽德斯奔馳。顧客們可不想成為無(wú)人駕駛汽車(chē)的靶子?。?/p>
把一切交給運(yùn)氣
對(duì)于這類(lèi)使人窩火的兩難困境，一個(gè)優(yōu)雅的解決方法是，干脆別做那么深思熟慮的選擇了。我們可以設(shè)計(jì)出一款隨機(jī)做選擇的無(wú)人駕駛汽車(chē)。這是說(shuō)，如果選擇該撞哪個(gè)靶子是有道德缺陷的話，那又為何要算計(jì)，隨機(jī)多好！
無(wú)人駕駛汽車(chē)編程會(huì)產(chǎn)生隨機(jī)的數(shù)字；奇數(shù)一種辦法，偶數(shù)另一種辦法。這避免了無(wú)人駕駛汽車(chē)對(duì)大型SUV，負(fù)責(zé)任的騎摩托車(chē)的或種種種種存在區(qū)別對(duì)待的指控。
這一隨機(jī)性看上去也沒(méi)給這世界帶來(lái)什么新的不可控性：運(yùn)氣常伴左右，好的壞的都是如此。隨機(jī)決策也更好地模擬了人類(lèi)駕駛，直到目前為止，面對(duì)危機(jī)時(shí)人的瞬間反應(yīng)還是不可預(yù)測(cè)的，并非基于理智的，因?yàn)闆](méi)有足夠時(shí)間運(yùn)用人類(lèi)的理智。
不過(guò)，這一隨機(jī)的機(jī)械可能由于以下幾個(gè)原因而不夠完善。首先，模仿人類(lèi)駕駛有什么了不起嗎？造無(wú)人駕駛汽車(chē)不就是沖著他們能做出更好的決策嗎？人類(lèi)錯(cuò)誤駕駛，分心駕駛，醉駕等等是如今90%甚至更大比例車(chē)禍的肇因。美國(guó)每年有32,000余人命喪馬路。
第二，我們?nèi)祟?lèi)司機(jī)要是做出一個(gè)糟糕的瞬時(shí)反應(yīng)還能被原諒——例如，撞向一輛一整就爆炸的福特Pinto（發(fā)生撞擊后該車(chē)油箱會(huì)起火甚至爆炸）而非一個(gè)更安全穩(wěn)定的物體。無(wú)人駕駛車(chē)可難辭其咎。世界各地的工程師們可是隨時(shí)都能修改Bug的啊。這是謀殺和過(guò)失殺人的不同。
第三，在可見(jiàn)的未來(lái)，重要的是不僅僅是就難解的道德困境得出“正確”答案。它還應(yīng)該心思備至，能否為此答案辯護(hù)，即秀出你的道德算法。在道德領(lǐng)域，如何考慮一個(gè)問(wèn)題與結(jié)果同樣重要。而目前我們討論到的是，無(wú)人駕駛汽車(chē)隨機(jī)做個(gè)決策，然后，再推卸責(zé)任。它們不是“深思熟慮”，是“考慮不周”，這可能比人們作出本能反應(yīng)結(jié)果釀成事故還要糟糕。
放棄知情權(quán)
另一個(gè)不那么激進(jìn)的解決方案是隱藏某些可能導(dǎo)致不必要區(qū)別對(duì)待的信息，人稱(chēng)“無(wú)知之幕”。應(yīng)用到上述場(chǎng)景即，不去識(shí)別交通工具的構(gòu)成和型號(hào)，有沒(méi)頭盔或其它安全設(shè)施。這樣一來(lái)，就沒(méi)有形成傲慢與偏見(jiàn)的基礎(chǔ)了。
在“優(yōu)化撞車(chē)”計(jì)算中不使用這一信息還不夠。要在道德立場(chǎng)上旗幟分明，無(wú)人駕駛汽車(chē)需要做到壓根不去收集這些信息。要是他們有這些信息的話，使用它們就能夠?qū)κ录钚』蛘哒壬?，這樣一來(lái)，如果不使用這些信息就會(huì)有法律責(zé)任。想象一下，要是一個(gè)國(guó)家智囊組織掌握了關(guān)于恐怖分子陰謀的可靠消息，然而卻沒(méi)能阻止襲擊的話，會(huì)激起多大的民憤！
不過(guò)這種方法也有問(wèn)題，汽車(chē)制造商和保險(xiǎn)商會(huì)希望收集盡可能多的數(shù)據(jù)，以更好地理解無(wú)人駕駛汽車(chē)車(chē)禍?zhǔn)录?，或者用于其他目的，比如新型的?chē)內(nèi)廣告植入。因此，讓這些利益相關(guān)方們自愿對(duì)關(guān)鍵信息睜一只眼閉一只眼不知道是否是個(gè)現(xiàn)實(shí)做法，因?yàn)樗麄兪占瘮?shù)據(jù)的欲望如此強(qiáng)烈。
So, Now What?!
在未來(lái)的無(wú)人駕駛汽車(chē)?yán)铮瑔螁我豁?xiàng)車(chē)禍避免功能還不夠。有時(shí)從物理意義上講一次事故的發(fā)生不可避免，比如因?yàn)闆](méi)有足夠的時(shí)間踩剎車(chē)，技術(shù)失誤，天氣原因或者單單就是壞運(yùn)氣作祟。因此，無(wú)人駕駛汽車(chē)也需要“優(yōu)化撞車(chē)”策略。
為此，攻城獅們需要設(shè)計(jì)出機(jī)會(huì)成本公式，賦值，得出不同選項(xiàng)的預(yù)期成本，選擇最低成本的那個(gè)——而這將決定誰(shuí)生，誰(shuí)死。這天然是個(gè)道德問(wèn)題，決策時(shí)需要斟酌和透明。作為解決這些挑戰(zhàn)的第一步，創(chuàng)建關(guān)于道德和無(wú)人駕駛汽車(chē)的公開(kāi)大討論能夠幫助提高公眾和業(yè)界對(duì)這一問(wèn)題的意識(shí)，在人們?cè)馐茱w來(lái)橫禍時(shí)也能平息眾怒。（這，能嗎？）
關(guān)注次世代汽車(chē)新聞，關(guān)注公眾微信號(hào)：GeekCar
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求，請(qǐng)綁定手機(jī)號(hào)后發(fā)表評(píng)論
這是很好的一篇文章，揭示了無(wú)人駕駛汽車(chē)可沒(méi)有想想像的那么簡(jiǎn)單！
很有趣，有創(chuàng)新的觀點(diǎn)，技術(shù)與倫理的推進(jìn)是實(shí)現(xiàn)智能化的關(guān)鍵環(huán)節(jié)之一，而這也往往是所謂邊緣學(xué)科的價(jià)值所在
這文章從更深層面考慮了無(wú)人駕駛技術(shù)的道德風(fēng)險(xiǎn)，而這是很多人沒(méi)想過(guò)的。在無(wú)人駕駛的初級(jí)階段，人們更多考慮技術(shù)實(shí)現(xiàn)，而法律與道德的思考，無(wú)暇顧及，但這卻是更重要的議題。
無(wú)人駕駛未必是好事
機(jī)器化和數(shù)字化的東西很方便我們的生活，但是就像最新的機(jī)械警察一樣，感情.責(zé)任.道德這些東西是機(jī)器和電腦沒(méi)辦法做到的。怎么兩者結(jié)合，還是根本就是魚(yú)與熊掌的問(wèn)題。
看了文章，無(wú)人駕駛車(chē)輛離普及上路明顯還遠(yuǎn)著，但相信無(wú)人駕駛車(chē)輛的面世是積極的，其肯定會(huì)發(fā)展現(xiàn)有的科技，更多的是在多方面有所作為。
無(wú)語(yǔ)了，因果倒置。如何提升無(wú)人駕駛的安全系數(shù)，以及預(yù)判事故，才是重點(diǎn)討論的。規(guī)定的車(chē)速，不亂變道，360的雷達(dá)。滿足了這幾點(diǎn)，遇到突發(fā)事件電腦TM的不會(huì)剎車(chē)啊，非要討論讓電腦去撞誰(shuí)。。。腦子有病！
不能因?yàn)橛锌赡馨l(fā)生的小概率，而去否認(rèn)未來(lái)發(fā)展的大方向。如果未來(lái)所有車(chē)都是無(wú)人駕駛了那么所有車(chē)在啟動(dòng)的時(shí)候所有行程都是經(jīng)過(guò)數(shù)據(jù)中心通過(guò)最優(yōu)算法算出的最合理行車(chē)路線和速度。就像網(wǎng)絡(luò)中一個(gè)個(gè)數(shù)據(jù)包一樣，有條不紊的傳遞到要去的方向，車(chē)和車(chē)的碰撞完全是可以避免的。所以無(wú)人駕駛是完全可以減少交通事故的發(fā)生的。當(dāng)然前提是所有行人都嚴(yán)格遵守交通規(guī)則。
技術(shù)本身只是一個(gè)工具，而只有將人文、倫理道德融合進(jìn)來(lái)，技術(shù)才能創(chuàng)造商業(yè)價(jià)值，才能推動(dòng)社會(huì)的進(jìn)步與發(fā)展。
當(dāng)然無(wú)人駕駛的車(chē)，應(yīng)該撞離自己較遠(yuǎn)的車(chē)，這樣比較科學(xué)。雖然撞牢固的汽車(chē)比較好，但是由于撞擊的部位不同，人員受到的傷害也不一樣。受到撞擊的牢固車(chē)有人的副駕駛位和無(wú)人的不牢固車(chē)的無(wú)人副駕駛位，結(jié)果是不一樣的。所以無(wú)人駕駛車(chē)，要走的路還很長(zhǎng)。