圖片來(lái)源@Unsplash

鈦媒體注：本文來(lái)自于微信公眾號(hào)扯氮集（weiwuhui_com），作者｜魏武揮，鈦媒體經(jīng)授權(quán)發(fā)布。

一

騰訊掌門人馬化騰在朋友圈宣布：科技向善，是騰訊未來(lái)的愿景和使命。

稍早的時(shí)候，他在兩會(huì)上提交的七份書面建議，其中就有一個(gè)《關(guān)于加強(qiáng)科技倫理建設(shè) 踐行科技向善理念的建議》。

很樂見于騰訊的這種“我要做個(gè)好人”這樣公開的明確的表態(tài)。

印象中，這樣言辭鑿鑿斬釘截鐵的中國(guó)高科技公司的表態(tài)——并升格為一種愿景和使命，騰訊是頭一個(gè)。

尤其是在谷歌撤下了“不作惡”的背景之下。

二

自動(dòng)駕駛領(lǐng)域里有一個(gè)很有名的倫理問(wèn)題。這個(gè)倫理問(wèn)題其實(shí)并不新鮮，就是著名的電車難題的翻版。

一臺(tái)載有乘客的自動(dòng)駕駛汽車，極端情況下的算法該如何設(shè)計(jì)：究竟是撞向前方的路人，還是自己翻了算。再或者，是撞向左邊的五個(gè)人，還是撞向右邊的一個(gè)人，還是自己翻了算導(dǎo)致乘客倒霉？

道德和倫理并不完全相同。我們可以大罵洗稿是不道德的，但我們不會(huì)說(shuō)洗稿是沒有倫理的。而自動(dòng)駕駛的算法難題，不是道德問(wèn)題，是倫理問(wèn)題。

故而，當(dāng)我們?cè)谡f(shuō)，科技向善的時(shí)候，到底是在說(shuō)道德，還是倫理？

而如果是倫理問(wèn)題，那我們不得不承認(rèn)這樣一個(gè)事：科技倫理，或者說(shuō)，技術(shù)倫理，是一個(gè)很復(fù)雜的問(wèn)題。

三

北美的媒介環(huán)境學(xué)致力于研究媒介新技術(shù)對(duì)社會(huì)究竟是什么影響，這個(gè)學(xué)派從伊尼斯以降，到麥克盧漢，到波斯曼，到梅羅維茨。

有趣的地方是，每一代都在和上一代不敢茍同。伊尼斯是著名的技術(shù)決定論者，麥克盧漢就不是那么決定論，但他總體上是個(gè)樂觀主義者，波斯曼自稱是麥克盧漢不乖的學(xué)生，三本被譯介為中文的著作足以表明，他是一個(gè)悲觀主義者。梅羅維茨又收回來(lái)那么點(diǎn)，他沒他的老師那么悲觀。他可能是媒介環(huán)境學(xué)里對(duì)技術(shù)看法最中庸的一位學(xué)者。

更有一堆學(xué)者在這個(gè)問(wèn)題上各執(zhí)己見?？苹眯≌f(shuō)家出身的萊文森樂觀得不行；早年頗有些馬克思主義者氣質(zhì)的艾呂爾就很悲觀以至于他呼喚神性來(lái)拯救蒼生；活了94歲的芒福德本來(lái)是個(gè)樂觀派，但獨(dú)子死于戰(zhàn)爭(zhēng)后他迅速站到了悲觀的陣營(yíng)；凱利跳出來(lái)和稀泥：你們說(shuō)得都對(duì)。

想知道這個(gè)學(xué)派都在吵吵嚷嚷什么，可以去看一本叫《媒介環(huán)境學(xué)：思想沿革與多維視野》的書。

這本書是一本論文集，很學(xué)術(shù)。不看也沒關(guān)系，反正你只要知道這點(diǎn)就可以了：關(guān)于技術(shù)到底會(huì)帶來(lái)福祉，還是會(huì)導(dǎo)向悲劇，學(xué)者們從來(lái)沒有定論。

技術(shù)到底會(huì)帶來(lái)什么吵得不可開交，這其實(shí)涉及到一個(gè)問(wèn)題：技術(shù)倫理本身都特別難有定論。

嚴(yán)謹(jǐn)?shù)卣f(shuō)，向善，不等于善。更進(jìn)一步，善是什么，都莫衷一是。

四

技術(shù)倫理有一些特別搞的地方。

比如大多數(shù)人對(duì)社交網(wǎng)絡(luò)并沒有什么太惡的看法。但如果一生獲獎(jiǎng)無(wú)數(shù)的芒福德爵士要活到今天，可能要很不以為然。這個(gè)從古埃及金字塔里琢磨出“權(quán)力五邊形”的老頭子，會(huì)以“王者機(jī)器”金字塔不僅僅包括石頭還包括那些死去的奴隸為例，來(lái)論證Facebook也好，微信也好，我們都是那個(gè)權(quán)力五邊形的奴隸。

其實(shí)當(dāng)今世上，都有一派人有類似的看法。他們給我們這些用戶起了個(gè)名字，叫“數(shù)字勞工”。996？不存在的，我們是007為社交網(wǎng)絡(luò)打工，還是免費(fèi)的。

技術(shù)也會(huì)改變倫理。

比如說(shuō)，亂倫這件事其實(shí)非常值得細(xì)細(xì)琢磨。石器時(shí)代的原始人對(duì)亂倫行為就有些防范，一直到今天我們都無(wú)法在道理上或倫理上接受亂倫。但反對(duì)這件事的科學(xué)依據(jù)究竟是什么？——不要和我說(shuō)亂倫會(huì)生白癡，那個(gè)純屬刻板印象。

假定基因技術(shù)、試管嬰兒技術(shù)發(fā)達(dá)到我們?nèi)祟愐呀?jīng)完全能駕馭，亂倫這種不合乎道德倫理的行為，就可以再推敲一下。如果沒有什么不良后果，我們?yōu)槭裁催€要認(rèn)為這不符合道德不符合倫理？

什么叫善，什么叫惡，本身都可以大加討論。

五

讓我們來(lái)聊聊核。

據(jù)說(shuō)美國(guó)人在日本投放了原子彈之后，愛因斯坦頗為后悔。用一顆原子彈終結(jié)了無(wú)數(shù)平民的生命以使得戰(zhàn)爭(zhēng)迅速結(jié)束從而救下了可能同樣是無(wú)數(shù)的生命，這個(gè)頗有些莽一波氣質(zhì)的操作，其善惡大概可以爭(zhēng)論半天。

但有一件事怕是基本可以停止?fàn)幷摿耍喝祟惛懔艘粋€(gè)惡魔般的原子彈，反倒達(dá)成了一種平衡。局部戰(zhàn)爭(zhēng)還有，全球戰(zhàn)爭(zhēng)倒停止了。因?yàn)榈灿悬c(diǎn)理智的人都明白，原子彈不是僅僅消滅對(duì)手。頗有些利用恐懼來(lái)終結(jié)恐懼的意思。

我們現(xiàn)在要擔(dān)心的事情只剩下這條：不要讓原子彈落到不正常組織里沒有理智的人手中。

好，那么我們善用技術(shù)，不搞原子彈，搞核發(fā)電。在嚴(yán)格管理之下，這項(xiàng)清潔能源，如果不出疏漏，將極大造福人類。

請(qǐng)注意前提：嚴(yán)格管理，不出疏漏。

日本福島的事并不久遠(yuǎn)，至今對(duì)當(dāng)?shù)亟?jīng)濟(jì)打擊沉重。在我看來(lái)，核電廠泄露的本身危害，與造成的社會(huì)心理恐慌，當(dāng)量級(jí)恐怕后者更甚。恐慌雖未見理性，但類似《思考快與慢》的作者卡尼曼早就證明了：人類，并不完全理性。

我們能做到100%不出疏漏嗎？

安全這檔子事，哪有百分百的保證。

有件事很多人都明白，發(fā)明家一旦發(fā)明出某種技術(shù)或東西之后，這項(xiàng)技術(shù)或東西的未來(lái)走向，不是發(fā)明家自己能把控的。

六

但向善總是好的。

這表明了一種對(duì)技術(shù)審慎的態(tài)度。審慎總比不審慎好。三思總比不思好。

曾經(jīng)有過(guò)一個(gè)觀點(diǎn)：能被發(fā)明出來(lái)的東西，都是好的。所以，能夠發(fā)明，必須發(fā)明。

但人類走到今天，這個(gè)觀點(diǎn)，怕是不怎么能立住腳。

一個(gè)高科技公司做起惡來(lái)，或者，哪怕不作惡只是不審慎，造成的后果比一個(gè)賣賣可樂的公司，嚴(yán)重得多。后者還算在可控的范圍，前者風(fēng)險(xiǎn)無(wú)限大。

所以科幻片從來(lái)只有惡的科學(xué)怪人，沒有惡的可樂老板。

向善有點(diǎn)類似善良比聰明更重要的論點(diǎn)。貝索斯于2010年說(shuō)出了這樣一句話，多年以后，張小龍?jiān)谖⑿殴_課引用此句，被更多人知曉。

插一句，亞馬遜被爆出用AI監(jiān)控員工，這件事我覺得貝索斯也不是不可以辯論：監(jiān)督員工勉力干活，談不上惡。你看，什么叫善什么叫惡，是可以爭(zhēng)論的。

向善是動(dòng)機(jī)，善是結(jié)果。動(dòng)機(jī)未必導(dǎo)向結(jié)果，但如果沒有向善的動(dòng)機(jī)，善的結(jié)果可能也會(huì)無(wú)心插柳柳成蔭，但總是小概率事件。

七

我建議騰訊成立一個(gè)圓桌式的技術(shù)倫理委員會(huì)，來(lái)落地“科技向善”這個(gè)夢(mèng)想。

基于騰訊一個(gè)高科技公司的定位，高層大多理工背景，這個(gè)技術(shù)倫理委員會(huì)應(yīng)該延請(qǐng)一些聲望卓著的倫理學(xué)家，對(duì)關(guān)鍵性技術(shù)做一個(gè)倫理上的審慎評(píng)估。

這里可能有一些老外（如果可能的話），但中國(guó)本土學(xué)者是必須的。因?yàn)椋坏貌怀姓J(rèn)，中國(guó)這片土地，和老外還是有些不同。

在安個(gè)攝像頭基本不用和你打招呼的這里，和安個(gè)攝像頭還要討論半天的美國(guó)，AI尋人這個(gè)事，怕是做法有些不同罷。

八

最后多說(shuō)一句話。

這也是我多年以前的觀點(diǎn)，至今未變：

科技，總體來(lái)說(shuō)，永遠(yuǎn)符合既得利益者的利益。

這個(gè)意義上說(shuō)，我算是骨子里的技術(shù)悲觀派。