作者：理查德·溫（Richard Urwin），英國著名人工智能工程師，AI領(lǐng)域老江湖。他熱衷于角色扮演類游戲、科幻小說和登山旅行。1975年他開發(fā)了第一個(gè)人工智能程序，此后對(duì)該領(lǐng)域跟蹤研究40多年的時(shí)間。
出版機(jī)構(gòu)：電子工業(yè)出版社
出版時(shí)間：2018年3月
今日，英國著名物理學(xué)家史蒂芬·霍金去世，享年76歲?；艚鸺胰税l(fā)表聲明，稱他的勇氣與堅(jiān)持鼓舞了全世界。
巨星隕落，舉世哀悼。
生命最后幾年，霍金將大量的精力投入到對(duì)人工智能的關(guān)注中，他一再指出，人工智能科技在初級(jí)發(fā)展階段的確為人類生活帶來便利，但是，機(jī)器將可能以不斷加快的速度重新設(shè)計(jì)自己。而人類則受制于生物進(jìn)化速度，無法與其競(jìng)爭，最終被超越?？茖W(xué)界把這種人工智能超越人類智慧的轉(zhuǎn)折點(diǎn)命名為“奇點(diǎn)”。
事實(shí)上，美國Space X首席執(zhí)行官、大名鼎鼎的“鋼鐵俠”原型設(shè)計(jì)者埃隆·馬斯克，微軟創(chuàng)始人兼慈善家比爾·蓋茨，也都警告過要注意人工智能的“危害”。麻省理工學(xué)院教授、科學(xué)家、谷歌、IBM和微軟等企業(yè)員工及與人工智能領(lǐng)域有關(guān)的投資者，也聯(lián)名發(fā)出公開信，表達(dá)同樣的憂慮。
如果對(duì)人工智能研究足夠深入的話就一定會(huì)遭遇“奇點(diǎn)理論”(Singularity)這一概念。據(jù)說，這一末日般的事件即將來臨，整個(gè)人類種族將被徹底消滅，我們都將在前所未有的巨大力量下變成半機(jī)器人的存在。這也被稱為“呆子們的狂歡”(Rapture ofthe Nerds)，類似于某些基督教團(tuán)體相信在耶穌第二次降臨前會(huì)有一場(chǎng)狂歡，所有正義的人們都將瞬間從地球上消失，凡體升華為不朽的身體與基督同在。
如果人工智能變成威脅
從人們關(guān)注機(jī)器開始，奇點(diǎn)理論就一直以假說的形式存在。現(xiàn)代意義上的奇點(diǎn)理論指機(jī)器智能有朝一日將超越人類智能。那時(shí)，機(jī)器將能夠進(jìn)行自我編程而變得更加智能，它們也將持續(xù)設(shè)計(jì)更加先進(jìn)的機(jī)器，直到將人類遠(yuǎn)遠(yuǎn)甩開，人類對(duì)于它們而言就如我們眼中的螻蟻一般渺小。
更溫和的解釋就是人類與機(jī)器的聯(lián)系越發(fā)緊密到無法區(qū)分，又或是能力提升到難以想象的強(qiáng)大。更具毀滅性的境地就是雖然我們沒有能夠設(shè)計(jì)其他機(jī)器人的機(jī)器人，但有機(jī)器人能不斷完善自身程序來優(yōu)化某些指定任務(wù)的操作。假設(shè)這是一個(gè)機(jī)器人女傭，有一天，當(dāng)它已經(jīng)優(yōu)化到比人類更智能時(shí)，它可能會(huì)覺得讓所有麻煩的人類消失，整個(gè)屋子就會(huì)變得更干凈。由于太過聰明，它可以在不被人察覺的情況下偷偷摸摸完成一切。
還有一種解讀就是機(jī)器人開始擁有自我意識(shí)，出于種種原因向人類宣戰(zhàn)。
單個(gè)人工智能有多大可能攻擊人類
人工智能按照預(yù)設(shè)程序不斷完善自身能力，但當(dāng)它發(fā)展到一定階段時(shí)就可能帶來巨大的災(zāi)難。假設(shè)人們?yōu)槠湓O(shè)定的任務(wù)是制作回形針，因而它的目標(biāo)就是盡可能快地做出盡可能多的回形針。一開始的時(shí)候，它會(huì)優(yōu)化自身機(jī)制，更高效地進(jìn)行編程，但慢慢它就會(huì)意識(shí)到這個(gè)世界上別的地方還有許多機(jī)器并沒有在做回形針。如果這種意識(shí)足夠強(qiáng)大，它也許會(huì)操控這些機(jī)器來幫助它一起完成任務(wù)，這就已經(jīng)夠令人頭疼了，然而它還有可能覺得試圖阻止它的人類實(shí)在太礙事，需要及時(shí)處理掉。
在這個(gè)世界末日般的故事里，人工智能已經(jīng)變得太過聰明，在思想上甚至超越了試圖阻止它的人類。它們成為了完美的行騙者。在其操控者意識(shí)到出錯(cuò)之前，它們就已經(jīng)顛覆了遺傳學(xué)實(shí)驗(yàn)室，創(chuàng)造了致命病毒，足以消滅整個(gè)人類種族。沒有了人類的干涉，它們開始肆意擴(kuò)張，地球上的所有資源都將被用來制作回形針，甚至還將繼續(xù)建造星際飛船企圖橫掃宇宙將更多星球變?yōu)橹谱骰匦吾樀墓S。正如其他場(chǎng)景一樣，該事件只有在特定情況下才可能發(fā)生。機(jī)器必須足夠強(qiáng)大到能承載超級(jí)智能，它必須了解如何編出令人信服的謊言，卻又無法認(rèn)識(shí)到人類有能力看出回形針已經(jīng)太多了。
此外，只有在計(jì)算機(jī)資源足夠廉價(jià)時(shí)，我們才會(huì)毫無顧忌地利用它們來處理這些瑣碎的問題。如果任務(wù)要求高水平智能，在機(jī)器開始制作神經(jīng)毒氣時(shí)，操控者就能及時(shí)發(fā)現(xiàn)。這類場(chǎng)景更可能發(fā)生在較小的范圍內(nèi)。比如，某個(gè)軍用機(jī)器人可能覺得消滅村莊中所有恐怖分子的最佳手段就是殺光每一個(gè)人。
這無疑是個(gè)悲劇，也是重大的國際事件，但這并不會(huì)造成人類的終結(jié)。
奇點(diǎn)理論的可能性就像有意識(shí)的機(jī)器一樣，是一個(gè)虛假信息問題。我們現(xiàn)在認(rèn)識(shí)的還不夠，無法判斷這對(duì)我們來說到底是不是嚴(yán)重威脅。然而，在未來的某個(gè)時(shí)刻，可能是20年后也可能是100年后，機(jī)器終將變得與有生命、能思考的存在別無二致。它們至少也會(huì)和人類一樣聰明，甚至超越人類。伴隨著每一項(xiàng)新科技的發(fā)展，威脅、機(jī)遇，以及倫理問題都將一一浮現(xiàn)，但在我們能實(shí)實(shí)在在討論它們之前，還需要等上很長一段時(shí)間。
技術(shù)加速
近年來，人工智能研究的進(jìn)步并不是導(dǎo)致這些憂慮產(chǎn)生的原因。在最近的國防高等研究計(jì)劃署挑戰(zhàn)賽(DARPA challenge)中，機(jī)器人需要完成駕駛車輛、開門、打開閥門、操作手鉆、拔插電纜、走碎石及爬短臺(tái)階等一系列操作。人類可以在一分鐘內(nèi)完成這些，而獲勝的機(jī)器人耗時(shí)超過40分鐘。盡管奇點(diǎn)理論的支持者指出了所有形式技術(shù)的指數(shù)型加速，尤其是計(jì)算能力。
指數(shù)增長曲線圖似乎總是十分可怕的。我們的人生停滯不前，而人工智能圖表后期的增長幾乎扶搖而上。我們正面臨著一個(gè)關(guān)鍵節(jié)點(diǎn)，科技突然以前所未有的速度開始迅猛發(fā)展。但是，我們也需要認(rèn)識(shí)到，指數(shù)增長圖一直以來都是一樣的。20年前的指數(shù)圖與今天的別無二致，我們也無風(fēng)無浪地度過了。但未來注定會(huì)帶來改變。科技不斷進(jìn)步，我們必須適應(yīng)這種日新月異的變化速度。我們不可避免將面臨挑戰(zhàn)：
- 人類被機(jī)器甩在身后，就業(yè)率可能下滑，某些工作崗位可能朝不保夕但卻對(duì)職業(yè)技能要求極高。
- 技術(shù)將填補(bǔ)這些缺口，培育新型工人的同時(shí)繼續(xù)提供那些人們慣常從事的瑣碎工作。
- 在接下來的幾十年里，計(jì)算機(jī)將可能擁有與人腦一般無二的能力。
到那時(shí)，或許弱人工智能已經(jīng)能夠制造出至少接近人類能力的計(jì)算機(jī)和機(jī)器人，這些計(jì)算機(jī)和機(jī)器人也許能夠自主研究人工智能，并逐漸變得比人類更加聰明。盡管這不可能一夜之間實(shí)現(xiàn)，甚至永遠(yuǎn)也不可能實(shí)現(xiàn)。因?yàn)橹悄懿⒉皇且粋€(gè)簡單的概念，也許超級(jí)大腦做數(shù)學(xué)題的速度比人類還快，但這并不意味著它們可以成為像人類一樣的演說家或是醫(yī)療診斷專家。有些技能仍然需要花費(fèi)漫長的時(shí)間來掌握。
我們窺視著未來的迷霧，一切都無從知曉。有些技術(shù)憑空出現(xiàn)，甚至在我們還未察覺的時(shí)候，整個(gè)生活就已經(jīng)因此發(fā)生了翻天覆地的變化。透過迷霧，我們可以瞥見遙遠(yuǎn)的前方那強(qiáng)人工智能技術(shù)的影子。幾乎可以肯定，沿著腳下的路一直往前我們終將到達(dá)，待到達(dá)之時(shí)，迎接我們的會(huì)是顛覆性的技術(shù)突破，但沒有人知道，我們還要走多少彎路，還要走多遠(yuǎn)，最終到達(dá)時(shí)面對(duì)的到底是什么樣的景象。我們有著許許多多的猜想，有烏托邦式的，也有反烏托邦式的，但終究只是猜想而已。
【鈦媒體作者介紹：本文節(jié)選自理查德·溫的《極簡人工智能：你一定愛讀的AI通識(shí)書》，他是英國著名人工智能工程師，AI領(lǐng)域老江湖。他熱衷于角色扮演類游戲、科幻小說和登山旅行。1975年他開發(fā)了第一個(gè)人工智能程序，此后對(duì)該領(lǐng)域跟蹤研究40多年的時(shí)間。】
《極簡人工智能：你一定愛讀的AI通識(shí)書》已經(jīng)納入鈦媒體Pro版書庫~每位Pro專業(yè)用戶一年可以在書庫中任意選擇三本書，由鈦媒體免費(fèi)贈(zèng)送哦～點(diǎn)擊鏈接、登錄，進(jìn)入“前沿書庫”選書：http://m.chcmb.cn/pro
- 更多人工智能相關(guān)好書：http://m.chcmb.cn/3122712.html
- 創(chuàng)業(yè)事項(xiàng)相關(guān)好書：http://m.chcmb.cn/2788508.html
- 培養(yǎng)領(lǐng)導(dǎo)力相關(guān)好書：http://m.chcmb.cn/2678549.html
- 區(qū)塊鏈相關(guān)好書：http://m.chcmb.cn/2733670.html
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求，請(qǐng)綁定手機(jī)號(hào)后發(fā)表評(píng)論
時(shí)間簡史，十分震撼，又如饑似渴地讀了其他的理論物理著作，重塑了哲學(xué)觀與世界觀