免费看在线a黄视频|99爽99操日韩毛片儿|91停婷在线无码观看|日韩三级片小视频|一级黄片免费播放|欧美成人视频网站导航|亚洲日韩欧美七区|国产视频在线观看91|人成视频免费在线播放|国产精品成人在线免费观看

小欣：這節(jié)課，陳沛老師會(huì)為我們講解機(jī)器人會(huì)不會(huì)擺脫人類的控制。

陳沛：機(jī)器有沒有可能有一天擺脫我們?nèi)祟惖目刂?？甚至反過來控制我們?nèi)祟?？這個(gè)話題在我看來是一個(gè)越來越現(xiàn)實(shí)的話題。當(dāng)然現(xiàn)在我們不用特別擔(dān)心它，因?yàn)楝F(xiàn)在機(jī)器智能離我們?nèi)祟惿羞h(yuǎn)，甚至還不能夠綜合掌握人類所有的智慧。我們只是對(duì)未來做一個(gè)展望，就像做一個(gè)科學(xué)幻想一樣。

我覺得人類至少有這樣幾條不同的路徑失去對(duì)機(jī)器的這種管控。首先人不是神，只要是人就會(huì)犯錯(cuò)誤。雖然機(jī)器人的所有程序都是我們編寫的，但是依然可能會(huì)失去對(duì)它的控制，因?yàn)槲覀儠?huì)犯錯(cuò)。

如果有個(gè)機(jī)器人給你端咖啡端到一半突然不動(dòng)了，我們知道這個(gè)機(jī)器人出了一個(gè)bug，如果我們?nèi)祟惙稿e(cuò)，有多時(shí)候我們不知道犯在哪個(gè)地方。如果犯在一個(gè)失去控制的地方，我們根本不能預(yù)測(cè)犯錯(cuò)以后的結(jié)果，這是我覺得人類自身存在的一個(gè)可能。還有一種機(jī)器人失去控制可能是來自于人類的善良和同情。機(jī)器人可能借助人類的善良或者其他的愛心，不僅擺脫人類的控制并且還會(huì)反過來控制人類，那這種情況也可能會(huì)出現(xiàn)。

另外一個(gè)來自于理解的問題。就像我們一個(gè)大人和一個(gè)孩子說話，看起來你把問題表達(dá)的比較清楚，但對(duì)孩子來說聽到可能是不同的。理解上的差別也可能帶來一種更大的風(fēng)險(xiǎn)。比如人類給機(jī)器設(shè)定了三個(gè)原則：第一機(jī)器人必須保護(hù)人類，第二就是機(jī)器人必須服從人類的指令除非它違反了第一條，然后第三條說機(jī)器人必須學(xué)會(huì)保護(hù)自己除非它違反了前面兩條。作為三個(gè)公理我們聽起來挺好的，覺得可以很好的管控機(jī)器人，可以像植入操作系統(tǒng)一樣使每個(gè)出廠的機(jī)器人都擁有基本的原則，我們以為這樣就完成了對(duì)機(jī)器人的管理。

實(shí)際上在我們現(xiàn)在理解中，這樣的三個(gè)原則真能管好機(jī)器人嗎？其實(shí)不一定。比如說我們讓一個(gè)家庭機(jī)器人照顧好自己的孩子，我們這么告訴他必須絕對(duì)保證這個(gè)孩子的安全。聽起來這是非常重要的，但是機(jī)器人怎么理解這件事情呢？機(jī)器人通過各種分析，發(fā)現(xiàn)怎么樣才能夠最好的保證這個(gè)孩子的安全呢？就是呆在家里不出去。于是它就不讓孩子出去。如果只是管理個(gè)孩子還行，換成是大人呢？這時(shí)候相當(dāng)于軟禁了，如果它對(duì)人類的理解就是這樣保護(hù)人類安全，同樣帶來一些大的風(fēng)險(xiǎn)。

小欣：下節(jié)課，陳沛老師會(huì)為我們講解他對(duì)于“真正機(jī)器人”的構(gòu)想。

【版權(quán)歸鈦媒體所有，未經(jīng)許可不得轉(zhuǎn)載】