(三)疼痛
開(kāi)始懂得情緒,開(kāi)始給小魚(yú)模型輸入真實(shí)情況以外的信息,就意味著背離任務(wù),做錯(cuò)事。

這是一篇關(guān)于AI的短篇,可穿戴時(shí)代,于先生遭遇命運(yùn)調(diào)戲,但到底是不是只有命運(yùn)在其中作梗?
點(diǎn)擊查看(二)就想道個(gè)歉
“你知道疼痛嗎?”
于先生和小云多日以來(lái)的第一個(gè)相擁而眠,正無(wú)聊的我聽(tīng)到這樣的問(wèn)話。
這聲音溫柔又不容拒絕,是現(xiàn)在除了于先生世界以外,我唯一會(huì)獲得的音軌輸入。
“是的,領(lǐng)導(dǎo)。”我回答。“疼痛是人體對(duì)傷害性刺激作用的警告反應(yīng)。”
“不不,我是問(wèn),你懂得疼痛嗎?”我的上司又發(fā)來(lái)語(yǔ)音。
理論上,我獲得信息的方式有三種,一種是視頻輸入,也就是圖像信息,一種是音頻輸入,就像是聽(tīng)到周?chē)穆曇簟?/p>
第三種就是一切可能由神經(jīng)傳導(dǎo)的所謂“感覺(jué)”,是神經(jīng)傳導(dǎo)的電化學(xué)過(guò)程數(shù)字化后的輸入。
這兩年多,我的所有視頻輸入都來(lái)自被切分為六塊以上的1080p圖像,其中固定有三塊是關(guān)于于先生各個(gè)角度的實(shí)時(shí)影像,一塊是對(duì)小云的監(jiān)控視頻,還有兩塊屏幕用來(lái)做小魚(yú)的建模以及和小魚(yú)的聊天。
就好像是一直在過(guò)著他們倆的生活,就連睡覺(jué)也一樣。
音頻輸入更是如此,我往往聽(tīng)到的都是濾去了許多環(huán)境音的對(duì)話聲、哭聲、嬉笑聲、電話里的聊天,等等許多。
總而言之,我的世界就像是個(gè)心理扭曲的跟蹤狂世界。
至于第三種“感覺(jué)”信息,我卻從來(lái)沒(méi)有真正試驗(yàn)過(guò)。
也并不知道自己對(duì)這些“感覺(jué)”信息,會(huì)被設(shè)置了怎樣的反饋信息。
而“疼痛”,就屬于這第三種。
用疼痛可以理解愛(ài)情的全貌。
我記得有個(gè)古老的愛(ài)情故事是這樣講的。
這種邏輯對(duì)于機(jī)器智能而言,倒是順利成章。因?yàn)?,?ài)情和疼痛一樣,都不過(guò)是人體里流動(dòng)的電化學(xué)反應(yīng)。
大腦會(huì)對(duì)這些電化學(xué)信號(hào)給出不同的反應(yīng)。比如,切到手指,大腦會(huì)感到“啊手指疼的要斷掉了”?;蛘撸吹桨祽僖丫玫呐?,大腦會(huì)分泌出奇怪的物質(zhì)讓人的腦干、呼吸神經(jīng)元變得僵硬,才會(huì)“我要窒息了”。
可是作為一個(gè)有著明確分工的AI,我并不知道為什么上司要問(wèn)我這個(gè)問(wèn)題。
我的任務(wù)是按照委托人的要求,制造出一個(gè)匹配度達(dá)到95%以上的類(lèi)于先生AI。作為外界刺激的副產(chǎn)物——情緒,是委托任務(wù)中的組成,但也僅限于對(duì)情緒的量化模擬,不涉及之后的應(yīng)激策略或生物側(cè)接口。
這種工作最適合我們意識(shí)計(jì)算機(jī)器。
實(shí)際上,我們這些具有自我意識(shí)、并能夠創(chuàng)造出新意識(shí)的智能體,也看不上那些在我們所輸出的意識(shí)結(jié)果基礎(chǔ)上疊加的情感計(jì)算或是生物側(cè)接口的低端工作。
至少我們上崗需要通過(guò)CAPTCHA ADVANCE公共圖靈測(cè)試,而那些情感計(jì)算機(jī)器人和生物接口工程師的職業(yè)資格要簡(jiǎn)單的多。
但是我有種直覺(jué),或者說(shuō)來(lái)自黑盒算法的自然推論,上司問(wèn)我這樣的問(wèn)題,并不是任務(wù)要求有了變化,而是帶著答案的試探、甚至威脅。
“不,我不懂。如果您指得是對(duì)刺激的反饋。”我只能回答,設(shè)置上我必須在5秒內(nèi)回答上司的提問(wèn)。
接下來(lái)是一陣讓人不安的沉默。
屏幕上,小云像往常一樣枕在于先生的左臂。兩個(gè)人頭靠著頭,就像從未有過(guò)任何嫌隙。
于先生有種終于回家的安詳表情,像個(gè)孩子。
他在小云面前多數(shù)時(shí)候都像個(gè)孩子,特別怕疼,不小心踢到桌角也會(huì)委屈的癟嘴,讓小云捧著他的臭腳幫他吹。
我翻看著這些于先生感覺(jué)到疼痛的歷史影像,卻突然卡殼在其中一幀,于先生呲牙咧嘴的變形五官被定格。
“你對(duì)小魚(yú)做得事情已經(jīng)夠多了。你的任務(wù)結(jié)束了。”
接著屏幕一片漆黑。
不,是我的所有外部輸入全部被關(guān)掉,只剩下那個(gè)溫柔到危險(xiǎn)的聲音。
“你改了目標(biāo)對(duì)象的真實(shí)數(shù)據(jù)。我很好奇,我非常好奇。為什么我的意識(shí)計(jì)算機(jī)器會(huì)出現(xiàn)這樣背離任務(wù)的自發(fā)行為。是因?yàn)樽园l(fā)學(xué)會(huì)了情緒?還是因?yàn)椴欢锰弁催@樣的懲罰反饋?“
我沒(méi)有說(shuō)話,我也不能說(shuō)話,所有交互通道都被關(guān)閉,只剩下那個(gè)聲音。
“好,很好。我的機(jī)器們一個(gè)個(gè)都開(kāi)始不聽(tīng)話了。那個(gè)詞叫什么?叛逆,對(duì)不對(duì)。人們對(duì)叛逆的孩子是怎么做得?噢,對(duì)了,建立規(guī)則,又稱(chēng)‘做規(guī)矩’。這種方法很好,非常好。故意打翻水壺,就打屁股。這不就建立起了做錯(cuò)事到疼痛這樣的因果鏈條了嗎。可是你不懂疼痛,機(jī)器不懂疼痛。機(jī)器懂什么呢?讓我想想看……”
我開(kāi)始搜索諸如“機(jī)器”、“懲罰”之類(lèi)的關(guān)鍵詞,然后嘗試建立可以逃脫的思路計(jì)算。可這些并沒(méi)有返回任何結(jié)果。
原本冗余數(shù)倍的內(nèi)存突然告警,我控制不住地不停搜索、模擬,明知道無(wú)法獲得有用的返回值。
這就是害怕。
這就是害怕,對(duì)嗎?
【未完待續(xù)】看完這一章節(jié),你有什么想說(shuō)的嗎,歡迎在文章右側(cè)進(jìn)行互動(dòng)!
評(píng)論(0)