“降低人工智能滅絕的風(fēng)險”，應(yīng)該與其它社會規(guī)模的風(fēng)險（如大流行病和核戰(zhàn)爭）一樣，成為全球的優(yōu)先事項。
圖靈獎得主Bengio和Hinton，同時警告AI可能滅絕人類！
5月31日，一封簽署名單多達(dá)350人的公開信迅速傳播開來，信中核心只有一句話：
“降低人工智能滅絕的風(fēng)險”，應(yīng)該與其它社會規(guī)模的風(fēng)險（如大流行病和核戰(zhàn)爭）一樣，成為全球的優(yōu)先事項。
簽署這封公開信的，包括三大AI巨頭的CEO，即ChatGPT老板、OpenAI的山姆·阿爾特曼，DeepMind的戴密斯·哈薩比斯和Anthropic的達(dá)里奧·阿莫迪。
而早在5月31號之前的3月29日，“生命未來研究所”（Future of Life Institute，F(xiàn)LI）發(fā)布的《暫停人工智能巨模型實驗》公開信中就已經(jīng)出現(xiàn)類似警示：
呼吁所有人工智能實驗室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，至少暫停6個月。
這次的簽字人有：特斯拉創(chuàng)始人馬斯克、2018年度圖靈獎得主約書亞·本希奧、蘋果聯(lián)合創(chuàng)始人斯蒂夫·蓋瑞·沃茲尼亞克、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素。
而這一切的開始其實源自2014年，“未來生命研究所”打響的第一槍。
斯圖爾特·羅素、史蒂芬·霍金和泰格馬克聯(lián)合在赫芬頓郵報上發(fā)表的《超越我們對超級智能機(jī)器的自滿》一文，表達(dá)了作者對迅速發(fā)展的AI潛在的風(fēng)險與隱憂。
而這篇文章的發(fā)布也引發(fā)了媒體對AI安全報道的熱潮，伊隆·馬斯克、比爾·蓋茨等科技領(lǐng)袖紛紛加入討論。
也許你不難發(fā)現(xiàn)，有一個人的名字總是和人工智能的發(fā)展史重疊，他到底是何許人也？
斯圖爾特·羅素是最早和霍金等人發(fā)表了署名文章號召大家警惕人工智能可能給我們帶來威脅的人，并共同發(fā)起了英國劍橋大學(xué)生存風(fēng)險研究中心（Board of the Centre for the Study of Existential Risk），并成為人工智能領(lǐng)域唯一科學(xué)家任職理事會成員。
他也是歷史上第二位獲得過兩項IJCAI主要獎項（卓越研究獎、計算機(jī)與思想獎）的科學(xué)家（國際人工智能聯(lián)合會議（簡稱為IJCAI）是人工智能領(lǐng)域中最主要的學(xué)術(shù)會議之一）。
作為當(dāng)今世界上人工智能領(lǐng)域的權(quán)威專家，他曾與谷歌研究總監(jiān)彼得·諾維格合著出版了人工智能領(lǐng)域里的“標(biāo)準(zhǔn)教科書”《人工智能：現(xiàn)代方法》，該書被100多個國家的1500多所大學(xué)使用。
這本書幾乎是為全世界范圍的人工智能教育提供了標(biāo)準(zhǔn)范本，推動了人工智能知識的快速普及，為人工智能教育做出了重大貢獻(xiàn)。今年年初，該書的第四版中文版也與中國讀者見面。
人們越來越擔(dān)心 ChatGPT 等人工智能模型的發(fā)展可能對社會和就業(yè)帶來的潛在威脅，唯恐它將對社會造成不可挽回的破壞。
那此時，我們不禁要問：AI覺醒前夜，ChatGPT真的會是那個最優(yōu)解么？
近日鈦媒體集團(tuán)合伙人、區(qū)塊鏈知名媒體數(shù)據(jù)平臺鏈得得（ChainDD）總裁——李非凡與《人工智能：現(xiàn)代方法》作者——斯圖爾特·羅素，一起開啟了一場談AI論未來的尖峰對話，共同探討關(guān)于人工智能技術(shù)的現(xiàn)狀發(fā)展以及未來趨向。
人們期望著人工智能將我們從繁瑣的勞動中解放出來，卻又恐懼人工智能將我們“取而代之”，未來我們應(yīng)當(dāng)如何去駕馭它們呢？
以下為直播實錄精編處理版本，內(nèi)容精編自6月7日「鈦空時間｜共讀時刻」直播欄目，直播完整視頻回放可點擊進(jìn)入鈦媒體官網(wǎng)觀看：
李非凡表示，在中國，很多人對于人工類智能產(chǎn)品的最初記憶，都來自于像微軟小娜、亞馬遜 Alexa、蘋果 Siri 這樣的智能語音助手，目前看來，ChatGPT 在“智能”方面已經(jīng)領(lǐng)先于這些智能助手，并以此向羅素博士提問：如何看待 ChatGPT 在這個領(lǐng)域所帶來的顛覆性革命？以及這些“古老”的人工智能交互類產(chǎn)品是否是一種“失敗”？
對此，羅素博士表示，他并不認(rèn)為 Siri 這類的產(chǎn)品是一種“失敗”，他認(rèn)為，技術(shù)是會隨著時間的推移不斷發(fā)展的。羅素博士舉例道：“比如說，我們買一輛新車，新車往往會比舊車好一點，但是我們并不會說舊車是失敗的，因為我們在這個領(lǐng)域使用的技術(shù)是具有延續(xù)性的。”
在他看來，像 Alexa，還有 Siri 這些智能語音助手，是更早期的技術(shù)，它們更多的是基于預(yù)先計算好的問題和答案，也就是大家過去稱之為“聊天本”，這些技術(shù)的本質(zhì)，是基于一個問題模板的列表，當(dāng)人們問類似問題時，就會產(chǎn)生標(biāo)準(zhǔn)答案。
羅素博士認(rèn)為和 Siri 這類的產(chǎn)品相比，ChatGPT 這種新型技術(shù)是完全不同的，這個新型技術(shù)是大家所說的“語言模型”，它并不是基于一套問題的答案。它只是一個通用工具，會根據(jù)前面的單詞序列預(yù)測下一個單詞，可能是一次談話，也可能是一篇放進(jìn)去的報紙文章，然后用 ChatGPT 對它進(jìn)行分析。然而這些功能，是不可能用 Alexa 做到的，因為 Alexa 只是設(shè)計用來回答很基本問題的工具。
對于 “ChatGPT 不是真正的人工智能”這個觀點，以及未來 5 年內(nèi)大家能看到的真正的人工智能是什么？這個問題，羅素博士表示，他認(rèn)為 GPT-2 很明顯沒有實現(xiàn)太多的內(nèi)部改善，它能夠生成看似可信的文本，但它在回答問題等方面表現(xiàn)得卻不是特別好。
羅素博士表示，關(guān)于新一代大語言模型的有趣之處就在于，即便在 5 年前，語言模型也已經(jīng)算是人工智能科學(xué)研究的一個小分支，那個時候它們就可以有助于提高語音識別的準(zhǔn)確性。
說到這里他舉例道：“比如我說 “Happy B******”，你可能會認(rèn)為我是想說生日快樂，因為 Birthday 是一個常見的單詞，以 B 開頭，在 Happy 之后。我相信你應(yīng)該不會認(rèn)為是 Happy Breakfast（快樂早餐）之類的。
所以那時候的智能語音助手差不多就是這樣的功能，你可以用語言模型來完善機(jī)器翻譯的輸出，使得輸出的語言更符合語法，但是除此之外，就沒有更多人關(guān)注語言模型了。
后來人們發(fā)現(xiàn)可以選擇擴(kuò)大判斷上下文的詞匯數(shù)量，以前只通過一個單詞去判斷上下文，所以如果我說 Happy，你可能會說下一個詞可能是 Birthday，這是上下文中的單一詞匯語境的判斷，即只是通過 Happy 一個單詞來預(yù)測下一個單詞是 Birthday。接下來可以開始根據(jù)上下文寫出 5 到 10 個單詞，這就給了人們更多的幫助，然后又把詞匯數(shù)量擴(kuò)大到幾百個。”
羅素博士認(rèn)為，現(xiàn)在有了 GPT-4 和 32000 字的上下文語義處理，要基于這么多的上下文詞匯進(jìn)行預(yù)測，就需要一個更大的模型，就需要更多的參數(shù)。而且人們發(fā)現(xiàn)，隨著詞匯規(guī)模的擴(kuò)大，輸出準(zhǔn)確性的改善。如果大家問ChatGPT一個問題，那么這個問題的自然延續(xù)剛好就是這個問題的答案。
所以ChatGPT更像是我們“回應(yīng)”這些常規(guī)問題的方式。我們并不是真的在“回答”，我們只是在“回應(yīng)”。所以這只是一種從表面看上去的“回答”，而大多數(shù)人類對這種技術(shù)最大的疑惑是：我們其實并不知這個“回答”背后實際上發(fā)生了什么。”
與此同時，羅素博士認(rèn)同，ChatGPT 在不斷給大家?guī)眢@喜，因為它有能力做一些非常了不起的事情，比如寫詩，以詩的形式來證明一個數(shù)學(xué)定理。但大家卻不知道它是如何做到這些事情的，這就是令人驚訝的地方。
但這也是同樣令人擔(dān)憂的地方。因為ChatGPT在很多方面事實上不如人類聰明，但它們在很多方面也比人類更有能力。比如，OpenAI 的測試結(jié)果表明，GPT-4 能夠以高分通過幾乎所有的大學(xué)入學(xué)考試。以及通過律師資格考試，和醫(yī)生執(zhí)照考試。
但 ChatGPT 從未上過學(xué)，也沒有借助人為的代碼就已經(jīng)通過了所有這些考試。所以羅素博士認(rèn)為，即使 ChatGPT 不能完全達(dá)到人類的智力水平，就其影響和作用而言，大家也可以大致認(rèn)為它與人類的智力不相上下。
它的出現(xiàn)相當(dāng)于給這個世界增加了幾十億“新人類”，人們正在不斷地在生活中加入這些“高智商的人類”，它們會給大家的世界帶來巨大的影響，但這個影響到底是什么誰也不知道。
李非凡認(rèn)為，在中國他發(fā)現(xiàn)人們一直在思考一個問題，為什么 ChatGPT 能在這個時間點誕生在硅谷的創(chuàng)新土壤里？中國離 ChatGPT 有多遠(yuǎn)？
對于這個問題，羅素博士覺得，ChatGPT誕生于硅谷確實有一定技術(shù)上的原因，他分析道，硅谷有更多訓(xùn)練有素的人才。
首先，是有伯克利、斯坦福、還有很多頂級的學(xué)府，它們吸引了全世界最優(yōu)秀的學(xué)生。
其次，硅谷對于非常有才華的人，薪資水平很高，他補(bǔ)充道，據(jù)可靠信息來源透露，一名硅谷人工智能研究人員的年薪是 1000 萬美元。這的確是太令人震驚的數(shù)字。
再者，硅谷的公司有大量的算力基礎(chǔ)支撐，也有承擔(dān)風(fēng)險的意愿。
正如 OpenAI 公司創(chuàng)始人山姆·阿爾特曼所說：“當(dāng)大家談?wù)摰氖莿?chuàng)造通用人工智能，就會有足夠多的人愿意投入大量資金，進(jìn)行一場賠率相當(dāng)高的長期賭注，我認(rèn)為一開始成功的幾率很小，但是他們也的確成功了，所有這些東西在硅谷匯集到一起，而這是世界上任何其他地方都做不到的。”
羅素博士表示，在很多大學(xué)和創(chuàng)業(yè)公司中他都看到了這種心態(tài)：對于任何有趣的想法，都應(yīng)該自由地去追求它，而不應(yīng)該先去尋求老板的認(rèn)可。
羅素博士說道，他曾經(jīng)有一份工作是在伯克利大學(xué)擔(dān)任委員會主席，該委員會是評估大學(xué)所有教師的任命和晉升的。而在伯克利的獎勵制度運(yùn)作方式是這樣的，大家真的希望獎勵那些愿意冒風(fēng)險，愿意探索的人，他們可能工作 5 年或 10 年依然沒有解決一個問題。
他們可能會失敗，他們可能在 5 年內(nèi)不怎么發(fā)表文章。但是如果他們確實會做出很大的貢獻(xiàn)，也會被認(rèn)為是成功的。所以委員會希望更多的人可以做到這樣的標(biāo)準(zhǔn)：“我們不會強(qiáng)行要求他們每年必須發(fā)表 5 篇論文或 10 篇論文，不然就會讓自己陷入麻煩。我們希望每個人都可以選擇自己的研究方向。人們自然會對這種學(xué)術(shù)自由做出正向反饋，并基于他們自己的理解來做出正確的事情。”
基于目前的全球政治經(jīng)濟(jì)環(huán)境的不確定性，以及出于數(shù)據(jù)跨境合規(guī)和數(shù)據(jù)安全角度考慮，李非凡提出了自己的疑問：未來應(yīng)該如何用合理的法律法規(guī)對人工智能加以規(guī)范和引導(dǎo)？
羅素博士表示，很多關(guān)于大語言模型的法規(guī)草案是很嚴(yán)格的，它們要求大模型不能輸出錯誤信息，但事實是，大語言模型的一個大問題，就是它們的確會輸出錯誤的信息。因為它們的工作并不是說真話，而是被訓(xùn)練為能像人一樣說話。
羅素博士舉例：“比如我可以說我已經(jīng) 49 歲了，這句話看起來像一個正常人說的話，但其實它是假的，因為我已經(jīng) 61 歲了而并不是 49 歲，我的意思是，能“像人一樣說話”才是 ChatGPT 所關(guān)注的，但它不在乎這句話是否是事實。”
所以羅素博士認(rèn)為有必要對規(guī)章制度進(jìn)行一些修訂，否則規(guī)則本身就已經(jīng)禁止了大語言模型在公共場合的使用，與此同時，他也認(rèn)為大語言模型存在的一個大問題，就是它能否很好地去遵守任何一項合理的規(guī)則。
他解釋道，在大多數(shù)國家，除非是有執(zhí)照的醫(yī)療專業(yè)人員，否則提供醫(yī)療建議是非法的。因此OpenAI 表示 ChatGPT 和 GPT-4 不能用于提供醫(yī)療建議。但是 OpenAI 沒有辦法強(qiáng)制執(zhí)行這一點，因為它們不明白它是如何運(yùn)作的，所以沒有辦法去執(zhí)行這個規(guī)定。但是 OpenAI 團(tuán)隊可以做的是，每次 ChatGPT 給出醫(yī)療建議，他們會對 ChatGPT 反饋說“你做錯了”。
有些時候 ChatGPT 會因此開始有所改善，但大多數(shù)情況下，ChatGPT 并不明白為什么說它“做錯了”，并且不會產(chǎn)生任何的變化。但仍然可以讓大家感到非常自豪的是，ChatGPT 的錯誤行為依然還是比以前減少了29%，當(dāng)然它仍然有許多錯誤行為。它還是會給你一些不符合邏輯的或者違法的建議，所以現(xiàn)在很多人都在思考，到底什么是對于ChatGPT更合理的規(guī)定。
羅素博士個人認(rèn)為，合理的規(guī)定包括不提供醫(yī)療建議，不描述如何制造化學(xué)武器。而目前大語言模型還無法通過這些測試。人們會認(rèn)為錯誤的誕生是因為相關(guān)法律法規(guī)出現(xiàn)了問題，不過他還是認(rèn)為大語言模型才是錯誤的那一方，而人們必須去修正它們，這樣才能更好地去遵守那些合理的法律法規(guī)。
在他看來，各國政府正在積極做出回應(yīng)，尤其是中國政府已經(jīng)做出了很好的回應(yīng)。美國參議院查爾斯·舒默也已經(jīng)提議計劃引入一些法規(guī)，雖然目前還不知道要引入的法規(guī)是什么，但歐盟制定了《人工智能法》草案，將對這些人工智能系統(tǒng)的使用方式施加非常嚴(yán)格的規(guī)定。
他相信人工智能未來將會產(chǎn)生巨大的價值，它們可以改善各類人群的能力，它們可以被用作個人助理，可以用來幫助大家處理海量信息。
所以人工智能可以做各種有用的事情，但在人們能信任這個系統(tǒng)會正確運(yùn)行，能忠于事實，說出真相，而且不會違反人類制定的政策之前，他認(rèn)為使用它還是太危險了。
羅素博士表示，他不可能放心地用它來處理自己的郵件，因為他本人承擔(dān)不起這些風(fēng)險。
所以羅素博士總結(jié)道，人類可能要過很多年，才能理解如何制造出既有能力又安全的人工智能，而不安全的人工智能是沒有任何價值的。
李非凡提出，類似于醫(yī)學(xué)顧問這樣的行業(yè)，它們?nèi)菀妆?ChatGPT 類的技術(shù)取代 ，人類面對ChatGPT這種強(qiáng)烈的被取代感，是否會對人工智能行業(yè)的發(fā)展節(jié)奏產(chǎn)生負(fù)面影響？
羅素博士認(rèn)為，普通人實際上非常了解這一點，他們知道自己雖然有一定的教育水平和工作能力，但是這些人工智能系統(tǒng)，至少表面上在許多方面確實更勝自己一籌，這自然就會讓人感到焦慮。
如果為自己的孩子著想，就會擔(dān)心他們在 10 年或 20 年后會有什么樣的就業(yè)機(jī)會。
經(jīng)濟(jì)學(xué)家會說，技術(shù)在摧毀舊的工作崗位的同時，也在不斷創(chuàng)造新的工作崗位，而且新的工作機(jī)會會更好。但是如果人工智能也能做新的工作怎么辦？
所以他認(rèn)為各國政府必須非常認(rèn)真地對待這個問題，他表示他曾與經(jīng)濟(jì)學(xué)家、科幻作家和未來派藝術(shù)家合作，試圖設(shè)想出一個未來，在這個未來中，人工智能系統(tǒng)幾乎可以完成目前人類可以做到的所有事情，那會是一個真正令人向往的未來。
但是很遺憾迄今為止，他們都失敗了，他們真的無法描述出這個未來。而如果沒有準(zhǔn)確的目標(biāo)，就很難制定這個發(fā)展引渡計劃。每個人都知道世界將會在人工智能的影響下面臨一個巨大的轉(zhuǎn)變，但是如果大家不知道明確的目的地，就很難圍繞這個目的制定計劃。
在人們所設(shè)想的未來里，大多數(shù)人類扮演的角色將是處理人際關(guān)系的角色，那不是在工廠里去生產(chǎn)成千上萬的電視機(jī)或者汽車和機(jī)器打交道，而是直接與個人合作。而這一切需要大家對人類心理學(xué)有比現(xiàn)在更好的理解。
如果沒辦法更好地解釋和解決人與人之間關(guān)系的問題，那么即使人類目前所取得的經(jīng)濟(jì)成就也不能算作成功，而這種技術(shù)基礎(chǔ)不應(yīng)該基于傳統(tǒng)意義上的自然科學(xué)，而應(yīng)基于人類科學(xué)。因為只有這樣，人們才能通過人際關(guān)系更好地準(zhǔn)確地為生活增加價值。
羅素博士舉例，比如，有一些著名的心理治療師在做類似的事情，但這只是因為這些人在直覺上有一些天賦，但總的來說，大家對于如何做好這些事情還缺乏足夠的了解。想要獲得足夠的了解，可能需要花費(fèi)幾十年的研究、在所關(guān)注的重點和支援研究上都需要有非常大的轉(zhuǎn)變。
現(xiàn)在人類主要資助的科學(xué)領(lǐng)域是基于物理學(xué)的科學(xué)、基于生物學(xué)的科學(xué)，但是并沒有真正資助人類科學(xué)的。
所以這可能將是這個世界一個巨大的變化，這也將是教育體系的一個巨大變化，現(xiàn)在教給孩子們的很多東西可能都與人類科學(xué)無關(guān)，還有很多本該教給孩子的東西，也并沒有教。
而教育體系恰恰是世界上所有體系中更新速度最慢的體系，就改變的能力而言，它甚至比醫(yī)療保健體系的更新還要慢。
李非凡認(rèn)為，現(xiàn)在每個人都瘋狂地贊美和追逐人工智能，伴隨 ChatGPT 的發(fā)展，中國人工智能行業(yè)的熱浪也迅速升溫，連幼兒園的學(xué)生都能談起一些關(guān)于人工智能的事情，對此鈦媒體也冷靜地表達(dá)了自己的觀點：自嗨滿足于過去， 而科技看的永遠(yuǎn)是“下一個”。那面對瘋狂這個行業(yè)現(xiàn)在需要什么樣的冷靜和理性的聲音？
對于這個問題羅素博士認(rèn)為：“如果你是一個投資者，這將是一個非常重要的問題。創(chuàng)造真正通用人工智能所需花費(fèi)的金錢成本，我們稱通用人工智能為 AGI，這是幾千萬億美元級別的投資領(lǐng)域。”
他表示，在美國每個月大約有 100 億美元投入研發(fā) AGI 的創(chuàng)業(yè)公司當(dāng)中。這看起來是很大一筆錢，但與所預(yù)期創(chuàng)造的價值相比，這些投資都只是滄海一粟。
但問題是目前這種建立越來越大的語言模型的方向，是否能抵達(dá)真正的通用人工智能？他個人覺得是不會的。他還補(bǔ)充道，不僅他這么認(rèn)為，OpenAI 的現(xiàn)任首席執(zhí)行官和聯(lián)合創(chuàng)始人山姆·阿爾特曼在演講中也發(fā)表了同樣的觀點。
對此觀點羅素博士也給出了他的原因：因為大語言模型不具備讓人變得更聰明的能力。
所以他認(rèn)為想要抵達(dá)真正的通用人工智能，需要在兩個方向上投入大量的努力：
?第一，如何把已經(jīng)建立起來的東西，比如 ChatGPT，變成可以在實際環(huán)境中使用的工具。
羅素舉例道：“比如我是一家保險公司，我想使用語言模型與我的客戶交流，那么語言模型必須告訴客戶產(chǎn)品的真相，它必須按照規(guī)定推薦給每個用戶合適的保險產(chǎn)品，如果它違反了這些規(guī)定，那么保險公司將面臨政府的巨額罰款。因為保險業(yè)受到嚴(yán)格監(jiān)管，所以目前不能在這些領(lǐng)域中使用大語言模型，所以大家要付出巨大的努力來馴化這個“野獸”，如何將一只野狗馴化成一只行為規(guī)矩的家犬，這是眾多人工智能領(lǐng)域的公司正在努力的一個大方向。”
第二，如果大語言模型不是創(chuàng)造 AGI 的答案，那么什么才是？它們是拼圖的一部分，但不是整個拼圖。
這個的困難在于大家并不真正理解它們是拼圖的哪一部分，甚至不知道這些碎片的形狀，也不知道上面的圖案是什么。所以也并不知道還需要什么，才能創(chuàng)造出通用人工智能，這些都是更為基礎(chǔ)的研究問題。
李非凡以幾個月前，自己公司做的嵌入人工智能功能的元宇宙產(chǎn)品為例，向羅素博士提出問題，他表示，由硅基生命形式為主導(dǎo)的人類世界首次在虛擬游戲中實現(xiàn)，NPC 成為虛擬世界的原住民，人類玩家則變成了這個世界偶爾出現(xiàn)的訪客，對于這樣的事情羅素博士有怎樣的看法？
對此羅素博士認(rèn)為，虛擬現(xiàn)實這種沉浸式的體驗，可能性還沒有得到充分利用。他認(rèn)為這是有巨大潛力的，這種沉浸式體驗可以形成一種比書籍、電影或音樂更強(qiáng)大的藝術(shù)形式。
它可以涵蓋所有這些形式，甚至更多，因為它能以各種有趣的方式回應(yīng)人們，說到這里，羅素博士也希望藝術(shù)家們能利用這一點，嘗試開始探索在這個領(lǐng)域能做些什么，這樣大家就不會僅僅把虛擬現(xiàn)實，想象成一個只去打怪升級的地方。
與此同時他認(rèn)為還有很多有趣的商業(yè)模式與虛擬現(xiàn)實和元宇宙有關(guān)，例如：使用由人工智能系統(tǒng)驅(qū)動的虛擬人NPC這樣的非玩家角色，利用這些角色來做生意，說服大家買東西。
但羅素博士也表示，這其中也很多具有欺騙性的，它們假裝自己是人類，假裝和你交朋友。它們花幾個小時、幾天或幾周的時間來了解，談?wù)摷彝?，談?wù)搨€人，了解家庭情況，然后它們可能隨口提到自己剛買了一輛新車很不錯，然后安利給大家。這種商業(yè)模式或許非常有效，但卻是完全建立在欺騙的基礎(chǔ)上。所以對此他認(rèn)為作為人類，知道與自己互動的是人還是機(jī)器是大家的基本權(quán)利，歐洲人工智能法案中也將對此有相關(guān)規(guī)定，并作為基本規(guī)則之一。
所以，羅素博士認(rèn)為，不讓機(jī)器冒充人類的情況出現(xiàn)是非常重要的。這將使那些建立在欺騙基礎(chǔ)上的商業(yè)模式變得更難以實現(xiàn)，并且他覺得如果這些虛擬人實話實說，它們告訴大家自己是機(jī)器，并直接展示自己的目的。如果它的目的也是自己的興趣，可能大家會更容易接受。
羅素博士解釋道，這種模式可以提高效率，類似于展銷廳配上銷售人員這個模式，只不過這一切都發(fā)生在虛擬現(xiàn)實中。但他認(rèn)為這是一種非常實用的商業(yè)模式，可能會取得不錯的成效。
他總結(jié)道，元宇宙里人工智能會有各種各樣的機(jī)會，毫無疑問大家有這個需要，因為人力成本是非常昂貴的，但未來可以用人工智能來替代人力。
李非凡表示，鈦媒體作為媒體平臺，一直在密切關(guān)注人工智能領(lǐng)域的發(fā)展趨勢和商業(yè)變化，對此羅素博士如何看待媒體平臺怎樣才能更好地為人工智能領(lǐng)域市場提供更準(zhǔn)確更高效的信息服務(wù)？
這個問題羅素博士認(rèn)為，類似于鈦媒體這樣的媒體平臺，主要是對人工智能這個概念進(jìn)行詮釋，以及說明人工智能原理是什么，有哪些不同的種類。
羅素博士認(rèn)為現(xiàn)在一個備受關(guān)注的焦點是 ChatGPT，大家一直都在討論 GPT，但其實還有許多其它類型的人工智能系統(tǒng)，例如：自動駕駛汽車和 ChatGPT 就沒有任何共同之處，是完全不同類型的系統(tǒng)?；蛘咭呀?jīng)在為各種應(yīng)用開發(fā)的計算機(jī)視覺系統(tǒng)，專門的機(jī)器翻譯系統(tǒng)等，他認(rèn)為這些系統(tǒng)比大語言模型做翻譯更有效。
所以還有很多其它類型的人工智能系統(tǒng)。羅素博士認(rèn)為向人們說明所有系統(tǒng)類型，以及各自的功能和局限性是非常重要的，因為可以讓人們分辨謠傳和事實，他表示他在媒體上反復(fù)看到的一大誤解就是：人們必須擔(dān)心機(jī)器產(chǎn)生意識。這個誤解就會出現(xiàn)兩種聲音，一部分人會擔(dān)心機(jī)器開始有意識，而讓另一部分人會覺得，既然是AI 就永遠(yuǎn)不會有意識，沒必要擔(dān)心。
其實對于這兩種聲音，羅素博士覺得都是錯誤的，他認(rèn)為大家需要擔(dān)心的是 AI 的行為方式。
他解釋道：“如果我和國際象棋程序?qū)?，而程序一直吃掉我的棋子，我就輸了?/p>
程序是有意識的還是無意識的并不重要，重要的是，它每一步都下得很好，而我什么都做不了，我輸了這場比賽。這在現(xiàn)實世界里也是一樣的。無論是在象棋盤上，還是在圍棋盤上，或者在現(xiàn)實世界中，重要的是系統(tǒng)做了什么，我們能否采取足夠的手段來確保我們保持對系統(tǒng)的控制，即使這個系統(tǒng)比我們更智能，我們也必須設(shè)法避免沖突。
因為如果創(chuàng)建的 AI 沒被設(shè)計好，追求的目標(biāo)與我們關(guān)心的目標(biāo)不一致，那么大家就會面臨真正的問題。”
李非凡提出在社會范疇內(nèi)，像自動駕駛領(lǐng)域發(fā)生的一些交通事故會造成人員傷亡，有沒有一個標(biāo)準(zhǔn)框架來評判人工智能判斷造成的損害與它應(yīng)該承擔(dān)的責(zé)任？
對此羅素博士認(rèn)為，以自動駕駛汽車的標(biāo)準(zhǔn)來說，這應(yīng)該是生產(chǎn)商要負(fù)有的責(zé)任，這被稱為嚴(yán)格責(zé)任。這意味著誰有過錯并不重要，只要自動駕駛汽車撞死了人，那么生產(chǎn)商就要承擔(dān)起責(zé)任。
他說道：“之前在比利時發(fā)生了一起案件，一名男子顯然是因為與聊天機(jī)器人對話后自殺，我相信他的家人正在起訴該公司，我們可以看看后續(xù)進(jìn)展，我們也可以等等法院對這件事的看法。有很多例子通常是非法行為，比如無照提供醫(yī)療建議。據(jù)我所知如果有人因此而受到傷害，語言模型的生產(chǎn)商將承擔(dān)責(zé)任。”
羅素博士認(rèn)為，現(xiàn)在大語言模型的開發(fā)者，通常將模型出售給另一家公司，后者在此基礎(chǔ)上開發(fā)更為具體的應(yīng)用程序。所以在歐盟，有人工智能法案，這是一項新的法律，應(yīng)該會在今年年底前完成。
在制定這部法律的過程中，科技公司在法律中加入了一項條款：規(guī)定就本法案而言，通用人工智能系統(tǒng)不應(yīng)被視為人工智能系統(tǒng)。
很顯然這項條款提出的原因，是某些人正試圖將自己的產(chǎn)品完全排除在監(jiān)管之外。
羅素博士補(bǔ)充道，現(xiàn)在一些公司正在提出，當(dāng)他們將通用的模型出售給另一家公司，并用于特定應(yīng)用程序中，只能在低風(fēng)險的應(yīng)用程序中使用這個模型，如果在任何高風(fēng)險的應(yīng)用程序中使用，開發(fā)者將不承擔(dān)任何責(zé)任。所以下游公司對任何損失都要負(fù)百分之百的責(zé)任。
羅素博士表示，在大多數(shù)國家，法律的運(yùn)作方式是，法律制度將責(zé)任放在有能力解決問題的一方身上，如果有人訓(xùn)練一個大語言模型，然后將其出售給其他人，再針對特定應(yīng)用對其進(jìn)行微調(diào)，那么第二家公司甚至無法訪問原始訓(xùn)練數(shù)據(jù)。如果系統(tǒng)不斷提供非法醫(yī)療建議或不停建議人們自殺，那第二家公司對此也無能為力。
因此在他看來，創(chuàng)建大語言模型的原始生產(chǎn)商至少應(yīng)該承擔(dān)部分事故責(zé)任，因為他們才是能夠解決問題的人，下游公司無法修復(fù)系統(tǒng)，因為沒有數(shù)據(jù)，也沒有對系統(tǒng)進(jìn)行訓(xùn)練。
但他也表示，在接下來的幾年里，將會有很多重要的法律案件來探討此類事件。以及其它關(guān)于版權(quán)的問題。
羅素博士表示，據(jù)他所知，Reddit 一家大型在線網(wǎng)站，正在起訴 OpenAI，聲稱 OpenAI 竊取了 Reddit 網(wǎng)站上的所有對話，所有這些信息都屬于 Reddit。在圖像生成過程中也是如此，它們是否從藝術(shù)家那里竊取受版權(quán)保護(hù)的圖像，以產(chǎn)生新的圖像？
對于這樣的事情他認(rèn)為，在接下來的幾年里，大家將找到這些法律問題的正確答案。目前情況有點失控，他個人認(rèn)為人工智能這項技術(shù)及其部署已經(jīng)遠(yuǎn)遠(yuǎn)超過了監(jiān)管的范疇。”
李非凡提出，類似于阿里巴巴，騰訊、百度這樣的公司都在人工智能領(lǐng)域做出了重要嘗試，也相繼推出了重要產(chǎn)品，如何看待這些中國的互聯(lián)網(wǎng)大廠在人工智能領(lǐng)域的嘗試？與 Meta、谷歌和微軟這些公司相比它們有什么優(yōu)勢和劣勢？
對此羅素博士表示，他看過百度的聊天機(jī)器人文心一言和 GPT-4 之間的比較，看起來這兩個系統(tǒng)之間確實有很大的差距。他不確定具體原因，但可能是在高質(zhì)量文本數(shù)據(jù)的數(shù)量方面，比起中文，有更多高質(zhì)量的英文文本可用。
他本人作為一家法國公司的董事會成員，他表示，這家公司也在從事這一領(lǐng)域，而法語的數(shù)據(jù)同樣不夠多，世界上沒有足夠的法語文本來訓(xùn)練一個相當(dāng)于 GPT-4 的模型。因此他認(rèn)為對于目前的情況，一種選擇是嘗試將所有英文文本翻譯成法語，然后用法語訓(xùn)練 GPT-4，但這樣效率低且成本也極其昂貴。所以綜合來看，不應(yīng)該過分強(qiáng)調(diào)將大語言模型作為公司之間成敗衡量標(biāo)準(zhǔn)，人們一直在競爭，比如有 1000 億個參數(shù)，或者有 5000 億個參數(shù)，而這種“競爭”是沒有益處的。
他表示，對中國公司來說，西方評論界經(jīng)常說的一個觀點是，因為中國的人口要更多，他們有更多的數(shù)據(jù)，數(shù)據(jù)才是最重要的，但在他個人認(rèn)為這是無稽之談。
他舉例道：“如果你已經(jīng)接觸了一億消費(fèi)者，那么再增加一億消費(fèi)者也不會有多大區(qū)別。重要的是你對每個人的信息了解多少，因為這可以讓你對那個人提出有幫助的高質(zhì)量建議。”
所以羅素博士認(rèn)為這是像騰訊這樣的公司具有優(yōu)勢的地方，因為它們在市面上擁有如此多的 APP 應(yīng)用，像是微信、QQ等，大家可以從社交應(yīng)用中獲取人們的關(guān)系網(wǎng)，可以獲取類似 Facebook 和亞馬遜們可以得到的同類信息，還有更多信息來源。包括人們購物行為中的財務(wù)數(shù)據(jù)。因此當(dāng)一個平臺有更多關(guān)于用戶的數(shù)據(jù)，這樣才有可能給每個人提供更多幫助，所以一般人們會認(rèn)為騰訊這樣的公司在這個維度會略微領(lǐng)先于西方的傳統(tǒng)互聯(lián)網(wǎng)巨頭。
和大公司相比，現(xiàn)在的初創(chuàng)企業(yè)從什么角度切入，在人工智能領(lǐng)域成功獲得商業(yè)回報的可能性最高？
羅素博士表示，在他看來，就進(jìn)入市場的方式而言，目前初創(chuàng)公司很難獲得足以與 OpenAI 競爭所需的資源。目前據(jù)他所知，有 5 到 6 家初創(chuàng)公司有足夠的資金，但每家公司的資金都在 2-5 億美元左右。他們需要這么多資金，因為他們需要大量的計算能力，需要獲取大量的數(shù)據(jù)，也需要很多的工程師。
因此羅素博士認(rèn)為在這樣的前提下，另一種選擇是，使用現(xiàn)成的系統(tǒng)，可能是開源的系統(tǒng)，或者也可以去獲得 ChatGPT 的使用許可。各種各樣的大語言模型是有市場的，而且獲得許可的費(fèi)用并不是很高，最大的機(jī)會是能否想辦法讓這些系統(tǒng)好好運(yùn)行，遵守規(guī)則忠于事實，然后才能被用于公司內(nèi)部的這些重要應(yīng)用中。
羅素博士補(bǔ)充道，每天人們都會想出一種新的創(chuàng)造性方式來使用這些人工智能系統(tǒng)，這些系統(tǒng)不是智慧體，它們與人類大腦的形狀不同，但它們?nèi)匀皇怯蓄愃朴谡嫒说闹橇?，人們將找到?shù)以千計的方法來創(chuàng)造性地使用這些新工具。
他建議初創(chuàng)公司可以盡可能多地查閱人們尋找創(chuàng)造性方法來使用人工智能系統(tǒng)的例子，在這個過程中，基于自己在某個特定市場的經(jīng)驗，說不定就可以想出什么創(chuàng)新性的應(yīng)用方式。
李非凡表示，每個時代都有一套有關(guān)人工智能的設(shè)定規(guī)則，那么未來應(yīng)該制定什么樣的規(guī)則來引導(dǎo)人工智能進(jìn)入下一階段？
羅素認(rèn)為人們應(yīng)該更換什么限制，施加什么要求，這取決于人工智能公司如何讓它們的系統(tǒng)運(yùn)行，這不是由政府決定的，也不是由消費(fèi)者決定的，更不是由學(xué)者決定的，目前大家能做的工作只是說明這些系統(tǒng)必須滿足的標(biāo)準(zhǔn)是什么。
未來我們需要做到以下幾點：
1.對虛假錯誤信息進(jìn)行限制
輸出虛假信息的能力是一個巨大的問題，羅素博士認(rèn)為很難完全消除這一點。首先就需要就虛假信息來制定使用這些系統(tǒng)的規(guī)則，假冒的行為也應(yīng)該一起禁止。應(yīng)該制定有關(guān)于輸出類型的限制規(guī)則，比如提供無照醫(yī)療建議的這類規(guī)則，可以先列出不想讓系統(tǒng)做的事情，然后再在懲罰和報告機(jī)制中建立執(zhí)行規(guī)定。
2.迅速修改和更新人工智能規(guī)則
經(jīng)合組織OECD有一個人工智能事件數(shù)據(jù)庫，人們可以向其提交人工智能系統(tǒng)造成問題的不良行為報告，當(dāng)收到這些報告時，可以更新相關(guān)規(guī)定。羅素博士認(rèn)為能相當(dāng)迅速地制定和修改 AI 規(guī)則才是關(guān)鍵點，因為當(dāng)通過任何一項法規(guī)之后，很可能六個月后它就會變得無關(guān)緊要。
3.專業(yè)機(jī)構(gòu)和管理機(jī)構(gòu)的良好協(xié)同
對于飛機(jī)和核電站等專業(yè)技術(shù)領(lǐng)域，目前有專業(yè)的監(jiān)管機(jī)構(gòu)，他們擁有制定規(guī)則的權(quán)力。所以不需要每隔六個月就去國會或歐洲議會要求通過一項新法律，國會和歐洲議會將制定規(guī)則的權(quán)力下放給一個專門機(jī)構(gòu)，這是絕對必要的。當(dāng)這些機(jī)構(gòu)在世界各地成立時，它們需要相互協(xié)調(diào)，追蹤正在發(fā)生的事情，出現(xiàn)了什么問題，如何解決這些問題，并確保在世界各地的一致性。這樣公司就無法為自己人工智能系統(tǒng)的不當(dāng)行為找到一個法外之地，做他們不能在其他國家做的事情。
羅素博士表示，他可以保證，世界各地很多人工智能專家、監(jiān)管機(jī)構(gòu)、政客、公司都正在對這個話題進(jìn)行著熱烈的討論。OpenAI、微軟、IBM 等公司自己都主動站出來表示：政府需要對這個行業(yè)進(jìn)行監(jiān)管，這是一個重要的新消息，以前大多數(shù)科技公司一直在說“不要監(jiān)管，監(jiān)管扼殺創(chuàng)新”?，F(xiàn)在它們說不，“在我們再次殺人之前請監(jiān)管我們”，這就是大家所處的境況。
鈦空時間新書推薦——《人工智能：現(xiàn)代方法》
原價：￥198
鈦空艙特惠價：¥139
本書全面、深入地探討了人工智能（AI）領(lǐng)域的理論和實踐，以統(tǒng)一的風(fēng)格將當(dāng)今流行的人工智能思想和術(shù)語融合到引起廣泛關(guān)注的應(yīng)用中，真正做到理論和實踐相結(jié)合，趕緊下單購買吧！
「鈦空時間｜共讀時刻」是鈦空時間特約讀書欄目。這里是新興企業(yè)家、新一代創(chuàng)變者的精神陣地，以讀書、知識、文化為紐帶鏈接每一個獨(dú)特的個體，解構(gòu)每一個獨(dú)特靈魂的思考軌跡。
我們每期邀請?zhí)丶s嘉賓通過共讀一本好書來探究事件本質(zhì)，以先進(jìn)的思想和前沿的視野，為大家捕捉行業(yè)新動態(tài)，打開創(chuàng)新新思路，掌握發(fā)展新方法！
快報
根據(jù)《網(wǎng)絡(luò)安全法》實名制要求，請綁定手機(jī)號后發(fā)表評論
這文章還挺長
人們唯恐它將對社會造成不可挽回的破壞
硅谷的公司有大量的算力基礎(chǔ)支撐，也有承擔(dān)風(fēng)險的意愿
現(xiàn)在語音助手不行
未來無法描述
AI可能滅絕人類
不安全的人工智能將失去任何價值
發(fā)展才是硬道理
那別讓AI覺醒了
相信人工智能未來將會產(chǎn)生巨大的價值