截圖來自世界經(jīng)濟(jì)論壇官方直播

當(dāng)?shù)貢r(shí)間1月20日，在瑞士達(dá)沃斯小鎮(zhèn)舉辦的世界經(jīng)濟(jì)論壇第56屆年會(huì)上，一場名為“AGI之后的一天”（The Day After AGI）的圓桌論壇吸引了不少關(guān)注。

這場圓桌被放置在論壇主議題之一的“我們?nèi)绾文軌虼笠?guī)模且負(fù)責(zé)任地部署創(chuàng)新？”下，主要聚焦哪些突破對(duì)AGI來說最為重要，以及在其真正實(shí)現(xiàn)之前和之后，人類會(huì)面臨和需要解決哪些問題。

Google旗下DeepMind聯(lián)合創(chuàng)始人兼CEO、諾貝爾化學(xué)獎(jiǎng)得主德米斯·哈薩比斯（Demis Hassabis）與風(fēng)頭正勁的獨(dú)角獸Anthropic聯(lián)合創(chuàng)始人兼CEO達(dá)里奧·阿莫代（Dario Amodei）就此展開討論?！督?jīng)濟(jì)學(xué)人》主編詹妮·貝多絲（Zanny Minton Beddoes）應(yīng)邀擔(dān)任主持。

雖然圓桌的話題頗具科幻色彩，阿莫代和哈薩比斯也確實(shí)應(yīng)景地談到了《超時(shí)空接觸》、費(fèi)米悖論等問題，但實(shí)質(zhì)上，圓桌本身聚焦的是現(xiàn)實(shí)世界的問題，尤其是人類可能面對(duì)的風(fēng)險(xiǎn)。

兩位嘉賓依舊看好人工智能能力的快速發(fā)展。阿莫代堅(jiān)持自己此前的觀點(diǎn)——今年到明年間就會(huì)出現(xiàn)“一個(gè)能夠在許多領(lǐng)域達(dá)到諾貝爾獎(jiǎng)得主水平、完成人類所能做的一切的模型”。哈薩比斯更加謹(jǐn)慎，但也認(rèn)為到2030年代末，AI至少有50%的幾率“展現(xiàn)人類所有的認(rèn)知能力”。

而兩人背后的公司，也被視為這一快速發(fā)展進(jìn)程中的翹楚，尤其2025年至今，谷歌和Anthropic憑借Gemini 3和 Claude Opus 4等產(chǎn)品，成為了行業(yè)矚目焦點(diǎn)。

阿莫代更是放話稱，兩家公司取得成功的要點(diǎn)，在于公司或承擔(dān)研究功能的組織都是由研究人員領(lǐng)導(dǎo)的，他們專注于模型，專注于解決世界上的重要問題，并預(yù)言這類公司將在未來取得成功。

與之呼應(yīng)的，阿莫代在當(dāng)日接受《華爾街日?qǐng)?bào)》采訪時(shí)談到，科學(xué)家運(yùn)營的AI公司和社交媒體背景的領(lǐng)導(dǎo)者運(yùn)營的公司有明顯區(qū)別，后者在意商業(yè)激勵(lì)、傾向影響消費(fèi)者，但可能會(huì)逃避關(guān)鍵的責(zé)任。

這似乎是在暗指其前東家OpenAI的CEO薩姆·奧爾特曼（Sam Altman）（曾創(chuàng)辦過一家社交媒體），而Meta更是社交媒體領(lǐng)域的絕對(duì)霸主。

隨著話題轉(zhuǎn)入AI或AGI可能帶來的風(fēng)險(xiǎn)，二者都給出了預(yù)警。

多項(xiàng)研究顯示，AI尚未對(duì)人類就業(yè)形成明顯影響，甚至在創(chuàng)造新的崗位。不過，阿莫代和哈薩比斯都提示，從今年開始，人們可能就會(huì)看到AI對(duì)初級(jí)水平工作形成沖擊。而隨著AI能力的指數(shù)級(jí)成長，或許近在兩年內(nèi)，或許在1-5年內(nèi)，或許在5-10年內(nèi)，勞動(dòng)力市場和經(jīng)濟(jì)體系的適應(yīng)能力將遇到重大考驗(yàn)，甚至有被壓垮的風(fēng)險(xiǎn)。

阿莫代去年表示，AI會(huì)讓一半的入門級(jí)白領(lǐng)工作崗位消失。在論壇現(xiàn)場，他仍堅(jiān)持自己的看法，并稱在軟件和編程領(lǐng)域已經(jīng)看到了這一趨勢(shì)，Anthropic內(nèi)部也在考慮如何妥善處理類似問題。

哈薩比斯進(jìn)而提示稱，包括政府、經(jīng)濟(jì)學(xué)家等在內(nèi)，人類社會(huì)對(duì)此的重視不足，所作的準(zhǔn)備也“遠(yuǎn)遠(yuǎn)不夠”。

他提到，就近來說，隨著AI影響就業(yè)，包括谷歌在內(nèi)的科技巨頭、AI公司都有可能受到公眾的抵制，面臨更復(fù)雜的處境。而未來5到10年內(nèi)，AI或AGI帶來的“后稀缺”社會(huì)將引發(fā)關(guān)于人類生命意義、行為目的和財(cái)富分配的深刻挑戰(zhàn)。

阿莫代在接受《華爾街日?qǐng)?bào)》采訪時(shí)提到，人們面對(duì)的前景是實(shí)現(xiàn)5%到10%的GDP增長的同時(shí)，可能同時(shí)面臨10%的失業(yè)率，政府必須要對(duì)大規(guī)模就業(yè)崗位流失承擔(dān)責(zé)任、有所作為，否則將是“人類社會(huì)的噩夢(mèng)”。

此外，兩人也對(duì)備受矚目的地緣政治問題給出了自己的看法。阿莫代認(rèn)為，大國間的競賽可能成為AI風(fēng)險(xiǎn)的放大器，哈薩比斯則強(qiáng)調(diào)了國際協(xié)調(diào)和設(shè)置最低安全標(biāo)準(zhǔn)等的重要性。

兩人當(dāng)日還接受了彭博社等媒體的采訪，并談到了中美AI競賽的問題。哈薩比斯稱DeepSeek的確令人印象深刻，中國在AI前沿技術(shù)上或許只落后美國6個(gè)月，而非1-2年，但尚未證明自己能夠超越前沿進(jìn)行創(chuàng)新。阿莫迪則堅(jiān)持自己的一貫觀點(diǎn)，認(rèn)為美國政府應(yīng)繼續(xù)限制對(duì)中國出售高端AI芯片。

對(duì)風(fēng)險(xiǎn)的討論幾乎貫穿甚至主導(dǎo)了整個(gè)圓桌的進(jìn)程。當(dāng)貝多絲希望兩人用15秒的關(guān)于今年AI發(fā)展的關(guān)注和預(yù)測(cè)收尾時(shí)，阿莫代稱，最值得關(guān)注的是“用AI系統(tǒng)構(gòu)建AI系統(tǒng)”，其進(jìn)展將決定人類還需要幾年才能實(shí)現(xiàn)AGI。但他也同時(shí)提示，人類或許將面臨一個(gè)必須應(yīng)對(duì)的，機(jī)遇與巨大危機(jī)并存的前景。

哈薩比斯稱，自己除此之外還關(guān)注世界模型、持續(xù)學(xué)習(xí)等的進(jìn)展，并預(yù)測(cè)機(jī)器人技術(shù)可能會(huì)迎來爆發(fā)時(shí)刻。

以下為圓桌討論實(shí)錄，經(jīng)鈦媒體編輯翻譯整理：

詹妮·貝多絲：歡迎大家，也歡迎正在觀看直播的各位。我必須說，我們期待這次對(duì)話已有四個(gè)月了。我很幸運(yùn)，去年在巴黎主持了兩位之間的一場對(duì)話，可惜那場對(duì)話最引人注目的似乎是你們倆被擠在一張非常小的“情人座”上。而我當(dāng)時(shí)坐在一張巨大的沙發(fā)上，這大概是我的安排失誤。但我當(dāng)時(shí)說過，這對(duì)我來說就像是和披頭士樂隊(duì)與滾石樂隊(duì)一起聊天，而你們兩位此前從未在臺(tái)上對(duì)過話。所以，這次就像是傳奇樂隊(duì)的再次聚首。我非常高興。兩位也都無需再過多介紹了。

我們對(duì)話的主題是“AGI之后的一天”，我覺得這或許有點(diǎn)超前，因?yàn)槲覀兛赡軕?yīng)該先談?wù)勎覀內(nèi)绾文芸焖?、輕易地抵達(dá)AGI。我想先就此做個(gè)更新，然后再談?wù)勂浜蠊?/p>

首先，關(guān)于時(shí)間線，去年在巴黎，達(dá)里奧說到2026-2027年，我們將擁有一個(gè)能夠在許多領(lǐng)域達(dá)到諾貝爾獎(jiǎng)得主水平、完成人類所能做的一切的模型?，F(xiàn)在已經(jīng)到了2026年，你仍然堅(jiān)持那個(gè)時(shí)間線嗎？

達(dá)里奧·阿莫代：你知道，要確切知道某事何時(shí)發(fā)生總是很難，但我不認(rèn)為那個(gè)估計(jì)會(huì)偏差太遠(yuǎn)。我當(dāng)時(shí)的設(shè)想是，我們將創(chuàng)造出擅長編碼和人工智能研究的模型，并用它們來生產(chǎn)下一代模型，加速形成一個(gè)循環(huán)，從而加快模型開發(fā)的速度。

就目前而言，在編寫代碼的模型方面，Anthropic內(nèi)部有工程師說，他現(xiàn)在已經(jīng)完全不寫代碼了，而是只讓模型寫代碼，自己來編輯，并做周邊的工作。我想，可能還需要6到12個(gè)月，模型就能完成軟件工程師大部分、甚至全部端到端的工作。

然后問題就在于這個(gè)循環(huán)能多快閉合。并非這個(gè)循環(huán)的每個(gè)部分都能被AI加速，對(duì)吧？比如芯片制造、模型訓(xùn)練時(shí)間。所以，我認(rèn)為這里面有很多不確定性，人們會(huì)覺得這可能還需要幾年時(shí)間。但對(duì)我來說，很難想象這會(huì)需要比那更長的時(shí)間。如果非要我猜，我猜這會(huì)比人們想象的更快。編程以及日益加速的研究進(jìn)展，將是關(guān)鍵驅(qū)動(dòng)力。要預(yù)測(cè)這種指數(shù)級(jí)加速究竟有多快真的很難，但肯定會(huì)發(fā)生得很快。

詹妮·貝多絲：德米斯，你去年要稍微謹(jǐn)慎一些。你說到本年代末，有50%的幾率會(huì)出現(xiàn)一個(gè)能夠展現(xiàn)人類所有認(rèn)知能力的系統(tǒng)。顯然，在編程方面，正如達(dá)里奧所說，已經(jīng)取得了驚人進(jìn)展。你現(xiàn)在的看法如何？是否堅(jiān)持自己的預(yù)測(cè)？據(jù)你觀察，過去一年又發(fā)生了什么變化？

德米斯·哈薩比斯：是的，我仍然堅(jiān)持大致相同的時(shí)間線。我認(rèn)為已經(jīng)取得了顯著進(jìn)展，但像工程、編程或者數(shù)學(xué)這類領(lǐng)域，似乎更容易看到如何實(shí)現(xiàn)自動(dòng)化，部分原因是其結(jié)果可以驗(yàn)證。而一些自然科學(xué)領(lǐng)域則要困難得多。你未必能知道你預(yù)測(cè)的化學(xué)化合物或物理理論是否正確，可能必須通過實(shí)驗(yàn)來驗(yàn)證，這都需要更長的時(shí)間。

所以我也認(rèn)為，目前還缺少一些能力。不僅僅是解決現(xiàn)有的猜想或問題，而是首先要能提出問題、形成理論或假設(shè)——我認(rèn)為這要困難得多。我認(rèn)為這是最高層次的科學(xué)創(chuàng)造力。

目前還不清楚我們是否將擁有這樣的系統(tǒng)。我認(rèn)為這并非不可能，但可能還缺少一兩個(gè)要素。首先需要看看我們正在研究的這種自我改進(jìn)循環(huán)，能否在沒有人類干預(yù)的情況下真正閉合。順便說一句，我認(rèn)為這類系統(tǒng)也存在風(fēng)險(xiǎn)，我們應(yīng)該討論一下。我相信我們會(huì)談到的，但如果這類系統(tǒng)真的奏效，那將加速進(jìn)程。

詹妮·貝多絲：我們稍后會(huì)談到風(fēng)險(xiǎn)。但過去一年還有一個(gè)變化，那就是這場競賽的排名順序發(fā)生了變化，如果可以這么說的話。一年前的這個(gè)時(shí)候，我們剛經(jīng)歷了DeepSeek時(shí)刻，所有人都對(duì)此感到無比興奮。當(dāng)時(shí)人們還有一種感覺，認(rèn)為谷歌在某種程度上落后于OpenAI。我想說，現(xiàn)在情況看起來大不相同了。OpenAI已經(jīng)因?yàn)槟銈儼l(fā)布了“紅色警報(bào)”，對(duì)吧？這是相當(dāng)不平凡的一年。那么，具體來說，有什么讓你感到驚訝？你們今年做得如何？然后我也想聽聽你對(duì)當(dāng)前格局的看法。

德米斯·哈薩比斯：嗯，我一直非常有信心我們能重新回到排行榜的頂端，在各個(gè)領(lǐng)域擁有最先進(jìn)的模型，因?yàn)槲艺J(rèn)為我們一直擁有最深、最廣的研究人才儲(chǔ)備。而關(guān)鍵在于如何整合這一切，讓整個(gè)組織重新?lián)碛心欠N強(qiáng)度和專注度，以及創(chuàng)業(yè)公司般的心態(tài)。

我們做了很多工作，雖然還有很多工作要做，但我開始看到進(jìn)展，無論是Gemini 3大模型，還是在產(chǎn)品方面，Gemini應(yīng)用的市場份額在不斷增加。所以我覺得我們正在取得巨大進(jìn)展，但還有海量工作要做。我們正在利用DeepMind作為谷歌的“引擎室”，習(xí)慣于更快地將我們的模型應(yīng)用到產(chǎn)品服務(wù)中。

詹妮·貝多絲：達(dá)里奧，關(guān)于這方面我有個(gè)問題要問你，因?yàn)槟銈冋谶M(jìn)行新一輪融資，估值也高得驚人。但你和他們不同，你們被稱作“獨(dú)立模型廠商”。我認(rèn)為，人們?cè)絹碓綋?dān)心獨(dú)立模型公司可能無法堅(jiān)持足夠長的時(shí)間，直到盈利真正到來的那一天。外界對(duì)OpenAI也有公開的質(zhì)疑。請(qǐng)談?wù)勀銓?duì)此的看法，然后我們?cè)倩氐紸GI本身。

達(dá)里奧·阿莫代：是的，我們對(duì)此的看法是，隨著我們構(gòu)建的模型越來越好，不僅存在你投入模型的算力與其認(rèn)知能力之間的指數(shù)關(guān)系，還存在其認(rèn)知能力與它能夠產(chǎn)生的收入之間的指數(shù)關(guān)系。所以，我們的收入在過去三年增長了10倍，從2022年的零收入，到2023年的1億美元，2024年的3億到10億美元，再到2025年的10億到100億美元。我不知道這條曲線是否會(huì)完全照此延續(xù)，如果真是那樣就太瘋狂了。但這些數(shù)字開始接近世界上最大公司的規(guī)模了。當(dāng)然，總是存在不確定性。我們是從零開始創(chuàng)建這家公司的，這很瘋狂。但我有信心，如果我們能產(chǎn)出我們專注領(lǐng)域中最優(yōu)秀的模型，那么事情就會(huì)順利發(fā)展。

總的來說，我認(rèn)為這對(duì)谷歌和Anthropic來說都是不錯(cuò)的一年。實(shí)際上我們的共同點(diǎn)是，我們兩家公司，或者說公司的研究部分，都是由研究人員領(lǐng)導(dǎo)的，他們專注于模型，專注于解決世界上的重要問題，對(duì)吧？這些困難的科學(xué)問題就像是我們的北極星。我認(rèn)為這類公司將在未來取得成功。我們之間有著這種共同點(diǎn)。

詹妮·貝多絲：其實(shí)我很想問問你，那些不是由研究人員領(lǐng)導(dǎo)的公司會(huì)怎樣，但我知道你不會(huì)回答。那么，我們現(xiàn)在進(jìn)入預(yù)測(cè)環(huán)節(jié)。我們本應(yīng)談?wù)?ldquo;AGI之后的一天”，但還是先來談?wù)勯]環(huán)吧。你們獲得能夠形成閉環(huán)、實(shí)現(xiàn)自我驅(qū)動(dòng)的模型的幾率有多大？這似乎會(huì)造成“贏家通吃”的局面，你們認(rèn)為我們很可能會(huì)看到這種情況嗎？還是說這將成為一種更常規(guī)的技術(shù)，讓追隨者和追趕者也能競爭？

德米斯·哈薩比斯：我絕對(duì)認(rèn)為這將是一種常規(guī)技術(shù)。我的意思是，正如達(dá)里奧提到的，有些方面已經(jīng)顯現(xiàn)，它已經(jīng)在幫助我們的編程和一些研究工作。但完全的閉環(huán)，我認(rèn)為還是個(gè)未知數(shù)，但有可能做到。你可能需要AGI本身才能在某些領(lǐng)域?qū)崿F(xiàn)這一點(diǎn)。同樣，在這些領(lǐng)域，情況更復(fù)雜，很難快速驗(yàn)證你的答案。那是更混亂的領(lǐng)域。順便一提，AGI還包括物理AI、機(jī)器人技術(shù)等等，然后你還有硬件層面的限制，這可能會(huì)限制自我改進(jìn)系統(tǒng)的運(yùn)行速度。但在編程、數(shù)學(xué)這類領(lǐng)域，我們絕對(duì)能看到其發(fā)揮作用。而更具理論性的問題則是，工程和數(shù)學(xué)在解決自然科學(xué)方面的極限何在。

詹妮·貝多絲：達(dá)里奧，去年你發(fā)表了《愛與恩典的機(jī)器》（Machines of Loving Grace），那是一篇非常樂觀的文章，談?wù)摿四憧吹降娜斯ぶ悄艿臐摿ΑＤ惝?dāng)時(shí)提到了一個(gè)“天才數(shù)據(jù)集國家”的概念，我聽說你正在撰寫一篇更新版的新文章。所以，各位，敬請(qǐng)期待。它還沒發(fā)表，但即將面世?；蛟S你可以給我們提前透露一下，你的主要觀點(diǎn)會(huì)是什么。

達(dá)里奧·阿莫代：我的觀點(diǎn)沒有改變。我一直認(rèn)為，人工智能將變得極其強(qiáng)大。我想德米斯和我都同意這一點(diǎn)。問題只在于確切的時(shí)間。因?yàn)樗鼧O其強(qiáng)大，它將完成所有這些奇妙的事情，就像我在《愛與恩典的機(jī)器》中談到的，比如幫助我們治愈癌癥，可能幫助我們根除熱帶疾病，幫助我們理解宇宙等。但同時(shí)，也存在巨大而嚴(yán)重的風(fēng)險(xiǎn)。我不是末日論者，我認(rèn)為我們可以應(yīng)對(duì)這些風(fēng)險(xiǎn)，但我們需要思考它們，需要解決它們。

我先寫了《愛與恩典的機(jī)器》。我想給出一個(gè)復(fù)雜的理由解釋為何先寫那篇，但其實(shí)只是因?yàn)閷懛e極方面的文章比寫消極方面的更容易、更有趣。所以，我終于在休假期間花時(shí)間寫了一篇關(guān)于風(fēng)險(xiǎn)的文章。我是一個(gè)樂觀的人，所以即使我在寫風(fēng)險(xiǎn)的時(shí)候，也是以一種“我們?nèi)绾慰朔@些風(fēng)險(xiǎn)？我們?nèi)绾沃贫ㄗ鲬?zhàn)計(jì)劃來對(duì)抗它們？”的角度來寫的。

我用的框架是電影版《超時(shí)空接觸》中的一個(gè)場景。他們發(fā)現(xiàn)了外星生命，一個(gè)國際小組正在面試，以選出人類代表去會(huì)見外星人。他們問其中一個(gè)候選人的一個(gè)問題是：如果你能問外星人一個(gè)問題，你會(huì)問什么？其中一個(gè)角色說：我會(huì)問，你們是如何做到的？你們?nèi)绾卧诩夹g(shù)青春期沒有毀滅自己？你們是如何度過的？自從我大約20年前看了那部電影，這個(gè)想法就深深印在我腦海里。這就是我使用的框架：我們正在敲響擁有這些不可思議能力的大門，基本上就是用沙子建造機(jī)器的能力。我認(rèn)為，從我們開始使用火的那一刻起，這就是不可避免的。但重點(diǎn)在于我們?nèi)绾螒?yīng)對(duì)它，風(fēng)險(xiǎn)并非不可避免。

因此，我認(rèn)為未來幾年，我們將面臨如何控制這些高度自主、比任何人類都更智能的系統(tǒng)。如何確保個(gè)人不會(huì)濫用它們？我擔(dān)心諸如生物恐怖主義之類的事情。如何確保國家不會(huì)濫用它？這就是為什么我一直如此關(guān)注相關(guān)政權(quán)的問題。

還有經(jīng)濟(jì)影響。我經(jīng)常談到勞動(dòng)力置換，以及可能發(fā)生的事情。這在許多情況下可能是最難處理的事情。所以，我正在思考如何應(yīng)對(duì)這些風(fēng)險(xiǎn)。對(duì)于每一個(gè)風(fēng)險(xiǎn)，都需要我們作為公司領(lǐng)導(dǎo)人各自去做一些事情，也需要我們共同努力去做一些事情。同時(shí)，還需要更廣泛的社會(huì)機(jī)構(gòu)，如政府，在應(yīng)對(duì)所有這些方面發(fā)揮作用。我只是感到一種緊迫感，每天都是如此。在AI之外的外部世界，有各種各樣瘋狂的事情正在發(fā)生，對(duì)吧？但我的觀點(diǎn)是，這一切發(fā)生得太快了，這是一場如此嚴(yán)重的危機(jī)，我們應(yīng)該將幾乎所有的精力都投入到思考如何度過這個(gè)時(shí)期上。

詹妮·貝多絲：我真不知道該更驚訝于哪一點(diǎn)，是你居然會(huì)休假，還是你休假時(shí)還在思考AI的風(fēng)險(xiǎn)？又或者你的文章框架竟是“我們能否在不毀滅自己的情況下度過這項(xiàng)技術(shù)的青春期”？我的腦子有點(diǎn)轉(zhuǎn)不過來了。

不過，你提到了幾個(gè)可以引導(dǎo)我們接下來討論的領(lǐng)域。我們先從工作說起，因?yàn)槟銓?duì)此一直直言不諱。你說過，未來一到五年內(nèi)，一半的初級(jí)白領(lǐng)工作可能會(huì)消失。但我想就此問問德米斯，因?yàn)榈侥壳盀橹?，我們?shí)際上還沒有看到勞動(dòng)力市場受到任何明顯的影響。是的，美國失業(yè)率略有上升，但我看過的所有經(jīng)濟(jì)學(xué)研究以及我們的報(bào)道都表明，這是疫情后的過度招聘所致，并非AI驅(qū)動(dòng)。如果說有什么影響的話，人們是在為構(gòu)建AI能力而招聘。你認(rèn)為這會(huì)像經(jīng)濟(jì)學(xué)家們一直論證的那樣，并非“勞動(dòng)力總量固定”的謬誤，實(shí)際上會(huì)創(chuàng)造出新的工作嗎？因?yàn)槠駷橹沟淖C據(jù)似乎指向這一點(diǎn)。

德米斯·哈薩比斯：我認(rèn)為短期內(nèi)會(huì)發(fā)生的情況是，當(dāng)一項(xiàng)突破性技術(shù)出現(xiàn)時(shí)，一些工作會(huì)受到?jīng)_擊，但我認(rèn)為新的、可能更有價(jià)值、更有意義的工作將會(huì)被創(chuàng)造出來。我認(rèn)為今年我們將開始看到對(duì)初級(jí)、入門級(jí)白領(lǐng)工作、實(shí)習(xí)等領(lǐng)域的初步影響。

我認(rèn)為有一些證據(jù)。我們自己也能感受到。也許我們?cè)谀欠矫娴恼衅笗?huì)放緩，但我認(rèn)為，目前幾乎對(duì)所有人免費(fèi)開放的這些驚人的創(chuàng)意工具，可以更多地彌補(bǔ)這一點(diǎn)。如果我現(xiàn)在對(duì)一群本科生講話，我會(huì)告訴他們要變得對(duì)這些工具異常熟練。我認(rèn)為，甚至我們這些構(gòu)建者都忙于構(gòu)建，很難有時(shí)間去真正探索即使是今天的模型和產(chǎn)品已經(jīng)具備的、更不用說明天的“能力過剩”了。這可能比傳統(tǒng)的實(shí)習(xí)更好，能讓你實(shí)現(xiàn)某種跨越，在專業(yè)領(lǐng)域變得有用。

所以，我認(rèn)為在接下來的五年里，我看到的可能就是這種情況。也許我們?cè)跁r(shí)間尺度上略有不同。但AGI到來之后會(huì)發(fā)生什么，那就是另一個(gè)問題了。那時(shí)，我們將真正進(jìn)入未知領(lǐng)域。

詹妮·貝多絲：達(dá)里奧，你是否認(rèn)為這會(huì)比你去年說“一半的白領(lǐng)工作”時(shí)所想的時(shí)間要長？

達(dá)里奧·阿莫代：不，我的看法基本相同。實(shí)際上我同意你和德米斯的觀點(diǎn)。在我發(fā)表那個(gè)評(píng)論的時(shí)候，勞動(dòng)力市場還沒有受到影響。我當(dāng)時(shí)不是說那時(shí)已經(jīng)產(chǎn)生了影響。

現(xiàn)在我想我們可能開始看到一點(diǎn)點(diǎn)苗頭，比如在編程領(lǐng)域。甚至在Anthropic內(nèi)部，我也能看到，我可以預(yù)見在未來，在初級(jí)層面，甚至在中級(jí)層面，我們實(shí)際上需要的人會(huì)越來越少，而不是越來越多。我們正在思考如何在Anthropic內(nèi)部以合理的方式處理這個(gè)問題。至于一到五年這個(gè)時(shí)間范圍，如果是六個(gè)月前，我會(huì)堅(jiān)持那個(gè)看法。

如果你把這和我之前說的聯(lián)系起來——即我們可能在一到兩年內(nèi)，或者稍長一點(diǎn)時(shí)間，擁有在各方面都比人類更優(yōu)秀的人工智能——那么這兩者似乎并不一致。

原因是存在滯后性和替代過程，我知道勞動(dòng)力市場是有適應(yīng)性的。就像過去80%的人從事農(nóng)業(yè)，農(nóng)業(yè)自動(dòng)化后，他們成了工廠工人，然后是知識(shí)工作者。所以，這里也存在一定程度的適應(yīng)性。我們應(yīng)該對(duì)勞動(dòng)力市場如何運(yùn)作有經(jīng)濟(jì)學(xué)的、復(fù)雜的理解。但我擔(dān)心的是，隨著指數(shù)級(jí)增長持續(xù)加速，我認(rèn)為這不會(huì)花太長時(shí)間，可能仍在一到五年之間，它將壓垮我們的適應(yīng)能力。我想我可能和德米斯說的是同一件事，只是排除了我們?cè)跁r(shí)間線上的一些分歧，我認(rèn)為這最終歸結(jié)于你多快能實(shí)現(xiàn)閉環(huán)。

詹妮·貝多絲：你們有多大信心認(rèn)為政府能認(rèn)識(shí)到這個(gè)問題的規(guī)模，并開始思考他們需要什么樣的政策應(yīng)對(duì)？

德米斯·哈薩比斯：我認(rèn)為政府在這方面所做的工作遠(yuǎn)遠(yuǎn)不夠。我常常感到驚訝，即使是在這樣的場合遇到經(jīng)濟(jì)學(xué)家，也沒有更多的專業(yè)經(jīng)濟(jì)學(xué)教授在思考將會(huì)發(fā)生什么——不僅僅是通向AGI的道路上，甚至包括如果我們把達(dá)里奧談到的所有技術(shù)問題都處理好之后會(huì)面臨的問題。工作置換是一個(gè)問題，我們都擔(dān)心其經(jīng)濟(jì)影響。但也許有辦法更公平地分配這種新的生產(chǎn)力、新的財(cái)富。我不知道我們是否有合適的制度來做到這一點(diǎn)，但這正是應(yīng)該發(fā)生的。

到那時(shí)，我們可能會(huì)進(jìn)入一個(gè)后稀缺世界。但即便如此，還有那些讓我夜不能寐的更宏大的問題，關(guān)系到意義、目的，我們很多人從工作中獲得的不僅僅是經(jīng)濟(jì)回報(bào)。這是一個(gè)問題。但奇怪的是，這可能比解決人類整體狀況和人性問題要容易一些。我同樣樂觀地認(rèn)為我們會(huì)找到解決辦法。我們今天做的很多事情，從極限運(yùn)動(dòng)到藝術(shù)，并不一定直接與經(jīng)濟(jì)收益相關(guān)。所以我想我們會(huì)找到意義，也許會(huì)有更復(fù)雜版本的活動(dòng)，再加上我認(rèn)為我們將探索更廣泛的世界。作為目標(biāo)，所有這些都將被考慮在內(nèi)。但我認(rèn)為，即使按照五到十年的時(shí)間線，離那一刻到來也沒有多少時(shí)間了，現(xiàn)在真的需要開始思考了。

詹妮·貝多絲：你認(rèn)為出現(xiàn)公眾對(duì)AI的強(qiáng)烈抵制，從而導(dǎo)致政府做出從你的角度來看可能是愚蠢行為的風(fēng)險(xiǎn)有多大？因?yàn)槲一叵肫?0世紀(jì)90年代的全球化時(shí)代，當(dāng)時(shí)確實(shí)有一些工作崗位流失，政府做得不夠，公眾的強(qiáng)烈抵制最終導(dǎo)致了我們現(xiàn)在所處的局面。你是否認(rèn)為存在一種風(fēng)險(xiǎn)，即在政治體中會(huì)出現(xiàn)對(duì)你們和你們公司所做之事日益增長的敵意？

德米斯·哈薩比斯：我認(rèn)為絕對(duì)存在風(fēng)險(xiǎn)。我認(rèn)為這種擔(dān)憂是合理的。人們對(duì)工作、生計(jì)等問題存在恐懼和擔(dān)憂。我認(rèn)為有幾件事在未來幾年可能會(huì)非常復(fù)雜，包括地緣政治等問題。

比如我們想要并且正努力通過AlphaFold和我們的科學(xué)工作、我們的衍生公司Isomorphic Labs去實(shí)現(xiàn)的目標(biāo)——解決所有疾病、治愈疾病、開發(fā)新能源。作為一個(gè)社會(huì)，顯然我們想要這些。但我認(rèn)為或許整個(gè)行業(yè)的活動(dòng)平衡性不夠偏向這類活動(dòng)，我認(rèn)為應(yīng)該有更多像AlphaFold這樣明確給世界帶來益處的例子。

我們需要更多像AlphaFold這樣的事物。我認(rèn)為，實(shí)際上，整個(gè)行業(yè)和我們所有領(lǐng)先的參與者都有責(zé)任更多地展示、證明這一點(diǎn)，而不僅僅是談?wù)?。但同時(shí)，它也會(huì)帶來這些意想不到的干擾。另一個(gè)問題是地緣政治競爭。顯然，有公司之間的競爭，但主要還是美國和中國之間的競爭?；蛟S有組織來推動(dòng)國際合作或理解會(huì)更好，例如就部署的最低安全標(biāo)準(zhǔn)達(dá)成一致，我認(rèn)為這實(shí)際上是很有必要的——這項(xiàng)技術(shù)將是跨國界的，它將影響每個(gè)人，影響全人類。

實(shí)際上，《超時(shí)空接觸》也是我最喜歡的電影之一。說起來有點(diǎn)巧，我沒想到你也喜歡。總之，我認(rèn)為這類事情需要解決。如果我們能做到，也許比我們當(dāng)前預(yù)測(cè)的、甚至比我的時(shí)間線稍慢一點(diǎn)的進(jìn)度，對(duì)社會(huì)來說可能是好事，這樣我們可以把事情做對(duì)，但這需要協(xié)調(diào)。

達(dá)里奧·阿莫代：你的時(shí)間表讓步了。

詹妮·貝多絲：好吧，達(dá)里奧，現(xiàn)在讓我們也來談?wù)勥@個(gè)，因?yàn)樽詮奈覀兩洗卧诎屠杞徽勔詠?，地緣政治環(huán)境如果說有什么變化的話，那就是更加復(fù)雜、瘋狂了，無論你想用什么詞來形容。

其次，美國現(xiàn)在對(duì)中國的態(tài)度非常不同。那是一種更無保留的、盡可能快的競爭態(tài)度，但仍然向中國出售芯片。另外，現(xiàn)在美國和歐洲之間的關(guān)系也變得非常奇怪。在現(xiàn)實(shí)世界中，地緣政治風(fēng)險(xiǎn)是否增加了？你認(rèn)為應(yīng)該為此做些什么？美國政府在做的似乎與你的建議相反。

達(dá)里奧·阿莫代：我們只是盡力在我們所處的環(huán)境中做到最好，不管這環(huán)境有多瘋狂。但至少我的政策建議沒有改變。不銷售芯片是我們能做的、確保我們有時(shí)間處理此事的最重要的事情之一。我之前說過，我更喜歡德米斯的時(shí)間線，我希望我們有五到十年的時(shí)間。可能他是對(duì)的，而我是錯(cuò)的。但假設(shè)我是對(duì)的，它可能在一到兩年內(nèi)實(shí)現(xiàn)，那我們?yōu)槭裁床荒芊怕降旅姿沟臅r(shí)間線呢？

實(shí)際上，我們不能這樣做的原因，正因?yàn)槲覀兊牡鼐壵螌?duì)手正在以相似的速度構(gòu)建同樣的技術(shù)。很難達(dá)成一個(gè)可執(zhí)行的協(xié)議，讓他們放慢速度，而我們也放慢速度。所以，如果我們只是不出售芯片，那么這就不是美國和中國之間的競爭問題，而是我和德米斯之間的競爭問題，我非常有信心我們能解決這個(gè)問題。

詹妮·貝多絲：你對(duì)政府的邏輯怎么看？據(jù)我理解，他們認(rèn)為我們需要銷售芯片，因?yàn)槲覀冃枰獙⒅袊壎ㄔ诿绹墓?yīng)鏈上。

達(dá)里奧·阿莫代：我認(rèn)為這不僅是時(shí)間尺度的問題，更是技術(shù)重要性的問題。如果這只是電信或其他什么技術(shù)，那么關(guān)于推廣美國技術(shù)棧、確保世界各地的數(shù)據(jù)中心使用英偉達(dá)芯片而不是華為芯片等所有說法，也許都成立。但有關(guān)AI芯片的決定不一樣……我認(rèn)為所有限制措施遠(yuǎn)不如禁售芯片有效。

詹妮·貝多絲：我們繼續(xù)往下推進(jìn)。末日論者擔(dān)心的另一個(gè)潛在風(fēng)險(xiǎn)是一種全能的、惡意的AI。我認(rèn)為你們兩位都對(duì)末日論者持一定的懷疑態(tài)度。但在過去的一年里，我們看到這些模型表現(xiàn)出欺騙、表里不一的能力。你們現(xiàn)在對(duì)這個(gè)風(fēng)險(xiǎn)的看法是否與一年前不同？模型的發(fā)展方式是否有讓我們應(yīng)該更加關(guān)注的地方？

達(dá)里奧·阿莫代：是的，自從Anthropic成立之初，我們就一直在思考這種風(fēng)險(xiǎn)。我們最初的研究是非常理論化的。我們開創(chuàng)了“機(jī)械可解釋性”的概念，即深入模型內(nèi)部，試圖理解它為什么做它所做的事，就像人類神經(jīng)科學(xué)家試圖理解大腦一樣，我和德米斯都有這個(gè)背景。隨著時(shí)間的推移，我們?cè)絹碓蕉嗟赜涗浟四Ｐ统霈F(xiàn)時(shí)的惡意行為，并正在努力通過機(jī)械可解釋性來解決它們。

所以，我一直很擔(dān)心這些風(fēng)險(xiǎn)。我和德米斯談過很多次。我想他也一直擔(dān)心這些風(fēng)險(xiǎn)。我肯定一直是，而且我猜德米斯也是，對(duì)末日論持懷疑態(tài)度——即我們注定要完蛋，我們無能為力，或者這是最可能的結(jié)果。我認(rèn)為這是一個(gè)風(fēng)險(xiǎn)，但如果我們共同努力，我們可以應(yīng)對(duì)。我們可以通過科學(xué)來學(xué)習(xí)如何妥善控制和引導(dǎo)我們正在構(gòu)建的這些創(chuàng)造物。但如果我們構(gòu)建得很糟糕，如果我們都全速競賽，快到?jīng)]有任何防護(hù)欄，那么我認(rèn)為確實(shí)有出問題的風(fēng)險(xiǎn)。

詹妮·貝多絲：德米斯，我給你一個(gè)機(jī)會(huì)，在一個(gè)更廣泛一點(diǎn)的背景下回答這個(gè)問題：在過去的一年里，你對(duì)這項(xiàng)技術(shù)在科學(xué)等所有你們談?wù)摵芏嗟念I(lǐng)域的上行潛力是更有信心了，還是對(duì)我們討論的風(fēng)險(xiǎn)更擔(dān)憂了？

德米斯·哈薩比斯：我研究AI已經(jīng)超過20年了。我整個(gè)職業(yè)生涯都投身于AI，正是因?yàn)樗纳闲袧摿?mdash;—解決終極科學(xué)工具、理解我們周圍宇宙的潛力。我從小就對(duì)這著迷。構(gòu)建AI應(yīng)該是實(shí)現(xiàn)這一目標(biāo)的終極工具，如果我們做得對(duì)的話。

關(guān)于風(fēng)險(xiǎn)，我們也從一開始就在思考，至少從DeepMind成立15年前就開始。我們預(yù)見到，如果你獲得了上行潛力，它就是一種雙重用途的技術(shù)。所以，它可能被壞人重新用于有害目的。因此，我們一直需要思考這個(gè)問題。

但我堅(jiān)信人類的聰明才智。問題在于是否有時(shí)間、專注度，以及所有最優(yōu)秀的人才共同合作來解決這些問題。我相信如果我們有這些條件，我們就能解決技術(shù)風(fēng)險(xiǎn)問題。但如果我們沒有，那么風(fēng)險(xiǎn)就會(huì)出現(xiàn)，因?yàn)槲覀儠?huì)變得分散，會(huì)有不同的項(xiàng)目，人們會(huì)互相競爭。那樣就很難確保我們產(chǎn)出的系統(tǒng)在技術(shù)上是安全的。但我覺得，如果給你時(shí)間，這是一個(gè)非常容易處理的問題。

詹妮·貝多絲：我想確保還有一個(gè)提問機(jī)會(huì)。先生們，請(qǐng)簡短回答，因?yàn)槲覀冎皇煞昼娏恕?/p>

提問者：謝謝。大家好，我是菲利普，Star Cloud的聯(lián)合創(chuàng)始人，我們?cè)谔战ㄔ鞌?shù)據(jù)中心。我想問一個(gè)略帶哲學(xué)色彩的問題。對(duì)我來說，對(duì)末日論最強(qiáng)有力的論據(jù)是費(fèi)米悖論，即我們?cè)阢y河系中看不到智慧生命。我想知道你們對(duì)此有何看法。

德米斯·哈薩比斯：關(guān)于這個(gè)問題，我思考過很多。有關(guān)費(fèi)米悖論的一個(gè)觀點(diǎn)是如果我們看不到外星人，是因?yàn)樗麄儽蛔约旱募夹g(shù)消滅了，那么我們應(yīng)該看到來自銀河系某處的、由AI建造的“紙夾”或其他結(jié)構(gòu)向我們涌來，但顯然我們沒有看到任何戴森球之類的結(jié)構(gòu)，無論是AI建造的還是自然的生物文明建造的。

所以對(duì)我來說，必須有不同的答案來解釋那個(gè)悖論。我自己對(duì)此有看法，但這超出了接下來一分鐘的討論范圍。我只是覺得，我的預(yù)測(cè)和感覺是，我們已經(jīng)越過了“大過濾器”。至于接下來會(huì)發(fā)生什么，我認(rèn)為這將由我們?nèi)祟愖约簛頃鴮憽?/p>

詹妮·貝多絲：這可以是一個(gè)很棒的討論，但超出了接下來的時(shí)間范圍。最后，每人再給出15秒的發(fā)言吧，當(dāng)明年我們?nèi)嗽俅我娒鏁r(shí)，到那時(shí)什么將會(huì)改變？

達(dá)里奧·阿莫代：我認(rèn)為最值得關(guān)注的是“AI系統(tǒng)構(gòu)建AI系統(tǒng)”這個(gè)問題。其進(jìn)展如何，將決定我們是還需要幾年才能到達(dá)AGI，還是我們將面臨一個(gè)必須應(yīng)對(duì)的，機(jī)遇與巨大危機(jī)并存的前景。

德米斯·哈薩比斯：我同意。所以我們正就此保持密切溝通。但除此之外，我認(rèn)為還有其他有趣的研究方向，比如世界模型、持續(xù)學(xué)習(xí)等。我認(rèn)為如果自我改進(jìn)本身不能完全實(shí)現(xiàn)目標(biāo)，那么我們需要這些其他方面取得突破。另外，我認(rèn)為機(jī)器人技術(shù)可能會(huì)迎來它的爆發(fā)時(shí)刻。

詹妮·貝多絲：但根據(jù)你剛才所說的，也許我們都應(yīng)該希望這確實(shí)需要更長一點(diǎn)時(shí)間，對(duì)所有人都如此。

德米斯·哈薩比斯：我傾向于那樣。我認(rèn)為這對(duì)世界會(huì)更好。

詹妮·貝多絲：你們可以做點(diǎn)什么來影響它，謝謝兩位。（作者｜胡珈萌，編輯｜李程程）

763人已贊賞 >

敬原創(chuàng)，有鈦度，得贊賞

贊賞支持

0

23

0

掃描下載App