今天，通用人工智能（AGI）領(lǐng)域又公布了一系列重磅消息，包括比爾·蓋茨披露 AI 用電問題，OpenAI推出新模型CriticGPT，全球首家AI生活實驗室在北京海淀落地等。

下面，鈦媒體AGI編輯簡單梳理了 AI 領(lǐng)域的重要消息。

比爾·蓋茨：我們不要過分擔(dān)心人工智能的用電問題

鈦媒體App 6月28日消息，今晨倫敦舉行的突破能源峰會(Breakthrough Energy Summit)上，微軟聯(lián)合創(chuàng)始人比爾·蓋茨(Bill Gates)為 AI 系統(tǒng)導(dǎo)致的能源使用快速增長進(jìn)行了辯護(hù)，認(rèn)為該技術(shù)最終將抵消其大量電力消耗。

比爾·蓋茨敦促環(huán)保人士和政府“不要過分”關(guān)注運(yùn)行新的生成式人工智能系統(tǒng)所需的大量電力，微軟等大型科技公司正競相投資數(shù)百億美元建設(shè)龐大的新數(shù)據(jù)中心。

蓋茨稱，數(shù)據(jù)中心將推動全球用電量增長2%至6%。“問題是，AI 會加速超過6%的減排嗎？答案是：當(dāng)然。”而他表示，科技公司在尋求新的電力來源時，將為清潔能源支付“綠色溢價”，即更高的價格，這有助于推動其開發(fā)和部署。

“科技公司愿意支付溢價，幫助提升綠色能源產(chǎn)能。”比爾·蓋茨表示。

然而，美國能源部4月份的一份報告稱，AI “有望在不久的將來成為美國數(shù)據(jù)中心相關(guān)負(fù)荷增長的最大驅(qū)動力”。

美國能源部表示，盡管亞馬遜和微軟等公司已與風(fēng)能和太陽能發(fā)電企業(yè)簽署了長期購電協(xié)議，但這些協(xié)議“通常無法使電力需求與當(dāng)?shù)刭Y源相匹配”。這意味著協(xié)議“不能保證所有與電力相關(guān)的溫室氣體排放都被抵消”。

因此，很顯然，比爾·蓋茨的看法與美國能源部相左。

實際上，今年5月，微軟承認(rèn)其溫室氣體排放量自2020年以來增加了近三分之一，這在很大程度上是由于數(shù)據(jù)中心的建設(shè)。

蓋茨于2020年離開微軟董事會，但仍是首席執(zhí)行官薩蒂亞•納德拉(Satya Nadella)的顧問，所謂的突破能源集團(tuán)，是由比爾·蓋茨創(chuàng)立，投資者包括杰夫·貝佐斯、孫正義和馬云。該集團(tuán)已經(jīng)投資了100多家開發(fā)可持續(xù)能源和其他技術(shù)以減少溫室氣體排放的公司。

目前，包括微軟、亞馬遜和谷歌在內(nèi)的大型科技集團(tuán)已提出計劃，斥資數(shù)百億美元在世界各國建設(shè)運(yùn)行 AI 系統(tǒng)所需的計算基礎(chǔ)設(shè)施。但是，電力供應(yīng)方面的限制已經(jīng)給尋求建立新技術(shù)的公司帶來了挑戰(zhàn)。

今年5月，美國電力研究所(Electric Power Research Institute)表示，到2030年，數(shù)據(jù)中心可能消耗至多9%的美國發(fā)電量，是目前用電量的兩倍多。

盡管比爾·蓋茨認(rèn)為，科技公司正在推動綠色能源的推廣，但他表示，他最大的擔(dān)憂之一是“獲得足夠的電力”，以滿足不斷增長的需求，同時還要清潔水泥和鋼鐵等龐大行業(yè)。

“我們轉(zhuǎn)型所需的綠色電力數(shù)量不會以我們需要的速度出現(xiàn)。”比爾·蓋茨稱，到2050年實現(xiàn)凈零排放的全球目標(biāo)很可能無法實現(xiàn)，他認(rèn)為“再過10年或15年可能更現(xiàn)實”。

讓GPT-4幫人類訓(xùn)練GPT-4，OpenAI推出新模型CriticGPT

美東時間6月27日周四，OpenAI公司宣布，其研究人員訓(xùn)練了一個基于 GPT-4 的模型，稱為 CriticGPT，用于捕捉ChatGPT 代碼輸出中的錯誤。

簡單來說就是，CriticGPT讓人能用 GPT-4 查找 GPT-4 的錯誤。它可以寫出使用者對ChatGPT響應(yīng)結(jié)果的批評評論，從而幫助人類訓(xùn)練者在RLHF期間發(fā)現(xiàn)錯誤。CriticGPT用于給代碼挑Bug時能找到75%以上，而相比之下人類只能找到不到25%。

OpenAI發(fā)現(xiàn)，如果通過CriticGPT獲得幫助審查 ChatGPT編寫的代碼，人類訓(xùn)練師的審查效果比沒有獲得幫助的人強(qiáng)60%。OpenAI稱，正著手將類似 CriticGPT 的模型集成到旗下 RLHF（基于人類反饋的強(qiáng)化學(xué)習(xí)）標(biāo)記管道中，為自己的訓(xùn)練師提供明確的AI幫助。

OpenAI稱，因為沒有更好的工具，所以人們目前難以評估高級的AI系統(tǒng)的表現(xiàn)。而CriticGPT意味著，OpenAI向能夠評估高級AI系統(tǒng)輸出的目標(biāo)邁進(jìn)了一步。

OpenAI舉了一個例子。如下圖所示，對ChatGPT提出一個用 Python 編寫指定函數(shù)的任務(wù)，對于ChatGPT根據(jù)要求提供的代碼，CriticGPT點(diǎn)評了其中一條指令，提議換成效果更好的。

另外，OpenAI還披露了CriticGPT的主要功能、工作原理、優(yōu)勢和局限性。

CriticGPT的主要功能

• 代碼審核：自動審查由其他AI模型生成的代碼，識別潛在的邏輯錯誤和安全漏洞。
• 錯誤識別：檢測代碼中的語法錯誤、運(yùn)行時錯誤以及可能的編程失誤。
• 安全漏洞分析：專門分析代碼，找出可能導(dǎo)致安全問題的漏洞，如路徑遍歷、注入攻擊等。
• 反饋生成：為開發(fā)人員提供具體的錯誤反饋和改進(jìn)建議，幫助他們理解并修復(fù)問題。
• 性能評估：評估AI生成的代碼在性能上是否達(dá)到預(yù)期標(biāo)準(zhǔn)。
• 輔助學(xué)習(xí)：通過提供錯誤示例和正確做法，輔助開發(fā)人員和AI訓(xùn)練師學(xué)習(xí)和提高。

CriticGPT的工作原理

• 錯誤注入：首先，通過一種稱為”篡改”的方法，人類評估員故意在AI生成的代碼中插入細(xì)微的錯誤，然后記錄下這些錯誤的詳細(xì)描述。這個過程類似于代碼審查中發(fā)現(xiàn)錯誤并記錄錯誤的方式。
• 訓(xùn)練數(shù)據(jù)生成：這些被篡改的代碼樣本和相應(yīng)的錯誤描述被用來訓(xùn)練CriticGPT，使其能夠識別和指出各種潛在問題。
• 評論生成：CriticGPT接收一個問題和相應(yīng)的回答作為輸入，然后生成一個評論，指出回答中的具體錯誤。評論的結(jié)構(gòu)通常包含多個部分，每個部分都針對原始回答中的特定引用進(jìn)行評論。
• 策略優(yōu)化：使用近端策略優(yōu)化（PPO）算法來優(yōu)化CriticGPT的行為策略，允許模型在保持策略更新幅度較小的同時，有效地學(xué)習(xí)如何改進(jìn)其輸出。
• 推理采樣策略：引入了一種名為”強(qiáng)制采樣波束搜索”（FSBS）的技術(shù)，通過在生成評論時強(qiáng)制模型產(chǎn)生特定的高亮部分，然后根據(jù)獎勵模型的評分選擇最佳評論。這種方法允許模型在生成更長、更全面的評論時，減少虛假問題的產(chǎn)生。
• 性能評估：CriticGPT的輸出會被評估，以確定其在檢測代碼錯誤方面的表現(xiàn)，以及與人類評估員相比的優(yōu)勢。

CriticGPT的優(yōu)點(diǎn)

• 提高準(zhǔn)確性：CriticGPT通過增強(qiáng)RLHF，顯著提升了AI模型輸出的準(zhǔn)確性，尤其在代碼審查方面，能找出許多人類難以發(fā)現(xiàn)的問題。
• 減少錯誤：它能夠幫助減少在代碼中的錯誤，特別是那些由于模型復(fù)雜度增加而變得更加隱蔽的錯誤。
• 提升效率：CriticGPT可以自動化地審查代碼，減少了人工審查所需的時間和工作量。
• 增強(qiáng)安全性：通過識別代碼中的安全漏洞，CriticGPT有助于提升軟件產(chǎn)品的安全性。
• 輔助人類評估員：CriticGPT可以作為人類評估員的輔助工具，提高他們審查代碼的效率和質(zhì)量。
• 自我學(xué)習(xí)和優(yōu)化：CriticGPT使用PPO算法進(jìn)行策略優(yōu)化，能夠不斷學(xué)習(xí)和改進(jìn)其錯誤檢測的能力。
• 減少幻覺：CriticGPT有助于減少在評估過程中產(chǎn)生的幻覺或虛假錯誤，提高了評估的可靠性。
• 全面性：通過FSBS技術(shù)，CriticGPT能夠生成更全面、更詳細(xì)的評論，同時避免了無關(guān)緊要的問題或錯誤。
• 提升訓(xùn)練數(shù)據(jù)質(zhì)量：CriticGPT的使用有助于生成更高質(zhì)量的訓(xùn)練數(shù)據(jù)，進(jìn)一步優(yōu)化AI模型。
• 適應(yīng)性強(qiáng)：CriticGPT的設(shè)計使其能夠適應(yīng)不同的AI輸出和任務(wù)，具有較好的通用性。

CriticGPT的局限

• 復(fù)雜性限制：CriticGPT在處理極復(fù)雜的任務(wù)時可能會面臨挑戰(zhàn)，尤其是當(dāng)錯誤分布在代碼的多個部分時。
• 短答案訓(xùn)練：該模型主要針對較短的代碼片段進(jìn)行訓(xùn)練，可能在處理更長、更復(fù)雜的任務(wù)時效果不佳。
• 幻覺問題：盡管CriticGPT減少了幻覺錯誤的產(chǎn)生，但仍然存在可能輸出不正確內(nèi)容誤導(dǎo)人類的風(fēng)險。
• 單一錯誤焦點(diǎn)：當(dāng)前CriticGPT主要關(guān)注單點(diǎn)錯誤，對于跨多個代碼段的錯誤可能識別不夠。
• 應(yīng)用范圍：CriticGPT主要針對代碼審查，對于其他類型的AI輸出（如文本、圖像等）可能需要進(jìn)一步的調(diào)整和優(yōu)化。
• 依賴訓(xùn)練數(shù)據(jù)：CriticGPT的性能在很大程度上依賴于訓(xùn)練數(shù)據(jù)的質(zhì)量和多樣性，如果訓(xùn)練數(shù)據(jù)存在偏差，可能影響模型的準(zhǔn)確性。

谷歌公布270億參數(shù)的最強(qiáng)開源模型Gemma 2，吊打Llama 3

北京時間6月28日凌晨，谷歌在I/O Connect大會上公布其新一代最強(qiáng)開源模型——Gemma 2。

Gemma 2有90億（9B）和270億（27B）兩種參數(shù)規(guī)模版本。

其中，27B模型訓(xùn)練了13T tokens，9B是8T tokens，都擁有8192上下文窗口，可在Google AI Studio中使用。26億參數(shù)（2.6B）模型將很快發(fā)布，小到可以在手機(jī)本地運(yùn)行。

在盲測大語言模型競技場LMSYS Chatbot Arena中，270億參數(shù)的Gemma 2指令微調(diào)模型擊敗了擁有700億參數(shù)的Llama 3，并超過Nemotron 4 340B、Claude 3 Sonnet、Command R+、Qwen 72B等模型，在所有開源權(quán)重的模型中位列第一；9B模型則是當(dāng)前15B以下參數(shù)的模型中成績最好的。

谷歌透露，早前推出輕量級先進(jìn)開源模型Gemma 2B、7B版本下載量超過1000萬次。而Gemma 2涵蓋從20億到270億參數(shù)，比第一代性能高出2倍以上，推理效率也更高，可以在單個英偉達(dá)A100/H100 Tensor Core GPU或TPU主機(jī)上以全精度高效運(yùn)行推理，大大降低了部署成本，并且顯著改進(jìn)安全性。這是該系列模型邁出的一大步。

智譜稱國產(chǎn)大模型GLM-4-9B性能超過了谷歌Gemma

針對今晨谷歌發(fā)布的Gemma-2開源模型，6月28日中午，國內(nèi)大模型獨(dú)角獸智譜 AI 向鈦媒體App展示一份數(shù)據(jù)稱，提供的各項評測對比中，近1個月前發(fā)布開源的國產(chǎn)大模型 GLM-4-9B 似乎更具有優(yōu)勢。

據(jù)悉，GLM-4-9B 是智譜 AI 推出的最新一代預(yù)訓(xùn)練模型 GLM-4 系列中的開源版本。在語義、數(shù)學(xué)、推理、代碼和知識等多方面的數(shù)據(jù)集測評中，GLM-4-9B 及其人類偏好對齊的版本 GLM-4-9B-Chat 均表現(xiàn)出較高的性能。GLM-4-9B 升級的前身是 2023 年智譜開源的 3 代的 6B 模型，Hugging Face 上獲得了超過1700 萬次的下載。

斯坦福 AI 文檔搜索公司Hebbia完成近1億美元B輪融資，估值達(dá)8億美金

據(jù)TechCrunch報道，三位知情人士透露， 研發(fā)生成式 AI 搜索大型文檔工具的初創(chuàng)公司Hebbia近日已完成由Andreessen Horowitz（a16z）領(lǐng)投的近 1 億美元 B 輪融資。

報道稱，本輪融資對該公司的估值在 7 億至 8 億美元之間。據(jù)Hebbia 在 5 月份提交給美國證券交易委員會的文件中披露，該公司當(dāng)時已籌集到 9300 萬美元，而預(yù)期的融資額為 1 億美元，但我們從兩位知情人士那里了解到，本輪融資接近 1 億美元，并且已經(jīng)結(jié)束。

Hebbia 和 A16z沒有回應(yīng)置評請求。

據(jù)悉，Hebbia 成立于 2020 年，創(chuàng)始人是George Sivulka，他在斯坦福大學(xué)攻讀電氣工程博士學(xué)位期間創(chuàng)辦了這家公司。

Sivulka 的靈感來自他在金融行業(yè)工作的朋友告訴他，漫長的工作周中有一部分時間是花在搜索SEC文件和其他密集文件中的信息上。Sivulka 認(rèn)為。AI可以幫助他們節(jié)省辦公室時間，讓他們有更多時間休息和睡眠。

該公司表示，Hebbia 的 AI 可以同時查看數(shù)十億份文件，包括 PDF、PowerPoint、電子表格和成績單，并返回具體答案。

這家初創(chuàng)公司主要向金融服務(wù)公司銷售產(chǎn)品，包括對沖基金和投資銀行。但其產(chǎn)品也可供律師事務(wù)所和其他專業(yè)領(lǐng)域使用。

最新一輪融資使 Hebbia 的總資本超過 1.2 億美元。該公司于 2022 年 9 月完成了3000 萬美元的 A 輪融資，由 Index Ventures 領(lǐng)投，Radical Ventures 參投。

全球首家AI生活實驗室在北京海淀落地，將向公眾免費(fèi)開放

6月28日消息，鈦媒體App獲悉，全球首家人工智能（AI）生活實驗室將于6月30日-7月1日在海淀舉辦開幕儀式，將向公眾免費(fèi)開放，供廣大市民前來體驗各式各樣的AI產(chǎn)品。

據(jù)悉，該生活實驗室由海國投（北京市海淀區(qū)國有資產(chǎn)投資經(jīng)營有限公司）旗下北京海新睿人工智能科技有限公司打造，旨在推動AI技術(shù)與民生融合，展示當(dāng)下前沿的AI產(chǎn)品，供社區(qū)居民、創(chuàng)業(yè)團(tuán)隊、政府人員、投資機(jī)構(gòu)、前沿產(chǎn)業(yè)從業(yè)者等多元背景的來訪者可以在其中交流、碰撞、合作，共同推動AI技術(shù)的發(fā)展和應(yīng)用落地。

海新?？偨?jīng)理趙元章早前表示，盡管大模型技術(shù)不斷涌現(xiàn)，但如何將這些技術(shù)轉(zhuǎn)化為實際生產(chǎn)力，改善人民生活，并為企業(yè)帶來商業(yè)價值，仍是一個亟待解決的問題。海新睿的解決方案即是為 AI 企業(yè)提供“產(chǎn)品經(jīng)理”角色，通過“生活實驗室”搭建連接B端與C端的橋梁，提供使用場景和豐富真實的用戶數(shù)據(jù)，反哺產(chǎn)品的開發(fā)與打磨，使其更符合用戶和市場的需要，有更大的幾率成為爆款，從而加速技術(shù)應(yīng)用落地。

據(jù)了解，生活實驗室基于“社會設(shè)計”的理念，為了探索AI技術(shù)與生活融合的可能，模擬臥室、游樂場、會客廳、社區(qū)等真實場景，設(shè)計了不同的計劃。諸如“橙色溫度計劃”被打造成孩子臥室的模樣，希望守護(hù)孩子們的情緒健康，及時排查干預(yù)心理問題；“超越百歲計劃”是一個老人的小公寓，“第二人生計劃”則是一個微型的“社區(qū)”，分別探索如何減少老人病痛、培養(yǎng)老人興趣愛好，幫助老人延緩衰老、緩解晚年的孤獨(dú)感，豐富生活品質(zhì)。

海新睿方面透露，未來三年，海新睿計劃培育孵化10-20家獨(dú)角獸級AI垂直應(yīng)用企業(yè)，專注于老齡和青少年領(lǐng)域，形成具有全球影響力的產(chǎn)品體系，聯(lián)合上下游企業(yè)一同培育 AI 產(chǎn)業(yè)生態(tài)，推動AI技術(shù)惠及更多人群。

字節(jié)跳動發(fā)布豆包MarsCo智能開發(fā)工具

6月27日下午，字節(jié)跳動發(fā)布了基于豆包大模型打造的智能開發(fā)工具豆包MarsCode，面向國內(nèi)開發(fā)者免費(fèi)開放。豆包MarsCode包括編程助手和Cloud IDE兩種產(chǎn)品形態(tài)，可在需求開發(fā)、修復(fù)Bug、開源項目學(xué)習(xí)三個實際場景中實現(xiàn)項目問答、代碼補(bǔ)全、單測生成、Bug Fix等功能，幫助開發(fā)者提升效率。

目前，MarsCode 編程助手支持 Python、Go、JS、TS、C++、Java、Kotlin、C、Rust 等超過 100 種主流編程語言，兼容 VSCode 和 JetBrains 代碼編輯器，支持代碼補(bǔ)全、單測生成、代碼解釋、代碼推薦Pro（Beta）、生成注釋、錯誤修復(fù)、AI 問答等功能。

（本文首發(fā)于鈦媒體App，作者｜林志佳，編輯｜胡潤峰）

763人已贊賞 >

敬原創(chuàng)，有鈦度，得贊賞

贊賞支持

0

0

0

掃描下載App