OpenAI前董事 Helen Toner（圖片來源：演講視頻截圖）
鈦媒體App 5月29日消息，今晨播出的《TED AI 秀》播客節(jié)目中，OpenAI前董事會成員海倫·托納（Helen Toner）表示，董事會直到后來才知道該公司將于 2022 年推出聊天機器人 ChatGPT——而且是在Twitter（現(xiàn)名為X）平臺上才知道的。
“當ChatGPT于2022年11月推出時，董事會并沒有提前得到通知，”托納表示，“我們在推特上了解到ChatGPT，真的大開眼界。”
同時，托納還在這次40分鐘對話中詳盡講述了促使她和其他董事會成員在2023年11月一起宣布解雇OpenAI CEO Sam Altman（奧爾特曼）的事件。
她表示，奧爾特曼沒有透露他與 OpenAI 創(chuàng)業(yè)基金的關系，她還批評了奧爾特曼在安全方面的領導能力。
“在很多場合，他向我們提供了有關公司已實施的正式安全流程的不準確信息。這意味著董事會基本上不可能知道這些安全流程的運行情況或可能需要進行哪些更改。”托納稱，經(jīng)歷了多年這樣的事情后，“我們四個人都得出結論，我們根本無法相信奧爾特曼告訴我們的事情。”
托納強調，OpenAI不是一家普通的公司。董事會是一個非盈利性的董事會，其設立的明確目的是確保公司的公益使命是第一位的，而不是利潤、投資者利益和其他事情。但多年來，奧爾特曼通過隱瞞信息，歪曲公司發(fā)生的事情，在某些情況下直接對董事會撒謊，讓董事會很難真正做好這項工作。
據(jù)悉，托尼是一位 AI 安全領域的研究員，擁有喬治城大學（Georgetown University）安全研究碩士學位，以及墨爾本大學化學工程學士學位。她是喬治城大學安全與新興技術中心的戰(zhàn)略和基礎研究資助主任，曾在Open Philanthropy擔任高級研究分析師，還曾加入過OpenAI董事會等。
2023年11月，奧爾特曼突然宣布被OpenAI董事會罷免，之后的幾天里，員工們威脅要辭職，微軟、紅杉資本等投資機構鼎力支持奧爾特曼，因此，最后奧爾特曼恢復了職務，托納和其他四位董事也離開了董事會，只有Quora首席執(zhí)行官Adam D'Angelo留下了。
早前，托納和另一位前董事塔莎·麥考利（Tasha McCauley）曾在《經(jīng)濟學人》文章中表示，OpenAI 沒有能力進行自我監(jiān)管，政府應該進行干預，以確保強大的 AI 技術能夠安全地發(fā)展。
托尼表示，11月發(fā)生的事情中起作用的方式很簡單，他與這篇文章的實質內容無關。但問題是，文章發(fā)表后，奧爾特曼開始對其他董事會成員撒謊，試圖把我趕出董事會。
“所以這是另一個例子，真的破壞了我們信任他的能力，實際上只發(fā)生在去年10月底，當時我們已經(jīng)非常認真地討論是否需要解雇他。”托尼稱。
托尼指出，對于任何個案，奧爾特曼總能想出一些聽起來無傷大雅的解釋，說明為什么這不是什么大不了的事，或者被誤解了。但最終的結果是，經(jīng)過多年的這種事情，我們四個解雇他的人都得出結論，我們無法相信奧爾特曼告訴我們的事情。這是一個完全不可行的地方，作為一個董事會，尤其是在“船上”，這應該是對公司提供獨立的監(jiān)督，而不僅僅是幫助CEO籌集更多資金，不相信CEO的話，他是你與公司的主要渠道。你關于公司的主要信息來源是完全，完全不可能的。這就是2023年秋天事態(tài)發(fā)展的背景。我們一直在董事會層面盡最大努力建立更好的結構、流程等，試圖改善我們在董事會層面一直存在的這些問題。
“在去年10月的大部分時間里，我們與這些高管進行了一系列對話，他們兩人突然開始向我們講述他們自己與奧爾特曼的經(jīng)歷，他們以前不愿意分享這些經(jīng)歷，但他們告訴我們，在有毒的氣氛中，他們不能信任他。他在創(chuàng)造。他們使用了‘心理虐待’這個詞，告訴我們他們認為他不是領導公司的合適人選，告訴我們他們不相信他能夠或將會改變，沒有必要給他反饋，沒有必要試圖解決這些問題。
從那以后，他們試圖盡量減少他們告訴我們的事情，但這些不像是隨意的談話。他們真的很認真，他們實際上給我們發(fā)送了一些屏幕截圖和文檔，他們告訴我們關于他的一些情況，為什么，操縱和不同的情況。這是一件大事。這太多了。在幾周的時間里，我們非常深入地討論了這件事。最終得出的結論是，對于一個組織來說，最好的事情是讓他們睜開眼睛，讓他們睜開眼睛，就是讓一個不同的首席執(zhí)行官上任，一旦我們得出這個結論，我們所有人都很清楚，一旦奧爾特曼有任何暗示，我們可能會做一些對他不利的事情，他會使出渾身解數(shù)來破壞董事會，甚至阻止我們解雇他。
所以我們知道我們非常小心，非常慎重地告訴了誰，除了她的法律團隊之外，基本上沒有人事先告訴我們。這就是把我們在11月17日把他解雇的原因。”托尼稱。
談到為何最后奧爾特曼會回到CEO位置上，托尼認為，這背后很多都是報道失誤以及員工需要回購股權變現(xiàn)導致的。
托尼稱，“這顯然是‘房間里的大象’。不幸的是，我認為在這方面有很多報道失誤。我認為有三件大事有助于理解這里發(fā)生的事情。首先，公司內部很早就出現(xiàn)了這種情況，你有兩種選擇。奧爾特曼立即回來，不負任何責任，他選擇了全新的董事會，否則公司將被摧毀。這并不是唯一的兩個選擇，我們最終得到的結果也不是這兩個選擇。
我知道為什么不想讓公司被毀掉。讓很多人排隊，不管是因為他們，在某些情況下，即將從即將到來的收購要約中賺到很多錢?；蛘邇H僅是因為他們熱愛自己的球隊，不想丟掉工作。他們關心他們所做的工作。很多人不希望公司分崩離析。包括我們。我認為第二件事很重要，那就是人們有多害怕反對奧爾特曼。他們再次經(jīng)歷了他對人民的攻擊，對他們過去的批評進行報復。他們真的很害怕會發(fā)生什么事。所以當一些員工開始說，等等，我不想讓公司分崩離析，就像，讓我們回來吧，奧爾特曼。對于那些有過可怕經(jīng)歷的人來說，很難對少數(shù)人說，如果奧爾特曼最終繼續(xù)掌權，你知道，這會讓他們的生活變得悲慘。
我想我要說的最后一件事是，這實際上對薩姆來說并不是一個新問題。如果你看看去年11月以來的一些報道，就會發(fā)現(xiàn)他實際上是從Y Combinator的前一份工作中被解雇的，當時這份工作被掩蓋了。他之前的工作，也是他在硅谷唯一的另一份工作，他的創(chuàng)業(yè)循環(huán)。顯然，管理團隊兩次去了那里的董事會，要求董事會以他們所謂的欺騙和混亂行為為由解雇他。如果你仔細看看他的記錄，你會發(fā)現(xiàn)他并沒有太多的參考資料。這并不是董事會人物特有的問題，因為他很想把它描繪成那樣。”
托尼隨后還表示，AI 技術的監(jiān)管越來越復雜，這基本上仍是一項正在進行的工作。
“我認為，我們目前在 AI 方面仍面臨的很多挑戰(zhàn)，都與技術能做什么，以及5年后它能做什么的不確定性有關。但同時，我認為在過去的一兩年里，有很多人關注資金和政府在這方面建立更好的能力。我認為這真的很有成效。”托尼稱。
托尼強調，她對于人類使用 AI 技術的建議是，不要被技術嚇倒，也不要被技術專家嚇倒。就像這真的是一項人類不知道自己在做什么的技術。所以，如果你對它感興趣，如果你想出有趣的方法來使用它，那就使用它們，如果你擔心它，那就放心去擔心。
“就像我認為最重要的事情，是你有權自己去做你想用技術做的事情。沒有一個監(jiān)管機構，沒有一個CEO 能夠完全了解它影響世界各地數(shù)以百萬計的人的所有不同方式。所以相信你自己的經(jīng)驗，自己去探索，看看你的想法是什么。”托尼在對話結尾表示。
OpenAI 并未立即發(fā)表評論。
OpenAI 現(xiàn)任董事會主席Bret Taylor在向 TED 播客提供的一份聲明中表示：“我們對 Toner 女士不斷重提這些問題感到失望。”他還表示，對奧爾特曼解雇事件的獨立審查“得出結論，董事會先前的決定并非基于對產(chǎn)品安全性、開發(fā)速度、OpenAI 財務狀況或其對投資者、客戶或業(yè)務合作伙伴的聲明的擔憂。”他強調，“超過 95% 的員工”要求恢復奧爾特曼的職務，并且公司仍專注于“確保 AGI 造福全人類的使命”。
值得一提的是，就在5月29日凌晨，OpenAI的競爭對手Anthropic宣布，聘請前OpenAI安全對齊主管Jan Leike 領導新的“超級對齊”團隊，此前Jan Leike一直批評OpenAI對于 AI 的安全防范問題。
（本文首發(fā)于鈦媒體App，作者｜林志佳，編輯｜胡潤峰）
快報
根據(jù)《網(wǎng)絡安全法》實名制要求，請綁定手機號后發(fā)表評論