選擇語言 · Choose your language
拖曳或縮放海圖,點一座島就能上岸
其他書籍(本書為作者第一本著作)
🔒 抵達羅弗敦群島拜訪白尾海鵰後,就能看完整內容
前往羅弗敦群島郝珂靈追溯 OpenAI 如何從一個懷抱理想的非營利組織,變成估值上千億美元的企業。它成立時承諾要確保通用人工智慧(AGI)造福全人類,但這個非營利結構很快就撐不下去。
2018 年馬斯克離開後,資金出現缺口,經營團隊在原本的非營利組織底下,另外成立營利子公司 OpenAI LP。2019 年微軟投資十億美元,取得獨家授權和優先使用技術的權利,作者認為那是再也回不去的轉捩點:公司的重心從科學研究,轉向商業利益。
書中描寫山姆・奧特曼 (Sam Altman) 的崛起。他出身聖路易一個富裕家庭,八歲學寫程式,十九歲創辦 Loopt。作者寫到,他在職涯中多次被同事指控有操弄他人的行為,卻總能在挫折後拿到更大的權力。
兩位前輩深深影響他:Y Combinator 創辦人保羅・葛蘭 (Paul Graham) 讓他相信「成長能解決所有問題」;投資人彼得・提爾 (Peter Thiel) 則教他壟斷的策略。這種「不成長就是慢慢死去」的想法,推動了 OpenAI 不斷擴張、贏者全拿的作風。
OpenAI 首席科學家伊爾亞・蘇茨克維 (Ilya Sutskever) 相信,運算規模越大,智慧就越高。Google 在 2017 年發明的 Transformer 架構,成了實踐這個信念的武器。
書中提到,OpenAI 觀察到訓練 AI 所用的運算量大約每 3.4 個月翻倍,六年間成長了三千萬倍,公司決定跟上這個指數速度,買進成千上萬張昂貴的 GPU。這個預言後來變成自我實現:Meta、Google 和中國企業都加入用運算力硬拚的競賽。每訓練一個模型就要花上數千萬美元的做法,從此成了整個產業的教條。
作者刻意用「帝國」這個詞,指出 AI 巨頭具備帝國的四個特徵:
掠奪資料:未經授權拿數百萬本書訓練模型、違反服務條款轉錄 YouTube 影片、把整個網路刮下來,內容品質也缺乏把關。
剝削勞動:OpenAI 透過肯亞外包公司 Sama,以每小時約 1.46 到 3.74 美元的工資,請工人審查大量極端暴力與性虐待的文字,有工人因此心理健康嚴重受損。
掠奪資源:資料中心需要大量電力與淡水,書中提到在愛荷華乾旱期間訓練 GPT-4 用掉大量用水,智利的社區團體也曾起身對抗 Google 的資料中心。
權力集中:好處集中在矽谷菁英手上,環境與勞動的代價卻落在弱勢社群身上。
作者也走訪委內瑞拉。經濟崩潰後,當地大量受過教育、能上網的人只好接資料標註的工作。一位工程系畢業的女性,每件任務只賺幾分錢,晚上抱著電腦睡覺,就為了搶半夜釋出的工作,常常要好幾週才湊滿十美元的提領門檻。
書中描述的模式是:平台鎖定陷入危機、教育程度高又能上網的國家,先開出不錯的報酬,站穩後再大幅砍價,例如 Scale AI 讓委內瑞拉工人的週收入從四十美元降到不到六美元,接著再轉往下一個危機地區。
2023 年 11 月,ChatGPT 爆紅之後,OpenAI 董事會突然透過視訊會議開除奧特曼,理由是他「沒有始終保持坦誠」。作者寫到,董事會手上有多位高階主管提供的資料,描述他的操弄行為。
這場衝突反映公司內部的路線之爭:「安全派」受到有效利他主義影響,主張放慢腳步以防範重大風險;「新創派」則想加速商業化。但五天後,在員工集體反彈、微軟威脅抽走運算資源的壓力下,奧特曼回鍋。作者認為這說明了真正的權力在哪裡:在資金依賴面前,原則讓了路。
書中指出,OpenAI 的名字裡有「開放」,早年也把研究成果全部公開;但轉為「有上限的營利」結構、拿到微軟更大筆的投資後,它逐漸變得不透明,作者認為最後只剩對微軟分享。書中也提到,GPT-4 的規模大約是第一代 GPT 的一萬五千倍,背後需要龐大的運算、環境與人力資源。
作者也探討影響 OpenAI 的各種思潮,包括理性主義、有效利他主義與「長期主義」。她認為,這些在灣區論壇裡成形的信念,常常用一個遙遠的末日來合理化當下的權力集中。
她還觀察到奧特曼口中的「威脅」一直在變:一開始是 Google,後來變成中國和威權政府。作者認為,這些說法都在支撐同一個結論:只有我們值得信任,所以權力應該交給我們。
在書末,作者也整理了各地出現的抵抗與制衡,例如開源模型、勞工組織、歐盟對透明度的要求、藝術家的訴訟,以及吹哨者的揭露。她認為,靠公共資金支持的研究,也能成為投資人主導的 AI 開發之外的另一股力量。
書的結尾,作者介紹紐西蘭毛利人的媒體組織 Te Hiku Media。他們開發毛利語語音辨識時,每一步都取得社群的知情同意,只用約三百小時自願捐出的錄音和兩張 GPU,就做到 86% 的準確度。這證明好的 AI 不一定需要大規模掠奪。
作者引用史丹佛研究者的提問:一項 AI 到底是在集中權力,還是在分散權力?她主張資助獨立研究、要求企業透明、加強勞動保護、訓練資料必須取得同意,並讓更多人了解 AI 的運作方式,不再把它神祕化。
留下你的看法吧!有機會認識跟你想法相同的航海者喔!
書海有 16 座真實的島嶼,每座島代表一個主題。島上的每個建築,都是一本書。
出航之前,我們要幫你登記船籍