選擇語言 · Choose your language
拖曳或缩放海图,点一座岛就能上岸
其他书籍(本书为作者第一本著作)
🔒 抵达罗弗敦群岛拜访白尾海雕后,就能看完整内容
前往罗弗敦群岛郝珂灵追溯 OpenAI 如何从一个怀抱理想的非营利组织,变成估值上千亿美元的企业。它成立时承诺要确保通用人工智慧(AGI)造福全人类,但这个非营利结构很快就撑不下去。
2018 年马斯克离开后,资金出现缺口,经营团队在原本的非营利组织底下,另外成立营利子公司 OpenAI LP。2019 年微软投资十亿美元,取得独家授权和优先使用技术的权利,作者认为那是再也回不去的转捩点:公司的重心从科学研究,转向商业利益。
书中描写山姆・奥特曼 (Sam Altman) 的崛起。他出身圣路易一个富裕家庭,八岁学写程式,十九岁创办 Loopt。作者写到,他在职涯中多次被同事指控有操弄他人的行为,却总能在挫折后拿到更大的权力。
两位前辈深深影响他:Y Combinator 创办人保罗・葛兰 (Paul Graham) 让他相信「成长能解决所有问题」;投资人彼得・提尔 (Peter Thiel) 则教他垄断的策略。这种「不成长就是慢慢死去」的想法,推动了 OpenAI 不断扩张、赢者全拿的作风。
OpenAI 首席科学家伊尔亚・苏茨克维 (Ilya Sutskever) 相信,运算规模越大,智慧就越高。Google 在 2017 年发明的 Transformer 架构,成了实践这个信念的武器。
书中提到,OpenAI 观察到训练 AI 所用的运算量大约每 3.4 个月翻倍,六年间成长了三千万倍,公司决定跟上这个指数速度,买进成千上万张昂贵的 GPU。这个预言后来变成自我实现:Meta、Google 和中国企业都加入用运算力硬拚的竞赛。每训练一个模型就要花上数千万美元的做法,从此成了整个产业的教条。
作者刻意用「帝国」这个词,指出 AI 巨头具备帝国的四个特征:
掠夺资料:未经授权拿数百万本书训练模型、违反服务条款转录 YouTube 影片、把整个网路刮下来,内容品质也缺乏把关。
剥削劳动:OpenAI 透过肯亚外包公司 Sama,以每小时约 1.46 到 3.74 美元的工资,请工人审查大量极端暴力与性虐待的文字,有工人因此心理健康严重受损。
掠夺资源:资料中心需要大量电力与淡水,书中提到在爱荷华干旱期间训练 GPT-4 用掉大量用水,智利的社区团体也曾起身对抗 Google 的资料中心。
权力集中:好处集中在矽谷菁英手上,环境与劳动的代价却落在弱势社群身上。
作者也走访委内瑞拉。经济崩溃后,当地大量受过教育、能上网的人只好接资料标注的工作。一位工程系毕业的女性,每件任务只赚几分钱,晚上抱著电脑睡觉,就为了抢半夜释出的工作,常常要好几周才凑满十美元的提领门槛。
书中描述的模式是:平台锁定陷入危机、教育程度高又能上网的国家,先开出不错的报酬,站稳后再大幅砍价,例如 Scale AI 让委内瑞拉工人的周收入从四十美元降到不到六美元,接著再转往下一个危机地区。
2023 年 11 月,ChatGPT 爆红之后,OpenAI 董事会突然透过视讯会议开除奥特曼,理由是他「没有始终保持坦诚」。作者写到,董事会手上有多位高阶主管提供的资料,描述他的操弄行为。
这场冲突反映公司内部的路线之争:「安全派」受到有效利他主义影响,主张放慢脚步以防范重大风险;「新创派」则想加速商业化。但五天后,在员工集体反弹、微软威胁抽走运算资源的压力下,奥特曼回锅。作者认为这说明了真正的权力在哪里:在资金依赖面前,原则让了路。
书中指出,OpenAI 的名字里有「开放」,早年也把研究成果全部公开;但转为「有上限的营利」结构、拿到微软更大笔的投资后,它逐渐变得不透明,作者认为最后只剩对微软分享。书中也提到,GPT-4 的规模大约是第一代 GPT 的一万五千倍,背后需要庞大的运算、环境与人力资源。
作者也探讨影响 OpenAI 的各种思潮,包括理性主义、有效利他主义与「长期主义」。她认为,这些在湾区论坛里成形的信念,常常用一个遥远的末日来合理化当下的权力集中。
她还观察到奥特曼口中的「威胁」一直在变:一开始是 Google,后来变成中国和威权政府。作者认为,这些说法都在支撑同一个结论:只有我们值得信任,所以权力应该交给我们。
在书末,作者也整理了各地出现的抵抗与制衡,例如开源模型、劳工组织、欧盟对透明度的要求、艺术家的诉讼,以及吹哨者的揭露。她认为,靠公共资金支持的研究,也能成为投资人主导的 AI 开发之外的另一股力量。
书的结尾,作者介绍纽西兰毛利人的媒体组织 Te Hiku Media。他们开发毛利语语音辨识时,每一步都取得社群的知情同意,只用约三百小时自愿捐出的录音和两张 GPU,就做到 86% 的准确度。这证明好的 AI 不一定需要大规模掠夺。
作者引用史丹佛研究者的提问:一项 AI 到底是在集中权力,还是在分散权力?她主张资助独立研究、要求企业透明、加强劳动保护、训练资料必须取得同意,并让更多人了解 AI 的运作方式,不再把它神秘化。
留下你的看法吧!有机会认识跟你想法相同的航海者哦!
书海有 16 座真实的岛屿,每座岛代表一个主题。岛上的每个建筑,都是一本书。
出航之前,我们要帮你登记船籍