書海Apsû
海图 领航员 航海指南
登记成为航海者

書海 ApsûVoyage of a Thousand Books

選擇語言 · Choose your language

书海海图

拖曳或缩放海图,点一座岛就能上岸

← 回到海图

← 回到岛上 · 罗弗敦群岛
白尾海雕
读完书摘并留下漂流瓶,即可获得白尾海雕
登记后就能收集这只生物
AI 帝国(暂译)
原文书名:Empire of AI
作者:郝珂灵 (Karen Hao) ⓘ
AI 帝国(暂译)

0:00
    当「造福全人类」这个使命说得够模糊,它就能被重新解读成任何事,包括建立一个帝国。
    阅读进度 80%
    ▶ 懒得看文字的人,这里有说书影片:)
    ▶ 敬请期待说书影片
    前往罗弗敦群岛

    适合谁看?

    • 每天用 ChatGPT,却不知道它背后怎么被做出来的人
    • 关心科技公司权力、劳动与环境议题的读者
    • 想了解 OpenAI 从非营利组织变成巨型企业过程的人
    • 对「AI 会造福全人类」这种说法有疑问,想看另一面的人

    作者是何许人也?

    • 郝珂灵 (Karen Hao),美国记者,曾任《麻省理工科技评论》资深 AI 编辑、《华尔街日报》驻香港记者,现为《大西洋》等刊物撰稿
    • 长期报导 AI 研究、科技伦理与 AI 对社会的影响,曾参与制作播客 In Machines We Trust
    • 本书英文原名 Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI,2025 年出版

    其他书籍(本书为作者第一本著作)

    本书架构

    🔒 抵达罗弗敦群岛拜访白尾海雕后,就能看完整内容

    前往罗弗敦群岛
    从非营利理想到营利企业

    郝珂灵追溯 OpenAI 如何从一个怀抱理想的非营利组织,变成估值上千亿美元的企业。它成立时承诺要确保通用人工智慧(AGI)造福全人类,但这个非营利结构很快就撑不下去。

    2018 年马斯克离开后,资金出现缺口,经营团队在原本的非营利组织底下,另外成立营利子公司 OpenAI LP。2019 年微软投资十亿美元,取得独家授权和优先使用技术的权利,作者认为那是再也回不去的转捩点:公司的重心从科学研究,转向商业利益。

    奥特曼与「成长就是一切」

    书中描写山姆・奥特曼 (Sam Altman) 的崛起。他出身圣路易一个富裕家庭,八岁学写程式,十九岁创办 Loopt。作者写到,他在职涯中多次被同事指控有操弄他人的行为,却总能在挫折后拿到更大的权力。

    两位前辈深深影响他:Y Combinator 创办人保罗・葛兰 (Paul Graham) 让他相信「成长能解决所有问题」;投资人彼得・提尔 (Peter Thiel) 则教他垄断的策略。这种「不成长就是慢慢死去」的想法,推动了 OpenAI 不断扩张、赢者全拿的作风。

    规模信仰:越大越聪明

    OpenAI 首席科学家伊尔亚・苏茨克维 (Ilya Sutskever) 相信,运算规模越大,智慧就越高。Google 在 2017 年发明的 Transformer 架构,成了实践这个信念的武器。

    书中提到,OpenAI 观察到训练 AI 所用的运算量大约每 3.4 个月翻倍,六年间成长了三千万倍,公司决定跟上这个指数速度,买进成千上万张昂贵的 GPU。这个预言后来变成自我实现:Meta、Google 和中国企业都加入用运算力硬拚的竞赛。每训练一个模型就要花上数千万美元的做法,从此成了整个产业的教条。

    为什么说它是「帝国」

    作者刻意用「帝国」这个词,指出 AI 巨头具备帝国的四个特征:

    掠夺资料:未经授权拿数百万本书训练模型、违反服务条款转录 YouTube 影片、把整个网路刮下来,内容品质也缺乏把关。

    剥削劳动:OpenAI 透过肯亚外包公司 Sama,以每小时约 1.46 到 3.74 美元的工资,请工人审查大量极端暴力与性虐待的文字,有工人因此心理健康严重受损。

    掠夺资源:资料中心需要大量电力与淡水,书中提到在爱荷华干旱期间训练 GPT-4 用掉大量用水,智利的社区团体也曾起身对抗 Google 的资料中心。

    权力集中:好处集中在矽谷菁英手上,环境与劳动的代价却落在弱势社群身上。

    看不见的资料工人

    作者也走访委内瑞拉。经济崩溃后,当地大量受过教育、能上网的人只好接资料标注的工作。一位工程系毕业的女性,每件任务只赚几分钱,晚上抱著电脑睡觉,就为了抢半夜释出的工作,常常要好几周才凑满十美元的提领门槛。

    书中描述的模式是:平台锁定陷入危机、教育程度高又能上网的国家,先开出不错的报酬,站稳后再大幅砍价,例如 Scale AI 让委内瑞拉工人的周收入从四十美元降到不到六美元,接著再转往下一个危机地区。

    2023 年的董事会风暴

    2023 年 11 月,ChatGPT 爆红之后,OpenAI 董事会突然透过视讯会议开除奥特曼,理由是他「没有始终保持坦诚」。作者写到,董事会手上有多位高阶主管提供的资料,描述他的操弄行为。

    这场冲突反映公司内部的路线之争:「安全派」受到有效利他主义影响,主张放慢脚步以防范重大风险;「新创派」则想加速商业化。但五天后,在员工集体反弹、微软威胁抽走运算资源的压力下,奥特曼回锅。作者认为这说明了真正的权力在哪里:在资金依赖面前,原则让了路。

    从公开到封闭:信念如何变成权力

    书中指出,OpenAI 的名字里有「开放」,早年也把研究成果全部公开;但转为「有上限的营利」结构、拿到微软更大笔的投资后,它逐渐变得不透明,作者认为最后只剩对微软分享。书中也提到,GPT-4 的规模大约是第一代 GPT 的一万五千倍,背后需要庞大的运算、环境与人力资源。

    作者也探讨影响 OpenAI 的各种思潮,包括理性主义、有效利他主义与「长期主义」。她认为,这些在湾区论坛里成形的信念,常常用一个遥远的末日来合理化当下的权力集中。

    她还观察到奥特曼口中的「威胁」一直在变:一开始是 Google,后来变成中国和威权政府。作者认为,这些说法都在支撑同一个结论:只有我们值得信任,所以权力应该交给我们。

    在书末,作者也整理了各地出现的抵抗与制衡,例如开源模型、劳工组织、欧盟对透明度的要求、艺术家的诉讼,以及吹哨者的揭露。她认为,靠公共资金支持的研究,也能成为投资人主导的 AI 开发之外的另一股力量。

    另一条路:小而尊重的 AI

    书的结尾,作者介绍纽西兰毛利人的媒体组织 Te Hiku Media。他们开发毛利语语音辨识时,每一步都取得社群的知情同意,只用约三百小时自愿捐出的录音和两张 GPU,就做到 86% 的准确度。这证明好的 AI 不一定需要大规模掠夺。

    作者引用史丹佛研究者的提问:一项 AI 到底是在集中权力,还是在分散权力?她主张资助独立研究、要求企业透明、加强劳动保护、训练资料必须取得同意,并让更多人了解 AI 的运作方式,不再把它神秘化。

    Shang的观点

    敬请期待

    其他书摘链接

    • Empire of AI Summary(Summrize)
    • Review: Empire of AI(Cognitive Bleed)
    • Empire of AI(Goodreads)
    封面为原创示意设计,非出版社原版封面

    留下漂流瓶

    留下你的看法吧!有机会认识跟你想法相同的航海者哦!

    我想把这本书推荐给另一位航海者
    我的推荐指数 拖动选择 0.0 – 5.0 分
    4.0
    前往罗弗敦群岛拜访白尾海雕

    登记成为航海者,才能打开漂流瓶。

    0 个漂流瓶

    ▇▇▇▇▇ ▇▇▇ ▇▇▇▇▇▇▇

    ▇▇▇▇ ▇▇▇▇▇▇ ▇▇▇

    Shang

    Shang

    Shang 的书单

    航海指南

    这个世界

    书海有 16 座真实的岛屿,每座岛代表一个主题。岛上的每个建筑,都是一本书。

    现在可以做什么

    • 在海图上点一座岛上岸
    • 点岛上的建筑,阅读那本书的笔记
    • 到领航员那里认识 Shang

    即将开放

    • 第二章:登记成为航海者、驾船航行、收集建筑徽章、丢漂流瓶
    • 第三章:贝壳、港口市集、驱散迷雾、排行榜
    • 第四章:和其他航海者私下聊天

    图示说明

    切换语言

    领航员登记处

    出航之前,我们要帮你登记船籍

    航海日志

    信箱

    排行榜

    航海日志

    审核漂流瓶

    Shang

    書海 Apsû

    回海圖
    APSÛ // COMM●