書海Apsû
海图 领航员 航海指南
登记成为航海者

書海 ApsûVoyage of a Thousand Books

選擇語言 · Choose your language

书海海图

拖曳或缩放海图,点一座岛就能上岸

← 回到海图

← 回到岛上 · 罗弗敦群岛
大西洋鳕
读完书摘并留下漂流瓶,即可获得大西洋鳕
登记后就能收集这只生物
浪潮将至(暂译)
原文书名:The Coming Wave
作者:穆斯塔法・苏莱曼 (Mustafa Suleyman)、麦可・巴斯卡 (Michael Bhaskar) ⓘ
浪潮将至(暂译)

0:00
    我们不能放弃这波科技浪潮,也不能放任它不受控制;唯一的出路,是一层一层地把它围起来。
    阅读进度 80%
    ▶ 懒得看文字的人,这里有说书影片:)
    ▶ 敬请期待说书影片
    前往罗弗敦群岛

    适合谁看?

    • 想看懂 AI 与基因科技会怎么改变国家、经济与日常生活的人
    • 关心科技政策、国际局势与科技风险的读者
    • 在科技公司工作,想知道「该怎么管这些技术」的人
    • 听过很多 AI 乐观论与末日论,想看一个业内人士怎么平衡两边的人

    作者是何许人也?

    • 穆斯塔法・苏莱曼 (Mustafa Suleyman),英国 AI 创业家,2010 年共同创办 DeepMind(2014 年被 Google 收购),在那里负责应用 AI
    • 后来创办 Inflection AI,推出对话助理 Pi;之后出任微软 AI 执行长
    • 2019 年获颁大英帝国司令勋章(CBE),并入选《时代》杂志 AI 领域百大影响力人物
    • 本书与作家麦可・巴斯卡合著,2023 年出版

    其他书籍(本书为作者第一本著作)

    本书架构

    🔒 抵达罗弗敦群岛拜访大西洋鳕后,就能看完整内容

    前往罗弗敦群岛
    什么是「科技浪潮」

    苏莱曼把「浪潮」定义为:同一段时间里,一群彼此相关的技术汇聚在一起,彻底改变社会运作方式。他估计人类历史上大约出现过二十四次这样的浪潮,从农业、青铜,到电力和网际网路。

    这些「通用技术」用途特别广,会不断衍生出第二层、第三层的新发明,效果层层累加。例如农业让人能储存粮食、定居下来、开始分工,接著带来更多发明和更多人口。

    浪潮通常在两个条件到齐时起飞:好几项技术同时成熟,而且价格降到一般人买得起。书中举福特的组装线为例,它让汽车价格从两千美元降到八百五十美元,到 1930 年已有 59% 的美国人拥有汽车。电脑也一样,从真空管、电晶体、积体电路一路到个人电脑和智慧型手机,晶片密度大约每两年翻倍。

    这一波浪潮:AI 加上合成生物学

    作者认为即将到来的浪潮有两项核心技术:人工智慧与合成生物学,旁边还有机器人、量子运算与洁净能源推波助澜。

    这两项技术动到的,正好是人类最根本的两样东西:人的智慧,以及生命本身。AI 能解决复杂问题、做出比人更好的判断、把知识工作自动化,而且越来越不需要人在旁边盯著。合成生物学方面,CRISPR 基因编辑和 DNA 印表机让改写基因变得更便宜、更容易取得。

    两者还会互相加速:DeepMind 的 AlphaFold 用 AI 破解蛋白质结构,大幅推进生物科技;生物科技与能源的进步,又反过来推动 AI。

    让浪潮挡不住的四个特性

    苏莱曼指出,这一波技术有四个结构上的特性,让它特别难以控制:

    不对称的影响:一个很小的行动者,也可能造成非常巨大的影响,让协调一致的应对变得困难。

    超高速演化:技术进步的速度远远超过法规和社会调适的速度。

    万用性:同一项技术可以用在无数领域,好的用途和坏的用途很难切开,所以「只禁止某种用法」往往行不通。

    自主性:系统越来越能独立运作,人能介入控制的空间越来越小。

    此外还有五股力量让浪潮停不下来:国与国之间的竞争、商业利润、开放的研究文化、气候与疾病等全球难题需要技术解答,以及开发者个人的企图心。

    没有技术真正被围堵过

    全书的核心命题是「围堵问题」:历史上,一项技术只要够有用、够便宜,就从来没有被成功围堵过。

    发明者也常常控制不了自己的发明会被拿来做什么。爱迪生发明留声机,原本是想录下人的想法,结果大家拿来听音乐;古腾堡的印刷术本来是要印圣经,最后却引发宗教改革和科学革命;早期提倡汽车的人以为街道会变干净,没想到带来碳排放。

    作者说,我们现在的处境是:不能放弃这波浪潮,否则经济会停滞、疾病和气候等问题也无解;但也不能让它不受控制,因为它带来的风险前所未见。

    两难:灾难还是反乌托邦

    这就是书名副标题说的「二十一世纪最大的两难」。如果放任不管,越来越多人能取得足以造成大规模伤害的技术,可能引发灾难;但如果政府为了控制技术而走向大规模监控和高度集权,又可能变成反乌托邦。

    作者也担心民族国家本身正在出现裂痕。过去五百年,人民愿意接受中央权力,是因为政府能带来和平、繁荣与秩序。如今对民主的信任下降,科技进步的速度又超过政府的监管能力,这份默契正在松动,而管理这波浪潮,偏偏最需要一个强而有能力的国家。

    「悲观厌恶」与大猩猩问题

    作者认为,大家之所以不愿正视这些风险,部分是因为一种他称为「悲观厌恶」的心理偏误:科技圈和社会菁英习惯把对风险的警告看成情绪化的负面思考,好像提出担忧就是不够理性、不够进步。结果,冷静评估可能的伤害反而变得不时髦。

    他也用「大猩猩问题」来说明:大猩猩比人类强壮得多,但被围起来的是大猩猩,因为人类比较聪明、懂得建立制度。换句话说,能力更强的一方不见得能被控制;当 AI 越来越有能力,我们熟悉的控制方法可能就不再管用。

    从 AGI 到「有能力的 AI」

    苏莱曼认为,一直讨论 AI 何时达到「通用人工智慧」(AGI),其实会让人看错重点。真正即将到来的门槛,是他所说的「有能力的人工智慧」(ACI):系统不必像人一样什么都懂,只要能自主完成复杂、开放式的真实世界任务,就足以带来巨大冲击。

    他用许多具体例子提醒这不是遥远的科幻:DNA 定序的成本以指数速度下降,让合成生物学越来越普及;大型语言模型的能力,主要是靠规模不断放大而累积出来的;乌克兰用便宜的无人机对付俄罗斯坦克,说明小角色也能发挥不对称的力量;日本奥姆真理教曾试图研发生物武器,则说明有心人确实会去追求危险的能力。

    当力量往下扩散到更小的团体,作者担心有些国家会变成「僵尸国家」:名义上还有主权,实际上却管不住自己的领土与人民;另一些国家则可能反过来走向全面监控。

    通往围堵的十个步骤

    最后,苏莱曼提出一圈套一圈的围堵方案,从技术一路延伸到整个社会:

    一、投资技术安全,包括能把系统关掉的机制;二、定期稽核与监测;三、在供应链上设下瓶颈,争取时间;四、让开发者与批评者都负起责任;五、让获利与安全承诺挂钩;六、强化政府的能力;七、建立国际联盟,就像核武管制那样;八、在组织里培养安全文化;九、让公众形成关注科技风险的运动;十、把以上所有护栏整合起来,彼此强化。

    他强调,没有任何一步单独就足够,必须把技术保护、文化规范与法律制度层层叠起来。作者既不相信「技术自己会决定一切」,也不主张放弃技术,而是认为人类必须趁浪潮还没完全打上岸之前,主动去形塑它。

    Shang的观点

    敬请期待

    其他书摘链接

    • Book Summary - The Coming Wave(Readingraphics)
    • The Coming Wave(官方網站)
    • Notes on The Coming Wave(CPA to Cybersecurity)
    • The Coming Wave(Goodreads)
    封面为原创示意设计,非出版社原版封面

    留下漂流瓶

    留下你的看法吧!有机会认识跟你想法相同的航海者哦!

    我想把这本书推荐给另一位航海者
    我的推荐指数 拖动选择 0.0 – 5.0 分
    4.0
    前往罗弗敦群岛拜访大西洋鳕

    登记成为航海者,才能打开漂流瓶。

    0 个漂流瓶

    ▇▇▇▇▇ ▇▇▇ ▇▇▇▇▇▇▇

    ▇▇▇▇ ▇▇▇▇▇▇ ▇▇▇

    Shang

    Shang

    Shang 的书单

    航海指南

    这个世界

    书海有 16 座真实的岛屿,每座岛代表一个主题。岛上的每个建筑,都是一本书。

    现在可以做什么

    • 在海图上点一座岛上岸
    • 点岛上的建筑,阅读那本书的笔记
    • 到领航员那里认识 Shang

    即将开放

    • 第二章:登记成为航海者、驾船航行、收集建筑徽章、丢漂流瓶
    • 第三章:贝壳、港口市集、驱散迷雾、排行榜
    • 第四章:和其他航海者私下聊天

    图示说明

    切换语言

    领航员登记处

    出航之前,我们要帮你登记船籍

    航海日志

    信箱

    排行榜

    航海日志

    审核漂流瓶

    Shang

    書海 Apsû

    回海圖
    APSÛ // COMM●