選擇語言 · Choose your language
拖曳或缩放海图,点一座岛就能上岸
其他书籍(本书为作者第一本著作)
🔒 抵达罗弗敦群岛拜访大西洋鳕后,就能看完整内容
前往罗弗敦群岛苏莱曼把「浪潮」定义为:同一段时间里,一群彼此相关的技术汇聚在一起,彻底改变社会运作方式。他估计人类历史上大约出现过二十四次这样的浪潮,从农业、青铜,到电力和网际网路。
这些「通用技术」用途特别广,会不断衍生出第二层、第三层的新发明,效果层层累加。例如农业让人能储存粮食、定居下来、开始分工,接著带来更多发明和更多人口。
浪潮通常在两个条件到齐时起飞:好几项技术同时成熟,而且价格降到一般人买得起。书中举福特的组装线为例,它让汽车价格从两千美元降到八百五十美元,到 1930 年已有 59% 的美国人拥有汽车。电脑也一样,从真空管、电晶体、积体电路一路到个人电脑和智慧型手机,晶片密度大约每两年翻倍。
作者认为即将到来的浪潮有两项核心技术:人工智慧与合成生物学,旁边还有机器人、量子运算与洁净能源推波助澜。
这两项技术动到的,正好是人类最根本的两样东西:人的智慧,以及生命本身。AI 能解决复杂问题、做出比人更好的判断、把知识工作自动化,而且越来越不需要人在旁边盯著。合成生物学方面,CRISPR 基因编辑和 DNA 印表机让改写基因变得更便宜、更容易取得。
两者还会互相加速:DeepMind 的 AlphaFold 用 AI 破解蛋白质结构,大幅推进生物科技;生物科技与能源的进步,又反过来推动 AI。
苏莱曼指出,这一波技术有四个结构上的特性,让它特别难以控制:
不对称的影响:一个很小的行动者,也可能造成非常巨大的影响,让协调一致的应对变得困难。
超高速演化:技术进步的速度远远超过法规和社会调适的速度。
万用性:同一项技术可以用在无数领域,好的用途和坏的用途很难切开,所以「只禁止某种用法」往往行不通。
自主性:系统越来越能独立运作,人能介入控制的空间越来越小。
此外还有五股力量让浪潮停不下来:国与国之间的竞争、商业利润、开放的研究文化、气候与疾病等全球难题需要技术解答,以及开发者个人的企图心。
全书的核心命题是「围堵问题」:历史上,一项技术只要够有用、够便宜,就从来没有被成功围堵过。
发明者也常常控制不了自己的发明会被拿来做什么。爱迪生发明留声机,原本是想录下人的想法,结果大家拿来听音乐;古腾堡的印刷术本来是要印圣经,最后却引发宗教改革和科学革命;早期提倡汽车的人以为街道会变干净,没想到带来碳排放。
作者说,我们现在的处境是:不能放弃这波浪潮,否则经济会停滞、疾病和气候等问题也无解;但也不能让它不受控制,因为它带来的风险前所未见。
这就是书名副标题说的「二十一世纪最大的两难」。如果放任不管,越来越多人能取得足以造成大规模伤害的技术,可能引发灾难;但如果政府为了控制技术而走向大规模监控和高度集权,又可能变成反乌托邦。
作者也担心民族国家本身正在出现裂痕。过去五百年,人民愿意接受中央权力,是因为政府能带来和平、繁荣与秩序。如今对民主的信任下降,科技进步的速度又超过政府的监管能力,这份默契正在松动,而管理这波浪潮,偏偏最需要一个强而有能力的国家。
作者认为,大家之所以不愿正视这些风险,部分是因为一种他称为「悲观厌恶」的心理偏误:科技圈和社会菁英习惯把对风险的警告看成情绪化的负面思考,好像提出担忧就是不够理性、不够进步。结果,冷静评估可能的伤害反而变得不时髦。
他也用「大猩猩问题」来说明:大猩猩比人类强壮得多,但被围起来的是大猩猩,因为人类比较聪明、懂得建立制度。换句话说,能力更强的一方不见得能被控制;当 AI 越来越有能力,我们熟悉的控制方法可能就不再管用。
苏莱曼认为,一直讨论 AI 何时达到「通用人工智慧」(AGI),其实会让人看错重点。真正即将到来的门槛,是他所说的「有能力的人工智慧」(ACI):系统不必像人一样什么都懂,只要能自主完成复杂、开放式的真实世界任务,就足以带来巨大冲击。
他用许多具体例子提醒这不是遥远的科幻:DNA 定序的成本以指数速度下降,让合成生物学越来越普及;大型语言模型的能力,主要是靠规模不断放大而累积出来的;乌克兰用便宜的无人机对付俄罗斯坦克,说明小角色也能发挥不对称的力量;日本奥姆真理教曾试图研发生物武器,则说明有心人确实会去追求危险的能力。
当力量往下扩散到更小的团体,作者担心有些国家会变成「僵尸国家」:名义上还有主权,实际上却管不住自己的领土与人民;另一些国家则可能反过来走向全面监控。
最后,苏莱曼提出一圈套一圈的围堵方案,从技术一路延伸到整个社会:
一、投资技术安全,包括能把系统关掉的机制;二、定期稽核与监测;三、在供应链上设下瓶颈,争取时间;四、让开发者与批评者都负起责任;五、让获利与安全承诺挂钩;六、强化政府的能力;七、建立国际联盟,就像核武管制那样;八、在组织里培养安全文化;九、让公众形成关注科技风险的运动;十、把以上所有护栏整合起来,彼此强化。
他强调,没有任何一步单独就足够,必须把技术保护、文化规范与法律制度层层叠起来。作者既不相信「技术自己会决定一切」,也不主张放弃技术,而是认为人类必须趁浪潮还没完全打上岸之前,主动去形塑它。
留下你的看法吧!有机会认识跟你想法相同的航海者哦!
书海有 16 座真实的岛屿,每座岛代表一个主题。岛上的每个建筑,都是一本书。
出航之前,我们要帮你登记船籍