選擇語言 · Choose your language
拖曳或缩放海图,点一座岛就能上岸
其他书籍Sapiens《人类大历史》(2011);Homo Deus《人类大命运》(2015);21 Lessons for the 21st Century《21世纪的21堂课》(2018)
🔒 抵达大溪地拜访黑蝶贝后,就能看完整内容
前往大溪地哈拉瑞在书的开头问了一个问题:人类是地球上最聪明的物种,拥有前所未有的知识与科技,为什么我们仍然会做出自我毁灭的事,例如生态危机、战争,以及可能失控的 AI?
他的答案是:问题不一定出在人性本身,而在于我们的「资讯网络」。人类之所以能大规模合作,是因为我们用资讯把彼此连结起来;但这些网络,往往更擅长创造秩序,而不是发现真相。
哈拉瑞批评了两种常见的观点。第一种是「天真的资讯观」:认为只要资讯越多、越自由流通,人类就会越接近真相、越有智慧。
第二种是「民粹的资讯观」:认为所有资讯都只是权力的工具,根本没有客观的真相。
他认为两种看法都不对。资讯的主要功能不是呈现现实,而是把人连结起来。有时候,最能连结人的,正是虚构的故事,而不是真相。
他举例,一个好的故事,往往比复杂的真相更容易让人团结。
在人类历史上,有两种重要的资讯技术,让大规模合作成为可能。
第一种是「故事」。宗教、国家、金钱,都是人们共同相信的故事,让成千上万、甚至数以亿计互不认识的人愿意一起行动。
第二种是「文件」。从古代的税收纪录、土地契约,到现代的官僚体系,文件让社会可以管理大量的人与财产。但文件也创造了一种新的现实:只要不在纪录里,就好像不存在。
哈拉瑞认为,一个资讯网络是否健康,关键在于它有没有「自我修正机制」,也就是能不能发现并承认自己的错误。
他用宗教经典与科学来比较。宗教经典被视为不会出错,一旦写定,就很难修正;而科学则建立在不断质疑、检验与承认错误的制度上,例如同侪审查与重复实验。
他也举印刷术为例:印刷术让知识更容易传播,却也让《女巫之锤》这类宣扬猎巫的书籍大量流通,引发了欧洲长达数百年的猎巫狂潮。更多的资讯,不一定带来更多的真相。
他也谈到《圣经》的形成:哪些文本被收入正典、哪些被排除,是由一群人经过多年的争论与决定。一旦被确定为神圣经典,后人就很难再修改,只能透过不断的诠释来调整。
从资讯网络的角度看,民主和极权是两种不同的资讯系统。
极权政权试图把所有资讯集中到一个中心,由少数人控制;民主则让资讯分散流动,并拥有选举、媒体、法院等多重的自我修正机制。
哈拉瑞指出,在历史上,极权政权常常因为资讯集中处理的效率不足而失败;但新的科技,可能会改变这个平衡。
他以史达林时期的苏联为例:为了控制一切,政权建立起庞大的秘密警察与档案系统,把人民分类、贴标签。被列为「富农」的人,即使从来没有做过任何事,也可能因为一份文件上的分类,被夺走土地、流放甚至丧命。资讯网络越集中,错误就越难被发现与修正。
全书最重要的论点是:AI 和过去所有的资讯技术都不一样。印刷机、收音机、电视,都只是传递人类想法的工具;但 AI 可以自己做决定、自己产生新的想法。
哈拉瑞建议,与其把 AI 理解为「人工智慧」,不如把它看成一种「异类智慧」:它的思考方式和人类完全不同,我们也越来越难理解它为什么做出某些决定。
哈拉瑞强调,这是人类历史上第一次,资讯网络中出现了非人类的成员。
他也指出,电脑网络和人类网络有一个关键差异:电脑不需要休息。人类官员下班会回家、会睡觉,社会因此保有一些喘息的空间;但电脑可以全天候运作,永远开著,永远在看。
哈拉瑞用社群媒体作为例子,说明 AI 已经在影响现实世界。
他提到,在缅甸,社群平台的推荐演算法为了提高用户的参与度,大量推送煽动仇恨的内容,助长了对罗兴亚人的暴力。演算法并没有「想要」制造仇恨,它只是被设定去追求某个目标,例如让人停留更久。
这就是所谓的「对齐问题」:当我们给 AI 一个目标,它可能用我们没有预料到、甚至有害的方式去达成。
过去,即使是最极权的政府,也无法真正监控每一个人,因为需要太多的人力。但 AI 可以永不休息地分析大量资料,让全面监控成为可能。
哈拉瑞也提到社会信用评分系统等例子,提醒读者:当演算法开始决定谁能贷款、谁能找到工作、谁会被怀疑时,个人的命运可能被一套我们看不懂的系统所掌控。
哈拉瑞警告,世界可能会被一道「矽幕」分裂。就像冷战时期的「铁幕」,不同的国家与阵营,可能会使用彼此不相容的 AI 系统、数位网络与规则,形成互相隔绝的资讯世界。
在这样的世界里,人类的合作将更加困难,而 AI 带来的风险,也更难透过国际合作来管理。
哈拉瑞并不认为未来注定悲观。他强调,AI 的发展方向,仍然取决于人类现在做出的选择。
他建议,我们需要建立强而有力的自我修正机制:让科技公司为演算法的后果负责、保护个人资料、维持民主制度的制衡,并且禁止 AI 假冒人类。
最重要的是,我们必须记得:资讯不等于真相,而真相往往需要花时间、花成本去寻找。
《连结》延续了哈拉瑞一贯的写法:从人类的大历史出发,用跨越数万年的视角,讨论眼前最迫切的问题。
这本书让读者重新思考,我们每天滑手机时接收到的资讯,究竟是在连结我们,还是在分裂我们。它也提醒我们,AI 时代最大的挑战,不只是技术,而是人类能不能建立更有智慧的资讯网络。
留下你的看法吧!有机会认识跟你想法相同的航海者哦!
书海有 16 座真实的岛屿,每座岛代表一个主题。岛上的每个建筑,都是一本书。
出航之前,我们要帮你登记船籍