選擇語言 · Choose your language
拖曳或縮放海圖,點一座島就能上岸
其他書籍Sapiens《人類大歷史》(2011);Homo Deus《人類大命運》(2015);21 Lessons for the 21st Century《21世紀的21堂課》(2018)
🔒 抵達大溪地拜訪黑蝶貝後,就能看完整內容
前往大溪地哈拉瑞在書的開頭問了一個問題:人類是地球上最聰明的物種,擁有前所未有的知識與科技,為什麼我們仍然會做出自我毀滅的事,例如生態危機、戰爭,以及可能失控的 AI?
他的答案是:問題不一定出在人性本身,而在於我們的「資訊網絡」。人類之所以能大規模合作,是因為我們用資訊把彼此連結起來;但這些網絡,往往更擅長創造秩序,而不是發現真相。
哈拉瑞批評了兩種常見的觀點。第一種是「天真的資訊觀」:認為只要資訊越多、越自由流通,人類就會越接近真相、越有智慧。
第二種是「民粹的資訊觀」:認為所有資訊都只是權力的工具,根本沒有客觀的真相。
他認為兩種看法都不對。資訊的主要功能不是呈現現實,而是把人連結起來。有時候,最能連結人的,正是虛構的故事,而不是真相。
他舉例,一個好的故事,往往比複雜的真相更容易讓人團結。
在人類歷史上,有兩種重要的資訊技術,讓大規模合作成為可能。
第一種是「故事」。宗教、國家、金錢,都是人們共同相信的故事,讓成千上萬、甚至數以億計互不認識的人願意一起行動。
第二種是「文件」。從古代的稅收紀錄、土地契約,到現代的官僚體系,文件讓社會可以管理大量的人與財產。但文件也創造了一種新的現實:只要不在紀錄裡,就好像不存在。
哈拉瑞認為,一個資訊網絡是否健康,關鍵在於它有沒有「自我修正機制」,也就是能不能發現並承認自己的錯誤。
他用宗教經典與科學來比較。宗教經典被視為不會出錯,一旦寫定,就很難修正;而科學則建立在不斷質疑、檢驗與承認錯誤的制度上,例如同儕審查與重複實驗。
他也舉印刷術為例:印刷術讓知識更容易傳播,卻也讓《女巫之錘》這類宣揚獵巫的書籍大量流通,引發了歐洲長達數百年的獵巫狂潮。更多的資訊,不一定帶來更多的真相。
他也談到《聖經》的形成:哪些文本被收入正典、哪些被排除,是由一群人經過多年的爭論與決定。一旦被確定為神聖經典,後人就很難再修改,只能透過不斷的詮釋來調整。
從資訊網絡的角度看,民主和極權是兩種不同的資訊系統。
極權政權試圖把所有資訊集中到一個中心,由少數人控制;民主則讓資訊分散流動,並擁有選舉、媒體、法院等多重的自我修正機制。
哈拉瑞指出,在歷史上,極權政權常常因為資訊集中處理的效率不足而失敗;但新的科技,可能會改變這個平衡。
他以史達林時期的蘇聯為例:為了控制一切,政權建立起龐大的秘密警察與檔案系統,把人民分類、貼標籤。被列為「富農」的人,即使從來沒有做過任何事,也可能因為一份文件上的分類,被奪走土地、流放甚至喪命。資訊網絡越集中,錯誤就越難被發現與修正。
全書最重要的論點是:AI 和過去所有的資訊技術都不一樣。印刷機、收音機、電視,都只是傳遞人類想法的工具;但 AI 可以自己做決定、自己產生新的想法。
哈拉瑞建議,與其把 AI 理解為「人工智慧」,不如把它看成一種「異類智慧」:它的思考方式和人類完全不同,我們也越來越難理解它為什麼做出某些決定。
哈拉瑞強調,這是人類歷史上第一次,資訊網絡中出現了非人類的成員。
他也指出,電腦網絡和人類網絡有一個關鍵差異:電腦不需要休息。人類官員下班會回家、會睡覺,社會因此保有一些喘息的空間;但電腦可以全天候運作,永遠開著,永遠在看。
哈拉瑞用社群媒體作為例子,說明 AI 已經在影響現實世界。
他提到,在緬甸,社群平台的推薦演算法為了提高用戶的參與度,大量推送煽動仇恨的內容,助長了對羅興亞人的暴力。演算法並沒有「想要」製造仇恨,它只是被設定去追求某個目標,例如讓人停留更久。
這就是所謂的「對齊問題」:當我們給 AI 一個目標,它可能用我們沒有預料到、甚至有害的方式去達成。
過去,即使是最極權的政府,也無法真正監控每一個人,因為需要太多的人力。但 AI 可以永不休息地分析大量資料,讓全面監控成為可能。
哈拉瑞也提到社會信用評分系統等例子,提醒讀者:當演算法開始決定誰能貸款、誰能找到工作、誰會被懷疑時,個人的命運可能被一套我們看不懂的系統所掌控。
哈拉瑞警告,世界可能會被一道「矽幕」分裂。就像冷戰時期的「鐵幕」,不同的國家與陣營,可能會使用彼此不相容的 AI 系統、數位網絡與規則,形成互相隔絕的資訊世界。
在這樣的世界裡,人類的合作將更加困難,而 AI 帶來的風險,也更難透過國際合作來管理。
哈拉瑞並不認為未來注定悲觀。他強調,AI 的發展方向,仍然取決於人類現在做出的選擇。
他建議,我們需要建立強而有力的自我修正機制:讓科技公司為演算法的後果負責、保護個人資料、維持民主制度的制衡,並且禁止 AI 假冒人類。
最重要的是,我們必須記得:資訊不等於真相,而真相往往需要花時間、花成本去尋找。
《連結》延續了哈拉瑞一貫的寫法:從人類的大歷史出發,用跨越數萬年的視角,討論眼前最迫切的問題。
這本書讓讀者重新思考,我們每天滑手機時接收到的資訊,究竟是在連結我們,還是在分裂我們。它也提醒我們,AI 時代最大的挑戰,不只是技術,而是人類能不能建立更有智慧的資訊網絡。
留下你的看法吧!有機會認識跟你想法相同的航海者喔!
書海有 16 座真實的島嶼,每座島代表一個主題。島上的每個建築,都是一本書。
出航之前,我們要幫你登記船籍