選擇語言 · Choose your language
拖曳或縮放海圖,點一座島就能上岸
其他書籍(本書為作者第一本著作)
🔒 抵達羅弗敦群島拜訪大西洋鱈後,就能看完整內容
前往羅弗敦群島蘇萊曼把「浪潮」定義為:同一段時間裡,一群彼此相關的技術匯聚在一起,徹底改變社會運作方式。他估計人類歷史上大約出現過二十四次這樣的浪潮,從農業、青銅,到電力和網際網路。
這些「通用技術」用途特別廣,會不斷衍生出第二層、第三層的新發明,效果層層累加。例如農業讓人能儲存糧食、定居下來、開始分工,接著帶來更多發明和更多人口。
浪潮通常在兩個條件到齊時起飛:好幾項技術同時成熟,而且價格降到一般人買得起。書中舉福特的組裝線為例,它讓汽車價格從兩千美元降到八百五十美元,到 1930 年已有 59% 的美國人擁有汽車。電腦也一樣,從真空管、電晶體、積體電路一路到個人電腦和智慧型手機,晶片密度大約每兩年翻倍。
作者認為即將到來的浪潮有兩項核心技術:人工智慧與合成生物學,旁邊還有機器人、量子運算與潔淨能源推波助瀾。
這兩項技術動到的,正好是人類最根本的兩樣東西:人的智慧,以及生命本身。AI 能解決複雜問題、做出比人更好的判斷、把知識工作自動化,而且越來越不需要人在旁邊盯著。合成生物學方面,CRISPR 基因編輯和 DNA 印表機讓改寫基因變得更便宜、更容易取得。
兩者還會互相加速:DeepMind 的 AlphaFold 用 AI 破解蛋白質結構,大幅推進生物科技;生物科技與能源的進步,又反過來推動 AI。
蘇萊曼指出,這一波技術有四個結構上的特性,讓它特別難以控制:
不對稱的影響:一個很小的行動者,也可能造成非常巨大的影響,讓協調一致的應對變得困難。
超高速演化:技術進步的速度遠遠超過法規和社會調適的速度。
萬用性:同一項技術可以用在無數領域,好的用途和壞的用途很難切開,所以「只禁止某種用法」往往行不通。
自主性:系統越來越能獨立運作,人能介入控制的空間越來越小。
此外還有五股力量讓浪潮停不下來:國與國之間的競爭、商業利潤、開放的研究文化、氣候與疾病等全球難題需要技術解答,以及開發者個人的企圖心。
全書的核心命題是「圍堵問題」:歷史上,一項技術只要夠有用、夠便宜,就從來沒有被成功圍堵過。
發明者也常常控制不了自己的發明會被拿來做什麼。愛迪生發明留聲機,原本是想錄下人的想法,結果大家拿來聽音樂;古騰堡的印刷術本來是要印聖經,最後卻引發宗教改革和科學革命;早期提倡汽車的人以為街道會變乾淨,沒想到帶來碳排放。
作者說,我們現在的處境是:不能放棄這波浪潮,否則經濟會停滯、疾病和氣候等問題也無解;但也不能讓它不受控制,因為它帶來的風險前所未見。
這就是書名副標題說的「二十一世紀最大的兩難」。如果放任不管,越來越多人能取得足以造成大規模傷害的技術,可能引發災難;但如果政府為了控制技術而走向大規模監控和高度集權,又可能變成反烏托邦。
作者也擔心民族國家本身正在出現裂痕。過去五百年,人民願意接受中央權力,是因為政府能帶來和平、繁榮與秩序。如今對民主的信任下降,科技進步的速度又超過政府的監管能力,這份默契正在鬆動,而管理這波浪潮,偏偏最需要一個強而有能力的國家。
作者認為,大家之所以不願正視這些風險,部分是因為一種他稱為「悲觀厭惡」的心理偏誤:科技圈和社會菁英習慣把對風險的警告看成情緒化的負面思考,好像提出擔憂就是不夠理性、不夠進步。結果,冷靜評估可能的傷害反而變得不時髦。
他也用「大猩猩問題」來說明:大猩猩比人類強壯得多,但被圍起來的是大猩猩,因為人類比較聰明、懂得建立制度。換句話說,能力更強的一方不見得能被控制;當 AI 越來越有能力,我們熟悉的控制方法可能就不再管用。
蘇萊曼認為,一直討論 AI 何時達到「通用人工智慧」(AGI),其實會讓人看錯重點。真正即將到來的門檻,是他所說的「有能力的人工智慧」(ACI):系統不必像人一樣什麼都懂,只要能自主完成複雜、開放式的真實世界任務,就足以帶來巨大衝擊。
他用許多具體例子提醒這不是遙遠的科幻:DNA 定序的成本以指數速度下降,讓合成生物學越來越普及;大型語言模型的能力,主要是靠規模不斷放大而累積出來的;烏克蘭用便宜的無人機對付俄羅斯坦克,說明小角色也能發揮不對稱的力量;日本奧姆真理教曾試圖研發生物武器,則說明有心人確實會去追求危險的能力。
當力量往下擴散到更小的團體,作者擔心有些國家會變成「殭屍國家」:名義上還有主權,實際上卻管不住自己的領土與人民;另一些國家則可能反過來走向全面監控。
最後,蘇萊曼提出一圈套一圈的圍堵方案,從技術一路延伸到整個社會:
一、投資技術安全,包括能把系統關掉的機制;二、定期稽核與監測;三、在供應鏈上設下瓶頸,爭取時間;四、讓開發者與批評者都負起責任;五、讓獲利與安全承諾掛鉤;六、強化政府的能力;七、建立國際聯盟,就像核武管制那樣;八、在組織裡培養安全文化;九、讓公眾形成關注科技風險的運動;十、把以上所有護欄整合起來,彼此強化。
他強調,沒有任何一步單獨就足夠,必須把技術保護、文化規範與法律制度層層疊起來。作者既不相信「技術自己會決定一切」,也不主張放棄技術,而是認為人類必須趁浪潮還沒完全打上岸之前,主動去形塑它。
留下你的看法吧!有機會認識跟你想法相同的航海者喔!
書海有 16 座真實的島嶼,每座島代表一個主題。島上的每個建築,都是一本書。
出航之前,我們要幫你登記船籍