書海Apsû
海圖 領航員 航海指南
登記成為航海者

書海 ApsûVoyage of a Thousand Books

選擇語言 · Choose your language

書海海圖

拖曳或縮放海圖,點一座島就能上岸

← 回到海圖

← 回到島上 · 羅弗敦群島
大西洋鱈
讀完書摘並留下漂流瓶,即可獲得大西洋鱈
登記後就能收集這隻生物
浪潮將至(暫譯)
原文書名:The Coming Wave
作者:穆斯塔法・蘇萊曼 (Mustafa Suleyman)、麥可・巴斯卡 (Michael Bhaskar) ⓘ
浪潮將至(暫譯)

0:00
    我們不能放棄這波科技浪潮,也不能放任它不受控制;唯一的出路,是一層一層地把它圍起來。
    閱讀進度 80%
    ▶ 懶得看文字的人,這裡有說書影片:)
    ▶ 敬請期待說書影片
    前往羅弗敦群島

    適合誰看?

    • 想看懂 AI 與基因科技會怎麼改變國家、經濟與日常生活的人
    • 關心科技政策、國際局勢與科技風險的讀者
    • 在科技公司工作,想知道「該怎麼管這些技術」的人
    • 聽過很多 AI 樂觀論與末日論,想看一個業內人士怎麼平衡兩邊的人

    作者是何許人也?

    • 穆斯塔法・蘇萊曼 (Mustafa Suleyman),英國 AI 創業家,2010 年共同創辦 DeepMind(2014 年被 Google 收購),在那裡負責應用 AI
    • 後來創辦 Inflection AI,推出對話助理 Pi;之後出任微軟 AI 執行長
    • 2019 年獲頒大英帝國司令勳章(CBE),並入選《時代》雜誌 AI 領域百大影響力人物
    • 本書與作家麥可・巴斯卡合著,2023 年出版

    其他書籍(本書為作者第一本著作)

    本書架構

    🔒 抵達羅弗敦群島拜訪大西洋鱈後,就能看完整內容

    前往羅弗敦群島
    什麼是「科技浪潮」

    蘇萊曼把「浪潮」定義為:同一段時間裡,一群彼此相關的技術匯聚在一起,徹底改變社會運作方式。他估計人類歷史上大約出現過二十四次這樣的浪潮,從農業、青銅,到電力和網際網路。

    這些「通用技術」用途特別廣,會不斷衍生出第二層、第三層的新發明,效果層層累加。例如農業讓人能儲存糧食、定居下來、開始分工,接著帶來更多發明和更多人口。

    浪潮通常在兩個條件到齊時起飛:好幾項技術同時成熟,而且價格降到一般人買得起。書中舉福特的組裝線為例,它讓汽車價格從兩千美元降到八百五十美元,到 1930 年已有 59% 的美國人擁有汽車。電腦也一樣,從真空管、電晶體、積體電路一路到個人電腦和智慧型手機,晶片密度大約每兩年翻倍。

    這一波浪潮:AI 加上合成生物學

    作者認為即將到來的浪潮有兩項核心技術:人工智慧與合成生物學,旁邊還有機器人、量子運算與潔淨能源推波助瀾。

    這兩項技術動到的,正好是人類最根本的兩樣東西:人的智慧,以及生命本身。AI 能解決複雜問題、做出比人更好的判斷、把知識工作自動化,而且越來越不需要人在旁邊盯著。合成生物學方面,CRISPR 基因編輯和 DNA 印表機讓改寫基因變得更便宜、更容易取得。

    兩者還會互相加速:DeepMind 的 AlphaFold 用 AI 破解蛋白質結構,大幅推進生物科技;生物科技與能源的進步,又反過來推動 AI。

    讓浪潮擋不住的四個特性

    蘇萊曼指出,這一波技術有四個結構上的特性,讓它特別難以控制:

    不對稱的影響:一個很小的行動者,也可能造成非常巨大的影響,讓協調一致的應對變得困難。

    超高速演化:技術進步的速度遠遠超過法規和社會調適的速度。

    萬用性:同一項技術可以用在無數領域,好的用途和壞的用途很難切開,所以「只禁止某種用法」往往行不通。

    自主性:系統越來越能獨立運作,人能介入控制的空間越來越小。

    此外還有五股力量讓浪潮停不下來:國與國之間的競爭、商業利潤、開放的研究文化、氣候與疾病等全球難題需要技術解答,以及開發者個人的企圖心。

    沒有技術真正被圍堵過

    全書的核心命題是「圍堵問題」:歷史上,一項技術只要夠有用、夠便宜,就從來沒有被成功圍堵過。

    發明者也常常控制不了自己的發明會被拿來做什麼。愛迪生發明留聲機,原本是想錄下人的想法,結果大家拿來聽音樂;古騰堡的印刷術本來是要印聖經,最後卻引發宗教改革和科學革命;早期提倡汽車的人以為街道會變乾淨,沒想到帶來碳排放。

    作者說,我們現在的處境是:不能放棄這波浪潮,否則經濟會停滯、疾病和氣候等問題也無解;但也不能讓它不受控制,因為它帶來的風險前所未見。

    兩難:災難還是反烏托邦

    這就是書名副標題說的「二十一世紀最大的兩難」。如果放任不管,越來越多人能取得足以造成大規模傷害的技術,可能引發災難;但如果政府為了控制技術而走向大規模監控和高度集權,又可能變成反烏托邦。

    作者也擔心民族國家本身正在出現裂痕。過去五百年,人民願意接受中央權力,是因為政府能帶來和平、繁榮與秩序。如今對民主的信任下降,科技進步的速度又超過政府的監管能力,這份默契正在鬆動,而管理這波浪潮,偏偏最需要一個強而有能力的國家。

    「悲觀厭惡」與大猩猩問題

    作者認為,大家之所以不願正視這些風險,部分是因為一種他稱為「悲觀厭惡」的心理偏誤:科技圈和社會菁英習慣把對風險的警告看成情緒化的負面思考,好像提出擔憂就是不夠理性、不夠進步。結果,冷靜評估可能的傷害反而變得不時髦。

    他也用「大猩猩問題」來說明:大猩猩比人類強壯得多,但被圍起來的是大猩猩,因為人類比較聰明、懂得建立制度。換句話說,能力更強的一方不見得能被控制;當 AI 越來越有能力,我們熟悉的控制方法可能就不再管用。

    從 AGI 到「有能力的 AI」

    蘇萊曼認為,一直討論 AI 何時達到「通用人工智慧」(AGI),其實會讓人看錯重點。真正即將到來的門檻,是他所說的「有能力的人工智慧」(ACI):系統不必像人一樣什麼都懂,只要能自主完成複雜、開放式的真實世界任務,就足以帶來巨大衝擊。

    他用許多具體例子提醒這不是遙遠的科幻:DNA 定序的成本以指數速度下降,讓合成生物學越來越普及;大型語言模型的能力,主要是靠規模不斷放大而累積出來的;烏克蘭用便宜的無人機對付俄羅斯坦克,說明小角色也能發揮不對稱的力量;日本奧姆真理教曾試圖研發生物武器,則說明有心人確實會去追求危險的能力。

    當力量往下擴散到更小的團體,作者擔心有些國家會變成「殭屍國家」:名義上還有主權,實際上卻管不住自己的領土與人民;另一些國家則可能反過來走向全面監控。

    通往圍堵的十個步驟

    最後,蘇萊曼提出一圈套一圈的圍堵方案,從技術一路延伸到整個社會:

    一、投資技術安全,包括能把系統關掉的機制;二、定期稽核與監測;三、在供應鏈上設下瓶頸,爭取時間;四、讓開發者與批評者都負起責任;五、讓獲利與安全承諾掛鉤;六、強化政府的能力;七、建立國際聯盟,就像核武管制那樣;八、在組織裡培養安全文化;九、讓公眾形成關注科技風險的運動;十、把以上所有護欄整合起來,彼此強化。

    他強調,沒有任何一步單獨就足夠,必須把技術保護、文化規範與法律制度層層疊起來。作者既不相信「技術自己會決定一切」,也不主張放棄技術,而是認為人類必須趁浪潮還沒完全打上岸之前,主動去形塑它。

    Shang的觀點

    敬請期待

    其他書摘連結

    • Book Summary - The Coming Wave(Readingraphics)
    • The Coming Wave(官方網站)
    • Notes on The Coming Wave(CPA to Cybersecurity)
    • The Coming Wave(Goodreads)
    封面為原創示意設計,非出版社原版封面

    留下漂流瓶

    留下你的看法吧!有機會認識跟你想法相同的航海者喔!

    我想把這本書推薦給另一位航海者
    我的推薦指數 拖曳選擇 0.0 – 5.0 分
    4.0
    前往羅弗敦群島拜訪大西洋鱈

    登記成為航海者,才能打開漂流瓶。

    0 個漂流瓶

    ▇▇▇▇▇ ▇▇▇ ▇▇▇▇▇▇▇

    ▇▇▇▇ ▇▇▇▇▇▇ ▇▇▇

    Shang

    Shang

    Shang 的書單

    航海指南

    這個世界

    書海有 16 座真實的島嶼,每座島代表一個主題。島上的每個建築,都是一本書。

    現在可以做什麼

    • 在海圖上點一座島上岸
    • 點島上的建築,閱讀那本書的筆記
    • 到領航員那裡認識 Shang

    即將開放

    • 第二章:登記成為航海者、駕船航行、收集建築徽章、丟漂流瓶
    • 第三章:貝殼、港口市集、驅散迷霧、排行榜
    • 第四章:和其他航海者私下聊天

    圖示說明

    切換語言

    領航員登記處

    出航之前,我們要幫你登記船籍

    航海日誌

    信箱

    排行榜

    航海日誌

    審核漂流瓶

    Shang

    書海 Apsû

    回海圖
    APSÛ // COMM●