幻島奇航Drollery
海圖漂流瓶漂流瓶 海上基地 船長室 航海指南
Sign up

ApsûVoyage of a Thousand Books

Apsû World Map

尋找你需要的答案

回到海圖

回到島上 · 舊港島
台灣獼猴
讀完書摘並留下漂流瓶,即可獲得台灣獼猴
登記後就能收集這隻生物
台灣獼猴‹
超智慧
超智慧
Superintelligence: Paths, Dangers, Strategies
作者
Nick Bostrom
小島
舊港島
作者:尼克・伯斯特隆姆 (Nick Bostrom) ⓘ

2005年創辦牛津大學人類未來研究所,該所2024年關閉。

超智慧
超智慧

0:00
    一旦機器智慧超越人類,它很可能取得關鍵策略優勢,而它的目標不會自動與人類價值一致;因此在它出現之前,我們就必須先解決「如何控制它」這個只有一次機會的難題。
    閱讀進度 80%
    ▶ 懶得看文字的人,這裡有說書影片:)
    ▶ 敬請期待說書影片

    適合誰看?

    • 想知道「AI 風險」這個議題最早是怎麼被系統性論證的人
    • 想看懂「迴紋針最大化」「背信轉向」這些常被引用的概念出處的讀者
    • 關心 AI 政策、科技倫理與長期風險的人
    • 能接受抽象、哲學式推論,願意慢慢讀的讀者

    作者是誰?

    • 瑞典出生的哲學家,1973年生;2000年取得倫敦政經學院哲學博士,2000至2002年在耶魯大學任教,之後轉往牛津大學
    • 2005年創辦牛津大學人類未來研究所 (Future of Humanity Institute),該所於2024年關閉;現為自己創立的 Macrostrategy Research Initiative 首席研究員
    • 研究主題包括存在風險 (existential risk)、人擇偏誤 (anthropic bias)、人類增強倫理、全腦仿真與超智慧風險
    作者的其他書4
    • Anthropic Bias: Observation Selection Effects in Science and Philosophy(2002)
    • Global Catastrophic Risks(2008,與 Milan M. Ćirković 合編)
    • Human Enhancement(2009,與 Julian Savulescu 合編)
    • Deep Utopia: Life and Meaning in a Solved World(2024)

    閱讀筆記

    清單
    章節狀態
    01開場:未完的麻雀寓言試讀

    全書以一則寓言開場:築巢季節,麻雀們累了一整天,坐在夕陽下聊天,說要是有隻貓頭鷹來幫忙築巢、照顧老小、提防貓,日子會輕鬆多少。年長的帕斯圖斯 (Pastus) 提議去找被遺棄的貓頭鷹蛋或雛鳥來養;只有獨眼、個性焦躁的史克隆芬克 (Scronkfinkle) 質疑:把貓頭鷹帶進來之前,不是該先想想怎麼馴服牠嗎?其他麻雀認為光找蛋就夠難了,以後再說,便飛走了。幾隻留下的麻雀開始研究馴服的方法,卻發現困難在於:在得到貓頭鷹之前,根本沒有可以練習的對象。

    故事沒有結局。作者說,他把這本書獻給史克隆芬克和跟隨牠的人;封面上的貓頭鷹也由此而來。

    02序言:控制超智慧的超級難題未解鎖

    03第1至2章 AI 的歷史與邁向超智慧的途徑未解鎖

    04第3至6章 超智慧的形式、智慧爆發與關鍵策略優勢未解鎖

    05第7至8章 超智慧的意志與「生存災難」未解鎖

    06第9至10章 控制難題與四種系統未解鎖

    07第11至13章 多極情境、價值載入與「選擇準則」未解鎖

    08第14至15章 策略景況與緊要關頭未解鎖

    09評價與爭議未解鎖

    第 1 章可以先試讀

    漂到這本書的瓶子

      還沒有瓶子漂到這本書

      其他書摘連結

      • 《超智慧》:當人工智慧還很笨時,聰明一點會比較安全;然而當它變得很聰明,愈聰明就愈危險(關鍵評論網・書摘)
      • Superintelligence: Paths, Dangers, Strategies(Wikipedia)
      • Nick Bostrom(Wikipedia,含本書論點與各方評價)

      猜妳也會喜歡

      AI新生AI 2041工作者的AI共智模式控制邊緣
      封面為原創示意設計,非出版社原版封面
      回到島上 · 舊港島
      Shang

      Shang

      Shang 的書單

      航海指南

      這個世界

      書海有 24 座真實的島嶼,每座島代表一個主題。島上的每個建築,都是一本書。

      現在可以做什麼

      • 在海圖上點一座島上岸
      • 點島上的建築,閱讀那本書的筆記
      • 到領航員那裡認識 Shang

      即將開放

      • 第二章:登記成為航海者、駕船航行、收集建築徽章、丟漂流瓶
      • 第四章:和其他航海者私下聊天

      圖示說明

      切換語言

      船籍登記處

      出航之前,我們要幫你登記船籍

      航海日誌

      船長室

      海底郵筒

      漂流瓶

      排行榜

      航海日誌

      審核漂流瓶

      Shang

      書海 Apsû

      回海圖
      APSÛ // COMM●

      ‹舊港島