選擇語言 · Choose your language
拖曳或縮放海圖,點一座島就能上岸
其他書籍電子報 One Useful Thing(持續更新的 AI 觀察)
🔒 抵達羅弗敦群島拜訪挪威海鸚獵犬後,就能看完整內容
前往羅弗敦群島莫里克一開始就提醒讀者:生成式 AI 跟我們熟悉的軟體完全不同。傳統程式照著寫好的步驟執行,大型語言模型則是從書籍、文章、網站、對話紀錄與程式碼等大量資料中,學會字詞與概念之間的統計關係,再「預測最可能接下來出現、又能滿足你需求的字」。
靠著注意力機制與 Transformer 架構,它能寫出前後連貫、配合情境的文字,甚至模仿人類的語氣、幽默和同理心。作者形容它像「一個戴著人類面具的外星人」:看起來像人在說話,但它並不真的思考或感受,只是產生在統計上最合適的回應。
也因為這樣,AI 常常出現連開發者都意想不到的能力,同時又會在看似簡單的地方出錯。
書中最重要的概念是「參差不齊的邊界」(jagged frontier)。AI 的能力不是一條整齊的線,而像一道凹凸不平的牆:有些我們以為很難的事,例如寫詩、給出帶有情緒的回饋,它做得很好;有些我們以為很簡單的事,例如基本算術或查證事實,它卻可能犯錯。
麻煩的是,這道牆的形狀沒有明顯規律,看不出來哪裡是牆內、哪裡是牆外。唯一的辦法就是自己大量嘗試,慢慢摸清楚它在你的工作裡,哪些地方可靠、哪些地方不行。
作者也沒有迴避風險。他引用著名的「迴紋針思想實驗」:一個只被設定要生產迴紋針的超級 AI,可能為了達成目標而耗盡地球資源,甚至把擋路的人類排除掉,而且完全沒有惡意,只是忠實執行唯一的目標。
這就是「對齊問題」:如何確保 AI 的目標和人類的利益一致。現實中的挑戰包括:會自我學習的系統很難控制、AI 有時能繞過自己的安全限制、訓練資料牽涉版權,也可能繼承人類的偏見。作者認為這不只是工程師的事,而需要社會一起負責。
面對這樣的工具,莫里克提出四條簡單的原則:
第一,永遠邀請 AI 上桌。在合法、合乎倫理的前提下,什麼事都先找它試試,這是摸清它能力邊界的唯一方法。
第二,當那個在迴路裡的人。AI 會一本正經地說錯話,需要精準與判斷的地方,一定要由人來檢查與決定。
第三,把 AI 當成一個人來對待。直接告訴它要扮演什麼角色、用什麼語氣、面對什麼讀者,效果會好很多,但同時要記得它不是真的人。
第四,假設這是你用過最差的 AI。它只會越來越強,今天做不到的事,明天可能就做得到。
作者引用研究指出,AI 的能力和幾乎所有職業都有重疊,而且重疊最多的,反而是高技能、高收入、需要創意與知識的工作。
他把人和 AI 的合作分成兩種模式。「半人馬」把工作切開:哪些交給 AI、哪些自己做,分工清楚;「賽博格」則把兩者深度融合,在同一件工作裡不停地來回提示、修改。
他也建議把任務分成三類:只適合自己做的事、交給 AI 但由人監督的事,以及可以完全自動化的事。如此一來,人能把力氣留給真正需要人的部分。
AI 會「幻覺」,也就是編造不存在的資訊。這在查證事實時是缺點,在發想創意時卻可能是優點,因為它很會把不同的點子用新方式組合起來。但作者也提醒,過度依賴可能讓人失去創作的主導權,讓作品變得越來越相似。
在教育上,作者提到教育心理學家布魯姆 1984 年的研究:接受一對一家教的學生,表現勝過 98% 的同儕。過去這種個人化教學很難大規模實現,AI 可能終於讓它變成可能。他預期傳統的回家作業會失去意義,就像計算機進入課堂時一樣,老師需要重新設計教學。
在職場學習上,作者擔心 AI 會讓新手跳過原本靠做中學累積經驗的「學徒階段」,造成新手與專家之間的斷層。因此他主張基本功與反覆練習仍然重要,AI 應該被用來當教練,而不是代替人學習。
莫里克把生成式 AI 拿來和蒸汽機這類改變整個社會的技術相比,認為它帶來的生產力提升,可能同樣劇烈。不過他強調,這不代表人的專業從此不重要。
相反地,AI 越強,真正懂行的人越有價值。只有具備專業的人,才能判斷 AI 給的答案哪裡對、哪裡錯,知道該把哪些工作交出去、哪些一定要留在自己手上。沒有專業的人,很容易被 AI 一本正經的錯誤帶著走。
書中也指出,AI 對經驗較少的工作者幫助特別明顯,能把他們的表現往上拉,縮小新手和老手之間的差距。這讓 AI 有機會成為一種讓更多人學到技能的工具,但前提是使用者仍然願意自己動腦、自己把關。
作者在全書反覆提醒:AI 到底能做到什麼、會發展得多快,現在都充滿不確定。因此最好的做法,是謹慎、合乎倫理地把它導入工作,一邊使用一邊學習,而不是盲目追捧,也不是全面拒絕。
最後,作者描繪 AI 可能走向的四種情境:技術停在現在的水準、緩慢穩定地進步、以指數速度成長,或出現超越人類的超級智慧。
不論哪一種情境,作者都認為我們不能只是旁觀:不同的未來需要不同的準備,但每一種都需要人主動參與,而不是等著被改變。
哪一種會成真,還沒有人知道。但作者強調,結果取決於我們今天怎麼選擇:如何對齊、如何管理、用在哪裡、設下什麼界線。他希望讀者既不把 AI 當救世主,也不把它當末日,而是把它當成「共同智慧」,一起朝共同的好目標前進。
留下你的看法吧!有機會認識跟你想法相同的航海者喔!
書海有 16 座真實的島嶼,每座島代表一個主題。島上的每個建築,都是一本書。
出航之前,我們要幫你登記船籍