ApsûVoyage of a Thousand Books
书海海图
拖曳或缩放海图，点一座岛就能上岸
花楸
读完书摘并留下漂流瓶，即可获得花楸
注册后就能收集这只生物
人机对齐
原文书名：The Alignment Problem
0:00
我们该问的不只是「机器如何把奖励最大化」，而是「我们该怎么设计奖励，才能让它做出我们真正想要的事」。
阅读进度
80%
适合谁看？
- 想知道 AI 为什么会学到偏见、又该怎么修正的人
- 对算法公平、AI 透明度等社会议题有兴趣的读者
- 学信息、心理学或社会科学，想看两个领域怎么交会的学生
- 想用故事而不是公式理解机器学习的人
作者是谁？
- 布莱恩·克里斯汀 (Brian Christian)，美国作家，擅长把电脑科学与哲学、心理学写给一般读者
- 曾与认知科学家汤姆·葛瑞菲斯合著《决断的演算》
- 本书英文原名 The Alignment Problem: Machine Learning and Human Values，2020 年出版
其他书籍《决断的演算》（Algorithms to Live By，与 Tom Griffiths 合著）；The Most Human Human
阅读笔记
🔒 抵达罗弗敦群岛拜访花楸后，就能看完整内容
前往罗弗敦群岛全书架构：预言、能动性、规范
本书分成三大部分，每部分三章，从基础一路走到进阶。
第一部分“预言”谈机器学习的预测系统，包含“表征”、“公平”与“透明”三章；第二部分“能动性”谈会自己行动的系统，包含“强化”、“塑造”与“好奇心”；第三部分“规范”谈机器如何学会人类想要什么，包含“模仿”、“推论”与“不确定性”。
克里斯汀用大量研究者的访谈与真实案例，把技术问题和人类心理学、行为科学串在一起，让没有技术背景的读者也能看懂。
表征：资料里缺了谁
公平：数学上不可能两全
透明：黑盒子不是必然
强化：从奖励中学习
塑造与好奇心
模仿与推论
不确定性与可修正性
各方评价
领航员的漂流瓶 读者书评
还没有瓶子漂到这本书
其他书摘链接
封面为原创示意设计,非出版社原版封面
留下漂流瓶
留下你的看法吧！有机会认识跟你想法相同的航海者哦！
…
Shang
Shang 的书单
航海指南
这个世界
书海有 16 座真实的岛屿，每座岛代表一个主题。岛上的每个建筑，都是一本书。
现在可以做什么
- 在海图上点一座岛上岸
- 点岛上的建筑，阅读那本书的笔记
- 到领航员那里认识 Shang
即将开放
- 第二章：注册成为航海者、驾船航行、收集建筑徽章、丢漂流瓶
- 第四章：和其他航海者私下聊天
图示说明
船籍注册处
出航之前，我们要帮你注册船籍