ApsûVoyage of a Thousand Books
書の海の海図
海図はドラッグやズームで動かせます。島をタップすると上陸できます。
ナナカマド
ノートを読んでボトルメールを流すと、ナナカマドが仲間になります
登録してこの建物を集めよう
アラインメント問題 機械学習と人間の価値
原題：The Alignment Problem
0:00
問題は、「機械が報酬をどう最大化するか」だけではなく、「本当に望むことを機械がしてくれるように、報酬をどう設計すべきか」である。
読書の進捗
80%
どんな人におすすめ?
- AIがなぜ偏見を学習し、それをどう正せるのかを知りたい人
- アルゴリズムの公平性やAIの透明性といった社会的な問題に関心のある読者
- 計算機科学、心理学、社会科学を学び、分野の交わるところを見たい学生
- 数式ではなく物語を通じて、機械学習を理解したい人
著者は誰？
- ブライアン・クリスチャン、アメリカの作家。計算機科学を、哲学や心理学とあわせて一般読者向けに書くことを専門とする
- 認知科学者トム・グリフィスと共著で『アルゴリズム思考術』を書いた
- 本書は2020年に、直訳すると『アライメント問題:機械学習と人間の価値観』という題で出版された
その他の著書『アルゴリズム思考術』（トム・グリフィスとの共著）；『機械より人間らしくなれるか？』
読書ノート
🔒 ロフォーテン諸島に着いてナナカマドに会うと、全文が読めます
ロフォーテン諸島へ向かう本書の構成：予言、主体性、規範性
本書は3部に分かれ、各部が3章からなり、基礎から発展的な内容へと進んでいく。
第1部「予言」は、機械学習の予測システムを扱い、「表現」「公平性」「透明性」の各章がある。第2部「主体性」は、自分で行動するシステムを扱い、「強化」「シェイピング」「好奇心」の各章がある。第3部「規範性」は、機械が人間の望むことをどう学ぶかを扱い、「模倣」「推論」「不確実性」の各章がある。
クリスチャンは、研究者への数多くのインタビューと実際の事例を使って、技術的な問題を人間の心理学や行動科学と結びつけており、技術の背景を持たない読者もついていける。
表現：データに欠けているのは誰か
公平性：数学的に両立させることはできない
透明性：ブラックボックスは避けられないものではない
強化：報酬から学ぶ
シェイピングと好奇心
模倣と推論
不確実性と修正可能性
ほかの人々の評価
航海士の漂流瓶 読者の書評
この本にはまだボトルメールが流れついていません
表紙はオリジナルのデザインで、出版社の実際の表紙ではありません
ボトルメールを流す
Share your thoughts! You might meet voyagers who think just like you.
…
Shang
Shang の本棚
航海者ガイド
この世界について
書の海には実在する 16 の島があり、それぞれがひとつのテーマを表しています。島の建物は、どれも一冊の本です。
今できること
- 海図の島をタップして上陸する
- 建物をタップして、その本の読書ノートを読む
- 航海士 Shang に会う
近日公開
- 第2章：航海者登録、船での航海、建物バッジの収集、ボトルメール
- 第4章：ほかの航海者との個別チャット
アイコンの見方
航海士の登録所
出航の前に、Shang があなたの船を登録します。