ApsûVoyage of a Thousand Books
書の海の海図
海図はドラッグやズームで動かせます。島をタップすると上陸できます。
ノルウェージャン・フォレストキャット
ノートを読んでボトルメールを流すと、ノルウェージャン・フォレストキャットが仲間になります
登録してこの建物を集めよう
AI新生
原題：Human Compatible
FT・マッキンゼー年間ビジネス書賞 ロングリスト
0:00
機械に、私たちが与えた目的を追わせるのではなく、私たちが本当に望むものを追わせること。そして機械は、それが何なのか自分が確信できないと認めなければならない。
読書の進捗
80%
どんな人におすすめ?
- AIがますます強力になるにつれ、人間がコントロールを失うのではないかと心配している人
- 数学をあまり読まずに、「AIの安全性」が実際に何を研究しているのかを知りたい読者
- AI倫理の古典的な入門書を求める、計算機科学、哲学、政策の学生
- 「ペーパークリップ」や「AIは人類を滅ぼす」という主張を耳にして、専門家の本当の議論を知りたい人
著者は誰？
- スチュアート・ラッセルはカリフォルニア大学バークレー校のコンピューターサイエンスの教授である
- ピーター・ノーヴィグとともに、世界でもっとも広く使われているAIの教科書『エージェントアプローチ人工知能』を共著した
- 本書の英語版のタイトルは、直訳すると『人間と両立する:人工知能と制御の問題』で、2019年に刊行された
その他の著書『エージェントアプローチ 人工知能』（ピーター・ノーヴィグとの共著）
読書ノート
🔒 ロフォーテン諸島に着いてノルウェージャン・フォレストキャットに会うと、全文が読めます
ロフォーテン諸島へ向かう超知能までに残された段階
ラッセルは、AIを超知能にするうえでの鍵は、コンピューターの速度が足りないことではなく、いくつかの概念上のブレークスルーがまだ達成されていないことだと考える。言語を本当に理解すること、常識を持つこと、学習を積み重ね続けられること、物事の階層構造を自ら発見できること、そして自分自身の思考について考えられること。
これらはアルゴリズムの問題で、いつ解決されるかは誰にもわからない。しかし彼は、それが起きてからどう制御するかを考え始めるのでは遅いと注意する。
巨大な報酬と巨大なリスク
なぜ今から心配するのか
評価と議論
ゴリラ問題
「標準モデル」の致命的な欠陥
ミダス王と「死んだらコーヒーは取ってこれない」
三つの新しい原則
支援ゲームとオフスイッチ
未解決の問題
航海士の漂流瓶 読者の書評
この本にはまだボトルメールが流れついていません
表紙はオリジナルのデザインで、出版社の実際の表紙ではありません
ボトルメールを流す
Share your thoughts! You might meet voyagers who think just like you.
Shang
Shang の本棚
航海者ガイド
この世界について
書の海には実在する 16 の島があり、それぞれがひとつのテーマを表しています。島の建物は、どれも一冊の本です。
今できること
- 海図の島をタップして上陸する
- 建物をタップして、その本の読書ノートを読む
- 航海士 Shang に会う
近日公開
- 第2章：航海者登録、船での航海、建物バッジの収集、ボトルメール
- 第4章：ほかの航海者との個別チャット
アイコンの見方
航海士の登録所
出航の前に、Shang があなたの船を登録します。