ApsûVoyage of a Thousand Books
Carte de la Mer des Livres
Fais glisser ou zoome sur la carte. Touche une île pour accoster.
Pour qui est ce livre ?
- Les personnes qui craignent que les humains perdent le contrôle à mesure que l'IA devient toujours plus puissante
- Les lecteurs qui veulent savoir ce qu'étudie réellement la « sécurité de l'IA » sans trop de mathématiques
- Les étudiants en informatique, en philosophie ou en politiques publiques qui veulent une introduction classique à l'éthique de l'IA
- Ceux qui ont entendu les thèses du « trombone » ou de « l'IA détruira l'humanité » et veulent connaître les véritables arguments des experts
Qui est l'auteur ?
- Stuart Russell est professeur d'informatique à l'université de Californie à Berkeley
- Avec Peter Norvig, il est co-auteur d'Artificial Intelligence: A Modern Approach, le manuel d'IA le plus utilisé au monde
- Le titre anglais du livre est Human Compatible: Artificial Intelligence and the Problem of Control, publié en 2019
Autres livresIntelligence artificielle : une approche moderne (avec Peter Norvig)
Notes de lecture
🔒 Rejoins Île de Jiugang et rends visite à Chat des forêts norvégiennes pour tout lire
Mettre le cap sur Île de JiugangQuelles étapes restent avant la superintelligence
Russell estime que ce qui empêche l'IA de devenir superintelligente n'est pas que les ordinateurs ne soient pas assez rapides, mais que plusieurs percées conceptuelles n'ont pas encore été réalisées : comprendre vraiment le langage, avoir du bon sens, pouvoir continuer à accumuler des apprentissages, pouvoir découvrir par elle-même la structure hiérarchique des choses, et pouvoir penser à sa propre pensée.
Ce sont des problèmes d'algorithmes, et personne ne sait quand ils seront résolus, mais il avertit qu'on ne peut pas attendre que cela arrive pour commencer à réfléchir à la manière de la contrôler.
D'énormes récompenses et d'énormes risques
Pourquoi s'inquiéter dès maintenant
Accueil et débat
Le problème du gorille
Le défaut fatal du « modèle standard »
Le roi Midas et « on ne peut pas aller chercher le café si l'on est mort »
Trois nouveaux principes
Jeux d'assistance et interrupteur d'arrêt
Problèmes non résolus
Bouteilles des navigateurs Critiques de lecteurs
Jeter une bouteille à la mer
Shang
Les livres de Shang
Guide du voyageur
Ce monde
La Mer des Livres compte 16 îles réelles, une par thème. Chaque bâtiment d'une île est un livre.
Ce que tu peux faire maintenant
- Touche une île sur la carte pour accoster
- Touche un bâtiment pour lire les notes sur ce livre
- Rencontrer Shang, le navigateur
Bientôt
- Chapitre 2 : devenir voyageur, naviguer sur ton navire, collectionner les badges de bâtiments, envoyer des bouteilles à la mer
- Chapitre 4 : discussions privées avec d'autres voyageurs
Symboles
Registre du navigateur
Avant d'appareiller, Shang va enregistrer ton navire.