ApsûVoyage of a Thousand Books
Carta del Mar de los Libros
Arrastra o haz zoom en la carta. Toca una isla para desembarcar.
¿Para quién es este libro?
- Personas preocupadas por que los humanos pierdan el control cuando la IA sea cada vez más poderosa
- Lectores que quieren saber qué estudia realmente la "seguridad de la IA" sin leer demasiadas matemáticas
- Estudiantes de informática, filosofía o políticas públicas que quieren una introducción clásica a la ética de la IA
- Personas que han oído las afirmaciones del "clip" o de que "la IA destruirá a la humanidad" y quieren saber cuáles son los verdaderos argumentos de los expertos
¿Quién es el autor?
- Stuart Russell es profesor de informática en la Universidad de California, Berkeley
- Junto con Peter Norvig, coescribió IA: un enfoque moderno (Artificial Intelligence: A Modern Approach), el libro de texto de IA más utilizado del mundo
- El título original en inglés del libro es Human Compatible: Artificial Intelligence and the Problem of Control, publicado en 2019
Otros librosInteligencia artificial: Un enfoque moderno (1995)
Notas de lectura
🔒 Llega a Isla Jiugang y visita a Gato noruego del bosque para leerlo todo
Navegar a Isla JiugangQué pasos faltan antes de la superinteligencia
Russell cree que la clave para que la IA sea superinteligente no es que los ordenadores no sean lo bastante rápidos, sino que aún no se han logrado varios avances conceptuales: comprender de verdad el lenguaje, tener sentido común, ser capaz de seguir acumulando aprendizaje, ser capaz de descubrir por sí misma la estructura jerárquica de las cosas y ser capaz de pensar sobre su propio pensamiento.
Estos son problemas algorítmicos y nadie sabe cuándo se resolverán, pero advierte de que no podemos esperar a que ocurra para empezar a pensar cómo controlarlo.
Enormes recompensas y enormes riesgos
Por qué preocuparse desde ahora
Recepción y debate
El problema del gorila
El defecto fatal del "modelo estándar"
El rey Midas y "no puedes traer el café si estás muerto"
Tres nuevos principios
Juegos de asistencia y el interruptor de apagado
Problemas sin resolver
Botellas de los navegantes Reseñas de lectores
Lanzar una botella
Regístrate como viajero para abrir las botellas.
0 botellas
Shang
Los libros de Shang
Guía del viajero
Este mundo
El Mar de los Libros tiene 16 islas reales, una por cada tema. Cada edificio de una isla es un libro.
Lo que puedes hacer ahora
- Toca una isla en la carta para desembarcar
- Toca un edificio para leer las notas de ese libro
- Conoce a Shang, el navegante
Próximamente
- Capítulo 2: regístrate como viajero, navega en tu barco, colecciona insignias de edificios y envía mensajes en botellas
- Capítulo 4: chats privados con otros viajeros
Símbolos
Registro del navegante
Antes de zarpar, Shang registrará tu barco.