書海Apsû
Carta Navegante Guía
Regístrate como viajero

ApsûVoyage of a Thousand Books

Carta del Mar de los Libros

Arrastra o haz zoom en la carta. Toca una isla para desembarcar.

← Volver a la carta

← Volver a la isla · Islas Lofoten
Rowan Tree
Finish the notes and leave a bottle to get the Rowan Tree
Regístrate para coleccionar este edificio
El problema de la alineación: Aprendizaje automático y valores humanos
Título original: The Alignment Problem
Autor: Brian Christian ⓘ
El problema de la alineación: Aprendizaje automático y valores humanos

0:00
    La cuestión no es solo «cómo maximiza una máquina su recompensa», sino «cómo debemos diseñar la recompensa para que haga lo que de verdad queremos».
    Progreso de lectura 80%
    ▶ ¿Te da pereza leer? Aquí tienes el video resumen :)
    ▶ Video resumen próximamente
    Navegar a Islas Lofoten

    ¿Para quién es este libro?

    • Personas que quieren saber por qué la IA aprende sesgos y cómo corregirlos
    • Lectores interesados en cuestiones sociales como la equidad algorítmica y la transparencia de la IA
    • Estudiantes de informática, psicología o ciencias sociales que quieren ver cómo se encuentran estos campos
    • Personas que quieren entender el aprendizaje automático a través de historias en lugar de fórmulas

    ¿Quién es el autor?

    • Brian Christian, autor estadounidense especializado en escribir para el público general sobre informática junto con filosofía y psicología
    • Fue coautor de Algorithms to Live By con el científico cognitivo Tom Griffiths
    • El libro se publicó en 2020 como The Alignment Problem: Machine Learning and Human Values

    Otros librosAlgoritmos para la vida cotidiana (2016) · The Most Human Human (2011)

    Notas de lectura

    🔒 Llega a Isla Jiugang y visita a Serbal de los cazadores para leerlo todo

    Navegar a Isla Jiugang
    La estructura del libro: profecía, agencia, normatividad

    El libro se divide en tres partes de tres capítulos cada una, que avanzan desde lo básico hasta material más avanzado.

    La primera parte, «Profecía», trata de los sistemas predictivos del aprendizaje automático, con capítulos sobre «Representación», «Equidad» y «Transparencia»; la segunda parte, «Agencia», trata de los sistemas que actúan por sí solos, con «Refuerzo», «Moldeado» y «Curiosidad»; la tercera parte, «Normatividad», trata de cómo las máquinas aprenden lo que quieren los humanos, con «Imitación», «Inferencia» e «Incertidumbre».

    Christian se apoya en numerosas entrevistas con investigadores y en casos reales para vincular los problemas técnicos con la psicología humana y las ciencias del comportamiento, de modo que los lectores sin formación técnica puedan seguirlo.

    Representación: quién falta en los datos
    Equidad: matemáticamente imposible tenerlas todas
    Transparencia: la caja negra no es inevitable
    Refuerzo: aprender de la recompensa
    Moldeado y curiosidad
    Imitación e inferencia
    Incertidumbre y corregibilidad
    Lo que dicen otros

    Botellas de los navegantes Reseñas de lectores

    Todavía no ha llegado ninguna botella a este libro
    La portada es un diseño original, no la portada real del editor

    Lanzar una botella

    …
    Shang

    Shang

    Los libros de Shang

    Guía del viajero

    Este mundo

    El Mar de los Libros tiene 16 islas reales, una por cada tema. Cada edificio de una isla es un libro.

    Lo que puedes hacer ahora

    • Toca una isla en la carta para desembarcar
    • Toca un edificio para leer las notas de ese libro
    • Conoce a Shang, el navegante

    Próximamente

    • Capítulo 2: regístrate como viajero, navega en tu barco, colecciona insignias de edificios y envía mensajes en botellas
    • Capítulo 4: chats privados con otros viajeros

    Símbolos

    Cambiar idioma

    Registro del navegante

    Antes de zarpar, Shang registrará tu barco.

    Bitácora

    Buzón

    Clasificación

    Bitácora

    Revisar botellas

    Shang

    書海 Apsû

    回海圖
    APSÛ // COMM●