Capítulo 8 Una mirada a la bola de cristal

¿Cuál es el futuro del aprendizaje automático interpretable? Este capítulo es un ejercicio mental especulativo y una suposición subjetiva de cómo se desarrollará el aprendizaje automático interpretable. Abrí el libro con historias cortas bastante pesimistas y me gustaría concluir con una perspectiva más optimista.

He basado mis “predicciones” en tres premisas:

1. Digitalización: Cualquier información (interesante) será digitalizada. Piensa en el dinero electrónico y las transacciones en línea. Piensa en libros electrónicos, música y videos. Piensa en todos los datos sensoriales sobre nuestro entorno, nuestro comportamiento humano, los procesos de producción industrial, etc. Los impulsores de la digitalización de todo son: computadoras / sensores / almacenamiento baratos, efectos de escala (el ganador se lo lleva todo), nuevos modelos de negocios, cadenas de valor modulares, presión de costos y mucho más.
2. Automatización: cuando una tarea se puede automatizar y el costo de la automatización es menor que el costo de realizar la tarea con el tiempo, la tarea se automatizará. Incluso antes de la introducción de la computadora, teníamos un cierto grado de automatización. Por ejemplo, la máquina de tejer automatizada o la máquina de vapor automatizada. Pero las computadoras y la digitalización llevan la automatización al siguiente nivel. Simplemente el hecho de que puede programar loops for, escribir macros de Excel, automatizar respuestas de correo electrónico, etc., muestra cuánto puede automatizar un individuo. Las máquinas de boletos automatizan la compra de boletos de tren (ya no se necesita cajero), las lavadoras automatizan la lavandería, las órdenes permanentes automatizan las transacciones de pago, etc. La automatización de tareas libera tiempo y dinero, por lo que existe un gran incentivo económico y personal para automatizar las cosas. Actualmente estamos observando la automatización de la traducción de idiomas, la conducción y, en menor medida, incluso el descubrimiento científico.
3. Especificación incorrecta: no podemos especificar perfectamente un objetivo con todas sus limitaciones. Piensa en el genio en una botella que siempre toma tus deseos literalmente: “¡Quiero ser la persona más rica del mundo!” -> Te conviertes en la persona más rica, pero como efecto secundario, la moneda que tienes se devalúa debido a la inflación. “¡Quiero ser feliz por el resto de mi vida!” -> Los siguientes 5 minutos te sientes muy feliz, luego el genio te mata. “¡Deseo la paz mundial!” -> El genio mata a todos los humanos. Especificamos objetivos incorrectamente, ya sea porque no conocemos todas las restricciones o porque no podemos medirlas. Veamos a las corporaciones como un ejemplo de especificación de objetivos imperfectos. Una corporación tiene el objetivo simple de ganar dinero para sus accionistas. Pero esta especificación no captura el verdadero objetivo con todas sus limitaciones por las que realmente nos esforzamos: Por ejemplo, no apreciamos que una compañía mate personas para ganar dinero, envenene ríos o simplemente imprima su propio dinero. Hemos inventado leyes, reglamentos, sanciones, procedimientos de cumplimiento, sindicatos y más para parchear la especificación de objetivos imperfectos. Otro ejemplo que puedes experimentar por ti mismo es Paperclips, un juego en el que juegas una máquina con el objetivo de producir tantos clips como sea posible. ADVERTENCIA: es adictivo. No quiero estropearlo demasiado, pero digamos que las cosas se descontrolan muy rápido. En el aprendizaje automático, las imperfecciones en la especificación del objetivo provienen de abstracciones de datos imperfectas (poblaciones sesgadas, errores de medición, …), funciones de pérdida sin restricciones, falta de conocimiento de las restricciones, cambio de la distribución entre los datos de entrenamiento y aplicación y mucho más. .

La digitalización está impulsando la automatización. La especificación de objetivos imperfecta entra en conflicto con la automatización. Afirmo que este conflicto está mediado parcialmente por métodos de interpretación.

El escenario para nuestras predicciones está listo, la bola de cristal está lista, ¡ahora miramos hacia dónde podría ir el campo!