Fundamentos del aprendizaje estadístico

El aprendizaje estadístico es el marco que da sustento a casi todo lo que llamamos "machine learning": un conjunto de ideas para estimar patrones a partir de datos y, sobre todo, para saber cuándo esos patrones generalizan de verdad y cuándo nos estamos engañando.

Por dónde empezar

Es tentador saltar directo a coleccionar modelos —regresión por aquí, redes neuronales por allá—, pero vale la pena resistirse un momento. En el fondo casi todos resuelven el mismo problema y se entrenan con la misma lógica. Y todos cargan un desafío que rara vez se dice en voz alta: lo difícil no es ajustar los datos que ya tenemos, sino acertar en los que aún no hemos visto. Esta serie parte justo por ahí.

¿Qué es "aprender" a partir de datos?

Casi todo modelo supone que existe una relación entre unas variables de entrada $X$ y una salida $Y$:

$$Y=f(X)+\epsilon$$

donde $f$ es la relación real —que no conocemos— y $\epsilon$ es un ruido irreducible (todo lo que $X$ no alcanza a explicar). Aprender es usar los datos para construir una estimación $\hat{f}$ lo más parecida posible a $f$.

Dos grandes familias

• Aprendizaje supervisado: cada ejemplo trae su respuesta $Y$, y el modelo aprende a predecirla. Se divide según qué tipo de salida sea:
  • Regresión: $Y$ es un número (precio, temperatura). → Regresión lineal.
  • Clasificación: $Y$ es una categoría (spam / no spam). → la serie de Clasificación.
• Aprendizaje no supervisado: no hay respuestas; el modelo busca estructura por su cuenta. → la serie de Aprendizaje no supervisado.

El verdadero enemigo: generalizar

Aquí está la idea más importante de todas. Un modelo no se juzga por qué tan bien ajusta los datos con que se entrenó, sino por cómo se comporta con datos nuevos. Por eso separamos:

• Error de entrenamiento: qué tan bien le va con lo que ya vio (casi siempre optimista).
• Error de prueba: qué tan bien le va con datos que nunca vio (lo que de verdad importa).

Cuando un modelo tiene un error de entrenamiento bajísimo pero uno de prueba alto, está sobreajustando: memorizó el ruido en lugar de aprender el patrón. Detrás de esto vive el compromiso sesgo-varianza, que veremos en detalle en la lección de Regularización.

El plan de esta serie

Recorreremos los cimientos en tres pasos:

1. Regresión lineal — el modelo más simple e interpretable, y la mejor puerta de entrada.
2. Descenso de gradiente — el algoritmo que ajusta los parámetros de casi cualquier modelo.
3. Regularización — cómo controlar el sobreajuste y conseguir que el modelo generalice.

Para llevar

El aprendizaje estadístico trata de estimar una relación $\hat{f}$ a partir de datos, con un objetivo que nunca hay que perder de vista: generalizar a datos nuevos, no memorizar los viejos. Supervisado o no, regresión o clasificación, el compromiso entre ajustar y generalizar está siempre presente. Con estos cimientos, cada modelo que veas después será una variación sobre el mismo tema.