Qué significa aprender de datos
Fundamentos — Del ejemplo a una regla · Ruta de Aprendizaje
Tenemos tres recorridos: distancias 1, 2 y 3, con duraciones 3, 5 y 7. Queremos estimar cuánto durará otro recorrido. La entrada es lo que sabremos antes de responder: distancia. La etiqueta es la respuesta observada que podemos usar al aprender: duración.
| Distancia, entrada x | Duración, respuesta y |
|---|---|
| 1 | 3 |
| 2 | 5 |
| 3 | 7 |
Una fila es un ejemplo. Una columna de entrada es una variable o feature. La duración no debe añadirse a las entradas: todavía no la tendremos al predecir. Si hubiera varias medidas por recorrido, X tendría varias columnas.
Proponer una familia de reglas
Probemos reglas de la forma predicción = w×distancia+b. Elegir esta familia
decide qué relaciones podemos expresar. Elegir w y b decide cuál de esas
reglas usamos. Son los parámetros del modelo.
Con w=1 y b=0 predecimos 1, 2 y 3: nos quedamos cortos. Con w=2 y b=1 predecimos 3, 5 y 7. Para comparar, restamos respuesta y predicción y promediamos los errores al cuadrado, la pérdida MSE:
import numpy as np
x = np.array([1., 2., 3.])
y = np.array([3., 5., 7.])
def predecir(x, w, b):
return w * x + b
pred_inicial = predecir(x, w=1., b=0.)
errores = pred_inicial - y
print(pred_inicial, errores) # [1,2,3] y [-2,-3,-4]
print((errores ** 2).mean()) # 29/3, aproximadamente 9.667
print(((predecir(x, 2., 1.) - y) ** 2).mean()) # 0En este caso encontramos los parámetros mirando la tabla. Entrenar es usar un procedimiento que los ajuste a partir de ejemplos y de un criterio como esa pérdida. No escribimos una respuesta individual para cada entrada: ajustamos una regla que también puede recibir otras.
Entrenar y usar lo aprendido son operaciones distintas
La biblioteca puede resolver ese ajuste. Aquí fit encuentra los coeficientes
de una regresión lineal por mínimos cuadrados; no tenemos que programar el
método numérico para empezar a observar su resultado:
from sklearn.linear_model import LinearRegression
X = x.reshape(3, 1) # tres ejemplos, una variable
modelo = LinearRegression() # instancia todavía sin ajustar
modelo.fit(X, y) # aprende y conserva sus parámetros
print(modelo.coef_, modelo.intercept_) # aproximadamente [2.] y 1.
print(modelo.predict([[4.]])) # aproximadamente [9.]coef_ guarda el peso y intercept_, el sesgo. predict aplica los valores
aprendidos; no vuelve a ajustarlos con cada consulta. [[4.]] conserva los
dos ejes: un ejemplo con una variable. La forma de y es (3,) porque aquí
cada ejemplo tiene una sola respuesta escalar.
Crear otra instancia no copia automáticamente lo aprendido. Cambiar los datos
guardados tampoco reentrena el modelo: hay que decidir cuándo llamar a fit.
Más adelante PyTorch permitirá observar las actualizaciones internas.
Un ajuste perfecto todavía no demuestra que sirva
Las tres filas cumplen exactamente una recta porque construimos el ejemplo así. En datos reales hay ruido, medidas incompletas y condiciones que cambian. Si la duración observada para distancia 4 fuera 12, nuestra predicción 9 tendría error −3, aunque en entrenamiento no hubiera error.
Generalizar es funcionar en ejemplos fuera del ajuste. Reservar datos para validación ayuda a investigar esa capacidad. Deben representar la situación que interesa: recorridos nuevos, conductores nuevos o fechas futuras no son necesariamente la misma pregunta. El módulo 05 desarrolla esa elección.
Un baseline es una referencia para comparar. Predecir siempre la media de entrenamiento, 5, ignoraría la distancia. Antes de adoptar algo más complejo conviene medir qué aporta usarla. Ningún número garantiza generalización por sí solo: importa sobre qué datos y después de qué decisiones se calculó.
Qué se aprende y qué elegimos nosotros
| Decisión | Quién la toma en este ejemplo |
|---|---|
| Usar distancia como entrada | nosotros, según qué estará disponible |
| Probar una regla lineal | nosotros, al elegir la familia |
| Valores de w y b | el procedimiento de ajuste |
| Qué filas reservar | nosotros, según el uso futuro |
Un hiperparámetro configura el procedimiento o la familia: por ejemplo,
la profundidad máxima de un árbol o la tasa de aprendizaje de una red.
Los parámetros se ajustan durante entrenamiento; los hiperparámetros pueden
compararse usando validación. Elegirlos también consume información de esa
validación, aunque no se entreguen sus respuestas directamente a fit.
Una pérdida orienta el ajuste. Una métrica resume lo que queremos evaluar. Pueden coincidir, como MSE en una regresión, o ser diferentes. En clasificación podemos ajustar probabilidades con una pérdida suave y medir qué fracción de clases acertamos. No toda mejora de pérdida mejora toda métrica.
Cantidad, clase y probabilidad
Predecir duración es regresión: la respuesta es una cantidad. Predecir «avería» o «sin avería» es clasificación: la respuesta es una categoría. Codificarlas como 0 y 1 no las convierte en cantidades de avería.
Un clasificador puede devolver una puntuación o una probabilidad estimada antes de elegir una clase. Decidir con umbral 0.5 es una regla posterior; el módulo 04 explicará cuándo interesa otra. La salida numérica de un modelo no es automáticamente una probabilidad confiable.
Una variación para probar
Cambia solo la duración del tercer recorrido de 7 a 10 y vuelve a ajustar. Antes de ejecutar, piensa por qué la recta ya no podrá atravesar los tres puntos. Compara error en entrenamiento y predicción para distancia 4.
Para contrastar
Las pendientes entre los dos primeros y los dos últimos puntos son 2 y 5. Una recta no puede tener ambas. Mínimos cuadrados encuentra aproximadamente w=3.5 y b=−1: predice
[2.5,6,9.5], con MSE 0.5, y 13 para distancia 4. Cambió una etiqueta de entrenamiento y cambió también la extrapolación.
← 01 - Pandas y mirar los datos · Ruta de Aprendizaje · 02 - Tu primer modelo →