Early stopping

Tema: Deep Learning · Catálogo de recetas · temario: Syllabus IOAI

📍 Dónde se aprende: módulo 11 de la Ruta de Aprendizaje.

Qué hace

Corta el entrenamiento cuando la métrica de validación deja de mejorar durante paciencia épocas.

Cuándo usarla

Cuando entrenas por épocas y tienes una validación adecuada para decidir cuándo parar. También puede ahorrar tiempo; revisa qué ejecuciones cubre el límite de tu tarea.

Implementación

Necesita: solo la biblioteca estándar.

class EarlyStopping:
    """Corta el entrenamiento cuando la validación deja de mejorar.
 
    `paciencia` es cuántas épocas sin mejora se toleran antes de parar. En la
    IOAI no es solo una defensa contra el sobreajuste: es una defensa contra el
    reloj, porque el límite de tiempo cubre también la re-ejecución del
    notebook sobre los datos ocultos.
    """
 
    def __init__(self, paciencia=3, minima_mejora=0.0, modo="min"):
        self.paciencia = paciencia
        self.minima_mejora = minima_mejora
        self.signo = 1.0 if modo == "min" else -1.0
        self.mejor = None
        self.sin_mejorar = 0
        self.mejor_epoca = -1
        self.epoca = -1
 
    def paso(self, valor):
        """Registra el valor de una época. Devuelve True si hay que parar."""
        self.epoca += 1
        v = self.signo * valor
        if self.mejor is None or v < self.mejor - self.minima_mejora:
            self.mejor = v
            self.mejor_epoca = self.epoca
            self.sin_mejorar = 0
        else:
            self.sin_mejorar += 1
        return self.sin_mejorar >= self.paciencia

⚠️ Notas

Para vigilar generalización, se mide sobre validación. La pérdida de entrenamiento puede seguir bajando mientras el modelo se sobreajusta; tampoco tiene por qué bajar en cada época, debido al muestreo o a la optimización.

Esta receta detecta cuándo parar, pero no guarda los pesos. En serio hay que quedarse con el modelo de la mejor época (mejor_epoca), porque la última no necesariamente es la mejor según validación.

🔗 Relacionadas


Verificada

Este código se ejecuta en cada publicación, contra una referencia obviamente correcta, en herramientas/pruebas/basicas.py. Si se rompe, el sitio no se actualiza.

Las otras puertas del vault: Ruta de Aprendizaje · Referencia · IOAI