K-means

Tema: ML Clásico · Catálogo de recetas · temario: Syllabus IOAI

📍 Dónde se aprende: módulo 08 de la Ruta de Aprendizaje.

Qué hace

Agrupa los datos en k clusters, con inicialización k-means++.

Cuándo usarla

Cuando no hay etiquetas y sospechas que los datos vienen en grupos, o para generar features (la distancia a cada centro es una feature perfectamente válida).

Implementación

Necesita: numpy.

import numpy as np
 
 
def kmeans(X, k, semilla=0, iteraciones=100):
    """K-means++ sobre una matriz finita no vacía; 1 <= k <= n.
 
    Devuelve (etiquetas, centros). Un grupo vacío conserva su centro anterior.
    Al agotar las iteraciones, las etiquetas corresponden al centro final más
    cercano, aunque todavía puede faltar convergencia de las medias.
    """
    rng = np.random.default_rng(semilla)
    X = np.asarray(X, dtype=float)
    if X.ndim != 2 or 0 in X.shape or not np.isfinite(X).all():
        raise ValueError("X debe ser una matriz finita no vacía")
    if not isinstance(k, (int, np.integer)) or not 1 <= k <= len(X):
        raise ValueError("k debe ser un entero entre 1 y el número de filas")
    if not isinstance(iteraciones, (int, np.integer)) or iteraciones < 1:
        raise ValueError("iteraciones debe ser un entero positivo")
    # k-means++: el primer centro al azar, los siguientes lejos de los ya elegidos
    centros = [X[rng.integers(len(X))]]
    for _ in range(k - 1):
        d2 = np.min(((X[:, None, :] - np.array(centros)[None]) ** 2).sum(-1), axis=1)
        total = d2.sum()
        probs = d2 / total if total > 0 else np.full(len(X), 1.0 / len(X))
        centros.append(X[rng.choice(len(X), p=probs)])
    centros = np.array(centros)
 
    etiquetas = np.full(len(X), -1, dtype=int)  # ninguna asignación previa
    for _ in range(iteraciones):
        d2 = ((X[:, None, :] - centros[None]) ** 2).sum(-1)
        nuevas = np.argmin(d2, axis=1)
        if np.array_equal(nuevas, etiquetas):
            break
        etiquetas = nuevas
        for j in range(k):
            if np.any(etiquetas == j):
                centros[j] = X[etiquetas == j].mean(axis=0)
    # También si se agotó el límite: asignar respecto de los centros devueltos.
    d2 = ((X[:, None, :] - centros[None]) ** 2).sum(-1)
    return np.argmin(d2, axis=1), centros

⚠️ Notas

Tres cosas que muerden: asume clusters esféricos y de tamaño parecido; hay que escalar antes o la feature de rango más grande manda; y el resultado depende de la inicialización, por eso k-means++ y por eso la semilla.

Las etiquetas que devuelve son arbitrarias: el cluster 0 de una corrida puede ser el 2 de la siguiente. Para comparar contra etiquetas reales usa una métrica invariante a permutaciones, no accuracy.

Esta implementación conserva los centros de grupos vacíos; con puntos repetidos puede devolver menos de k grupos ocupados. Aumentar el límite no garantiza el óptimo global: compara varias inicializaciones si importa la inercia final.

🔗 Relacionadas


Verificada

Este código se ejecuta en cada publicación, contra una referencia obviamente correcta, en herramientas/pruebas/datos.py. Si se rompe, el sitio no se actualiza.

Las otras puertas del vault: Ruta de Aprendizaje · Referencia · IOAI