PCA
Tema: ML Clásico · Catálogo de recetas · temario: Syllabus IOAI
📍 Dónde se aprende: módulo 08 de la Ruta de Aprendizaje.
Qué hace
Reduce la dimensión proyectando sobre las direcciones de mayor varianza, por SVD.
Cuándo usarla
Para comprimir features antes de un modelo clásico, para visualizar en 2-D, y como detector de anomalías: lo que se reconstruye mal es lo que no se parece al resto.
Implementación
Necesita: numpy.
import numpy as np
def pca(X, n_componentes):
"""PCA por SVD. Devuelve (proyeccion, componentes, media)."""
X = np.asarray(X, dtype=float)
media = X.mean(axis=0)
Xc = X - media
_, _, Vt = np.linalg.svd(Xc, full_matrices=False)
componentes = Vt[:n_componentes]
return Xc @ componentes.T, componentes, media
def reconstruir(proyeccion, componentes, media):
"""Vuelve al espacio original desde la proyección."""
return proyeccion @ componentes + media⚠️ Notas
Centrar es obligatorio (la receta lo hace) y escalar suele serlo: sin escalar, PCA se dedica a la feature de mayor varianza, que puede ser solo la de unidades más grandes.
Los signos de las componentes son arbitrarios: una componente y su negativa son igual de válidas. No compares componentes entre corridas, compara el subespacio o el error de reconstrucción.
🔗 Relacionadas
Verificada
Este código se ejecuta en cada publicación, contra una referencia obviamente correcta, en
herramientas/pruebas/datos.py. Si se rompe, el sitio no se actualiza.
Las otras puertas del vault: Ruta de Aprendizaje · Referencia · IOAI