Superposition: Dentro de la Caja Negra - AI Visual Lab

x̂ = W^TWx, L = ||x - x̂||² + λ · sparsity

⚙ Modelo

N (dimensiones del modelo) 2

M (features a codificar) 3

Sparsity (S) 0.90

λ (penalizacion sparsity) 0.10

🎨 Vista

🎵 Audio

Volumen 30%

🟦 Features activas

📊 Metricas

M / N ratio1.50

Loss total0.000

Reconstruction loss0.000

Sparsity loss0.000

Interferencia media0.000

Features representadas0

📚 Superposicion

Las redes neuronales pueden codificar mas features que neuronas usando superposicion: multiples features comparten las mismas dimensiones.

W^T W x reconstruye la entrada. Si M ≤ N, cada feature tiene su propia dimension (sin interferencia). Si M > N, features se superponen y compiten.

La sparsity es clave: cuanto mas dispersas son las features, mas caben sin interferencia. El diagrama de fase muestra la transicion entre representacion completa y superposicion.