Computación neuromórfica
Neuronas de impulsos, STDP y hardware inspirado en el cerebro
El cerebro funciona con unos 20 vatios y se comunica con picos eléctricos discretos. Las redes de impulsos intentan computar como él: con tiempo, eventos y dispersión.
Intuición
Las neuronas artificiales comunes emiten números continuos en cada paso. Las neuronas biológicas acumulan carga y, al superar un umbral, disparan un impulso breve y se reinician. La información está en cuándo disparan, no solo en cuánto.
El modelo más simple es integrar y disparar con fuga (LIF): el potencial de membrana se carga con la corriente de entrada, se fuga hacia el reposo y, al cruzar el umbral, emite un pico. El modelo de Izhikevich (2003) reproduce con dos ecuaciones casi todos los patrones de disparo del cortex: regular, en ráfagas, rápido, chattering.
El hardware neuromórfico (TrueNorth, Loihi, SpiNNaker) implementa estas neuronas en silicio con comunicación asíncrona por eventos: si nada cambia, casi no se consume energía.
Mecanismo
Izhikevich: , ; si mV, entonces , . Los cuatro parámetros seleccionan el tipo de neurona. En el laboratorio, una red de 1.000 neuronas (800 excitadoras y 200 inhibidoras, como en el artículo original) corre en tu navegador y produce ritmos colectivos.
Aprendizaje: la plasticidad dependiente del tiempo de disparo (STDP) refuerza una sinapsis si la neurona presináptica dispara justo antes que la postsináptica y la debilita en el caso contrario. Para entrenar con gradiente se usan gradientes sustitutos que suavizan la derivada del umbral (Neftci, Mostafa y Zenke, 2019).
Las redes de impulsos son la «tercera generación» de redes neuronales según Maass (1997): computacionalmente al menos tan poderosas como las anteriores y con codificación temporal.
Laboratorio
Mil neuronas de Izhikevich
Raster de impulsos en tiempo real, potencial de membrana de una neurona y ritmos emergentes. Cambia el tipo de neurona, el ruido talámico y el balance excitación–inhibición.
Historia
- 1907
Louis Lapicque propone el modelo de integrar y disparar.
Lapicque (1907), J. Physiol. Pathol. Gen. 9
- 1952
Hodgkin y Huxley modelan el potencial de acción del axón del calamar (Nobel 1963).
Hodgkin & Huxley (1952), J. Physiology 117
- 1990
Carver Mead acuña la ingeniería neuromórfica.
Mead (1990), Proc. IEEE 78(10)
- 1998
Bi y Poo caracterizan la STDP en cultivos de hipocampo.
Bi & Poo (1998), J. Neuroscience 18(24)
- 2003
Izhikevich publica su modelo simple de neuronas de impulsos.
Izhikevich (2003), IEEE Trans. Neural Networks 14(6)
- 2014
IBM TrueNorth: un millón de neuronas en un chip de 70 mW.
Merolla et al. (2014), Science 345
- 2018
Intel presenta Loihi, con aprendizaje en el chip.
Davies et al. (2018), IEEE Micro 38(1)
Límites
Entrenar redes de impulsos sigue siendo más difícil que entrenar redes densas.
Falta un ecosistema de software comparable al del aprendizaje profundo.
La ventaja energética solo aparece en hardware especializado y con actividad dispersa.
¿Importa el sustrato?
El funcionalismo dice que la mente es lo que un sistema hace, no de qué está hecho. Si es así, una red densa en una GPU y un cerebro son equivalentes si computan lo mismo.
Pero quizá el tiempo, la energía y el cuerpo no sean detalles de implementación. La tradición enactivista (Varela, Thompson) sostiene que la cognición es inseparable de la dinámica viva. ¿Imitar la forma de computar del cerebro nos acerca a la mente, o solo a la eficiencia?