Increíble: Logran ejecutar una Inteligencia Artificial moderna en una PC con Windows 98 y Pentium II

Un equipo de investigadores de la organización EXO Labs ha demostrado que no siempre se necesita hardware de última generación para utilizar inteligencia artificial. En un experimento que se ha vuelto viral este fin de semana, lograron ejecutar con éxito un Modelo de Lenguaje Grande (LLM) en un ordenador fabricado en 1998.

El equipo utilizado fue una PC con un procesador Intel Pentium II a 350 MHz y apenas 128 MB de memoria RAM, corriendo el clásico sistema operativo Windows 98. Para lograr la hazaña, los desarrolladores tuvieron que adaptar el código de "llama2.c" (creado originalmente por Andrej Karpathy) y compilarlo con herramientas de la época, enfrentándose a limitaciones como la falta de instrucciones modernas en el CPU.

Los resultados fueron mixtos pero funcionales: un modelo "diminuto" de 260.000 parámetros corrió a una velocidad sorprendente de 39 tokens por segundo. Sin embargo, al intentar ejecutar un modelo más complejo (Llama 3.2 de 1.000 millones de parámetros), el sistema tardó minutos en generar una sola palabra, alcanzando una velocidad de 0,009 tokens por segundo.

Más allá de la curiosidad técnica, el experimento busca demostrar el potencial de la optimización de software, sugiriendo que la IA podría democratizarse para funcionar en dispositivos de bajos recursos en el futuro.