Increíble: con Windows 98 y un procesador de 1997 lograron usar inteligencia artificial y este fue el resultado

Un experimento dejó en evidencia una de las creencias de la inteligencia artificial: se necesita de última tecnología para ejecutarla. Esto se logró usando un antiguo procesador de 1997 y fue posible ejecutar sistemas actuales, con el objetivo de “democratizar el acceso a la inteligencia artificial”, evitando que solo grandes corporaciones tecnológicas puedan beneficiarse de estas herramientas.

Esta prueba fue llevada a cabo por EXO Labs, una organización de investigadores e ingenieros de la Universidad de Oxford. Con la idea de demostrar que la inteligencia artificial, en especial los modelos de lenguaje como LLaMA, no necesariamente necesita de equipos de última generación ni de costosas tarjetas gráficas para poder ser ejecutada.

Para lograrlo usaron específicamente un Pentium II, con tan solo 128 MB de RAM, y corriendo el sistema operativo Windows 98.

La primera pregunta que surge es cómo es posible ejecutar un modelo de IA moderno en un hardware que, a simple vista, parece completamente insuficiente. La respuesta radica en la arquitectura de BitNet, una propuesta de EXO Labs que optimiza los modelos de IA para que puedan funcionar eficientemente en dispositivos con capacidades limitadas.

BitNet se basa en pesos ternarios, una técnica que reduce drásticamente el tamaño de los modelos de IA, lo que hace posible que se ejecuten incluso en procesadores antiguos.

El procesador utilizado en el experimento, un Pentium II a 350 MHz, lanzado en 1997, está equipado con una cantidad de memoria RAM que hoy día sería considerada mínima: 128 MB. Este hardware, combinado con un sistema operativo de hace casi tres décadas, Windows 98, representaba todo un desafío para los investigadores.

A pesar de las limitaciones del sistema, los resultados fueron sorprendentes. Utilizando el código de Andrej Karpathy, uno de los desarrolladores más renombrados en el ámbito de la IA, los investigadores lograron hacer funcionar un modelo basado en LLaMA.

Este modelo de lenguaje, con 260.000 parámetros, fue capaz de generar historias coherentes a una velocidad aceptable, alcanzando un rendimiento de 39,31 tokens por segundo. Este desempeño es notable teniendo en cuenta que los modelos de IA modernos suelen requerir procesadores mucho más potentes y recursos mucho más avanzados para funcionar a velocidades competitivas.

No obstante, como era de esperar, al aumentar el tamaño del modelo de IA, el rendimiento disminuyó considerablemente. El modelo LLaMA 3.2, con 1.000 millones de parámetros, apenas alcanzó 0,0093 tokens por segundo en la misma máquina. Este descenso en el rendimiento refleja la limitación inherente de trabajar con hardware tan antiguo, pero la hazaña inicial sigue siendo un testimonio del potencial de las tecnologías de IA optimizadas.

El principal logro de este experimento no solo radica en la ejecución exitosa de la IA en un equipo tan anticuado, sino también en los impactos potenciales que este tipo de avances podría tener en la democratización de la inteligencia artificial.

Al lograr que modelos complejos de IA puedan correr en dispositivos más asequibles, EXO Labs ha dado un paso crucial para que la tecnología sea accesible a una mayor cantidad de usuarios, incluidas personas y empresas que no tienen los recursos para acceder a infraestructura de alto nivel.

La democratización del acceso a la IA es uno de los principales objetivos de EXO Labs. Si bien las grandes empresas tecnológicas cuentan con los recursos para desarrollar y utilizar modelos de IA sofisticados, las soluciones como BitNet abren la puerta a una distribución más equitativa de estas herramientas. sino, desde la educación hasta la salud, pasando por la agricultura y el entretenimiento.