En el panorama de las innovaciones tecnológicas que impulsan la inteligencia artificial, surge “IANUS”, un novedoso acelerador integrado que combina las capacidades de procesamiento del NPU (Unidad de Procesamiento Neuronal) y PIM (Procesamiento en Memoria). Este desarrollo se presenta como una solución prometedora para superar las limitaciones de los GPUs tradicionales en la aceleración de modelos de lenguaje de última generación.
Los investigadores de SK hynix y SAPEON Inc., en colaboración con diversas universidades surcoreanas, han diseñado IANUS para optimizar la ejecución de modelos complejos como GPT-2. Este modelo tecnológico innovador mejora en 6.2 veces el rendimiento de dicho modelo en comparación con la GPU NVIDIA A100, y en 3.2 veces en promedio respecto a otros aceleradores de última generación.
El sistema IANUS aprovecha un sistema de memoria unificado que permite a la memoria PIM realizar cálculos y actuar como memoria principal para el NPU. Este enfoque elimina la duplicación de datos y minimiza los desplazamientos de datos, maximizando la eficiencia del uso de capacidad de memoria. Además, propone un sistema innovador de programación de acceso PIM, que gestiona adecuadamente los accesos normales a memoria y los cálculos PIM mediante un mapeo y programación de carga de trabajo.
Simulaciones detalladas y una fase de prototipo completada, utilizando una unidad FPGA, demuestran la factibilidad de IANUS. Este avance se integra no solo con HBM para acelerar etapas específicas sino que aborda de manera completa la inferencia de modelos de lenguaje de gran escala, marcando un precedente sobre cómo los datos se manipulan dentro de los entornos de los centros de datos.
IANUS no solo redefine la gestión de memoria en computación acelerada, sino que también presenta un modelo equilibrado donde tanto las unidades de procesamiento específico de dominio como las estrategias de memoria se complementan para ofrecer un rendimiento superior en el procesamiento de datos. La integración simultánea de operaciones normales de memoria y de computación en memoria promete cambiar el paradigma actual de cómo se gestiona la infraestructura de AI en los centros de datos.
Este desarrollo nos hace reflexionar sobre las posibles aplicaciones futuras dentro de la industria tecnológica, ya que una mejora tan significativa en la eficiencia del procesamiento podría catalizar avances aún más revolucionarios en inteligencia artificial y aprendizaje automático. El camino que encabeza IANUS es un testimonio del potencial infinito que la colaboración humana puede generar en el difícil campo de la computación avanzada e inteligencia artificial.