Samsung amplía la potencia de procesamiento en memoria
Samsung Electronics ha aprovechado la conferencia Hot Chips de este año para mostrar sus últimos avances en procesamiento en memoria (PIM). la tecnología.
Samsung demostró la primera integración exitosa de su memoria de alto ancho de banda habilitada para PIM (HBM-PIM) en un sistema acelerador comercializado, y ha ampliado las aplicaciones PIM para incorporar módulos DRAM y memoria móvil que acelera el movimiento hacia la convergencia de memoria y lógica.
HBM-PIM incorpora la función de procesamiento de inteligencia artificial para mejorar el procesamiento de datos de alta velocidad en supercomputadoras y aplicaciones de inteligencia artificial y se ha probado en el acelerador de inteligencia artificial Xilinx Virtex Ultrascale + (Alveo), donde entregó una ganancia de rendimiento del sistema de casi 2.5X y más de un 60% de reducción en el consumo de energía.
"HBM-PIM es la primera solución de memoria adaptada a la IA de la industria que se está probando en los sistemas aceleradores de IA de los clientes, lo que demuestra un enorme potencial comercial", dijo Nam Sung Kim, vicepresidente senior de Producto y Tecnología DRAM en Samsung Electronics. "A través de la estandarización de la tecnología, las aplicaciones serán numerosas, expandiéndose a HBM3 para supercomputadoras de próxima generación y aplicaciones de inteligencia artificial, e incluso en memoria móvil para inteligencia artificial en el dispositivo, así como para módulos de memoria utilizados en centros de datos".
El DIMM de aceleración (AXDIMM) lleva el procesamiento a la DRAM módulo en sí mismo, minimizando el gran movimiento de datos entre la CPU y la DRAM para aumentar la eficiencia energética de los sistemas aceleradores de IA.
Con un motor de inteligencia artificial integrado dentro del chip de búfer, el AXDIMM puede realizar el procesamiento paralelo de múltiples rangos de memoria (conjuntos de chips DRAM) en lugar de acceder solo a un rango a la vez, mejorando enormemente el rendimiento y la eficiencia del sistema.
Dado que el módulo puede conservar su factor de forma DIMM tradicional, el AXDIMM facilita el reemplazo directo sin requerir modificaciones del sistema.
Actualmente se está probando en servidores de clientes, el AXDIMM puede ofrecer aproximadamente el doble de rendimiento en aplicaciones de recomendación basadas en IA y una disminución del 40% en el uso de energía en todo el sistema.
La tecnología de memoria móvil LPDDR5-PIM de Samsung puede proporcionar capacidades de inteligencia artificial independientes sin conectividad de centro de datos. Las pruebas de simulación han demostrado que el LPDDR5-PIM puede más que duplicar el rendimiento al tiempo que reduce el uso de energía en más del 60% cuando se usa en aplicaciones como reconocimiento de voz, traducción y chatbot.
Samsung planea expandir su cartera de memoria AI trabajando con otros líderes de la industria para completar la estandarización de la plataforma PIM en la primera mitad de 2022.