Samsung расширяет возможности обработки In-Memory

Компания Samsung Electronics использовала конференцию Hot Chips в этом году, чтобы продемонстрировать свои последние достижения в области обработки в памяти (PIM). technology.

Компания Samsung продемонстрировала первую успешную интеграцию своей памяти с высокой пропускной способностью с поддержкой PIM (HBM-PIM) в коммерческую систему ускорителя и расширила приложения PIM, включив в нее модули DRAM и мобильную память, что ускоряет переход к конвергенции памяти и логики.

HBM-PIM включает функцию обработки искусственного интеллекта для повышения скорости обработки данных в суперкомпьютерах и приложениях искусственного интеллекта, и он был протестирован в ускорителе искусственного интеллекта Xilinx Virtex Ultrascale + (Alveo), где он обеспечил почти 2.5-кратный прирост производительности системы, а также многое другое. сокращение энергопотребления на 60%.

«HBM-PIM - это первое в отрасли решение памяти, адаптированное для ИИ, которое тестируется в клиентских системах AI-ускорителей и демонстрирует огромный коммерческий потенциал», - сказал Нам Сунг Ким, старший вице-президент подразделения DRAM Product & Technology в Samsung Electronics. «Благодаря стандартизации технологии приложения станут многочисленными, расширяясь до HBM3 для суперкомпьютеров следующего поколения и приложений искусственного интеллекта, и даже до мобильной памяти для искусственного интеллекта на устройстве, а также для модулей памяти, используемых в центрах обработки данных».

Модуль ускорения DIMM (AXDIMM) переносит обработку в DRAM. модуль сам по себе, минимизируя перемещение больших объемов данных между ЦП и DRAM, чтобы повысить энергоэффективность систем ускорителей искусственного интеллекта.

Благодаря механизму искусственного интеллекта, встроенному в буферный чип, AXDIMM может выполнять параллельную обработку нескольких рангов памяти (наборов микросхем DRAM) вместо доступа только к одному рангу за раз, что значительно повышает производительность и эффективность системы.

Поскольку модуль может сохранять свой традиционный форм-фактор DIMM, модуль AXDIMM упрощает замену без необходимости модификации системы.

В настоящее время тестируется на серверах клиентов, AXDIMM может предложить примерно вдвое большую производительность в рекомендательных приложениях на основе искусственного интеллекта и снижение энергопотребления в масштабе всей системы на 40%.

Технология мобильной памяти Samsung LPDDR5-PIM может обеспечить независимые возможности искусственного интеллекта без подключения к центру обработки данных. Имитационные тесты показали, что LPDDR5-PIM может более чем вдвое работать при одновременном снижении энергопотребления более чем на 60% при использовании в таких приложениях, как распознавание голоса, перевод и чат-бот.

Samsung планирует расширить свой портфель памяти AI, сотрудничая с другими лидерами отрасли над завершением стандартизации платформы PIM в первой половине 2022 года.