Samsung Unveils Industry-First Memory Module Incorporating New CXL Interconnect Standard

Samsung Electronics, the world leader in advanced memory technology, unveiled the industry’s first memory module supporting the new Compute Express Link (CXL) interconnect standard. Integrated with Samsung’s Double Data Rate 5 (DDR5) technology, this CXL-based module will enable server systems to significantly scale memory capacity and bandwidth, accelerating artificial intelligence (AI) and high-performance computing (HPC) workloads in data centers.

The rise of AI and big data has been fueling the trend toward heterogeneous computing, where multiple processors work in parallel to process massive volumes of data. CXL—an open, industry-supported interconnect based on the PCI Express (PCIe) 5.0 interface—enables high-speed, low latency communication between the host processor and devices such as accelerators, memory buffers and smart I/O devices, while expanding memory capacity and bandwidth well beyond what is possible today. Samsung has been collaborating with several data center, server and chipset manufacturers to develop next-generation interface technology since the CXL consortium was formed in 2019.

“This is the industry’s first DRAM-based memory solution that runs on the CXL interface, which will play a critical role in serving data-intensive applications including AI and machine learning in data centers as well as cloud environments,” said Cheolmin Park, vice president of the Memory Product Planning Team at Samsung Electronics. “Samsung will continue to raise the bar with memory interface innovation and capacity scaling to help our customers, and the industry at-large, better manage the demands of larger, more complex, real-time workloads that are key to AI and the data centers of tomorrow.”

Dr. Debendra Das Sharma, Intel Fellow and Director of I/O Technology and Standards at Intel said, “Data center architecture is rapidly evolving to support the growing demand and workloads for AI and ML, and CXL memory is expected to expand the use of memory to a new level. We continue to work with industry companies such as Samsung to develop a robust memory ecosystem around CXL.”

Dan McNamara, senior vice president and general manager, Server Business Unit, AMD, added, “AMD is committed to driving the next generation of performance in cloud and enterprise computing. Memory research is a critical piece to unlocking this performance, and we are excited to work with Samsung to deliver advanced interconnect technology to our data center customers.”

Unlike conventional DDR-based memory, which has limited memory channels, Samsung’s CXL-enabled DDR5 module can scale memory capacity to the terabyte level, while dramatically reducing system latency caused by memory caching.

In addition to CXL hardware innovation, Samsung has incorporated several controller and software technologies like memory mapping, interface converting and error management, which will allow CPUs or GPUs to recognize the CXL-based memory and utilize it as the main memory.

Samsung’s new module has been successfully validated on next-generation server platforms from Intel, signaling the beginning of an era for high-bandwidth, low latency CXL-based memory using the latest DDR5 standard. Samsung is also working with data center and cloud providers around the world to better accommodate the need for greater memory capacity that will be essential in handling big data applications including in-memory database systems.

As the DDR5-based CXL memory module becomes commercialized, Samsung intends to lead the industry in meeting the demand for next-generation high-performance computing technologies that rely on expanded memory capacity and bandwidth.

Samsung представил первый в отрасли модуль памяти с интерфейсом CXL

Samsung Electronics, мировой лидер в области передовых технологий памяти, представил первый в отрасли модуль с поддержкой нового стандарта Compute Express Link (CXL). Новый модуль на базе Samsung Double Data Rate 5 (DDR5) позволит значительно повысить объём памяти серверных систем и увеличить пропускную способность, ускоряя выполнение задач, связанных с искусственным интеллектом (AI) и высокопроизводительными вычислениями (HPC) в центрах обработки данных.

Распространение AI и Big Data приводит к росту использования гетерогенных вычислений, при которых несколько процессоров работают параллельно для обработки больших объёмов данных. Открытый, обладающий широкой отраслевой поддержкой протокол CXL, основанный на интерфейсе PCI Express (PCIe) 5.0, обеспечивает высокоскоростную передачу с малой задержкой между хост-процессором и такими устройствами, как серверные ускорители, буферы памяти и интеллектуальные устройства ввода-вывода. Также он повышает ёмкость памяти и пропускную способность, превосходя возможные ранее показатели. Для разработки технологий интерфейсов следующего поколения Samsung сотрудничает с рядом ЦОД и производителями серверов и чипов с момента создания консорциума CXL в 2019 году.

В отличие от обычной памяти на базе DDR, каналы которой ограничены, ёмкость модуля DDR5 Samsung с поддержкой CXL может быть увеличена до терабайтного уровня, значительно сокращая вызванные кэшированием задержки в работе.

Новый модуль Samsung успешно прошёл тестирование на серверных платформах Intel следующего поколения. Кроме того, Samsung сотрудничает с центрами обработки данных и поставщиками облачных услуг по всему миру, чтобы лучше удовлетворять их потребность в большей ёмкости памяти.

Для получения дополнительной информации о продуктах Samsung посетите сайт https://samsung.com/ru/ssd/.

Samsung разработал память DDR5 объёмом 512Гб для суперкомпьютеров и ЦОД

Samsung Electronics представил модуль DDR5 объёмом 512 ГБ на базе технологии High-K Metal Gate (HKMG). Производительность DDR5 более чем в 2 раза превышает возможности DDR4, что обеспечивает пропускную способность до 7200 мегабит в секунду (Мбит/с). Новый модуль подходит для выполнения самых требовательных к вычислениям и пропускной способности задач, относящихся к суперкомпьютерам, искусственному интеллекту, машинному обучению и анализу данных.

«Применяя техпроцесс HKMG в производстве DRAM, мы можем предложить нашим клиентам высокопроизводительную и энергоэффективную память для компьютеров, выполняющих задачи для медицинских исследований, финансовых рынков, автономного вождения, “умных” городов и других сфер», — прокомментировал Янг-Су Сон (Young-Soo Sohn), вице-президент группы планирования и поддержки памяти DRAM в Samsung Electronics.

«Поскольку объём данных, которые необходимо перемещать, хранить и обрабатывать, растёт по экспоненте, переход на DDR5 наступает в критический момент для облачных ЦОД, сетей и периферийных развёртываний. Инженеры Intel в тесном сотрудничестве с лидерами в сфере памяти, такими как Samsung, создали быструю, энергоэффективную память DDR5 с оптимизированной производительностью, совместимую с нашими будущими процессорами Intel Xeon Scalable под кодовым названием Sapphire Rapids», — отметила Кэролин Дюран, вице-президент и генеральный директор по технологиям памяти и ввода-вывода в компании Intel.

В DDR5 от Samsung будет использоваться передовая технология HKMG, которая традиционно применяется в логических полупроводниках и была впервые использована в памяти Samsung GDDR6 в 2018 году. При сокращении размеров структур DRAM изоляционный слой становится тоньше, что приводит к большей утечке тока. Благодаря замене изолятора на материал HKMG, DDR5 от Samsung сокращает утечки и способна обеспечить более высокую производительность. Новая память также будет потреблять примерно на 13% меньше энергии, что делает её особенно подходящей для центров обработки данных, где энергоэффективность имеет большое значение.

Используя технологию вертикальных межсоединений (through-silicon via, TSV), память Samsung DDR5 объединяет 8 слоёв микросхем DRAM ёмкостью 16Гб, обеспечивая максимальную ёмкость 512Гб. Технология TSV впервые была задействована в DRAM в 2014 году, когда Samsung представил серверные модули ёмкостью до 256Гб.

Для получения дополнительной информации посетите сайты https://samsung.com/ru/memory-storage/ или https://samsung.com/ru/.

Samsung Develops Industry’s First HKMG-Based DDR5 Memory; Ideal for Bandwidth-Intensive Advanced Computing Applications

Samsung Electronics, the world leader in advanced memory technology, today announced that it has expanded its DDR5 DRAM memory portfolio with the industry’s first 512GB DDR5 module based on High-K Metal Gate (HKMG) process technology. Delivering more than twice the performance of DDR4 at up to 7,200 megabits per second (Mbps), the new DDR5 will be capable of orchestrating the most extreme compute-hungry, high-bandwidth workloads in supercomputing, artificial intelligence (AI) and machine learning (ML), as well as data analytics applications.

“Samsung is the only semiconductor company with logic and memory capabilities and the expertise to incorporate HKMG cutting-edge logic technology into memory product development,” said Young-Soo Sohn, Vice President of the DRAM Memory Planning/Enabling Group at Samsung Electronics. “By bringing this type of process innovation to DRAM manufacturing, we are able to offer our customers high-performance, yet energy-efficient memory solutions to power the computers needed for medical research, financial markets, autonomous driving, smart cities and beyond.”

“As the amount of data to be moved, stored and processed increases exponentially, the transition to DDR5 comes at a critical inflection point for cloud datacenters, networks and edge deployments,” said Carolyn Duran, Vice President and GM of Memory and IO Technology at Intel. “Intel’s engineering teams closely partner with memory leaders like Samsung to deliver fast, power-efficient DDR5 memory that is performance-optimized and compatible with our upcoming Intel Xeon Scalable processors, code-named Sapphire Rapids.”

Samsung’s DDR5 will utilize highly advanced HKMG technology that has been traditionally used in logic semiconductors. With continued scaling down of DRAM structures, the insulation layer has thinned, leading to a higher leakage current. By replacing the insulator with HKMG material, Samsung’s DDR5 will be able to reduce the leakage and reach new heights in performance. This new memory will also use approximately 13% less power, making it especially suitable for datacenters where energy efficiency is becoming increasingly critical.

The HKMG process was adopted in Samsung’s GDDR6 memory in 2018 for the first time in the industry. By expanding its use in DDR5, Samsung is further solidifying its leadership in next-generation DRAM technology.

Leveraging through-silicon via (TSV) technology, Samsung’s DDR5 stacks eight layers of 16Gb DRAM chips to offer the largest capacity of 512GB. TSV was first utilized in DRAM in 2014 when Samsung introduced server modules with capacities up to 256GB.

Samsung is currently sampling different variations of its DDR5 memory product family to customers for verification and, ultimately, certification with their leading-edge products to accelerate AI/ML, exascale computing, analytics, networking, and other data-intensive workloads.