Samsung Electronics Announces Availability of Its Next Generation 2.5D Integration Solution ‘I-Cube4’ for High-Performance Applications

Samsung Electronics, a world leader in advanced semiconductor technology, announced the immediate availability of its next-generation 2.5D packaging technology Interposer-Cube4 (I-Cube4), leading the evolution of chip packaging technology once again.

Samsung’s I-CubeTM is a heterogeneous integration technology that horizontally places one or more logic dies (CPU, GPU, etc.) and several High Bandwidth Memory (HBM) dies on top of a silicon interposer, making multiple dies operate as a single chip in one package.

Samsung’s new I-Cube4, which incorporates four HBMs and one logic die, was developed in March as the successor of I-Cube2. From high-performance computing (HPC) to AI, 5G, cloud and large data center applications, I-Cube4 is expected to bring another level of fast communication and power efficiency between logic and memory through heterogeneous integration.

“With the explosion of high-performance applications, it is essential to provide a total foundry solution with heterogeneous integration technology to improve the overall performance and power efficiency of chips,” said Moonsoo Kang, senior vice president of Foundry Market Strategy at Samsung Electronics. “With the mass-production experience amassed through I-Cube2 and the commercial breakthroughs of I-Cube4, Samsung will wholly support customers’ product implementations.”

In general, the silicon interposer area proportionally increases to accommodate more logic dies and HBMs. Since the silicon interposer in the I-Cube is thinner (around 100㎛ thick) than paper, the chances of bending or warping a larger interposer become higher, which negatively impacts product quality.

With strong expertise and knowledge on semiconductors, Samsung has studied how to control interposer warpage and thermal expansion through changes to material and thickness, succeeding in commercializing the I-Cube4 solution.

Additionally, Samsung has developed its own mold-free structure for I-Cube4 to efficiently remove heat and enhanced its yield by conducting a pre-screening test that can filter out defective products during the fabrication process. This approach provides additional benefits such as a reduction in the number of process steps, which result in cost savings and shorter turnaround time.

Since the launch of I-Cube2 in 2018 and eXtended-Cube (X-Cube) in 2020, Samsung’s heterogeneous integration technology has signaled a new era in the high-performance computing market. Samsung is currently developing more advanced packaging technologies to I-Cube6 and higher by using a combination of advanced process nodes, high speed interface IPs and advanced 2.5/3D packaging technologies, which will help customers design their products in the most effective way.

Samsung объявляет о разработке следующего поколения 2,5D-технологии упаковки микросхем I-Cube4

Samsung разработал 2,5D-технологию нового поколения для упаковки микросхем, получившую название I-Cube4 (Interposer-Cube4).

Суть инновации состоит в применении гетерогенного 2,5D («полупространственного») метода упаковки чипов с размещением в горизонтальной плоскости нескольких логических кристаллов (CPU, GPU и NPU) и применением переходной подложки (Interposer) толщиной около 100 мкм, на которой размещаются кристаллы широкополосной памяти HBM (High Bandwidth Memory). В результате получается многослойная гетерогенная конструкция, работающая как единый чип.

В официальном пресс-релизе говорится, что новая упаковка представляет собой гибридное решение на базе разработанных в Samsung собственных технологий упаковки I-Cube2 (2018) и X-Cube (2020).

Новая компоновка I-Cube4 объединяет 4 модуля HBM и одну пластину с полупроводниковой логикой. Впервые она была получена в марте 2021 года. Ожидается, что это решение найдёт применение в полупроводниковых изделиях для 5G, аппаратных средствах поддержки облачной вычислений, AI (искусственного интеллекта) и других приложениях, где требуется применение полупроводников с очень высокой производительностью. Новое решение отличается хорошей энергоэффективностью.

Новая схема компоновки I-Cube4 не вызывает появления паразитных соединений, приводящих к потерям. Это позволяет эффективно отводить вырабатываемое тепло, а также помогает проводить предварительные сканирующие тесты для отбраковки дефектных продуктов в процессе производства.

Samsung продолжает совершенствовать технологию упаковки и нацелен на выпуск компоновки I-Cube6 и выше, используя комбинацию усовершенствованных технологических узлов, высокоскоростных интерфейсных IP-модулей и передовых технологий упаковки 2,5D/3D.

Эксперты говорят, что использование таких передовых решений поможет Samsung отвоевать большую долю на рынке контрактного производства полупроводниковой продукции, где продолжает доминировать тайваньская TSMC.

Контрактный производитель чипов Samsung Foundry объявил о совместной разработке с китайской Baidu в области искусственного интеллекта

Построенный на базе 14-нм техпроцесса и технологии упаковки I-CubeTM от Samsung, процессор Baidu KUNLUN призван расширить экосистему искусственного интеллекта и трансформировать пользовательский опыт

Компания Baidu, Inc., крупнейшая китайская поисковая система, и Samsung Electronics, мировой лидер в области передовых полупроводниковых технологий, объявляют о создании первого ускорителя искусственного интеллекта – процессора Baidu KUNLUN, который предназначен для работы в самых различных платформах, от облака до периферии. Партнёры готовы запустить его в массовое производство уже в начале следующего года.
В основе чипа Baidu KUNLUN лежит передовая разработка Baidu XPU – собственная архитектура нейронных процессоров для облачных и граничных вычислений, в нём используется 14-нм техпроцесс и технология пакетирования I-Cube™ от Samsung.
Новый процессор обеспечивает пропускную способность памяти на уровне 512 гигабайт в секунду (Гб/с) и позволяет осуществлять до 260 тераопераций в секунду (TOPS) при энергопотреблении 150Вт. Кроме того, в чипе поддерживается Ernie, предварительно обученная нейронная модель для обработки данных на естественном языке, которая осуществляет построение логических выводов втрое быстрее, чем традиционная модель ускорения GPU / FPGA.
Благодаря большой вычислительной мощности и низкому энергопотреблению новый процессор позволит Baidu с высокой эффективностью выполнять самые различные задачи, в том числе запускать масштабные рабочие нагрузки с использованием искусственного интеллекта, например, ранжировать поисковые результаты, распознавать речь, изображения и естественные языки, а также разрабатывать системы автономного вождения и реализовывать платформы глубокого обучения, такие как PaddlePaddle.
В рамках пилотного сотрудничества Baidu предоставит свои передовые платформы искусственного интеллекта для обеспечения максимальной производительности, а Samsung запустит производство на своих полупроводниковых фабриках процессоров для высокопроизводительных вычислений (HPC), предназначенных для работы в облаке и на периферии.
«Мы рады оказаться в числе лидеров индустрии высокопроизводительных вычислений вместе с Samsung Foundry, – говорит Оуянг Цзянь (OuYang Jian), ведущий специалист по архитекторе полупроводников в Baidu. – Baidu KUNLUN – это чрезвычайно сложный проект. Он не только обеспечивает высокий уровень надёжности и производительности, но и задействует самые передовые технологии в полупроводниковой отрасли. Благодаря инновационным технологическим процессам Samsung и высоким компетенциям специалистов, работающих на полупроводниковых фабриках корпорации, мы смогли достичь нашей цели и даже превзойти её, предложив более качественный пользовательский опыт при работе с искусственным интеллектом».
«Проект Baidu KUNLUN представляет собой важную веху для Samsung Foundry, поскольку теперь мы расширяем сферу нашей деятельности и производим не только микросхемы для мобильных устройств, но и процессоры для центров обработки данных, разрабатывая и запуская в массовое производство чипы для ускорения задач искусственного интеллекта. Samsung предоставит комплексные решения для всего цикла полупроводникового производства, начиная с оказания помощи в проектировании чипов и заканчивая передовыми техпроцессами, такими как 5LPE, 4LPE, а также технологией 2,5D упаковки», – говорит Райан Ли (Ryan Lee), вице-президент по маркетингу полупроводниковых решений Samsung Electronics.
Поскольку в различных приложениях, таких как рабочие нагрузки искусственного интеллекта или HPC-вычисления, постоянно требуется более высокая производительность, особую актуальность сегодня приобретают технологии пакетирования (chip integration technology). Представленная Samsung технология интеграции I-Cube™, соединяющая логический чип и память с высокой пропускной способностью (HBM2) с подложкой (interposer), позволяет добиться ещё более высокой плотности и пропускной способности при минимальном размере за счёт использования дифференцированных решений Samsung.
По сравнению с предыдущими разработками новые решения позволяют значительно увеличить производительность процессора и обеспечивают прирост вычислительной мощности / целостности сигнала более чем на 50%. Считается, что внедрение I-CubeTM ознаменует начало новой эпохи на рынке гетерогенных вычислений. Кроме того, Samsung разрабатывает более совершенные технологии пакетирования, такие как технологию RDL-подложки (redistribution layers), а также интегрированные корпуса с 4x и 8x HBM памяти.

Baidu and Samsung Electronics Ready for Production of Leading-Edge AI Chip for Early Next Year

Designed based on Samsung’s 14nm process and I-Cube TM package technology, 
Baidu KUNLUN chip to expand AI ecosystem and transform the user experience

Baidu, a leading Chinese-language Internet search provider, and Samsung Electronics, a world leader in advanced semiconductor technology, today announced that Baidu’s first cloud-to-edge AI accelerator, Baidu KUNLUN, has completed its development and will be mass-produced early next year.
Baidu KUNLUN chip is built on the company’s advanced XPU, a home-grown neural processor architecture for cloud, edge, and AI, as well as Samsung’s 14-nanometer (nm) process technology with its I-Cube™ (Interposer-Cube) package solution.
The chip offers 512 gigabytes per second (GBps) memory bandwidth and supplies up to 260 Tera operations per second (TOPS) at 150 watts. In addition, the new chip allows Ernie, a pre-training model for natural language processing, to infer three times faster than the conventional GPU/FPGA-accelerating model.
Leveraging the chip’s limit-pushing computing power and power efficiency, Baidu can effectively support a wide variety of functions including large-scale AI workloads, such as search ranking, speech recognition, image processing, natural language processing, autonomous driving, and deep learning platforms like PaddlePaddle.
Through the first foundry cooperation between the two companies, Baidu will provide advanced AI platforms for maximizing AI performance, and Samsung will expand its foundry business into high performance computing (HPC) chips that are designed for cloud and edge computing.
“We are excited to lead the HPC industry together with Samsung Foundry,” said OuYang Jian, Distinguished Architect of Baidu. “Baidu KUNLUN is a very challenging project since it requires not only a high level of reliability and performance at the same time, but is also a compilation of the most advanced technologies in the semiconductor industry. Thanks to Samsung’s state of the art process technologies and competent foundry services, we were able to meet and surpass our goal to offer superior AI user experience. ”
“We are excited to start a new foundry service for Baidu using our 14nm process technology,” said Ryan Lee, vice president of Foundry Marketing at Samsung Electronics. “Baidu KUNLUN is an important milestone for Samsung Foundry as we’re expanding our business area beyond mobile to datacenter applications by developing and mass-producing AI chips. Samsung will provide comprehensive foundry solutions from design support to cutting-edge manufacturing technologies, such as 5LPE, 4LPE, as well as 2.5D packaging.”
As higher performance is required in diverse applications such as AI and HPC, chip integration technology is becoming more and more important. Samsung’s I-Cube™ technology, which connects a logic chip and high bandwidth memory (HBM) 2 with an interposer, provides higher density/ bandwidth on minimum size by utilizing Samsung’s differentiated solutions.
Compared to previous technology, these solutions maximize product performance with more than 50% improved power/signal integrity. It is anticipated that I-Cube™ technology will mark a new epoch in the heterogeneous computing market. Samsung is also developing more advanced packaging technologies, such as redistribution layers (RDL) interposer and 4x, 8x HBM integrated package.