Сан-Хосе, Калифорния, – 18 марта 2024 г. – Supermicro, Inc. (NASDAQ: SMCI), поставщик комплексных ИТ-решений для искусственного интеллекта, облака, хранения данных и 5G/Edge, объявляет о выпуске своего новейшего портфолио для ускорения развертывания генеративных технологий. ИИ. Решения Supermicro SuperCluster обеспечивают фундаментальные строительные блоки для настоящего и будущего инфраструктуры больших языковых моделей (LLM).

Три мощных решения Supermicro SuperCluster теперь доступны для генеративных рабочих нагрузок искусственного интеллекта. Системы высотой 4U с жидкостным охлаждением или системы высотой 8U с воздушным охлаждением специально созданы и предназначены для эффективного обучения LLM, а также для обработки больших партий и вывода больших объемов LLM. Третий SuperCluster с системами Supermicro NVIDIA MGXTM высотой 1U с воздушным охлаждением оптимизирован для вывода в облачном масштабе.

«В эпоху искусственного интеллекта единица вычислений теперь измеряется кластерами, а не только количеством серверов, и благодаря нашим расширенным глобальным производственным мощностям, достигающим 5000 стоек в месяц, мы можем поставлять нашим клиентам полные генеративные кластеры искусственного интеллекта быстрее, чем когда-либо. раньше», — сказал Чарльз Лян, президент и генеральный директор Supermicro. «Кластер из 64 узлов позволяет использовать 512 графических процессоров NVIDIA HGX H200 с 72 ТБ HBM3e с помощью пары наших масштабируемых блоков кластера с сетями NVIDIA Quantum-2 InfiniBand и Spectrum-X Ethernet 400 Гбит/с. Решения Supermicro SuperCluster в сочетании с программным обеспечением NVIDIA AI Enterprise идеально подходят для корпоративных и облачных инфраструктур для обучения современных LLM с использованием до триллионов параметров. Взаимосвязанные графические процессоры, процессоры, память, хранилище и сети при развертывании на нескольких узлах в стойках составляют основу современных решений SuperCluster для искусственного интеллекта. основополагающие строительные блоки для быстро развивающихся генеративного искусственного интеллекта и LLM».

Чтобы узнать больше о суперкластерах Supermicro AI, посетите: www.supermicro.com/ai-supercluster.

«Новейшие графические, центральные, сетевые и программные технологии NVIDIA позволяют производителям систем ускорить ряд рабочих нагрузок искусственного интеллекта следующего поколения для глобальных рынков», — сказал Каустуб Сангхани, вице-президент по управлению продуктами графических процессоров NVIDIA. «Используя платформу ускоренных вычислений NVIDIA с продуктами на базе архитектуры Blackwell, Supermicro предоставляет клиентам новейшие серверные системы, которые им нужны, которые можно легко развернуть в центрах обработки данных».

Системы Supermicro 4U NVIDIA HGX H100/H200 с 8 графическими процессорами удваивают плотность системы 8U с воздушным охлаждением за счет использования жидкостного охлаждения, что снижает потребление энергии и снижает совокупную стоимость владения центром обработки данных. Эти системы предназначены для поддержки графических процессоров нового поколения на базе архитектуры NVIDIA Blackwell. Распределительный блок охлаждения (CDU) и коллектор (CDM) Supermicro являются основными артериями для распределения охлажденной жидкости по специальным холодным пластинам Supermicro для непосредственного подключения к кристаллу (D2C), поддерживая оптимальную температуру графических процессоров и процессоров, что приводит к максимальной производительности. Эта технология охлаждения позволяет сократить расходы на электроэнергию для всего центра обработки данных до 40 % и экономит недвижимое пространство центра обработки данных. Узнайте больше о технологии жидкостного охлаждения Supermicro: https://www.supermicro.com/en/solutions/liquid-cooling

Системы NVIDIA HGX H100/H200 с 8 графическими процессорами идеально подходят для обучения генеративному искусственному интеллекту. Высокоскоростные графические процессоры, соединенные между собой через NVIDIA® NVLink®, высокая пропускная способность и емкость памяти графического процессора являются ключевыми факторами для экономичного запуска моделей LLM. Supermicro SuperCluster создает огромный пул ресурсов графического процессора, действующий как единый суперкомпьютер с искусственным интеллектом.

Независимо от того, устанавливаете ли вы огромную базовую модель, обученную на наборе данных с триллионами токенов с нуля, или строите облачную инфраструктуру вывода LLM, топология сети «позвоночник» и «листья» с неблокируемыми фабриками 400 Гбит/с позволяет масштабировать ее от 32 узлов до тысяч узлы без проблем. Благодаря полностью интегрированному жидкостному охлаждению проверенные процессы тестирования Supermicro тщательно проверяют эксплуатационную эффективность и производительность перед отправкой.

Проекты систем NVIDIA MGX™ от Supermicro с использованием суперчипов NVIDIA GH200 Grace Hopper создадут основу для будущих кластеров искусственного интеллекта, которые устранят важнейшее узкое место в генеративном искусственном интеллекте: пропускную способность памяти графического процессора и способность запускать модели большого языка (LLM) с большими размерами пакетов вывода для более низкие эксплуатационные расходы. Кластер из 256 узлов обеспечивает создание мощной облачной системы вывода больших объемов данных, легко развертываемой и масштабируемой.

SuperCluster с системой жидкостного охлаждения высотой 4U в 5 стойках или системой воздушного охлаждения высотой 8U в 9 стойках

• 256 графических процессоров NVIDIA H100/H200 с тензорными ядрами в одном масштабируемом блоке
• Жидкостное охлаждение позволяет разместить 512 графических процессоров, 64 узла, занимая ту же площадь, что и решение с 256 графическими процессорами и 32 узлами с воздушным охлаждением.
• 20 ТБ HBM3 с NVIDIA H100 или 36 ТБ HBM3e с NVIDIA H200 в одном масштабируемом устройстве
• Сеть 1:1 обеспечивает скорость до 400 Гбит/с для каждого графического процессора, что позволяет использовать GPUDirect RDMA и хранилище для обучения больших языковых моделей с числом до триллионов параметров.
• Коммутационные коммутационные матрицы 400G InfiniBand или 400GbE Ethernet с высокомасштабируемой топологией сети типа «Spine-Leaf», включая платформу NVIDIA Quantum-2 InfiniBand и NVIDIA Spectrum-X Ethernet.
• Настраиваемая структура конвейера данных AI с ведущими в отрасли вариантами параллельной файловой системы
• Программное обеспечение NVIDIA AI Enterprise 5.0, обеспечивающее поддержку новых микросервисов вывода NVIDIA NIM, которые ускоряют развертывание моделей ИИ в большом масштабе.

SuperCluster с системой NVIDIA MGX высотой 1U с воздушным охлаждением в 9 стойках

• 256 суперчипов GH200 Grace Hopper в одном масштабируемом блоке
• До 144 ГБ HBM3e + 480 ГБ унифицированной памяти LPDDR5X, подходящей для облачного масштабирования, обработки больших объемов данных с низкой задержкой и пакетным выводом большого размера, способной вместить модель с более чем 70 миллиардами параметров в одном узле.
• Коммутационная матрица 400G InfiniBand или 400GbE Ethernet с высокомасштабируемой топологией сети типа «Spine-Leaf».
• До 8 встроенных устройств хранения данных E1.S NVMe на узел
• Настраиваемая структура хранения данных конвейера искусственного интеллекта с DPU NVIDIA BlueField®-3 и ведущими в отрасли вариантами параллельной файловой системы для обеспечения доступа к хранилищу с высокой пропускной способностью и малой задержкой для каждого графического процессора.
• Программное обеспечение NVIDIA AI Enterprise 5.0

Благодаря высочайшей производительности сети, достижимой для соединения графических процессоров, решения SuperCluster от Supermicro оптимизированы для LLM-обучения, глубокого обучения, а также для вывода больших объемов и пакетов большого размера. Проверочное тестирование Supermicro L11 и L12 в сочетании с услугой развертывания на месте обеспечивает клиентам удобство работы. Клиенты получают масштабируемые устройства «подключи и работай», которые упрощают развертывание в центре обработки данных и ускоряют получение результатов.

О компании Super Micro Computer, Inc.

Компания Supermicro (NASDAQ: SMCI) является глобальным лидером комплексных ИТ-решений, оптимизированных под приложения. Основанная и осуществляющая свою деятельность в Сан-Хосе (штат Калифорния), компания Supermicro разрабатывает и первой выводит на рынок инновации в области ИТ-инфраструктуры для бизнеса, облачных технологий, искусственного интеллекта, телекоммуникационных 5G-сетей и периферии. Мы являемся производителем комплексных ИТ-решений, включая серверы, ИИ, хранилища данных, Интернет вещей, системы коммутации, программное обеспечение и услуги поддержки. Опыт компании Supermicro в области проектирования материнских плат, источников питания и корпусов обеспечивает дополнительные возможности при разработке и производстве, предоставляя нашим глобальным клиентам инновации нового поколения по всей ширине спектра, от облачных до периферийных устройств. Наши продукты проектируются и производятся на наших предприятиях (в США, Азии и Нидерландах) с использованием глобальных производственных мощностей для масштабирования, повышения эффективности и оптимизации с целью снижения совокупной стоимости владения (TCO) и смягчения воздействия на окружающую среду (экологически чистые вычисления). Уникальный ассортимент устройств Server Building Block Solutions® позволяет заказчикам выполнять оптимизацию под свои конкретные рабочие нагрузки и приложения за счет выбора из обширного семейства систем, состоящих из гибких и повторно используемых компоновочных блоков, поддерживающих полный набор форм-факторов, процессоров, памяти, графических процессоров, устройств хранения данных, сетевых устройств, решений для питания и охлаждения (кондиционированным или атмосферным воздухом или с использованием жидкости).

Supermicro, Server Building Block Solutions и We Keep IT Green являются товарными знаками и (или) зарегистрированными товарными знаками компании Super Micro Computer, Inc.

Все остальные бренды, названия и товарные знаки являются собственностью соответствующих правообладателей.