GTC 2024 начался сенсационно, и NVIDIA представила следующее поколение ускорителей искусственного интеллекта — Б200 и 200 ГБ Графические процессоры, построенные на революционной архитектуре Blackwell.
Эти процессоры представляют собой огромный шаг в развитии ИИ-вычислений, призванных справиться с постоянно растущей сложностью современных рабочих нагрузок.
B200 может похвастаться монолитной конструкцией с рекордным количеством транзисторов, а GB200 использует многокристальный подход, сочетая мощность нескольких B200 с процессором Grace для беспрецедентной производительности.
Вместе эти графические процессоры обеспечивают резкое увеличение вычислительной мощности и объема памяти, открывая путь к прогрессу во многих областях, которые в значительной степени полагаются на искусственный интеллект.
Монолитное чудо NVIDIA B200
NVIDIA B200 — это инженерный шедевр, имеющий ошеломляющие 208 миллиардов транзисторов. Это выдающееся достижение стало возможным благодаря конструкции чиплета, в которой два массивных кристалла органично интегрированы.
B200 — это мощный вычислительный центр, предлагающий трехкратное увеличение производительности высокоточных вычислений FP64 по сравнению со своим предшественником на базе Hopper.
Пожалуй, наиболее поразительной является способность B200 решать задачи искусственного интеллекта.
NVIDIA утверждает этот графический процессор обеспечивает ошеломляющее пятикратное улучшение по сравнению с H200. Этот скачок в производительности важен для развертывания больших языковых моделей (LLM) и других приложений искусственного интеллекта, которые в значительной степени полагаются на логический вывод.
Для технических магнатов вот все технические подробности Nvidia B200:
| Спецификация | Подробности |
| Архитектура | Блэквелл |
| Процесс изготовления | TSMC N4P (специальный 4-нм класс) |
| Количество транзисторов | 208 миллиардов (на два чиплета) |
| Тип памяти | HBM3E |
| Емкость памяти | 192 ГБ (8 стеков по 24 ГБ) |
| Пропускная способность памяти | 8 ТБ/с |
| Интерфейс НВЛинк | 1,8 ТБ/с |
| Вычислительная производительность FP64 | 3-кратное улучшение по сравнению с H100 |
| Производительность вывода ИИ | Пятикратное улучшение по сравнению с H100 |
GB200 сочетает в себе архитектуры Grace и Blackwell.
GB200 развивает концепцию «суперчипа», объединяя мощность двух графических процессоров B200 с процессором Grace через межчиповое соединение NVLink со сверхнизким энергопотреблением.
Эта конфигурация обеспечивает еще более впечатляющую производительность и объем памяти, адаптированный для самых требовательных рабочих нагрузок искусственного интеллекта.
Особенности GB200 включают в себя:
- Огромный объем памяти: Разработан для удовлетворения требований к памяти модель искусственного интеллекта на триллион параметров
- Высокоскоростная сеть: Поддержка Ethernet-платформ NVIDIA Quantum-X800 InfiniBand и Spectrum-X800 с сверхвысокая скорость 800 Гбит/с
- Многоузловая масштабируемость: GB200 составляет основу NVIDIA GB200 NVL72, стоечной системы с жидкостным охлаждением для высочайшего уровня вычислительной интенсивности.
Вот краткое изложение характеристик GB200:
| Спецификация | Подробности |
| Архитектура | Блэквелл |
| Компоненты | 2 графических процессора B200 + процессор NVIDIA Grace |
| Межсоединение | NVLink со сверхнизким энергопотреблением 900 ГБ/с (между чипами) |
| Емкость памяти | 384 ГБ HBM3E |
| Общая пропускная способность памяти | 16 ТБ/с |
| Сетевая поддержка | NVIDIA Quantum-X800 InfiniBand (800 Гбит/с), Spectrum-X800 Ethernet (800 Гбит/с) |
| Конфигурация системы | GB200 NVL72 (с жидкостным охлаждением, для установки в стойку) |
Потенциальное влияние B200 и GB200 распространяется на множество отраслей и приложений.
Их мощное ускорение идеально подходит для обучения и развертывания массивных генеративных моделей искусственного интеллекта, меняющих то, как мы создаем изображения, текст, код и многое другое.
B200/GB200 обеспечивает расширенные услуги в таких областях, как обработка естественного языка и системы рекомендаций. Исследователи также получат точность и скорость в таких областях, как открытие лекарств, моделирование климата и материаловедение.
Блэквелл в масштабе
NVIDIA одновременно объявила о DGX СуперПОД, специально созданный для использования возможностей суперчипов GB200 Grace Blackwell. Это готовое решение предлагает оптимизированную платформу для масштабирования генеративных рабочих нагрузок искусственного интеллекта с лучшей в отрасли надежностью.
Будущее ускорения искусственного интеллекта
NVIDIA B200 и GB200 представляют собой значительный прогресс в области вычислений на базе искусственного интеллекта и знаменуют новую высшую точку в сфере мощных решений для ускорения.
Эти знаковые графические процессоры с их преимуществами в производительности и памяти способны стимулировать инновации и раздвигать границы возможного во многих секторах.
Автор избранного изображения: pvproductions/Freepik.
Source: NVIDIA только что выпустила AI-чипы нового поколения B200 и GB200.
