Корпорация Nvidia представила улучшенный процессор искусственного интеллекта, который повышает мощность и производительность чипа, стремясь укрепить превосходство компании в растущей области. NVIDIA GH200 Grace Hopper будет доступна во втором квартале 2024 года.
Nvidia заявила во вторник на конференции Siggraph в Лос-Анджелесе, что суперчип Grace Hopper, гибридный графический чип и ЦП, выиграет от новой формы памяти. Устройство основано на памяти с высокой пропускной способностью 3 или HBM3e, которая может осуществлять доступ к данным со скоростью 5 гигабайт в секунду.
Последний анонс Nvidia следует за ранее анонсированным GH200 с HBM3, который в настоящее время находится в производстве и будет доступен в конце этого года. Это означает, что NVIDIA выпустит две версии одного и того же устройства, первая с использованием HBM3, а вторая с HBM3e. Nvidia также сообщает, что GH200 следующего поколения сможет выполнять модели AI в 3,5 раза быстрее, чем нынешняя модель, благодаря памяти HBM3e.
Nvidia GH200 Grace Hopper: построен на 72-ядерном процессоре Grace
Новый суперчип GH200 Grace Hopper основан на 72-ядерном ЦП Grace с 480 ГБ памяти ECC LPDDR5X и вычислительном графическом процессоре GH100 со 141 ГБ памяти HBM3E в шести стеках по 24 ГБ и интерфейсе памяти с разрядностью 6144 бит. NVIDIA физически устанавливает 144 ГБ памяти, однако для увеличения производительности доступно только 141 ГБ.
Текущий суперчип NVIDIA GH200 Grace Hopper оснащен 96 ГБ памяти HBM3 с пропускной способностью менее 4 ТБ/с. Для сравнения, новая модель увеличивает объем памяти примерно вдвое и пропускную способность более чем на четверть. Такие серьезные улучшения позволяют новой платформе запускать более крупные модели ИИ, чем предыдущая итерация, что приводит к значительному увеличению производительности.
Microsoft и NVIDIA подписали соглашение о привлечении Game Pass для Nvidia GeForce Now
Nvidia утверждает, что это связано с различными конфигурациями одного и того же компонента, аналогичного версиям A100 на 40 ГБ и 80 ГБ, выпущенным несколько лет назад. По правде говоря, загрузка оперативной памяти здесь является основным отличием, по крайней мере, на данный момент. Вместо 96 ГБ HBM3 vRAM и 480 ГБ LPDDR5x DRAM, имеющихся в GH200 текущего поколения, GH200 «следующего поколения» имеет 141 ГБ HBM3e и 500 ГБ более медленной LPDDR5x со скоростью 400 ГБ/с. В предыдущей итерации использовалась оперативная память LPDDR5x 512 ГБ/с.
Nvidia уже некоторое время работает над суперчипами Grace Hopper.
По крайней мере, с 2021 года, когда компания обнародовала предварительные планы, суперчипы Grace Hopper были горячей проблемой для генерального директора Nvidia.
Superchip построен на архитектуре Arm, которая широко используется в мобильных устройствах и конкурирует с технологиями Intel и AMD на базе архитектуры x86. Nvidia называет его «суперчипом», поскольку он сочетает в себе процессор Nvidia Grace на базе Arm с архитектурой графического процессора Hopper.
Суперчип Grace Hopper получает ускорение от самой быстрой в мире памяти HBM3e в последней версии Nvidia GH200 Grace Hopper. Согласно Nvidia, память HBM3e до 50% быстрее, чем технология HBM3, включенная в текущую итерацию GH200.
Nvidia Computex 2023 приносит будущее игр
«Мы очень рады этому новому GH200. Он будет иметь 141 гигабайт памяти HBM3e. HBM3e не только увеличивает емкость и объем памяти, подключенной к нашим графическим процессорам, но и намного быстрее», — сказал Ян Бак, вице-президент и генеральный менеджер по гипермасштабированию и высокопроизводительным вычислениям в Nvidia, во время встречи с прессой и аналитиками. Венчурный бит.
Nvidia не только разрабатывает более быстрое оборудование, но и масштабирует его в новом дизайне серверов.
Бак заявил, что Nvidia работает над новой серверной системой Nvidia MGX на базе двух процессоров GH200, которая будет иметь два суперчипа Grace Hopper следующего поколения. Далее он сказал, что новый GH200 будет связан с использованием NVLink, технологии межсоединений Nvidia.
И процессоры, и графические процессоры в новом сервере Dual-GH200 будут связаны с полностью согласованным подключением к памяти благодаря NVLink.
Дата выхода Nvidia GH200 Grace Hopper
По данным NVIDIA, платформа GH200 Grace Hopper с HBM3 уже находится в производстве и поступит в продажу в следующем месяце. Напротив, платформа GH200 Grace Hopper с HBM3e в настоящее время находится на стадии тестирования и, как ожидается, будет готова во втором квартале 2024 года.
Новый GH200 Grace Hopper, по словам NVIDIA, использует те же технологии Grace CPU и GH100 GPU, что и предыдущая версия, поэтому никаких дополнительных модификаций или степпингов не требуется.
Рекомендуемое изображение: Нвидиа
Source: Вот новый Nvidia GH200 Grace Hopper