Инференс трансформеров
Проверьте поддерживаемые форматы точности и измерьте задержку на своей модели.
Задачи для этой GPU-конфигурации
Обучение и дообучение
Подберите batch size и длину последовательности в пределах 80 GB HBM3.
Проверка серверного runtime
Сравните настройки движка на одинаковых запросах и с одинаковой параллельностью.
Совместимость программного обеспечения
- У GPU 80 GB памяти HBM3. В общий расчёт включите память runtime и рабочие буферы.
- Указана H100 SXM 80 GB HBM3; характеристики других модификаций H100 отличаются.
- Доступность оптимизированного режима зависит от модели, движка и формата весов.
Аренда H100 SXM
Укажите модель, программное окружение и срок аренды. До начала подтвердим цену, доступность и способ подключения.
528,91 ₽/ час
О конфигурации
Сколько памяти у H100 SXM?
У GPU 80 GB памяти HBM3. В общий расчёт включите память runtime и рабочие буферы.
H100 и H200 отличаются только названием?
Нет. В этих конфигурациях H100 SXM имеет 80 GB HBM3, а H200 SXM — 141 GB HBM3e. Если ограничение — память под модель или контекст, начните сравнение с этого различия.
Как арендовать эту конфигурацию?
Для этой конфигурации можно оставить заявку на аренду. Укажите задачу, желаемые даты и длительность. Наличие оборудования, стоимость и время доступа подтверждаются индивидуально; заявка не является подтверждённой бронью.
