Відеокарта PNY NVIDIA H100 94GB NVL для центрів обробки даних
NVIDIA H100 NVL Tensor Core GPU є найбільш оптимізованою платформою для LLM Inferences завдяки високій щільності обчислень, широкій пропускній здатності пам'яті, високій енергоефективності та унікальній архітектурі NVLink. Вона також забезпечує безпрецедентне прискорення для найпродуктивніших у світі гнучких центрів обробки даних для ШІ, аналізу даних та високопродуктивних обчислень (HPC). Технологія NVIDIA H100 NVL Tensor Core підтримує широкий діапазон математичної точності, забезпечуючи єдиний прискорювач для кожного обчислювального навантаження. NVIDIA H100 NVL підтримує обчислення подвійної точності (FP64), одинарної точності (FP32), половинної точності (FP16), 8-розрядні обчислення з плаваючою комою (FP8) та цілочисельні (INT8).
Карта NVIDIA H100 NVL - це двослотова 10,5-дюймова PCI Express Gen5 карта з двома слотами на базі архітектури NVIDIA Hopper. Для охолодження використовується пасивний тепловідвід, який вимагає системного потоку повітря для належної роботи карти в межах теплових обмежень. NVIDIA H100 NVL працює без обмежень з максимальною тепловою проектною потужністю (TDP) 400 Вт для прискорення додатків, які вимагають найвищої швидкості обчислень і найбільшої пропускної здатності даних.
NVIDIA H100 NVL дебютує з найвищою в світі пропускною здатністю карт пам'яті PCIe - майже 4,000 гігабайт в секунду (GBps). Це прискорює час прийняття рішень для найбільших моделей і наймасивніших наборів даних. Карта NVIDIA H100 NVL підтримує багатопроцесорний графічний процесор (MIG). Її можна використовувати для розділення графічного процесора на цілих сім апаратно-ізольованих екземплярів GPU, забезпечуючи уніфіковану платформу, яка дозволяє гнучким центрам обробки даних динамічно підлаштовуватися під мінливі вимоги робочих навантажень. Крім того, вона може розподіляти ресурси потрібного розміру від найменших до найбільших багатопроцесорних завдань.
Універсальність NVIDIA H100 NVL означає, що ІТ-менеджери можуть максимально ефективно використовувати кожен графічний процесор (GPU) у своєму центрі обробки даних. Карти NVIDIA H100 NVL використовують три мости NVIDIA NVLink. Вони аналогічні тим, що використовуються з картами NVIDIA H100 PCIe. Це дозволяє з'єднати дві карти NVIDIA H100 PCIe для забезпечення двосторонньої пропускної здатності 600 ГБ/с або в 10 разів більше пропускної здатності PCIe Gen4, щоб максимізувати продуктивність додатків для великих робочих навантажень.
