NVIDIA H200 ou H100 : quel GPU choisir pour l’IA ?

H200 ou H100 : le guide

Le NVIDIA H200 reprend l’architecture Hopper du H100 avec davantage de mémoire, en HBM3e. Chez GPU Cloud, le catalogue propose le H100 en ces versions : H100 PCIe, H100 NVLink et H100 SXM ; le H200 SXM est offert à partir de 49,56 $/h (8 GPU).

Caractéristiques

Prix en dollars canadiens, taxes en sus.

Quand choisir le H200 ?

• Les poids du modèle et le cache KV ne tiennent pas dans 80 Go par GPU : avec 141 Go HBM3e par GPU, le modèle se répartit sur moins de GPU.
• Inférence sur de longs contextes, où le cache KV grossit avec la longueur du contexte.

Quand le H100 suffit

• Le modèle tient dans 80 Go par GPU, pour l’inférence comme pour l’affinage.
• Vous voulez commencer petit : le H100 PCIe se loue en serveurs de 1, 2, 4 ou 8 GPU, à l’heure et sans engagement.
• Entraînement sur plusieurs GPU : le H100 SXM relie ses GPU par NVLink 4.0 (900 Go/s).

Pour plusieurs mois : un H100 ou un H200 dédié

Si le GPU tourne tous les jours pendant des années, la réservation longue durée loue un serveur H100 ou H200 dédié à Montréal, à vous seul, pour 3 ans, payé d’avance au prix verrouillé. Le configurateur affiche son prix tout de suite.

Pour aller plus loin, consultez le comparatif H100 SXM et H100 PCIe.