Guide GPU
Louer une H100 au Canada : PCIe, NVLink ou SXM, à l’heure
Mis à jour le
Réponse courte
Chez GPU Cloud, une NVIDIA H100 PCIe (80 Go) se loue à l’heure dès 3,35 $ CA/h, et les serveurs de 8 H100 (H100 NVLink et H100 SXM) vont jusqu’à 34,27 $ CA/h, taxes en sus. Les serveurs sont à Montréal, facturés en dollars canadiens, et une H100 en rupture affiche la machine équivalente la plus proche en stock.
Trois versions de la H100 : PCIe, NVLink et SXM
| Version | Mémoire par GPU | Liaison entre les GPU | GPU par serveur | À partir de, par heure |
|---|---|---|---|---|
| NVIDIA H100 PCIe | 80 Go HBM2e | PCIe Gen5 | 1, 2, 4 et 8 | 3,35 $ |
| NVIDIA H100 NVLink | 80 Go HBM2e | PCIe Gen5 + NVLink (600 Go/s) | 8 | 27,84 $ |
| NVIDIA H100 SXM | 80 Go HBM3 | NVLink 4.0 (900 Go/s) | 8 | 34,27 $ |
Prix du serveur entier, en dollars canadiens, taxes en sus, lus dans le catalogue à la publication de la page.
La H100 PCIe se loue de 1 à 8 GPU par serveur. Les versions NVLink et SXM relient les GPU d’un même serveur par un lien plus rapide que le PCIe : elles visent l’entraînement réparti sur plusieurs GPU. La comparaison H100 SXM et H100 PCIe met leurs caractéristiques côte à côte.
Prix et disponibilité de chaque machine H100
| GPU | GPU par serveur | Mémoire GPU du serveur | À la demande, par heure | Disponibilité |
|---|---|---|---|---|
| NVIDIA H100 PCIe | 1 | 80 Go | 3,35 $ | |
| NVIDIA H100 PCIe | 2 | 160 Go | 6,69 $ | |
| NVIDIA H100 PCIe | 4 | 320 Go | 13,39 $ | |
| NVIDIA H100 PCIe | 8 | 640 Go | 26,77 $ | |
| NVIDIA H100 NVLink | 8 | 640 Go | 27,84 $ | |
| NVIDIA H100 SXM | 8 | 640 Go | 34,27 $ |
Prix en dollars canadiens, taxes en sus, lus dans le catalogue à la publication de la page. La disponibilité est lue en direct ; une machine en rupture affiche la machine équivalente la plus proche qui est en stock.
Quand une H100 vaut le coup, et quand une autre carte suffit
- La H100 (architecture Hopper, avec la prise en charge du FP8) vise l’entraînement et le fine-tuning de gros modèles, et l’inférence quand le calcul limite plus que la mémoire.
- Si ton travail est limité par la mémoire plutôt que par le calcul, une A100 PCIe offre 80 Go par GPU pour 1,81 $ CA/h. Voir la comparaison H100 et A100.
- Pour l’inférence d’un modèle de 7 à 13 milliards de paramètres, une RTX A6000 de 48 Go à 0,67 $ CA/h suffit souvent.
Si la H100 voulue est en rupture
Les H100 sont souvent en rupture. Quand une machine du tableau est en rupture, la machine équivalente la plus proche qui est en stock s’affiche en premier, avec son prix à l’heure et un bouton pour la déployer : au moins autant de mémoire GPU, le même nombre de GPU si possible, puis le prix le plus proche.
Tu peux aussi demander une alerte de disponibilité, ou réserver une H100 pour une date précise avec le nombre de GPU et la durée voulus.
Exemples de coûts
- Une journée de travail de 8 heures sur 1 H100 PCIe : 26,80 $, ou 21,44 $ en Spot (interruptible).
- 24 heures sur un serveur de 8 H100 PCIe (640 Go de mémoire GPU) : 642,48 $.
- 24 heures sur un serveur de 8 H100 NVLink (640 Go de mémoire GPU) : 668,16 $.
- 24 heures sur un serveur de 8 H100 SXM (640 Go de mémoire GPU) : 822,48 $.
Calcul : tarif horaire × nombre d’heures, arrondi au cent, taxes en sus.
Ce qu’il faut savoir avant de lancer
- La facturation se fait à l’heure, au tarif horaire du serveur, à partir d’un crédit prépayé. Il n’y a pas de facturation à la minute, et la première heure est prélevée au déploiement.
- Un serveur arrêté reste facturé au plein tarif horaire. Pour payer moins, hiberne-le (0,02 $ par heure (environ 14,60 $ par mois), disque conservé) ou supprime-le. Une machine Spot ne s’hiberne pas : supprime-la quand tu as fini.
- La recharge minimale est de 25,00 $ CA, payée par carte de crédit.
- Les serveurs et leurs disques restent au Canada (région canada-montreal, à Montréal). Les renseignements du compte (identité, facturation, courriels) peuvent être traités hors du Québec, comme l’explique la politique de confidentialité.
Questions fréquentes
Combien coûte une H100 à l’heure ?
Dès 3,35 $ CA/h pour une H100 PCIe à 1 GPU, 2,68 $ CA/h en Spot, taxes en sus. Les serveurs de 8 H100 vont jusqu’à 34,27 $ CA/h.
Peut-on louer une seule H100 ?
Oui, la H100 PCIe se loue avec 1 GPU. Les versions H100 NVLink et H100 SXM se louent en serveurs de 8 GPU.
Quelle différence entre la H100 PCIe et la H100 SXM ?
Les deux ont 80 Go de mémoire par GPU. La SXM relie ses 8 GPU par NVLink et consomme plus d’énergie ; la PCIe se loue dès 1 GPU, à un prix plus bas.
Que faire si la H100 est en rupture de stock ?
Déploie la machine équivalente proposée en premier, en stock, ou demande une alerte de disponibilité, ou réserve une H100 pour une date précise.
Où sont hébergées les H100 ?
À Montréal, au Canada. Les serveurs et leurs disques restent au Canada, et la facture est en dollars canadiens.
Tu veux du GPU ? On est là.
Lance un serveur GPU NVIDIA à l’heure au Canada, payé en dollars canadiens par carte de crédit, ou réserve un GPU pour une date précise.
Autres guides
- Ton IA te dit qu’il te faut un GPU ? Lance ton script Python sur un GPU en quelques minutes
- CUDA out of memory : causes, correctifs, et quand passer à un GPU avec plus de VRAM
- torch.cuda.is_available() renvoie False : causes et correctifs (Mac, PC sans NVIDIA, Docker)
- Combien coûte un GPU à l’heure au Canada, en dollars canadiens ?
- API OpenAI trop chère ? Héberge ton LLM sur un GPU à l’heure, au Canada
- Louer un GPU à l’heure au Canada : prix, étapes et facturation
- GPU cloud à Montréal, au Canada : serveurs GPU NVIDIA hébergés au pays
- Quel GPU pour fine-tuner un LLM ? Mémoire, machine et coût
- GPU cloud pas cher : comment payer le moins possible pour un GPU