Guide GPU
GPU cloud pas cher : comment payer le moins possible pour un GPU
Mis à jour le
Réponse courte
Le GPU le moins cher de GPU Cloud est une NVIDIA RTX A6000 (48 Go) à 0,67 $ CA/h, ou 0,54 $ CA/h en Spot, taxes en sus. Pour payer le moins possible, prends la plus petite mémoire qui suffit à ton modèle, et hiberne ou supprime le serveur dès que tu as fini.
Le levier le plus fort : la plus petite mémoire qui suffit
Le prix d’un serveur monte avec sa mémoire GPU et la génération de sa carte. Un modèle qui tient dans 48 Go n’a pas besoin d’une carte de 80 Go : choisis le serveur qui suffit, pas le plus gros.
| Modèle | Précision | Mémoire à prévoir | Serveur le moins cher qui suffit | À la demande / h | Spot / h |
|---|---|---|---|---|---|
| 8 milliards de paramètres | 16 bits | 20 Go | 1 × RTX A6000 | 0,67 $ | 0,54 $ |
| 8 milliards de paramètres | 4 bits | 5 Go | 1 × RTX A6000 | 0,67 $ | 0,54 $ |
| 13 milliards de paramètres | 16 bits | 32 Go | 1 × RTX A6000 | 0,67 $ | 0,54 $ |
| 13 milliards de paramètres | 4 bits | 8 Go | 1 × RTX A6000 | 0,67 $ | 0,54 $ |
| 34 milliards de paramètres | 16 bits | 82 Go | 2 × RTX A6000 | 1,34 $ | 1,07 $ |
| 34 milliards de paramètres | 4 bits | 21 Go | 1 × RTX A6000 | 0,67 $ | 0,54 $ |
| 70 milliards de paramètres | 16 bits | 168 Go | 4 × RTX A6000 | 2,68 $ | 2,14 $ |
| 70 milliards de paramètres | 4 bits | 42 Go | 1 × RTX A6000 | 0,67 $ | 0,54 $ |
Mémoire à prévoir : poids du modèle × 1,2 pour le cache KV et le contexte CUDA, une estimation pour des contextes de longueur courante. Un long contexte ou beaucoup de requêtes simultanées demandent plus. Prix en dollars canadiens, taxes en sus.
Charger le modèle en 4 bits divise environ par quatre la mémoire des poids, et permet souvent un serveur bien moins cher. Le guide CUDA out of memory détaille la mémoire des poids selon la précision.
Ces serveurs, avec leur disponibilité
| GPU | GPU par serveur | Mémoire GPU du serveur | À la demande, par heure | Disponibilité |
|---|---|---|---|---|
| NVIDIA RTX A6000 | 1 | 48 Go | 0,67 $ | |
| NVIDIA RTX A6000 | 2 | 96 Go | 1,34 $ | |
| NVIDIA RTX A6000 | 4 | 192 Go | 2,68 $ |
Prix en dollars canadiens, taxes en sus, lus dans le catalogue à la publication de la page. La disponibilité est lue en direct ; une machine en rupture affiche la machine équivalente la plus proche qui est en stock.
Les autres façons de payer moins
- Le Spot : environ 19 % de moins (0,54 $ au lieu de 0,67 $ de l’heure sur une RTX A6000), pour un travail qui supporte une interruption sans préavis et reprend depuis un point de sauvegarde.
- Hiberner au lieu d’arrêter : un serveur arrêté reste facturé au plein tarif, un serveur hiberné coûte 0,02 $ par heure (environ 14,60 $ par mois) et garde son disque.
- Supprimer dès que le travail est fini : rapatrie tes résultats, puis supprime le serveur ; plus rien n’est facturé.
- Le forfait au mois seulement pour un serveur allumé en continu : sur une RTX A6000, 474,50 $ au lieu de 489,10 $ pour 730 heures, soit 14,60 $ de moins.
- Laisser ton assistant IA louer pour toi avec une clé MCP plafonnée : ses dépenses sont limitées par le plafond de la clé (voir la page Développeurs).
Comparer des prix de GPU sans se tromper
- La devise : un prix en dollars américains se convertit, et ta banque peut ajouter des frais. Ici, tout est en dollars canadiens.
- Les taxes : vérifie si le prix les inclut. Ici, elles s’ajoutent selon la province de facturation.
- Ce qui est facturé à l’arrêt : chez GPU Cloud, un serveur arrêté reste facturé ; seuls l’hibernation et la suppression arrêtent les frais du GPU.
- Le serveur entier : compare des machines avec le même nombre de GPU et la même mémoire, et regarde le prix du serveur, pas seulement celui d’un GPU.
Tous les prix, de 1 à 8 GPU, sont sur la page des prix GPU au Canada.
Ce qu’il faut savoir avant de lancer
- La facturation se fait à l’heure, au tarif horaire du serveur, à partir d’un crédit prépayé. Il n’y a pas de facturation à la minute, et la première heure est prélevée au déploiement.
- Un serveur arrêté reste facturé au plein tarif horaire. Pour payer moins, hiberne-le (0,02 $ par heure (environ 14,60 $ par mois), disque conservé) ou supprime-le. Une machine Spot ne s’hiberne pas : supprime-la quand tu as fini.
- La recharge minimale est de 25,00 $ CA, payée par carte de crédit.
- Les serveurs et leurs disques restent au Canada (région canada-montreal, à Montréal). Les renseignements du compte (identité, facturation, courriels) peuvent être traités hors du Québec, comme l’explique la politique de confidentialité.
Questions fréquentes
Quel est le GPU le moins cher ?
Une NVIDIA RTX A6000 de 48 Go, à 0,67 $ CA/h à la demande et 0,54 $ CA/h en Spot, taxes en sus.
Le Spot vaut-il le coup ?
Oui pour un travail qui reprend depuis un point de sauvegarde (entraînement, traitement par lots). Non pour un service qui doit rester en ligne : une machine Spot peut être interrompue sans préavis.
Comment ne rien payer quand je n’utilise pas le GPU ?
Supprime le serveur. Pour garder ton disque, hiberne-le (0,02 $ par heure (environ 14,60 $ par mois)) : arrêter le serveur ne suffit pas, il reste facturé au plein tarif.
Le forfait au mois est-il moins cher ?
Pour un serveur allumé tout le mois, oui : 474,50 $ au lieu de 489,10 $ sur une RTX A6000. Pour un usage par périodes, l’heure avec hibernation coûte moins.
Un GPU moins cher est-il plus lent ?
Souvent, mais un modèle qui tient dans la mémoire d’une carte moins chère peut y tourner assez vite pour ton usage. Essaie une heure sur le serveur le moins cher qui suffit avant de prendre plus gros.
Tu veux du GPU ? On est là.
Lance un serveur GPU NVIDIA à l’heure au Canada, payé en dollars canadiens par carte de crédit, ou réserve un GPU pour une date précise.
Autres guides
- Ton IA te dit qu’il te faut un GPU ? Lance ton script Python sur un GPU en quelques minutes
- CUDA out of memory : causes, correctifs, et quand passer à un GPU avec plus de VRAM
- torch.cuda.is_available() renvoie False : causes et correctifs (Mac, PC sans NVIDIA, Docker)
- Combien coûte un GPU à l’heure au Canada, en dollars canadiens ?
- API OpenAI trop chère ? Héberge ton LLM sur un GPU à l’heure, au Canada
- Louer un GPU à l’heure au Canada : prix, étapes et facturation
- GPU cloud à Montréal, au Canada : serveurs GPU NVIDIA hébergés au pays
- Louer une H100 au Canada : PCIe, NVLink ou SXM, à l’heure
- Quel GPU pour fine-tuner un LLM ? Mémoire, machine et coût