torch.cuda.is_available() renvoie False : causes et correctifs (Mac, PC sans NVIDIA, Docker)

Le diagnostic en une commande

Lance ce script : il dit sur quel système tu es, si ta version de PyTorch a été construite pour CUDA, et si une variable masque le GPU.

import os, platform
import torch

print("system       :", platform.system(), platform.machine())
print("torch        :", torch.__version__)
print("built for CUDA:", torch.version.cuda)  # None = PyTorch without CUDA
print("cuda available:", torch.cuda.is_available())
print("CUDA_VISIBLE_DEVICES:", os.environ.get("CUDA_VISIBLE_DEVICES"))
if torch.cuda.is_available():
    print("GPU:", torch.cuda.get_device_name(0))
elif torch.backends.mps.is_available():
    print("Apple GPU (MPS): no CUDA on this machine")

Les causes et leurs correctifs

Réinstaller PyTorch avec CUDA

Si torch.version.cuda vaut None, tu as la version pour processeur. Réinstalle une version CUDA ; le sélecteur du site pytorch.org donne la commande exacte pour ton système et ton pilote.

pip uninstall -y torch torchvision torchaudio
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126
python -c "import torch; print(torch.version.cuda, torch.cuda.is_available())"

Dans Docker

Un conteneur ne voit pas le GPU par défaut. Il faut le demander au lancement, et la machine hôte doit avoir le pilote NVIDIA et le NVIDIA Container Toolkit.

# Le conteneur ne voit le GPU que si tu le demandes
docker run --rm --gpus all ton-image nvidia-smi

Sur Mac : MPS pour tester, un GPU NVIDIA pour CUDA

Les Mac ont un GPU que PyTorch utilise par mps, pratique pour de petits essais. Mais le code qui exige CUDA (noyaux CUDA, bitsandbytes, vLLM, beaucoup de scripts d’entraînement) ne tourne pas sur Mac. Écris ton code pour qu’il choisisse son device : CUDA s’il existe, sinon MPS, sinon le processeur.

import torch

if torch.cuda.is_available():
    device = torch.device("cuda")
elif torch.backends.mps.is_available():
    device = torch.device("mps")
else:
    device = torch.device("cpu")

model = model.to(device)

La solution sans carte NVIDIA : un GPU à l’heure

Le modèle PyTorch (CUDA) de GPU Cloud livre un serveur Ubuntu avec le pilote NVIDIA, CUDA et PyTorch prêts dans /opt/pytorch, activés à la connexion SSH. Une RTX A6000 de 48 Go coûte 0,67 $ CA/h. Le guide pour lancer ton script sur un GPU montre chaque étape, de la copie du projet à l’arrêt des frais.

Ce qu’il faut savoir avant de lancer

• La facturation se fait à l’heure, au tarif horaire du serveur, à partir d’un crédit prépayé. Il n’y a pas de facturation à la minute, et la première heure est prélevée au déploiement.
• Un serveur arrêté reste facturé au plein tarif horaire. Pour payer moins, hiberne-le (0,02 $ par heure (environ 14,60 $ par mois), disque conservé) ou supprime-le. Une machine Spot ne s’hiberne pas : supprime-la quand tu as fini.
• La recharge minimale est de 25,00 $ CA, payée par carte de crédit.
• Les serveurs et leurs disques restent au Canada (région canada-montreal, à Montréal). Les renseignements du compte (identité, facturation, courriels) peuvent être traités hors du Québec, comme l’explique la politique de confidentialité.

Questions fréquentes