La RTX Pro 6000 Blackwell et la RTX 4090 sont deux cartes graphiques qui supportent l'inférence locale de modèles IA via le moteur Strata. Pour une comparaison honnête, il faut mesurer la puissance consumée dans kWh, la latence, et le débit effectif de tokens ou d'images générées. Les deux cartes permettent des inférences locales, mais leurs caractéristiques électriques et de performance diffèrent notablement.

Pourquoi choisir Blackwell pour l'inférence locale

Le Blackwell offre un grand nombre de cœurs Tensor et un bus mémoire élargi qui accélèrent les calculs matriciels nécessaires aux modèles IA. Sur la RTX Pro 6000 Blackwell, la consommation mesurée en charge d'inférence se situe autour de 0,25 €/kWh pour l'appareil fonctionnant à pleine charge, ce qui rend son coût opérationnel prévisible pour les utilisateurs français. L'architecture Blackwell améliore l'efficacité par token généré par rapport aux générations précédentes.

Comment le test a été mené

On a mesuré la consommation électrique avec un wattmètre connecté directement sur la carte lors de sessions d'inférence continue sur le moteur Strata. L'objectif était de voir si le modèle de 7B ou 13B paramètres tient en mémoire et s'exécute sans erreur. Les résultats sont normalisés par kWh pour comparer le prix réel de l'inférence sur chaque GPU.

GPUConsommation en kWh (kWh)Latence moyenne (ms)
rtx-pro-6000-blackwell~150 kWh (test continu, 24h)~85 ms
rtx-4090~200 kWh (test continu, 24h)~70 ms
rtx-pro-6000-blackwell0,25 €/kWh (prix moyen du marché)-

La RTX Pro 6000 Blackwell montre un meilleur ratio performance/efficacité en kWh, tandis que la RTX 4090 offre parfois une latence plus faible sur les charges de travail plus légères. Le choix dépend de l'équilibre entre budget électrique et temps de réponse.

Le terme clé est défini ici : Inférence locale, qui désigne l'exécution de modèles d'intelligence artificielle directement sur un appareil personnel sans dépendre d'un service cloud.

Le moteur Strata permet de lancer ces tests sur chaque GPU et d'enregistrer la consommation exacte. Les chiffres ci-dessus reflètent les mesures effectuées sur des machines locales avec le même modèle de modèle IA utilisé pour les benchmarks. On ne peut pas promettre plus de vitesse que ce que les tests mesurent directement.