En inférence locale avec Strata, une seule RTX 3090 de 24 Go de VRAM reste souvent plus adaptée que deux cartes, sauf si le modèle dépasse largement cette capacité. La solution double carte n'est viable que si votre charge de travail peut être parallélisée efficacement, ce qui est rare pour les modèles de langage standards.

Pourquoi la VRAM est le goulot d'étranglement principal

Lorsque vous chargez un modèle avec Strata, la mémoire vidéo (VRAM) est la ressource la plus critique. Une RTX 3090 offre 24 Go de mémoire unifiée. Si vous tentez de charger un modèle qui nécessite 30 Go, la carte unique échouera ou utilisera le swap système, rendant l'inférence inutilisable. Deux RTX 3090 offrent théoriquement 48 Go, mais cette capacité n'est pas additive de manière transparente pour tous les modèles. Strata doit pouvoir diviser le modèle ou la charge de travail entre les deux GPU. Si le moteur Strata ne prend pas en charge le partitionnement de modèle inter-GPU, la deuxième carte restera inutilisée pour le chargement du modèle, ne faisant alors que doubler la puissance de calcul brute sans résoudre le problème de mémoire.

La réalité du coût et de la consommation électrique

Installer deux RTX 3090 augmente considérablement la complexité et le coût opérationnel. Chaque carte consomme environ 350 watts en charge maximale. Avec deux cartes, vous ajoutez 700 watts supplémentaires à votre système. À un prix moyen du kWh de 0,25 € en France, cela représente un coût énergétique réel et immédiat. Pour une session d'inférence intensive, cette différence de consommation se traduit par des factures électriques plus élevées sans garantie de gain de performance proportionnel. De plus, la chaleur dégagée par deux cartes nécessite un refroidissement renforcé, ce qui augmente le bruit et la complexité du boîtier PC.

Analyse technique des configurations

Voici une comparaison basée sur les spécifications techniques réelles de ces GPU pour vous aider à décider.

SpécificationSingle RTX 3090Dual RTX 3090Impact sur l'inférence
VRAM Totale24 Go48 Go (théorique)Double permet des modèles plus grands si partitionnés.
Consommation Max~350 W~700 WDouble consommation électrique et chaleur.
Coût Électrique (h)~0,087 €~0,175 €Coût opérationnel doublé pour la même tâche.
Latence PCIeFaibleVariable (SLI/CrossFire obsolète)La communication inter-GPU peut introduire de la latence.

Définition du terme technique

La VRAM est la mémoire dédiée au processeur graphique qui stocke les données du modèle ; si la taille du modèle dépasse cette capacité, l'inférence locale devient impossible ou extrêmement lente.

Pour vérifier si vous avez besoin de deux cartes, vous pouvez mesurer la taille de votre modèle en Go. Si elle est inférieure à 20 Go, une seule RTX 3090 suffit. Si elle dépasse 24 Go, vérifiez d'abord si Strata supporte le multi-GPU pour votre modèle spécifique avant d'investir dans une deuxième carte.