Benchmarks matériel
Médianes de la voie ordinaire pour Qwen3.8 Flash Next. Le coût local et le seuil de rentabilité se recalculent avec vos heures, votre électricité et vos prix d'API.
Qwen3.8 Flash Next · un flux · lecture puis écriture · ModelDock benchmarks
Les prix d'API par défaut sont 0,10 $ par million de jetons lus et 0,64 $ par million de jetons écrits. À 90/10, ce mélange reproduit la colonne de valeur API publiée. Ajustez-les au tarif que vous payez.
Votre charge
29 profils matériel · Les rangées bi-GPU demandent de la place dans le boîtier, une alimentation large et une planification multi-GPU.
| Ajustement | Preuve | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| RTX 4090 single-card node | 24 GB | 4 000 | 109,3 | Bon | 550 W | $4 199 | 75,8 | $0,056 | $1,98 | $11,67 | 433 j | Médiane |
| RTX 5080 16GB GDDR7 · single-card node | 16 GB | 3 712,5 | 80,7 | Bon | 510 W | $2 800 | 58,3 | $0,058 | $1,84 | $8,98 | 392 j | Médiane |
| RTX 5070 Ti 16GB · Q3 or smaller only | 16 GB | 2 498,5 | 71,1 | Bon | 450 W | $2 380 | 48,9 | $0,060 | $1,62 | $7,53 | 403 j | Médiane |
| RTX 3090 single-card node | 24 GB | 2 094 | 86,5 | Bon | 500 W | $2 700 | 54,5 | $0,060 | $1,80 | $8,39 | 410 j | Médiane |
| RTX 4070 Ti SUPER 16GB 16GB GDDR6X · single-card node | 16 GB | 1 700 | 72 | Bon | 435 W | $2 140 | 45,0 | $0,061 | $1,57 | $6,94 | 398 j | Médiane |
| RTX 5090 single-card node | 32 GB | 5 803 | 168,4 | Bon | 700 W | $8 500 | 115,4 | $0,062 | $2,52 | $17,77 | 558 j | Médiane |
| RTX 3090 Ti single-card node | 24 GB | ~2 255,1 | ~93,1 | Bon | ~600 W | $2 774 | 58,6 | $0,063 | $2,16 | $9,03 | 404 j | Estimation |
| AMD Radeon RX 7900 XTX 24GB GDDR6 · single-card node | 24 GB | 1 459,3 | 75,5 | Bon | 475 W | $2 000 | 44,5 | $0,063 | $1,71 | $6,85 | 389 j | Médiane |
| AMD Radeon RX 9070 XT 16GB 16GB GDDR6 · single-card node | 16 GB | 1 652 | 53,8 | Bon | 454 W | $2 000 | 35,9 | $0,076 | $1,63 | $5,54 | 513 j | Médiane |
| Ryzen AI Max+ 395 128 GB Radeon 8060S · 128GB unified memory | 128 GB | 1 320 | 51,4 | Bon | 170 W | $3 500 | 32,9 | $0,077 | $0,61 | $5,06 | 786 j | Médiane |
| 2× RTX 5060 Ti 16GB each · dual-card node | 32 GB | 1 602 | 67,6 | Bon | 480 W | $2 960 | 42,3 | $0,079 | $1,73 | $6,52 | 618 j | Médiane |
| RTX 5070 12 GB 12GB GDDR7 · single-card node | 12 GB | 1 443,2 | 48,3 | Bon | 400 W | $2 070 | 32,1 | $0,080 | $1,44 | $4,94 | 592 j | Médiane |
| 2x RTX 3090 24 GB 24 GB each · dual-card layer split | 48 GB | 2 137,6 | 111,3 | Juste | 850 W | $4 200 | 65,5 | $0,082 | $3,06 | $10,08 | 598 j | Médiane |
| Mac Studio M5 Ultra 96 GB 30-core CPU · 64-core GPU · 96GB unified memory | 96 GB | ~2 284,8 | ~64,8 | Bon | ~360 W | $5 499 | 44,6 | $0,097 | $1,30 | $6,87 | 987 j | Estimation |
| DGX Spark 128GB unified memory | 128 GB | 2 228,5 | 48,7 | Bon | 170 W | $5 100 | 35,2 | $0,097 | $0,61 | $5,41 | 1 062 j | Médiane |
| RTX PRO 6000 Blackwell 96GB GDDR7 ECC · single-card node | 96 GB | 8 987,9 | 171,1 | Bon | 720 W | $18 317 | 126,2 | $0,100 | $2,59 | $19,44 | 1 087 j | Médiane |
| 2x RTX 3060 12 GB 12 GB each · dual-card layer split | 24 GB | 1 239,8 | 41,3 | Bon | 490 W | $1 814 | 27,5 | $0,100 | $1,76 | $4,23 | 736 j | Médiane |
| MacBook Pro M5 Max 128 GB 128GB unified memory | 128 GB | 1 310 | 67,3 | Bon | 120 W | $6 699 | 39,8 | $0,103 | $0,43 | $6,12 | 1 177 j | Médiane |
| 2x TITAN RTX 24 GB 24 GB each · dual-card layer split | 48 GB | 1 698,2 | 60,6 | Bon | 710 W | $2 881 | 39,6 | $0,104 | $2,56 | $6,10 | 812 j | Médiane |
| AMD Radeon RX 6900 XT 16GB 16GB GDDR6 · single-card node | 16 GB | 466 | 47,6 | Bon | 450 W | $1 669 | 21,4 | $0,118 | $1,62 | $3,30 | 994 j | Médiane |
| 2x AMD Radeon RX 6900 XT 16GB 16 GB each · dual-card layer split | 32 GB | 772,3 | 63 | Bon | 750 W | $2 138 | 31,4 | $0,123 | $2,70 | $4,83 | 1 002 j | Médiane |
| Mac Studio M5 Ultra 256 GB 36-core CPU · 80-core GPU · 256GB unified memory | 256 GB | 2 856 | 81 | Bon | 360 W | $10 799 | 55,8 | $0,129 | $1,30 | $8,59 | 1 481 j | Médiane |
| Mac Studio M5 Max 64 GB 40-core GPU · 64GB unified memory | 64 GB | ~517,9 | ~36 | Bon | ~180 W | $3 799 | 19,1 | $0,143 | $0,65 | $2,95 | 1 653 j | Estimation |
| MacBook Pro M5 Max 64 GB 40-core GPU · 64GB unified memory · source chassis undisclosed | 64 GB | 517,9 | 36 | Bon | 120 W | $5 099 | 19,1 | $0,169 | $0,43 | $2,95 | 2 028 j | Médiane |
| Mac Studio M5 Max 128 GB 40-core GPU · 128GB unified memory | 128 GB | ~517,9 | ~36 | Bon | ~180 W | $5 399 | 19,1 | $0,188 | $0,65 | $2,95 | 2 349 j | Estimation |
| Mac mini M5 Pro 64 GB 18-core CPU · 20-core GPU · 64GB unified memory | 64 GB | ~259 | ~18 | Bon | ~110 W | $2 899 | 9,6 | $0,207 | $0,40 | $1,47 | 2 691 j | Estimation |
| Mac Studio M4 Max 128 GB 128GB unified memory · source-backed oMLX profile | 128 GB | 446,8 | 32,5 | Bon | 145 W | $6 500 | 17,0 | $0,241 | $0,52 | $2,61 | 3 108 j | Médiane |
| Mac Studio M3 Ultra 512 GB 80-core · 512GB unified memory | 512 GB | 479,6 | 18,1 | Bon | 330 W | $9 499 | 11,7 | $0,548 | $1,19 | $1,80 | 15 580 j | Médiane |
| RTX 4070 12 GB 12GB board-dependent GDDR6/GDDR6X · single-card node | 12 GB | 1 376 | 36,9 | Bon | 350 W | — | 25,7 | — | $1,26 | $3,96 | — | Médiane |
Matériel choisi
RTX 4090
24 GB · single-card node
Lecture tok/s
4 000Écriture tok/s
109,3Puissance
550 WM tok/jour
75,8Local $/M
$0,056Énergie/jour
$1,98Valeur API/jour
$11,67Rentabilité
433 jD'où viennent les chiffres
- La capacité journalière est les heures actives fois le débit mixte. Le temps est séquentiel : part de lecture divisée par les tok/s de lecture, plus part d'écriture divisée par les tok/s d'écriture.
- L'énergie par jour est la puissance du nœud entier fois les heures fois votre prix du kWh.
- Le coût local par million de jetons est l'énergie plus le matériel réparti sur la durée de vie, divisé par la capacité du jour. Un GPU discret vaut le prix de la carte plus 1 200 $ d'hôte.
- Les jours de rentabilité sont le prix du rig divisé par la valeur API par jour moins l'énergie par jour. C'est une comparaison avec les prix d'API ci-dessus, pas une promesse d'économie.