Benchmarks de hardware

Medianas del carril ordinario para Qwen3.8 Flash Next. El costo local y la recuperación se recalculan con tus horas, tu electricidad y tus precios de API.

Qwen3.8 Flash Next · un flujo · primero lectura, luego escritura · ModelDock benchmarks

Los precios de API por defecto son $0.10 por millón de tokens de lectura y $0.64 por millón de tokens de escritura. Con 90/10 esa mezcla coincide con la columna de valor API publicada. Cámbialos por lo que pagas de verdad.

Tu carga

29 perfiles de hardware · Las filas de doble GPU necesitan espacio en la caja, margen de potencia y planificación multi-GPU.

AjusteEvidencia
RTX 4090
single-card node
24 GB4000109,3Holgado550 W$419975,8$0,056$1,98$11,67433 dMediana
RTX 5080
16GB GDDR7 · single-card node
16 GB3712,580,7Holgado510 W$280058,3$0,058$1,84$8,98392 dMediana
RTX 5070 Ti
16GB · Q3 or smaller only
16 GB2498,571,1Holgado450 W$238048,9$0,060$1,62$7,53403 dMediana
RTX 3090
single-card node
24 GB209486,5Holgado500 W$270054,5$0,060$1,80$8,39410 dMediana
RTX 4070 Ti SUPER 16GB
16GB GDDR6X · single-card node
16 GB170072Holgado435 W$214045,0$0,061$1,57$6,94398 dMediana
RTX 5090
single-card node
32 GB5803168,4Holgado700 W$8500115,4$0,062$2,52$17,77558 dMediana
RTX 3090 Ti
single-card node
24 GB~2255,1~93,1Holgado~600 W$277458,6$0,063$2,16$9,03404 dEstimación
AMD Radeon RX 7900 XTX
24GB GDDR6 · single-card node
24 GB1459,375,5Holgado475 W$200044,5$0,063$1,71$6,85389 dMediana
AMD Radeon RX 9070 XT 16GB
16GB GDDR6 · single-card node
16 GB165253,8Holgado454 W$200035,9$0,076$1,63$5,54513 dMediana
Ryzen AI Max+ 395 128 GB
Radeon 8060S · 128GB unified memory
128 GB132051,4Holgado170 W$350032,9$0,077$0,61$5,06786 dMediana
2× RTX 5060 Ti
16GB each · dual-card node
32 GB160267,6Holgado480 W$296042,3$0,079$1,73$6,52618 dMediana
RTX 5070 12 GB
12GB GDDR7 · single-card node
12 GB1443,248,3Holgado400 W$207032,1$0,080$1,44$4,94592 dMediana
2x RTX 3090 24 GB
24 GB each · dual-card layer split
48 GB2137,6111,3Justo850 W$420065,5$0,082$3,06$10,08598 dMediana
Mac Studio M5 Ultra 96 GB
30-core CPU · 64-core GPU · 96GB unified memory
96 GB~2284,8~64,8Holgado~360 W$549944,6$0,097$1,30$6,87987 dEstimación
DGX Spark
128GB unified memory
128 GB2228,548,7Holgado170 W$510035,2$0,097$0,61$5,411062 dMediana
RTX PRO 6000 Blackwell
96GB GDDR7 ECC · single-card node
96 GB8987,9171,1Holgado720 W$18.317126,2$0,100$2,59$19,441087 dMediana
2x RTX 3060 12 GB
12 GB each · dual-card layer split
24 GB1239,841,3Holgado490 W$181427,5$0,100$1,76$4,23736 dMediana
MacBook Pro M5 Max 128 GB
128GB unified memory
128 GB131067,3Holgado120 W$669939,8$0,103$0,43$6,121177 dMediana
2x TITAN RTX 24 GB
24 GB each · dual-card layer split
48 GB1698,260,6Holgado710 W$288139,6$0,104$2,56$6,10812 dMediana
AMD Radeon RX 6900 XT 16GB
16GB GDDR6 · single-card node
16 GB46647,6Holgado450 W$166921,4$0,118$1,62$3,30994 dMediana
2x AMD Radeon RX 6900 XT 16GB
16 GB each · dual-card layer split
32 GB772,363Holgado750 W$213831,4$0,123$2,70$4,831002 dMediana
Mac Studio M5 Ultra 256 GB
36-core CPU · 80-core GPU · 256GB unified memory
256 GB285681Holgado360 W$10.79955,8$0,129$1,30$8,591481 dMediana
Mac Studio M5 Max 64 GB
40-core GPU · 64GB unified memory
64 GB~517,9~36Holgado~180 W$379919,1$0,143$0,65$2,951653 dEstimación
MacBook Pro M5 Max 64 GB
40-core GPU · 64GB unified memory · source chassis undisclosed
64 GB517,936Holgado120 W$509919,1$0,169$0,43$2,952028 dMediana
Mac Studio M5 Max 128 GB
40-core GPU · 128GB unified memory
128 GB~517,9~36Holgado~180 W$539919,1$0,188$0,65$2,952349 dEstimación
Mac mini M5 Pro 64 GB
18-core CPU · 20-core GPU · 64GB unified memory
64 GB~259~18Holgado~110 W$28999,6$0,207$0,40$1,472691 dEstimación
Mac Studio M4 Max 128 GB
128GB unified memory · source-backed oMLX profile
128 GB446,832,5Holgado145 W$650017,0$0,241$0,52$2,613108 dMediana
Mac Studio M3 Ultra 512 GB
80-core · 512GB unified memory
512 GB479,618,1Holgado330 W$949911,7$0,548$1,19$1,8015.580 dMediana
RTX 4070 12 GB
12GB board-dependent GDDR6/GDDR6X · single-card node
12 GB137636,9Holgado350 W—25,7—$1,26$3,96—Mediana

Hardware elegido

RTX 4090

24 GB · single-card node

Lectura tok/s
4000
Escritura tok/s
109,3
Potencia
550 W
M tok/día
75,8
Local $/M
$0,056
Energía/día
$1,98
Valor API/día
$11,67
Recuperación
433 d

Ficha de hardware · Ver evidencia

Cómo se mueven las cifras

  • La capacidad diaria es horas activas por la tasa mixta. El tiempo es secuencial: parte de lectura dividida por tok/s de lectura, más parte de escritura dividida por tok/s de escritura.
  • La energía por día es la potencia de todo el nodo por las horas por tu precio de electricidad.
  • El costo local por millón de tokens es energía más hardware repartido en la vida útil, dividido por la capacidad diaria. Una GPU discreta es el precio de la tarjeta más $1,200 de host.
  • Los días de recuperación son el precio del equipo dividido por el valor API por día menos la energía por día. Compara los precios de API de arriba; no promete un ahorro.