Hardware para LLM local por menos de 2000 $
El equipo completo por menos de 2000 $, no solo la tarjeta. Son las máquinas que caben en un presupuesto de estudiante y aún ejecutan un modelo de clase 125B.
| # | Hardware | Memoria | Lectura tok/s | Potencia | Equipo | Local $/M | Recuperación |
|---|---|---|---|---|---|---|---|
| 1 | AMD Radeon RX 6900 XT 16GB | 16 GB | 466 | 450 W | $1669 | $0.118 | 994 d |
| 2 | 2x RTX 3060 12 GB | 24 GB | 1240 | 490 W | $1814 | $0.101 | 738 d |
| 3 | AMD Radeon RX 7900 XTX | 24 GB | 1459 | 475 W | $2000 | $0.063 | 390 d |
| 4 | AMD Radeon RX 9070 XT 16GB | 16 GB | 1652 | 454 W | $2000 | $0.076 | 514 d |
Qué no cubren estas listas
- Los precios son precios de mercado con fecha. La segunda mano y las ofertas se mueven más rápido que esta tabla: comprueba el precio antes de comprar.
- Todas las cifras son mediciones de un solo flujo con una sola carga. El servicio multiusuario, el fine-tuning y el hardware de servidor se comportan distinto.