Dos tarjetas, un modelo
Dos tarjetas dan más VRAM, no más velocidad: cada token cruza el enlace. Solo compensa si una no cabe la cuantización. Importan más dos iguales y un enlace rápido que la memoria total.
Dos tarjetas dan más VRAM, no más velocidad: cada token cruza el enlace. Solo compensa si una no cabe la cuantización. Importan más dos iguales y un enlace rápido que la memoria total.