场景

实际速度大概多少

读比写快大约四十倍:读 4000 tok/s 的卡,写大约 100 tok/s。这是正常现象,不是配置错了——生成是逐 token 的,预处理提示词是并行的。先对照基准表再怀疑出问题。