マイニング用 GPU「CMP 170HX」1 枚で Qwen3.8-27B を動かしたら、128K コンテキストで 57 tok/s 出た
マイニング用 GPU 1 枚で Qwen3.8-27B を、モデル本来の 262K コンテキストまで回した実測です。 decode を伸ばすために入れた MTP 投機と、その長文劣化を直した上流への修正も、過程として書い…
マイニング用 GPU 1 枚で Qwen3.8-27B を、モデル本来の 262K コンテキストまで回した実測です。 decode を伸ばすために入れた MTP 投機と、その長文劣化を直した上流への修正も、過程として書い…