Benchmark Qwen3.5-35B-A3B-GPTQ-Int4 trên RTX Pro 6000 Blackwell
Đây chắc là model phù hợp nhất để làm local service
Bài được viết bởi Claude và edit bởi tui.
Phần cứng & Model
GPU: NVIDIA RTX Pro 6000 Blackwell - 96GB GDDR7
CPU: AMD Threadripper Pro 9965WX (24C/48T, Zen 5)
RAM: Micron 768GB ECC DDR5-5600
PCIe: Crucial T705 4TB PCIe Gen5
Thật ra máy mình không phải để benchmark — nó chạy …
