<![CDATA[JOY.VN: AI - Machine Learning]]>https://joy.vn/s/ai-mlhttps://substackcdn.com/image/fetch/$s_!vuHc!,w_256,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd1685a53-dbd0-46c7-9e4a-013d015d2d5e_512x512.pngJOY.VN: AI - Machine Learninghttps://joy.vn/s/ai-mlSubstackTue, 26 May 2026 09:08:31 GMT<![CDATA[Benchmark Qwen3.5-35B-A3B-GPTQ-Int4 trên RTX Pro 6000 Blackwell]]>https://joy.vn/p/benchmark-qwen35-35b-a3bhttps://joy.vn/p/benchmark-qwen35-35b-a3bSun, 29 Mar 2026 12:13:03 GMTBài được viết bởi Claude và edit bởi tui.

Qwen/Qwen3.5-35B-A3B-GPTQ-Int4 · Hugging Face

Phần cứng & Model

GPU: NVIDIA RTX Pro 6000 Blackwell - 96GB GDDR7
CPU: AMD Threadripper Pro 9965WX (24C/48T, Zen 5)
RAM: Micron 768GB ECC DDR5-5600
PCIe: Crucial T705 4TB PCIe Gen5

Thanks for reading JOY.VN! Subscribe for free to receive new posts and support my work.

Thật ra máy mình không phải để benchmark — nó chạy …

Read more

]]><![CDATA[Cách build Docker image cho vLLM hỗ trợ CUDA 12.8 và GPU RTX 5090 (SM120)]]>https://joy.vn/p/cach-build-docker-image-cho-vllm-rtx-5090https://joy.vn/p/cach-build-docker-image-cho-vllm-rtx-5090Fri, 16 May 2025 12:52:47 GMT
Feature]: Support for RTX 5090 (CUDA 12.8) · Issue #13306 · vllm-project/ vllm · GitHub

Ban đầu thì mình xài Ollama cho AI Inference kết hợp với Open WebUI. Em này cài là chạy, không phải suy nghĩ nhiều. Nhưng giờ do cần chạy dual RTX 5090 nên phải kiếm giải pháp thay thế. Hỏi em ChatGPT Lê Ky (tên mình đặt cho ẻm) thì em ấy gợi ý xài hàng top vLLM. Mình sẽ có bài so sánh 2 em này sau.

Ngặt nỗi vLLM chưa support chính thức cho dòng Blackwel…

Read more

]]><![CDATA[Build Dual System Để Train AI, Làm Việc và Chơi Game - Phần 1: Chuẩn Bị]]>https://joy.vn/p/dual-system-tan-nhiet-nuoc-train-ai-choi-game-p1https://joy.vn/p/dual-system-tan-nhiet-nuoc-train-ai-choi-game-p1Sat, 15 Mar 2025 19:35:58 GMT

Gần đây thì mình và team mình có nghiên cứu và áp dụng một ít về AI.

Thanks for reading JOY.VN! Subscribe for free to receive new posts and support my work.

Cấu hình bộ máy:

Main system for AI training & home server

  • CPU: Intel Core Ultra 9 285K

  • Main: ASRock Z890 Taichi AQUA

  • RAM: CORSAIR VENGEANCE RGB DDR5 RAM 192GB (4 x 48GB)

  • SSD:

    • Crucial T705 Gen5 4TB

    • Acer Pre…

Read more

]]>