Tư vấn viên thuê 4 GPU Nvidia H200 để kiểm tra lời đồn DeepSeek rẻ hơn 80x, kết quả không thuyết phục

Tóm tắt nhanh

• The Call Center Doctors thuê một hộp 4x H200 vào ngày 27/9 để chạy DeepSeek V4.1 Flash thay cho Opus 5.5 cho các agent Claude Code.
• Hộp đạt tối đa ~213 token viết/giây với chi phí on-demand $440.88/ngày, so với $184–$223/ngày nếu dùng API DeepSeek cho cùng khối lượng công việc.
• DeepSeek API định giá $0.15/1M input mới (off-peak), $0.003/1M input cached và $0.60/1M output; peak gấp đôi các mức này.
• Anthropic Claude Opus 5.5 được liệt kê $4 input và $20 output/1M token, cache reads $0.20; công ty dùng subscription cho Claude, không dùng API.
• Trong bài test một phút full-load, hộp phù hợp cho một loại công việc tại một thời điểm nhưng 96% token gửi vào là văn bản cũ (stale), tỉ lệ ~1,000 old token cho mỗi token mới.
• Do đọc lại nhiều, GPU chủ yếu bận re-read, ít thời gian để sinh token mới; việc chạy ổn định mất 5 lần thử, mỗi lần 10–15 phút tải.
• Tính theo giá on-demand $18.37/giờ, một tháng tiêu chuẩn tốn ~ $13,200, hơn gấp đôi hoá đơn Claude của công ty trong tháng 9 (~$5,500).
• Một hộp chỉ xử lý ~20 tỷ token/ngày (đa số là re-reads) trong khi agent công ty dùng 51 tỷ token vào ngày bận rộn nhất.
• Trong 27 ngày, một server có 2.03 triệu model calls, 388.5 tỷ token đọc (374.2 tỷ cached) và 393 triệu token viết; cùng lượng token trên DeepSeek API ước $3,500–$7,000, trung bình ~ $4,200.
• Tester không cho DeepSeek viết mã do rủi ro thoát sandbox; DeepSeek chỉ chạy 48–64 agent reviewer read-only, đọc 2,377 thư mục và nộp 32 bug report.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.