Tin tức

Tin tức

Tin công nghệ, tóm tắt và dịch sang tiếng Việt.

Công thức của Cloudflare để phục vụ Kimi và GLM: lượng tử hóa bộ nhớ đệm KV, nén trọng số, xác minh bộ nhớ đệm

Công thức của Cloudflare để phục vụ Kimi và GLM: lượng tử hóa bộ nhớ đệm KV, nén trọng số, xác minh bộ nhớ đệm

Cloudflare trình bày chi tiết cách đưa Kimi K-series của Moonshot và GLM của Z.ai lên GPU trong Workers AI: bộ nhớ đệm KV FP8 tăng gấp đôi dung lượng ngữ cảnh, trọng số INT4 giảm 40% checkpoint của GLM, và một kiểm tra toàn vẹn mới bảo vệ bộ nhớ đệm dùng chung—tất cả với độ chính xác không đổi.

3 thg 8, 2026· The Cloudflare Blog