Sách trắng Vera của NVIDIA: Silicon tuyệt vời, câu chuyện lung lay

Sách trắng 45 trang về Vera của NVIDIA là câu chuyện của hai tài liệu. Phần cứng được mô tả bên trong thực sự ấn tượng—một die đơn khối 88 lõi xây dựng quanh các lõi Olympus của riêng hãng, mỗi lõi là thiết kế Arm v9.2 rộng 10 khe với dự đoán giá trị, bộ tiền nạp đồ thị, 2 MB L2 riêng tư và bộ nhớ đệm cấp cuối dùng chung 164 MB. Tám giao diện LPDDR5X hứa hẹn băng thông bộ nhớ 1,2 TB/s. Thử nghiệm độc lập ban đầu cho thấy Vera là CPU máy chủ Arm nhanh nhất từng thấy trong các điểm chuẩn công khai.

Nhưng sách trắng dành quá nhiều thời gian để biến x86 thành hình nộm. SMT truyền thống bị biếm họa thành “chia sẻ thời gian,” cấu trúc liên kết NUMA có thể cấu hình được trình bày như một mê cung không thể tránh khỏi, và các tỷ lệ bộ đếm hiệu năng không xác định được nâng lên thành bằng chứng nhân quả. Điều bực bội là Vera không cần sự trợ giúp này—phần cứng tự nó đã đứng vững. Hãy cùng mổ xẻ câu chuyện.

Olympus: Một lõi thực sự đáng gờm

Lõi Olympus rộng và mạnh mẽ. Nó giải mã mười lệnh mỗi chu kỳ, xử lý hai nhánh được lấy mỗi chu kỳ, và bao gồm bộ dự đoán nhánh nơ-ron, dự đoán giá trị, đổi tên bộ nhớ, cửa sổ lệnh lớn, sáu ống SVE 128-bit, bốn ống tải, hai ống lưu trữ, và bộ đệm dữ liệu L1 96 KB. L2 riêng 2 MB có thể truy cập trong khoảng 10 chu kỳ. Tám mươi tám lõi này nằm sau một kết cấu nhất quán 3,4 TB/s và bộ đệm cấp hệ thống phân tán 164 MB.

Dự đoán giá trị là một trong những bổ sung độc đáo hơn. Trong khi Apple được phát hiện sử dụng nó, và AMD thử nghiệm với nó trong Zen 1/2, Olympus dường như triển khai nó rộng rãi hơn—gần với cách tiếp cận của Apple. Tuy nhiên, bộ tiền nạp đồ thị không mới: Bộ tiền nạp phụ thuộc dữ liệu và bộ tiền nạp Mảng con trỏ của Intel triển khai cùng ý tưởng nhà sản xuất-tiêu thụ, dù bị hạn chế hơn. Và “bộ dự đoán nhánh nơ-ron” có từ Piledriver của AMD năm 2012, sau đó được tinh chỉnh với TAGE.

Hệ thống con bộ nhớ cũng mạnh không kém: tám mô-đun SOCAMM2 LPDDR5X cung cấp tới 1,5 TB dung lượng và 1,2 TB/s băng thông, với NVIDIA tuyên bố chỉ tiêu thụ khoảng 50 W. Đó là một sự đánh đổi—các nền tảng EPYC/Xeon thông thường cung cấp DIMM dung lượng cao hơn, có thể thay thế nhưng phải trả giá bằng diện tích bo mạch và điện năng.

Hình nộm SMT

Hình 5 của sách trắng đối chiếu “SMT truyền thống (x86)” với “Đa luồng không gian” của NVIDIA, mô tả x86 như các luồng xen kẽ qua đường ống trong khi NVIDIA phân vùng tài nguyên. Điều này gây hiểu lầm. Các triển khai SMT thực sự chia sẻ các giai đoạn bằng cách chọn một luồng mỗi chu kỳ hoặc hoạt động không phân biệt luồng, cho phép cả hai luồng sử dụng các đơn vị thực thi trong cùng một chu kỳ. Phân vùng tĩnh, như NVIDIA ngụ ý, có thể để lại thông lượng trên bàn khi một luồng bị nghẽn.

NVIDIA nhấn mạnh “tính xác định, cách ly và chất lượng dịch vụ” cho cách tiếp cận của mình—một cách dễ thấy là không phải hiệu năng. QoS có thể là ưu tiên hợp lệ cho thị trường mục tiêu của họ, nhưng biểu đồ làm cho nó trông giống như một chiến thắng hiệu năng trong khi thực chất đó là một lựa chọn thiết kế.

Điểm chuẩn: Mạnh mẽ, nhưng có dè dặt

Thử nghiệm ban đầu của Phoronix cho thấy geomean của Vera cao hơn 10% so với EPYC 9575F 5 GHz, gấp 1,55 lần Xeon 6980P và 1,63 lần Grace—khiến nó trở thành CPU máy chủ Arm mạnh nhất trong thử nghiệm công khai. Nhưng NVIDIA đã chọn phạm vi khối lượng công việc được phép, cấm giám sát tần số/điện năng, và hệ thống là tiền sản xuất với cửa sổ thử nghiệm một ngày. Phạm vi bao phủ rộng hơn sẽ phải chờ phần cứng sản xuất.

Phần cứng là thật. Chiến dịch tiếp thị xung quanh nó thì không. Các kỹ sư nên đọc sách trắng để hiểu kiến trúc, không phải câu chuyện.