Smart Tiered Cache của Cloudflare giờ xử lý được nguồn gốc Anycast Cloud

Smart Tiered Cache của Cloudflare đã là một cải tiến hiệu suất miễn phí, chỉ một lần bật từ năm 2021 — chọn trung tâm dữ liệu tầng trên gần nhất với nguồn gốc của bạn, và cache miss sẽ đi theo đường ngắn nhất. Nhưng logic đó sụp đổ khi nguồn gốc nằm sau IP anycast hoặc unicast khu vực, chính xác là cách AWS, GCP, Azure và Oracle Cloud hiển thị bộ cân bằng tải và front end của họ. Cùng một IP trông gần như nhau với hàng chục PoP của Cloudflare, vì vậy các phép đo độ trễ không thể khóa vào một vị trí thực. Smart Tiered Cache rơi vào việc sử dụng nhiều tầng trên, hoạt động nhưng giết chết hiệu quả cache mà bạn muốn.

Hôm nay Cloudflare tung ra một bản sửa lỗi: Smart Tiered Cache cho Public Cloud Regions. Bạn cung cấp một gợi ý vùng cloud (ví dụ: aws:us-east-1 hoặc gcp:europe-west1), và nó ánh xạ gợi ý đó đến đúng tập tiền tố IP, sau đó chọn tầng trên chính và dự phòng tốt nhất cho vùng đó. Không còn phải đoán.

Tại sao nguồn gốc anycast là vấn đề

Khi nguồn gốc của bạn là một IP unicast cố định, Cloudflare đo độ trễ từ mọi trung tâm dữ liệu và chọn cái nhanh nhất làm tầng trên duy nhất. Tất cả cache miss đều đi qua một PoP đó, giữ tỷ lệ hit cao và kết nối nguồn gốc thấp. IP anycast phá vỡ điều đó: IP đại diện cho mạng front-end của nhà cung cấp cloud, không phải một máy chủ vật lý duy nhất. Một phép đo từ Chicago có thể hiển thị độ trễ thấp hơn với nguồn gốc thực sự ở Singapore so với phép đo từ Tokyo, vì định tuyến anycast của nhà cung cấp cloud trả lời từ một biên gần đó. Smart Tiered Cache sau đó chọn Chicago làm tầng trên, và lưu lượng từ người dùng châu Á đi: PoP Cloudflare gần đó → Chicago → Singapore → quay lại. Đó là một vòng qua hai đại dương.

Cloudflare đã thêm các heuristic để phát hiện nguồn gốc anycast — nếu độ trễ đo từ hai điểm kiểm tra nhanh hơn tốc độ ánh sáng cho phép cho một vị trí duy nhất, thì nguồn gốc phải là anycast. Nhưng phương án dự phòng an toàn duy nhất là sử dụng nhiều tầng trên, làm loãng lợi ích cache.

Gợi ý vùng: nút bạn chỉnh một lần

Tính năng mới nằm trong bảng điều khiển Cloudflare dưới Caching > Tiered Cache > Origin Configuration. Với bất kỳ IP nguồn gốc nào Cloudflare đã đánh dấu là anycast, bạn nhấp “Set Region Hint” và chọn nhà cung cấp cloud và vùng. Chỉ vậy thôi. Phía sau, Cloudflare tải các tệp dải IP mới nhất từ mỗi nhà cung cấp vài giờ một lần, khớp chúng với cơ sở dữ liệu tầng trên được cập nhật 15 phút, và tính toán một phiếu bầu có trọng số cho mỗi subnet. Tầng trên có tín hiệu mạnh nhất trở thành chính; chính và dự phòng luôn đến từ các PoP khác nhau. Nếu một vùng chưa có dữ liệu đo, nó rơi vào tầng 1 PoP gần nhất về mặt địa lý.

Cấu hình cũng có sẵn qua API và Terraform, vì vậy bạn có thể đưa nó vào cơ sở hạ tầng dưới dạng mã.

Kết luận

Đây là một bản sửa lỗi có mục tiêu cho một điểm đau thực sự. Nếu bạn chạy nguồn gốc trên AWS, GCP, Azure hoặc Oracle Cloud đằng sau IP anycast, giờ bạn có thể có cùng hiệu quả cache một tầng trên mà các thiết lập nguồn gốc cố định đã tận hưởng từ năm 2021. Cloudflare cho biết sẽ có thêm nhiều nhà cung cấp. Công việc duy nhất của bạn là đặt gợi ý vùng — việc đo, bỏ phiếu và chuyển đổi dự phòng đều chạy phía họ.