Cloudflare bổ sung AI Gateway nhận diện danh tính và thông tin chi tiết về người dùng để phát hiện hành vi AI bất thường
AI Gateway của Cloudflare hiện hỗ trợ kiểm soát truy cập nhận diện danh tính và thiết lập đường cơ sở hành vi để phát hiện việc sử dụng AI bất thường của người dùng và tác nhân.
Cloudflare đang triển khai hai tính năng cho AI Gateway nhằm giải quyết một vấn đề ngày càng lớn: biết ai đang sử dụng AI và liệu hành vi của họ có bình thường hay không. Công ty đã công bố bản beta mở của AI Gateway nhận diện danh tính với Cloudflare Access, và tính năng User Insights (Thông tin chi tiết về người dùng) được cung cấp rộng rãi, một công cụ phân tích hành vi để gắn cờ các mẫu sử dụng bất thường.
Ý tưởng cốt lõi là gắn một danh tính đã được xác minh vào mọi yêu cầu đi qua AI Gateway, sau đó xây dựng một đường cơ sở về những gì bình thường đối với danh tính đó. Điều này cho phép các tổ chức phát hiện khi mức sử dụng của một nhân viên tăng vọt gấp 10 lần hoặc một tác nhân đi chệch hướng, trước khi nó trở thành một hóa đơn bất ngờ hoặc một sự cố bảo mật.
AI Gateway nhận diện danh tính
Tích hợp với Cloudflare Access cho phép các tổ chức đặt một tên miền tùy chỉnh trước AI Gateway của họ và bảo vệ nó bằng nhà cung cấp danh tính hiện có, chẳng hạn như Okta hoặc Entra. Điều này loại bỏ nhu cầu dùng chung khóa API và cho phép quản trị viên đặt các chính sách chi tiết về ai có thể truy cập cổng.
Mọi yêu cầu đã xác thực giờ đây mang danh tính của người dùng dưới dạng cf.user_id, có thể được sử dụng để lọc nhật ký, phân tích và chi tiêu. Kết hợp với giới hạn chi tiêu, điều này cho phép ngân sách theo từng người dùng: mỗi người dùng có hạn mức chi tiêu riêng và các yêu cầu bị chặn hoặc được định tuyến đến một mô hình rẻ hơn khi đạt đến hạn mức.
Flexport, một khách hàng áp dụng sớm, đã nhấn mạnh sự bất tiện của việc dùng chung khóa API. Max Baumgarten, Kỹ sư bảo mật cấp cao tại Flexport, cho biết tích hợp này cho phép họ áp dụng các chính sách danh tính hiện có tại cổng mà không cần xây dựng hệ thống xác thực riêng cho từng ứng dụng AI.
User Insights: Thiết lập đường cơ sở hành vi
User Insights là một tab mới trong AI Gateway phân tích lưu lượng để xây dựng dấu vân tay hành vi cho mỗi tài khoản, dù là người hay tác nhân. Nó chấm điểm các phiên dựa trên lịch sử của chính tài khoản đó, sử dụng chi phí phiên ở phân vị thứ 95 (p95) trong 30 ngày qua làm đường cơ sở. Bất kỳ phiên nào vượt quá 2 lần đường cơ sở đó sẽ bị gắn cờ là bất thường, miễn là nó cũng vượt qua trần p99 ở cấp tài khoản để tránh cảnh báo về những thay đổi chi phí nhỏ.
Hệ thống được thiết kế để phân biệt giữa một người dùng nặng thường xuyên chi 500 đô la và một tác nhân thường chỉ tốn 5 đô la nhưng đột nhiên tăng lên 50 đô la. Trường hợp sau là một thay đổi gấp 10 lần có thể cho thấy thông tin đăng nhập bị xâm phạm hoặc một tác nhân bất thường. User Insights không chặn bất cứ điều gì hoặc đánh giá ý định; nó chỉ đưa ra các tài khoản đã phá vỡ mẫu của chính họ để quản trị viên có thể điều tra.
Cloudflare cho biết tính năng này hoạt động trên lưu lượng hiện có mà không cần thiết lập, và nó có sẵn cho tất cả khách hàng AI Gateway mà không mất thêm chi phí.
Tiếp theo là gì
Cloudflare đang phát triển tính năng định tuyến thông minh dựa trên tác vụ, tính năng này sẽ phân tích các yêu cầu đến và định tuyến chúng đến mô hình hiệu quả nhất về chi phí mà vẫn đáp ứng yêu cầu chất lượng. Họ cũng đang xây dựng tính năng phân loại lời nhắc để phân loại lưu lượng thành các loại như viết mã hoặc viết lách, giúp các tổ chức hiểu không chỉ họ sử dụng AI bao nhiêu mà còn hiểu họ sử dụng nó để làm gì.
Công ty định hình đây là một bước chuyển từ kiểm soát chi phí sang tối ưu hóa chi phí, và từ phát hiện bất thường sang hiểu được 'lý do' đằng sau các mẫu sử dụng.
Sự khởi hành đột ngột khỏi mẫu sử dụng của chính một tài khoản thường là dấu hiệu quan sát được đầu tiên của một thông tin đăng nhập bị xâm phạm hoặc một tác nhân đi chệch hướng.