Phần mềm mở rộng gốc LLM: Mô hình lớn tiếp theo của Web

Hầu hết phần mềm web đều tĩnh. Các nhà phát triển xây dựng tính năng cho nhóm người dùng lớn nhất, để lại một đuôi dài các nhu cầu chưa được đáp ứng. Lập trình hỗ trợ LLM đang thay đổi điều đó, cho phép người dùng tạo công cụ tùy chỉnh cho chính họ. Đây là sự trỗi dậy của 'Phần mềm cho Một người'—ứng dụng cá nhân phù hợp với quy trình làm việc riêng mà không có độ phức tạp của doanh nghiệp.

Pete Koomen của Y Combinator gọi đây là 'Phần mềm nhỏ,' và Jeremy Morrell, một kỹ sư Cloudflare, nhìn thấy một mô hình lớn hơn: phần mềm gốc LLM—một lõi đã được kiểm chứng mà người dùng có thể mở rộng chỉ bằng cách yêu cầu. Pi là một ví dụ điển hình, với các hook ổn định cho công cụ, lệnh, sự kiện và giao diện người dùng, biến yêu cầu thành các tiện ích mở rộng TypeScript nhỏ tải lại tại chỗ.

Hiểu biết chính: người dùng của bạn đột nhiên có khả năng nói mã thành hiện thực. Hầu hết phần mềm hiện có không thể tận dụng điều này. Web, hệ thống phân phối thành công nhất, không nên bị bỏ lại phía sau.

Điều này sẽ trông như thế nào?

Thay vì webhook, vốn yêu cầu xây dựng và vận hành các dịch vụ riêng biệt, người dùng muốn nói: 'Khi tôi gắn thẻ này, hãy chạy hàm của tôi' hoặc 'Làm điều này theo cron hàng ngày.' Họ muốn bảo ứng dụng đọc sau gửi bài viết dài đến thiết bị đọc sách của họ, hoặc có một tác nhân tóm tắt các bài báo arxiv mới hàng tuần.

LLM giảm chi phí tạo tiện ích mở rộng, và các nguyên thủy sandbox hiện đại giảm chi phí triển khai và cung cấp ranh giới bảo mật. Điều này cho phép một lõi vững chắc, có trách nhiệm với các tiện ích mở rộng an toàn của người dùng.

Tác nhân AI

Pi, DeepSeek và opencode đang thử nghiệm ở đây. Pi tránh làm phình to lõi bằng cách cung cấp hook cho công cụ, lệnh, sự kiện và giao diện người dùng, để hệ sinh thái hấp thụ đuôi dài các ý tưởng. Nhưng đối tượng nhỏ—bạn cần chạy phần mềm tùy chỉnh cục bộ, và trong môi trường doanh nghiệp, đó là mối lo bảo mật. Kế toán, bác sĩ và luật sư cần tác nhân phù hợp với lĩnh vực của họ mà không trở thành nhà phát triển.

Nền tảng nội bộ doanh nghiệp

Các công ty có rất nhiều dữ liệu, và nhân viên cần chế độ xem và tự động hóa tùy chỉnh. Vibe-coding và triển khai lên PaaS tạo ra ác mộng bảo trì, kiểm soát truy cập và tuân thủ. Morrell gợi ý một nền tảng nơi truy cập dữ liệu được xử lý bởi đội ngũ nội bộ, không có mã thông báo xác thực nào có thể rò rỉ, và tuân thủ được kiểm tra—về cơ bản là Cloudflare OS.

Nền tảng hỗ trợ

Kỹ sư hỗ trợ đào qua bảng điều khiển và nhật ký. Tiện ích mở rộng có thể hiển thị dữ liệu liên quan cho một vé, khởi động tác nhân điều tra, hoặc thêm nút cho các tác vụ phổ biến—có thể chia sẻ với nhóm.

Nền tảng quan sát

Các công cụ quan sát đã hội tụ về cùng tính năng: tìm kiếm nhật ký, thác vết, bảng điều khiển. Nhưng hệ thống hiện đại có trạng thái và động, với tác nhân chạy hàng giờ hoặc hàng ngày. Các span vết là nguồn sự thật tuyệt vời, nhưng người dùng nên có thể thử nghiệm với trực quan hóa tùy chỉnh.

Morrell lập luận rằng Dynamic Workers đặc biệt phù hợp với mô hình này, mặc dù ông đề cập đến các lựa chọn thay thế. Tương lai là phần mềm mà người dùng có thể định hình—một cách an toàn, trên web.