Sự Hàng Hóa Hóa của Trí Tuệ: Tại Sao Các Mô Hình Mã Nguồn Mở Trung Quốc Lại Quan Trọng

Cuối tuần trước, các cuộc thảo luận về AI trên X bị chi phối bởi Kimi K3, một mô hình mã nguồn mở khác từ Trung Quốc tuyên bố đạt tới khả năng tiên tiến nhất. Những bình luận nóng hổi có thể đoán trước về 'AI miễn phí từ Trung Quốc' đã bỏ lỡ câu chuyện thực sự. Chi phí biên của việc phục vụ suy luận đã quay trở lại, và nó đang định hình lại toàn bộ cấu trúc ngành.

COGS so với R&D: Chi phí Thực sự của AI

Các mô hình mã nguồn mở không miễn phí để phục vụ. Kimi K3 có giá $3 cho mỗi triệu token đầu vào và $15 cho mỗi triệu token đầu ra—rẻ hơn mức $5/$30 của Sol, nhưng không miễn phí. Sự nhầm lẫn bắt nguồn từ việc gộp chi phí R&D (cố định) với giá vốn hàng bán (COGS, biến đổi). Tải trọng số loại bỏ chi phí R&D, nhưng suy luận vẫn đốt tiền thật cho mỗi token. Trong một thị trường hàng hóa, nhà cung cấp có cấu trúc chi phí tồi tệ nhất sẽ đặt giá thị trường; lợi nhuận của những người khác phụ thuộc vào mức độ tốt hơn của cấu trúc chi phí của họ.

Token Không Phải Là Hàng Hóa—Trí Tuệ Mới Là

Jensen Huang của Nvidia gọi GPU là 'nhà máy token', nhưng cách đóng khung đó không còn đúng trong kỷ nguyên lý luận. Các mô hình khác nhau yêu cầu số lượng token rất khác nhau để tạo ra cùng một câu trả lời đúng. Kimi được cho là sử dụng nhiều token hơn đáng kể so với Sol cho các tác vụ tương đương, làm mất đi lợi thế giá trên mỗi token của nó. Thứ có thể thay thế được là đầu ra—trí tuệ. Nếu hai mô hình tạo ra cùng một câu trả lời đúng, câu trả lời đó là một mặt hàng. COGS cho trí tuệ phụ thuộc vào kích thước mô hình, hiệu quả suy luận, hiệu quả bộ nhớ, tối ưu hóa phục vụ và hiệu quả token.

Động lực Thị trường Hàng hóa

Trong một thị trường hàng hóa, mọi người đều tính cùng một mức giá (do cung/cầu quyết định), và nhà sản xuất có chi phí thấp nhất sẽ thắng. Nhà cung cấp A sản xuất ở mức $10/đơn vị kiếm được $10 lợi nhuận khi giá thị trường là $20; Nhà cung cấp B ở mức $15/đơn vị kiếm được $5; Nhà cung cấp C ở mức $20/đơn vị hòa vốn và phá sản. Chi phí cố định như R&D không ảnh hưởng đến giá thanh toán thị trường nhưng có thể giết chết một nhà cung cấp không thể trang trải chúng. Hiện tại, nhu cầu về các mô hình tiên tiến vượt quá cung, và tài nguyên tính toán khan hiếm. Điều đó mang lại cho SpaceXAI, Anthropic và OpenAI biên lợi nhuận cao. Nhưng khi trí tuệ trở thành một mặt hàng—và nó sẽ như vậy, đối với nhiều nhiệm vụ có giá trị kinh tế—cuộc chơi chuyển sang tối ưu hóa cấu trúc chi phí.

Điều Này Có Nghĩa Gì Cho Các Kỹ Sư

Nếu bạn đang xây dựng một ứng dụng CRUD, bạn sẽ sớm có thể sử dụng nhiều mô hình thay thế cho nhau. Hào phòng thủ sẽ không phải là khả năng của mô hình; nó sẽ là ai có thể phục vụ trí tuệ với chi phí biên thấp nhất. Đó là một bối cảnh cạnh tranh rất khác so với thế giới phần mềm có chi phí biên bằng không mà chúng ta đã sống trong hai thập kỷ qua. Các mô hình mã nguồn mở của Trung Quốc đang thúc đẩy sự thay đổi này, và các công ty hiện tại nên chú ý đến COGS của họ, không chỉ các điểm chuẩn của họ.