Emily Bender về 'Vẹt Ngẫu Nhiên': Vẫn Còn Phù Hợp Trong Thời Đại ChatGPT

Emily Bender, một nhà ngôn ngữ học tính toán tại Đại học Washington, là đồng tác giả của bài báo năm 2021 'Về Sự Nguy Hiểm của Vẹt Ngẫu Nhiên'—một lời phê bình đã già đi một cách đáng kinh ngạc. Trong một cuộc phỏng vấn gần đây với IEEE Spectrum, bà đã làm rõ thuật ngữ này thực sự có nghĩa là gì, đặc biệt là khi ChatGPT và các LLM khác thống trị bối cảnh công nghệ.

Lập luận cốt lõi của bài báo là các mô hình ngôn ngữ lớn về cơ bản là 'vẹt ngẫu nhiên': chúng tạo ra văn bản nghe có vẻ hợp lý bằng cách ghép nối xác suất các mẫu từ dữ liệu huấn luyện của chúng, mà không có bất kỳ sự hiểu biết cơ bản nào về ý nghĩa hay sự thật. Bender nhấn mạnh rằng đây không chỉ là một sự soi mói triết học—nó có những hậu quả trong thế giới thực. Khi các mô hình này tạo ra những tuyên bố nghe có vẻ tự tin nhưng thực tế sai, chúng có thể đánh lừa người dùng, khuếch đại các thành kiến có trong dữ liệu huấn luyện và bị vũ khí hóa cho thông tin sai lệch.

Bender cũng đề cập đến sự hiểu lầm phổ biến rằng thuật ngữ 'vẹt ngẫu nhiên' chỉ đơn thuần là một sự xúc phạm. Bà làm rõ rằng đó là một mô tả kỹ thuật chính xác: các mô hình dựa vào các tương quan thống kê trong văn bản, chứ không phải bất kỳ hình thức lý luận hay neo giữ nào trong thế giới thực. Sự khác biệt này quan trọng vì nó đặt ra những kỳ vọng thực tế về những gì LLM có thể và không thể làm. Chúng không phải là cỗ máy 'suy nghĩ'; chúng là những trình tạo văn bản tinh vi.

Cuộc phỏng vấn đề cập đến việc áp dụng nhanh chóng LLM vào các sản phẩm như ChatGPT, mà Bender cho rằng chỉ làm cho những cảnh báo ban đầu trở nên cấp bách hơn. Bà chỉ ra rằng sự vội vàng của ngành công nghiệp trong việc triển khai các mô hình này thường bỏ qua những tác hại đã được ghi nhận, chẳng hạn như tạo ra nội dung độc hại, xâm phạm quyền riêng tư thông qua việc ghi nhớ dữ liệu huấn luyện và tạo ra chi phí môi trường từ các yêu cầu tính toán khổng lồ.

Đối với các kỹ sư xây dựng trên nền tảng LLM, thông điệp của Bender rất rõ ràng: hãy coi các hệ thống này như những nguồn không đáng tin cậy cần được xác thực nghiêm ngặt. Đừng nhân cách hóa chúng và đừng cho rằng chúng có chủ đích hay kiến thức. Nhãn 'vẹt ngẫu nhiên' là một lời nhắc nhở rằng đầu ra là sự bắt chước thống kê, không phải là dấu hiệu của trí thông minh.

Toàn bộ cuộc phỏng vấn trên IEEE Spectrum cung cấp một cái nhìn sâu hơn về suy nghĩ hiện tại của Bender và sự liên quan đang diễn ra của bài báo. Đây là bài đọc bắt buộc cho bất kỳ ai làm việc với hoặc triển khai LLM trong sản xuất.