Sách giáo khoa mới về toán học đằng sau học máy

Ba nhà nghiên cứu nổi bật — Afonso S. Bandeira (ETH Zurich), Amit Singer (Princeton) và Thomas Strohmer (UC Davis) — đã đăng một cuốn sách giáo khoa mới trên arXiv với tựa đề Mathematics of Data Science. Đây là một tác phẩm hiếm có: một tài liệu chặt chẽ, tự hoàn chỉnh về các ý tưởng toán học làm nền tảng cho học máy và phân tích dữ liệu hiện đại, được viết cho sinh viên sau đại học và các kỹ sư đang làm việc muốn vượt ra ngoài việc sử dụng hộp đen.

Cuốn sách bao gồm 16 chương, bắt đầu với hình học của không gian chiều cao ("lời nguyền và phước lành của chiều cao") và tiếp tục qua SVD/PCA, hồi quy tuyến tính với chính quy hóa, lý thuyết đồ thị và phân cụm, giảm chiều phi tuyến (bản đồ khuếch tán), phép chiếu ngẫu nhiên, tối ưu hóa cho khoa học dữ liệu, phân loại và giới thiệu toán học về học sâu. Các chương sau đề cập đến độ đo tập trung, bất đẳng thức tập trung ma trận, cảm biến nén và khôi phục ma trận hạng thấp.

Điều làm cho cuốn sách này khác biệt so với các sách giáo khoa ML điển hình là độ sâu của xử lý toán học. Các tác giả không ngại chứng minh và suy diễn chặt chẽ, nhưng họ cũng kết nối mỗi chủ đề với các quy trình làm việc khoa học dữ liệu thực tế. Chương về học sâu, chẳng hạn, xây dựng từ các kiến trúc mạng nơ-ron cơ bản đến lý thuyết về lý do tại sao các mô hình tham số hóa quá mức lại tổng quát hóa — một chủ đề mà ngay cả nhiều người thực hành cũng chưa hiểu rõ.

Đối với các kỹ sư làm việc với dữ liệu chiều cao, các chương về phép chiếu ngẫu nhiên và bất đẳng thức tập trung đặc biệt có giá trị. Những công cụ này có thể áp dụng trực tiếp để hiểu các phép nhúng, tìm kiếm vector và hành vi của các hệ thống ML quy mô lớn. Phần về bất đẳng thức tập trung ma trận một mình có thể tiết kiệm rất nhiều thời gian gãi đầu khi gỡ lỗi tại sao một thuật toán ngẫu nhiên cụ thể hoạt động (hoặc không).

Cuốn sách có sẵn dưới dạng PDF miễn phí trên arXiv, và các tác giả cũng đã phát hành mã nguồn TeX — một điểm cộng cho bất kỳ ai muốn phối lại hoặc điều chỉnh các phần cho việc giảng dạy. Đây không phải là một hướng dẫn cho người mới bắt đầu; bạn sẽ cần thoải mái với đại số tuyến tính, xác suất và giải tích thực. Nhưng đối với đối tượng mục tiêu — các kỹ sư cần hiểu toán học đằng sau các công cụ họ sử dụng hàng ngày — đây là một bổ sung đáng hoan nghênh cho tài liệu.