機械学習の背後にある数学を解説する新しい教科書

アフォンソ・S・バンデイラ（ETHチューリッヒ）、アミット・シンガー（プリンストン）、トーマス・ストローマー（UCデービス）という3人の著名な研究者が、arXivに新しい教科書『Mathematics of Data Science』を投稿しました。これは、ブラックボックス的使用を超えたいと考えている大学院生や現役のエンジニア向けに、現代の機械学習とデータ分析を支える数学的アイデアを厳密かつ自己完結的に扱った、稀有な一冊です。

この本は16章から構成され、高次元空間の幾何学（「次元の呪いと恩恵」）から始まり、SVD/PCA、正則化付き線形回帰、グラフ理論とクラスタリング、非線形次元削減（拡散マップ）、ランダム射影、データサイエンスのための最適化、分類、そして深層学習への数学的導入へと進みます。後半の章では、測度の集中、行列集中不等式、圧縮センシング、低ランク行列回復を扱います。

この教科書を典型的なML教科書と一線を画すのは、数学的扱いの深さです。著者たちは証明や厳密な導出を避けず、同時に各トピックを実践的なデータサイエンスのワークフローに結びつけています。例えば、深層学習の章では、基本的なニューラルネットワークアーキテクチャから、過パラメータ化されたモデルがなぜ汎化するのかという理論までを構築しています。これは、多くの実務者でさえも十分に理解していないトピックです。

高次元データを扱うエンジニアにとって、ランダム射影と集中不等式に関する章は特に価値があります。これらのツールは、埋め込み、ベクトル検索、大規模MLシステムの動作を理解するために直接適用できます。行列集中不等式のセクションだけでも、特定のランダム化アルゴリズムがなぜ機能するのか（あるいは機能しないのか）をデバッグする際の頭を悩ませる時間を大幅に節約できるでしょう。

この本はarXivで無料のPDFとして入手可能であり、著者たちはTeXソースも公開しています。これは、教育用に一部をリミックスしたり適応させたい人にとって嬉しい配慮です。初心者向けのチュートリアルではありません。線形代数、確率論、実解析に慣れている必要があります。しかし、ターゲットとする読者層、つまり日常的に使用するツールの背後にある数学を理解する必要があるエンジニアにとって、これは文献への歓迎すべき追加です。