SIMDは怖くない：エンジニアのための実践ガイド | Manul X

SIMDは長い間、カーネルハッカーやデータベース開発者だけの秘術と見なされてきた。HashiCorpツールとGhosttyターミナルの開発者であるMitchell Hashimotoはこれに異議を唱える。詳細な解説の中で、彼はSIMDの一般的なケース——一度にN個の値を処理する——が、どのエンジニアでも学べる予測可能な5ステップのパターンに従うことを示している。

5ステップのパターン

Hashimotoはベクトル化を5つのステップに分解する：

定数のブロードキャスト — 閾値やアキュムレータをベクトルレジスタの全レーンにロードする。
ベクトル幅のチャンクでループ — 1要素ずつではなく、レーン数分だけ進む。
SIMD演算を実行 — 1命令で全レーンにわたって比較や計算を並列に行う。
結果をリデュースまたは格納 — ベクトル結果をまとめる（例：全レーンが条件を満たしたか確認）。
スカラーテール — 完全なベクトルに満たない残りの要素を元のスカラーループで処理する。

彼はGhosttyの実例を使ってこれを説明する：デコードされたコードポイントのスライスからC0制御文字（値≤ 0xF）をスキャンする。スカラーループは1行だが、SIMD版は12行追加されるものの、AVX-512ハードウェアで最大16倍のスループット、AVX2搭載Intelデスクトップで実測5倍のエンドツーエンド高速化を実現する。

コンパイラが常にこれをできない理由

Hashimotoは当然の疑問に答える：なぜコンパイラの自動ベクトル化に任せないのか？彼は、コンパイラは保守的であり、アライメントがずれたデータや可変長ループなどのエッジケースを含むすべての入力に対して正しさを保証しなければならないと指摘する。手書きのSIMDは、たとえ単純なパターンに従っていても、プログラマがアライメント、レーン数、テール処理をアサートできるため、コンパイラが安全に仮定できない点で自動ベクトル化を上回ることが多い。

要点

この記事は、驚くほど地に足のついた入門編だ。すべてのループをベクトル化すべきだと約束するわけでもなく、パーミュート命令やギャザー/スキャッターパターンの深みに飛び込むわけでもない。その代わりに、現場のエンジニアに80%のケースで使えるメンタルモデルと具体的なレシピを提供する。バイト、整数、浮動小数点数の配列を定期的に処理する人にとって、このパターンは持っておく価値のあるツールだ。