プランA：超知能を2040年まで遅らせるための青写真

『AI 2027』シナリオの著者たちが、新たな提案「プランA」を携えて戻ってきた。超知能へと一直線に突き進む代わりに、彼らは人類が意図的に汎用超人的AIの到来を2040年まで遅らせ、研究の完全な透明性を強制し、複数の企業が複数の国々で共に規模を拡大する道筋を描く。目標は、絶滅と不可逆的な権力集中の両方を回避することだ。

なぜ遅らせるのか？

核となる主張は、現在のフロンティアラボ（OpenAI、Anthropic、xAI、Google DeepMind）は、1～10年以内に人間より賢いAIを構築する軌道にあり、制御のための適切な計画がないというものだ。著者らは、その競争に勝った者が絶対的な権力の短い窓を持つことになり、その状況が容易に地球規模の独裁や絶滅につながり得ると考えている。プランAは、その肯定的な代替案である。すなわち、強固な安全策を構築するのに十分な時間をかけてタイムラインを遅らせる、調整された国際協定だ。

タイムライン

• 2029年：米国と中国が無謀な競争を避けることに合意。
• 2030年：協定がなければ、完全に自動化されたAI研究開発は年末までに超知能を引き起こす。協定はこれを防ぐ。
• 2030～2035年：AIをトップクラスの人間専門家レベルに拡大し、人間の制御を維持。
• 2035年：安全性を確保するため、そのレベルで一時停止。
• 2040年：一時停止を解除し、超知能へと拡大——これがタイトル『AI 2040』の所以である。

透明性と検証

この提案は、すべてのAI研究開発に対する研究の完全な透明性にかかっており、各国が何が起こっているかを理解し、安全策を強制できるようにする。付随する検証計画は、不正を検出する方法を概説している。その結果は「相互確証破壊計算」の体制となる——単一の主体が密かに先走ることはできない。

予測ではなく、推奨

著者らは、プランAは何が起こるかについての彼らの最善の推測ではないと強調する。それは政策アイデアをストレステストするための手段である。彼らはこれを、米国の他の可能な対応を表す4つの代替プラン（B、C、D、S）と対比させる。この演習は、あらゆるAI政策の支持者に、それが成功する具体的で現実的なシナリオを書き留めることを強制することを目的としており、彼らはこれを「シナリオ精査」と呼んでいる。

「計画は無価値だが、計画を立てることはすべてである。」 — ドワイト・D・アイゼンハワー

なぜ今これが重要なのか

この記事は、ほとんどのAI政策提案がシナリオ精査の下で崩壊すると主張している——それらは抽象的に聞こえるが、実際に機能することを想像しようとすると崩壊する。著者らは、自身の詳細なシナリオを公開することで、議論全体の水準を引き上げたいと考えている。具体的な内容を信じるかどうかにかかわらず、具体的なタイムラインと検証メカニズムを強制するという演習は、エンジニアと政策立案者の両方にとって価値がある。