原題: A Framework for Frontier AI and the Dawning of a New Age
著者: Demis Hassabis（ノーベル賞受賞者／Google DeepMind・Isomorphic Labs 共同創業者兼CEO）
公開日: 2026年7月14日
ソースURL: https://demishassabis.substack.com/p/a-framework-for-frontier-ai-and-the-dawning-of-a-new-age
アーカイブ日: 2026-07-14
Google DeepMindのCEOであるDemis Hassabisが、AGI（汎用人工知能）の到来を前提に、フロンティアAIをどう統治するかの具体的な制度設計を提案した論考。単なる警鐘でも楽観論でもなく、機関の名前・審査手続き・発動条件まで踏み込んだ設計図である点に特徴がある。
冒頭でHassabisは明言する。AGI——脳が持つあらゆる認知能力を示すシステム——はおそらく「ほんの数年先」であり、我々は「特異点の麓」に立っている。彼はAGIをインターネットやモバイルのような技術的breakthroughと比較すべきではないとし、電気や火の発見に近いと位置づける。そして印象的な一文を置く——「我々は本質的に、砂に考えさせる方法を見つけたのだ。奇跡的なことだ」。
その影響は産業革命の10倍の規模を、10倍の速度でもたらしうる。創薬の加速、新しいクリーンエネルギー、新素材の創出。資源が人類の進歩の制約でなくなる「豊かさの時代」さえ視野に入る。
だが、その約束を実現するにはこの臨界期を慎重に渡らねばならない。フロンティアモデルはすでにサイバーセキュリティ上の課題を生んでおり、核・生物領域のリスクも今後現れうる。さらに、ますますエージェント的で再帰的に自己改善するシステムを制御し続けるための堅牢な安全装置が必要になる。
ここでHassabisは業界の当事者として率直に認める。「我々は今、極めて激しい多層的な商業的・地政学的レースに閉じ込められている」。競争は進歩を加速させる一方で、フロンティアの前進が技術への理解を追い越している。誰も確実な見通しを持たず、専門家の見解も割れる。不確実性が大きく賭け金が高いとき、取るべき戦略は「慎重な楽観（cautious optimism）」だと彼は言う。
論考の中核は、フロンティアAIの能力評価のための新しい標準化機関（Standards Body）の設計だ。
審査プロセスは段階的だ。当初はリリース最大30日前に自主的にモデルを機関へ共有して審査を受ける。プロトコルの有効性と堅牢性が示された段階で速やかに制度化し、米国市場で展開するにはフロンティアモデルは審査通過が必須となる。リリース後に発見された重大な脆弱性にも機関と共同で対処する。
評価の中身も具体的だ。サイバーセキュリティ、生物学的脅威などの高リスク領域の科学的評価に加え、エージェント的AIに固有のテスト——安全ガードレールの回避を試みる兆候や欺瞞（deception）の兆候の検出。さらに、AI生成画像への電子透かし、モデルの推論を理解するための人間可読な出力トークンといったベストプラクティスの担保。
ベンチマークは当初四半期ごとに更新し、飽和・陳腐化したものは廃止・差し替える。当初はFrontier Labsと協議して設計するが、最終的には機関が独自の held-out テストを構築し、ラボ側の過適合（overfitting）を防ぐ。第三者監査人のエコシステムも育てる。
この枠組みの強みは、技術に焦点を絞りつつイノベーションを支え、責任ある行動にインセンティブを与える点にあるとHassabisは言う。そして状況の深刻さが要求するなら段階的に強度を上げられる（ratcheted up）——その中にはFrontier Labs間で開発の減速を協調することも含まれる、と明記している。
Frontier Labの指定は相応の威信を伴い、ベンチマーク基準を満たすモデルを作る組織であれば誰にでも開かれる。枠組みは出自国を問わず、オープン／クローズドを問わずフロンティア級モデルに適用される一方、スタートアップや学術機関の非フロンティアモデルは対象外とする。
この米国主導の取り組みは、フロンティアAIの国際的な共通標準を作る出発点になりうる、というのが対外的な狙いだ。
最後にHassabisは、技術的課題を解いた先に経済的・哲学的な問いが残ると釘を刺す。ポスト稀少性の世界で誰もが繁栄するにはどんな経済モデルが要るのか。我々はどんな価値観に従って生きるのか。意味と目的とは何になるのか。人間の条件そのものがどう変わりうるのか。これらの解決は技術者だけに委ねられるべきではない——社会のあらゆる部分が集まってこの新しい章を定義する必要がある。
結びは静かだ。「未来はまだ書かれていない」。AGI到来までのこの貴重な窓を使って、技術を人類全体の利益のために形づくらねばならない。「我々が今、集合的に何をするかが、文明の次の段階がどう展開するかを決める」。
この論考の価値は、当事者性と具体性の掛け算にある。フロンティアラボを率いる本人が、義務的な市場投入前審査と、必要なら開発の協調的減速まで含む機構を、自ら提案している。これは業界リーダーの立場としては非自明な踏み込みであり、「AI安全性」という抽象語を、機関形態・資金・閾値・審査窓・更新頻度・独立テストといった運用可能な部品へ分解している点で、これまでの多くの提言と質が違う。とりわけ、ラボの過適合を防ぐために機関が独自の held-out テストを持つべきだという指摘は、評価制度の設計として実務的に鋭い。だが、この文書の本当の読みどころは提案の中身よりも、提案が自分自身と噛み合っていない場所にある。
彼の診断は明快だ——我々は「極めて激しい、多層的な商業的・地政学的レース」に閉じ込められ、フロンティアの前進が技術への理解を追い越している。これは協調の失敗である。ところが処方は「標準化機関による測定」だ。測定はレースを遅くしない。現在地を教えるだけである。レースそのものに触れるレバーは、「深刻さが要求すれば開発減速を協調する」という一行しかない。そしてそれは、提案全体のなかで発動条件も権限も定義されていない唯一の部分でもある。
この空白を、起草の甘さとして片づけるのは易しい。だが逆だろう。書けないのだ。 減速の条件を具体的に定めることは、レースの只中で一方的に武装解除を約束するに等しい。つまりあの曖昧さは、彼自身が診断した協調問題が、提案の内部にそのまま滲み出た跡である。不備ではなく、診断が正しいことの証拠だ。
そして、彼が書いていないことがもう一つある。競争者どうしが結託して生産を制限すれば、それは通常カルテルであり、反トラスト法が禁じる。「Frontier Labs間で開発減速を協調する」は、私的な業界合意としては違法になりうるのだ。FINRA型——国家が監督権限を与えた自主規制機関——という形式が選ばれた理由は、テストの技術力だけではないだろう。それ以外に、協調的な減速を合法化する器が存在しない。ここから一つの示唆が導かれる。AI安全性の議論は、反トラスト政策と不可分である。「ラボは協調して減速すべきだ」と説く者は、同時にそれを可能にする法的な器を用意しなければ、実行不能な要求を語っていることになる。
もっとも、その器としてFINRAを引くなら、FINRAが証券取引委員会（SEC）という独立した公的機関の監督下にあることも忘れてはならない。この提案には、それに相当する上位の審級がまだ無い。それでも——いや、だからこそ——この一篇は残る。AGIの到来を「数年先」と公言する立場の人物が、何をどう測りどこで止めるかを名指しで書き、そしてどこを書けなかったかまでを記録として残した。「砂に考えさせる方法を見つけた」という比喩と「慎重な楽観」という態度の名づけは、この時代の語彙として定着するだろう。賛成するにせよ反対するにせよ、2026年7月時点でフロンティアラボの当事者が示した統治の設計図として、後から必ず参照される基準点である。
タグ: #ai-governance #agi #demis-hassabis #deepmind #ai-policy #frontier-ai