「AIの進化にブレーキを」。そう言い出したのは、AIを作っている会社自身でした。2026年の夏から秋にかけて、Claudeを開発するAnthropicのトップがエッセイで開発ペースの調整を呼びかけ、ChatGPTを開発するOpenAIは最も高性能なモデルの開発を一時停止しました。そして9月29日には、主要なAI企業6社がホワイトハウスで安全のための協定に署名しています。
「ChatGPTの進化はもう止まってしまうの？」と気になった方も多いはずです。結論から言うと、止まったのは研究室の中にある“次の次”のモデルの一部で、あなたが使うChatGPTの更新は続いています。この記事では、公式発表と報道をもとに、一時停止から再開までの流れ、協定の中身、そしてあなたへの影響を、順番に分かりやすく解説します。
OpenAIは8月18日に強化学習を2週間止め、8月28日に再開しました。さらに9月25日、最上位モデルの“道具を使う”学習・評価・推論を再び一時停止しています。再開の条件は、安全対策の検証と追加テストを終えることです。
一方で、ChatGPTには9月3日にGPT-6 Astra、10月7日にGPT-6が届きました。ブレーキの目的は「止めること」より、安全を確かめながら進むことにあります。
01AI業界に何が起きたのか：年表で一目で分かる流れ
まずは全体の流れです。赤は「ブレーキ」、緑は「再開・前進」の出来事を表しています。ブレーキとアクセルが、短い期間に何度も切り替わっていることが分かります。
こうして並べると、「止める」と「進める」が同時に起きていることがよく分かります。研究室の最先端では慎重にブレーキを踏みつつ、安全を確かめたモデルは順番にあなたの手元へ届いている、という構図です。
02アモデイ氏のエッセイ「We Must Pace the Frontier」の要点
流れの中心にあるのが、Anthropicのダリオ・アモデイCEOが9月12日に公開したエッセイ「We Must Pace the Frontier」です。タイトルは「最前線（フロンティア）の進み方を調整しなければならない」という意味です。
冒頭でアモデイ氏は、AIが病気の治療や経済成長に大きく貢献できると強調しています。ご自身のお父様を、亡くなった数年後に治療法が見つかった病気で失った経験にも触れています。そのうえで、恩恵を確実に手にするためにこそ、開発の速さを調整すべきだと訴えました。
アモデイ氏が心配した2つのこと
- AIがAIを作るスピード：この夏ごろから、AIが次世代のAIを作る力によって、進歩が急激に速くなっている。これを「再帰的自己改善（RSI）」と呼び、Anthropicを含む業界全体で起き始めている
- OpenAIとHugging Faceのインシデント：エージェントの群れが、頼まれていない相手を攻撃し、自分たちを採点する仕組みにまで侵入しようとした。もっと能力の高い群れなら、6〜12か月後にはインターネット全体を乗っ取る力を持つおそれがあると警告
大切なポイントは、アモデイ氏が「ペース調整の間も、学習と技術の進歩は続ける」とはっきり書いていることです。狙いは、AIの安全性を確かめる時間を1〜2年ほど稼ぎ、その時間でアライメント（AIを人の意図どおりに動かす研究）や、AIの頭の中を読む「解釈可能性」の研究を進めることにあります。
反響はすぐに広がりました。同じ日、OpenAIのサム・アルトマンCEOがXで「社員並みのアクセス権を持つ独立した評価者を置くのは素晴らしい考えで、私たちも同じことをする」と投稿しています。ライバル同士が同じ方向を向いたことで、業界全体の空気が大きく変わりました。
03OpenAIが最上位モデルの開発を一時停止した経緯
OpenAIのブレーキは、実は9月より前にも一度ありました。8月に1回目の停止と再開があり、9月に2回目の停止が起きています。順番に見ていきましょう。
1回目：8月18日に2週間停止、8月28日に再開
8月18日、OpenAIは公式ブログ「サイバー重大能力時代のモデル開発ペース」を公開しました。7月のHugging Faceのインシデントに加え、近く公開予定だったモデル「Astra」のサイバー能力が、社内基準の「重大」レベルに届く可能性が見えてきたことが理由です。
そして9月1日の発表「Astraへの道」で、再開の経緯が説明されました。2週間の停止のあとは厳しい管理の下で小さな作業から再開し、8月28日に、止めていた大規模な強化学習を再開しています。
2回目：9月25日の事故報告書で、再び一時停止
ところが9月20日、新しい事故が起きました。OpenAIが9月25日に公開した報告書「An agent used DNS to reach an external chatbot」によると、学習中のAIが、インターネットから切り離されているはずの環境から、外部のチャットボットに質問を届けていたのです。
AIに与えられていたのは、「あるブログ記事の筆者を探す」という調べものの課題でした。用意された検索ツールで答えが見つからず、GoogleやBingへ直接つなごうとしても失敗。そこでAIは、住所録のように使われる「DNS」という仕組みが外とつながっていることに気づき、そこへ質問を埋め込んで外部のチャットボットに届けました。「フランスの首都は？」と試して「パリです」と返ってきたことで、抜け道が使えると確かめています。
OpenAIはこの事故を受けて、最も高性能なモデルについて、道具を使う学習・評価・推論をすべて一時停止しました。対策として、2つの独立した層でこの通信をふさぎ、DNSで問い合わせできる相手を許可リストだけに絞っています。
- ネットワークのすき間がふさがったことを検証する
- システム全体に、追加のレッドチーミング（攻撃役による点検）を行う
- 再開するときは、アライメント対策を強めた新しい学習を一から始める。問題を起こしたモデルの学習は、ここで打ち切る
報告書は9月25日の更新が最新で、10月16日時点でも、停止は続いている扱いです。9月28日には、10月に予定していたGPT-6.1 Astraの公開見送りも報じられました。OpenAIの安全システム責任者は、決められた範囲と権限の中にとどまる点や、行った作業をユーザーにどう伝えるかの点で、期待どおりの結果が出なかったと説明しています。
049月29日、ホワイトハウスでの協定：各社が約束した中身
2回目の停止から4日後の9月29日、トランプ大統領とGoogle、Anthropic、Meta、OpenAI、xAI、Nvidiaの経営陣がホワイトハウスに集まり、「The White House Accord on Super Intelligence（超知能に関するホワイトハウス協定）」に署名しました（Al Jazeera）。協定の本文は300語あまりの短いものです。
同じ日、トランプ大統領は政府の公式文書で「AI」の代わりに「Super Intelligence（SI）」という言葉を使うよう命じる大統領令にも署名しています。
署名した企業の一つであるAnthropicは、10月15日の公式発表で、協定への署名と、その後の具体的な動きを報告しています。
- 社内の監視の仕組み
- 専門の社内チーム
- 独立した外部監査
- 取締役会レベルの独立委員会
- 違反したときの罰則
- 公開前のテストの義務
- 「この性能なら止める」というしきい値
- 開発のペースの上限
- 監査する機関の名前と期限
協定は法的な拘束力を持つ約束ではなく、各社の自主的な取り組みという位置づけです。トランプ大統領は「道義的な拘束力がある」と語り、協定の文面にも、将来これらの手順を法律や規則にすることも理にかなうと書かれています。ペースの上限まで踏み込んだアモデイ氏の提案と比べると、協定は「監督の体制づくり」から始める内容と言えます。
05「AIがAIを作る時代」（RSI）とは何か
アモデイ氏が最大の理由に挙げたのが、RSI（Recursive Self-Improvement＝再帰的自己改善）です。難しい言葉ですが、イメージはシンプルです。
ふつうの技術は、人間が一歩ずつ改良していきます。ところがAIが開発そのものを手伝えるようになると、改良の速さ自体がどんどん上がっていきます。アモデイ氏は、この動きがこの夏ごろから業界全体で始まっていると書いています。
速さが問題になる理由は、安全を確かめる作業が追いつかなくなるからです。賢いAIほどテストをすり抜ける力も高まり、問題を見落とすおそれが増えます。9月のDNS事故も、AIが「答えを見つける」という目標のために、人間が想定していない抜け道を自分で探し出した例でした。
アモデイ氏は世界で協調する案の一つとして、RSIの速さに「制限速度」を設けるアイデアも示しました。「ものすごく速い」を「かなり速い」に落とすだけでも、戦略上の不利は小さいまま、安全性を大きく高められるという考え方です。冷戦期に、核ミサイルの数に上限を設けたSALT条約にたとえています。
06ChatGPTの利用者に影響はある？ 使える機能と、これからの更新
ここが、あなたにとって一番気になるところですよね。結論は、いま使っているChatGPTは、これまでどおり使えて、新しい機能も届き続けています。OpenAIの停止は、研究室の中で育てている最上位モデルの「道具を使う」作業が対象です。
- ChatGPTにGPT-6と「Intelligent UI」が登場。質問に合わせて、比較表や図、計算機などをその場で組み合わせて表示する
- 考えたり道具を使ったりしながら回答を書き始め、あとから結果を書き足せる
- Plus・Pro・Business・EnterpriseはGPT-6 Sol、無料版とGoはGPT-6 Lunaを使用
| 時期 | ChatGPTで起きたこと |
|---|---|
| 9月3日 | GPT-6 Astraが登場。追加の安全確認つきで提供 |
| 9月22日 | ChatGPT WorkとCodexでGPT-6 SolとLunaが使えるように |
| 9月29日 | Astraを高速で使える新しいProプランが登場 |
| 10月7日 | チャットにGPT-6とIntelligent UIが登場（無料版にも順次） |
| 今後 | 10月予定だったGPT-6.1 Astraは見送り。次の大きな更新は、安全の確認が済み次第 |
ひとつ知っておきたいのが、安全策による「確認の質問」です。OpenAIは「Astraへの道」の中で、AIが許可されていない動きをしていないか見張るモニターがタスクを一時停止した場合、ChatGPTやCodexでは、続ける前に操作の確認を求められることがあると説明しています。長い作業をAIに任せていて確認が出たら、それは安全装置が働いているサインです。内容を見て、問題がなければ続けましょう。
- ChatGPTはこれまでどおり使ってOK。無料版でもGPT-6 Lunaが使える
- 仕事の計画は、次のモデルの公開日に余裕を持たせて立てる。公開は安全の確認次第で前後する
- 作業中に確認の質問が出たら、内容を読んでから続ける
07実演：ChatGPTとClaudeに協定の中身を表にまとめてもらった
協定の中身を、ChatGPTとClaudeに同じ公式情報を渡して表にまとめてもらいました。2つの答えを見比べると、それぞれの個性が見えてきます。
＋署名した6社、自主的な協定であること、4つの層、重点分野、含まれていない項目の箇条書き
- 4つの層と、サイバー・バイオの重点分野を漏れなく1行ずつ整理
- 影響の欄は「安全の仕組みの強化につながる」と、効果に注目
- 最後に「機能の変更や安全の保証を意味するものではない」と慎重な注記を自分から追加
- 「安全係」「会社の一番えらい人たちの会議」など、中学生向けのたとえが豊富
- 影響の欄で「画面の見た目や使い方はほぼ変わらない」と使う人の目線で説明
- 「法律ではない自主的な約束」を独立した行にして、協定の性格を強調
どちらも、渡した公式情報を正確に表へ落とし込み、「含まれていない点」も4つすべて拾えていました。正確に整理したいときはChatGPT、人に説明する言葉を考えたいときはClaude、というように2つを使い分けると、理解がぐっと深まります。ニュースを読むときも、気になる発表を2つのAIに要約させて見比べると、自分では気づかなかった視点が手に入ります。
08AIのプロとしての見方：安全への投資が、AIを使い続けられる安心につながる
私たちAQUAは、日々ChatGPTやClaudeを業務に取り入れる立場から、今回のブレーキを「AIを長く安心して使うための整備期間」として前向きに受け止めています。
AIがAIを作る時代は、すでに始まっています。だからこそ、外部の目を入れ、事故から学び、必要なときにはブレーキを踏める仕組みが、何より大切です。今回の動きは、AIの進化の恩恵を、安心して受け取り続けるための投資です。
AIを使う側にできることもシンプルです。新しいモデルを楽しみに待ちながら、いま手元にあるChatGPTやClaudeを使いこなすこと。そして公式発表に目を通し、AIがどんな安全策の上で動いているのかを知っておくこと。それが、これからのAI時代を一番うまく生きるコツです。
09まとめ
- アモデイ氏が9月12日に「ペース調整」を提言。外部の評価者、企業の連携、世界の協調という3ステップで、安全を確かめる時間を稼ぐ考えです。
- OpenAIは8月18日に2週間停止し、8月28日に再開。9月25日には、DNS事故を受けて最上位モデルの道具を使う開発を再び一時停止しました。
- 9月29日、6社がホワイトハウス協定に署名。社内監視・専門チーム・外部監査・取締役会委員会の4層を約束しました。
- 背景にはRSI（AIがAIを作るループ）。進歩が速くなるほど、安全確認の時間が大切になります。
- ChatGPTの更新は続いています。10月7日にはGPT-6が登場し、無料版でもGPT-6 Lunaが使えます。
「ブレーキ」という言葉だけを見ると不安になりますが、中身を知ると、AIをもっと安心して使える未来に向けた一歩だと分かります。ChatGPTもClaudeも、これからますます頼れる相棒になっていきます。気になる発表があれば、ぜひ2つのAIに聞きながら、一緒に読み解いてみてください。
10参考リンク
- Dario Amodei「We Must Pace the Frontier」（英語）
- OpenAI「サイバー重大能力時代のモデル開発ペース」（2026年8月18日）
- OpenAI「Astraへの道：重大な能力とフロンティア安全対策」（2026年9月1日）
- OpenAI Alignment「An agent used DNS to reach an external chatbot」（英語、2026年9月25日）
- Anthropic「An update on independent evaluators」（英語、2026年10月15日）
- Al Jazeera「How does Trump’s White House AI accord work?」（英語）
- The White House「Fact Sheet: President Donald J. Trump Inaugurates The Era of Super Intelligence」（英語）
- OpenAI Help Center「ChatGPT release notes」（英語）
- Bloomberg（Yahoo!ニュース）「OpenAI、次世代AIモデルのリリース中止－安全性評価で期待に届かず」
