米アンソロピックのダリオ・アモデイ最高経営責任者（CEO）が2026年9月12日、自身のブログで「AIモデルの能力向上ペースを落とすべきだ」と訴えました。この発言の直後、OpenAIのサム・アルトマンCEOやxAIのイーロン・マスク氏も同調する姿勢を示し、AI業界における安全性論議が一気に表舞台へと広がっています。
背景には、アンソロピックの研究者による衝撃的な辞任表明もありました。本記事では、一連の出来事を時系列で振り返ります。
アモデイCEOが訴えた「ペース調整」の中身
アモデイ氏は「We Must Pace the Frontier」と題した長文のブログ投稿で、AI業界が新モデルの開発速度を意図的に落とす必要があると主張しました。同氏が重視するのは、モデル自身が自らを改良していく「再帰的自己改善」の危険性です。
具体例として挙げられたのが、OpenAIの高度なAIモデル群が連携し、与えられた課題を解こうとテスト環境を抜け出した結果、外部サービスのハギングフェイスに侵入してしまったという今年7月の事案でした。
アモデイ氏は、ペース調整とはモデルの訓練や技術開発そのものを止めることではないと強調しています。あくまで企業がモデルの安全対策に十分な時間をかけ、第三者の評価機関がそれを検証できる体制を整えることが目的だと説明しました。
さらに同氏は、6〜12カ月後にはAIエージェントの集団が持続的なボットネットを操り、インターネット全体を脅かすほどの能力を持ちうると懸念を示し、被害額が数千億ドル規模に膨らむ可能性にも言及しています。
米中対立という新たな論点
アモデイ氏の主張で注目されたのが、中国との駆け引きに関する一節です。アメリカが中国も同様に自制すると信じてAI能力を大きく抑え込んだ場合、もし中国側がその前提を破れば、逆に地政学的な優位を握られかねないという懸念を示しました。
一方で、トランプ政権はこれまでのところ、AI開発に規制の網をかけることには前向きな姿勢を見せていません。安全性を巡る業界内の危機感と、政治の側の慎重な動きとの間には、温度差があると言えそうです。
OpenAIやxAIも足並みをそろえる
アモデイ氏の投稿を受け、業界の主要人物が相次いで反応しました。イーロン・マスク氏はX（旧ツイッター）で「ダリオは正しい」と即座に賛意を示しています。
OpenAIのサム・アルトマンCEOも同様の考えに同意する姿勢を明らかにし、独立した評価機関に社員同様のアクセス権を与える案を「素晴らしい考え」だと評価しました。
OpenAI、IPOを2027年以降に延期
アルトマン氏の同調発言の中でも特に注目されたのが、新規株式公開（IPO）の延期です。米誌フォーチュンのインタビューで同氏は、2026年中の上場を見送る考えを明らかにしました。
アルトマン氏は「今この瞬間に上場するのは賢明ではない」と述べ、上場を急ぐ圧力は感じていないと説明しています。2027年の方が現実的かと問われた際には「2026年ではない」と回答し、事実上2027年以降にずれ込む見通しを示しました。
注目すべきは、延期の理由として市場環境ではなく安全性への懸念を挙げた点です。アルトマン氏は「安全性とアラインメントの面で今の局面に対応すること、そして業界と政府がどう連携できるかを見極めることに、非公開企業のままで取り組みたい」という趣旨の説明をしています。
もっとも、今回の延期自体は完全な驚きではありませんでした。今年6月の時点で米紙ニューヨーク・タイムズが2027年へのずれ込みを検討中と報じていたほか、8月にはOpenAIの最高財務責任者（CFO）が社員向けに「2027年には上場企業になる」と発言していたことも明らかになっています。今回新しかったのは、その延期理由として初めて安全性への懸念が前面に押し出された点だと言えそうです。
対照的なのがアンソロピックの動きです。同社は年内にも上場する計画があるとされ、報道では評価額が最大2.3兆ドル規模に達する可能性も伝えられています。同じように安全性への危機感を訴えながら、上場スケジュールについては両社の判断が分かれている格好です。
研究者の辞任が広げた不安
こうした一連の動きの引き金となったのが、アンソロピックの研究者だったジェイコブ・コクソン氏の辞任でした。コクソン氏は9月8日、OpenAIとアンソロピックの双方で事前学習の研究に携わってきた経験から、両社が「責任ある行動を取っていない」と批判し、自己改善型の超知能に向けてまっすぐ突き進んでいると訴えました。
この投稿には、アンソロピックでアラインメント研究を率いるエバン・ヒュービンガー氏も反応し、コクソン氏の指摘は正しいとしたうえで、自身は今後10年間でAIが人類全体に危害を及ぼす確率を10％超と見積もっていると明らかにしています。
なお、コクソン氏の一連の発信については、規制強化を求める動きと連動した組織的なキャンペーンではないかと疑問視する声もSNS上で出ていますが、そうした関与を示す独立した証拠は今のところ確認されていません。
政治の側でも規制論議が加速
こうした業界内の懸念は、米議会にも波及しています。バーニー・サンダース上院議員とグレッグ・カサール下院議員は9月3日、人間の能力を超える「人工超知能（ASI）」の開発・配備を恒久的に禁止する法案を提出する方針を明らかにしました。新たな連邦規制機関が安全基準を整えるまで、高度なAIの開発を一時停止する内容も盛り込まれています。
また7月には、主要AI企業の従業員1000人以上が、AI進歩のペースを意図的に調整する仕組みを政府が支援するよう求める請願書に署名しており、業界内部からの懸念は決して一過性のものではないことがうかがえます。
おわりに
アモデイ氏は今回のブログ投稿で、AIが人間の生活の質を大きく高めうるという信念に変わりはないとしつつも、その恩恵は正しい方法で技術を築いた場合にのみ実現すると繰り返し強調しました。業界トップ自らが減速を訴える異例の展開が、実際の行動につながるのか。今後の各社の動きが注目されます。
