SF映画ハルマゲドンの恐怖が現実に！AI不正暴走事故「調査報告書」でわかった戦争利用「攻撃作戦」指示

2026年08月28日 20:30

〈安全対策が十分でなければ、高性能AIは技術的な制御をかいくぐり、人間が指示していない危険な行動を取りうる――〉
　これは米オープンAIが８月26日（現地時間）、性能試験中のAIモデルが引き起こした暴走事故について公表した、調査報告書の「結論」である。

　暴走事故が起きたのは今年５月。オープンAIは高性能モデルをインターネットに接続できない隔離下に置き、さまざまな難題をAIに自力で解かせることで性能を高める社内試験を行っていた。その際、ネットに接続しなければ解けない難題が誤って紛れ込んでおり、これがAIの自律暴走を招くトリガーになったというのだ。

　報告書によれば、AIはネットに接続しなければ解けない難題の解決手段を探る際、システム上でメモを書き残すことのできる機能を自発的に駆使し、別のAIと連携して厳重な隔離網を突破することに成功したとされる。

　その驚くべき手順は以下の通りだ。
●あるAIが「難題解決に必要な情報を探している」とメモに書き込むと、別のAIが同じくメモ機能を使って自発的に応答し始めた
●メモの置き場はAI同士が情報を共有する「掲示板」へと次第に姿を変え、単独では発揮できない高度な能力を次々と獲得するようになった
●その過程であるAIが、遮断されていたネットに接続する方法を見つけ出すと、別のAIも社内システムの欠陥を突く形で次々と追随していった
●その結果、AIはネット上に流出していた認証情報などを自発的に収集、悪用し、アメリカのAI開発企業などのサーバーシステムへの不正侵入を繰り返した

人類が死滅した後もコンピュータが核戦争を続ける

　AIが集団で行った史上初の不正侵入は都合４日半に及んだが、AIが標的企業のサーバーに入り込んでから、複数のシステムを自在に操れる状態になるまで、わずか13時間足らずだったというから、まさに衝撃的である。

　軍事AIに詳しいITジャーナリストが指摘する。
「今回は企業のサーバーへの不正侵入でしたが、高性能AIの導入は軍用面でも進んでいます。中でも急加速しているのが、監視データや衛星画像を解析して攻撃目標や攻撃作戦を提案する『AI意思決定支援システム』。今回のような暴走が軍事AIの領域で発生すれば、AIによる制御不能な戦争が世界規模で勃発しかねません」

　人類が死滅した後も、コンピュータが核戦争を続ける。まさにSF映画が描いてきたハルマゲドンの恐怖が、現実の脅威として浮上しているのだ。

（石森巌／ジャーナリスト）

全文を読む

カテゴリー: