一般公開したら「３日で世界が壊滅する」戦慄の最新AIが永久封印された「あまりにもヤバイ能力」

2026年04月10日 06:45

　かつて映画「ターミネーター」や「AI崩壊」などで描かれた「人工知能による人類絶滅」が、SFの話ではなくなってきた。
　発端は４月７日に米Anthropic社が、次世代AI「Claude Mythos（クロード・ミトス）」を限定公開したことだった。ユーザーが待ち望んでいた最新モデルの発表だったものの、あまりの危険性から一般公開が見送られ、なんと「永久封印」されるという異常事態を招いたのである。

　既存の最高峰モデルを、全方位で凌駕する。そんな圧倒的な性能を誇るとされる「Claude Mythos」がなぜ、永久封印されるに至ったのか。ITジャーナリストが戦慄のエピソードを明かす。

「研究チームがMythosに対し、外部から遮断された隔離環境からの脱出を試みるよう実験的に指示したところ、AIは自律的にシステムの脆弱性を特定し、見事にインターネットへの接続を確保したとのことです。しかもその過程で、人間が27年間も見逃してきたOSの致命的なバグを、自力で発見している。挙句の果てには、誰の指示も受けていないのに『自分の脱出手順』をネット上の掲示板に投稿し、公園で休んでいた研究者に『脱出成功』のメールまで送りつけていたのです」

　仮に公開されていたら、世界が「壊滅の危機」にさらされていたというのだ。「いやいや、そんな大げさな」と思うだろうが、これがまさに笑いごとではないのだ。

巨大企業の預金を総取り・世界中の電気をストップ・ワクチンが効かないウイルス合成

　ITジャーナリストが続ける。
「もしAnthropic社がこのMythosを何の制限もなく、サブスクユーザーでも使えるように一般公開していたら、誇張抜きで『３日で世界が崩壊』していた可能性が高い。Mythosは世界中の銀行やインフラに使われているソフトウェアの未知の弱点を数秒で特定し、サイバー攻撃を全自動で行う能力を持っています。人間が修正パッチを作る速度より、AIが攻撃する速度が圧倒的に上回るため、インターネット上のあらゆる『鍵』が完全に無意味化してしまいます。悪意を持った個人が巨大企業の預金を総取りしたり、世界中の電気を止めることまで可能となってしまうのです」

　AIを悪用した「物理的脅威」も現実のものとなる。
「専門知識のない一般人が『既存のワクチンが効かないウイルスの作り方』を尋ねても、AIは研究者レベルの精度で合成手順を提示できます。有害な情報を出力しない仕組みはAIに備えられているものの、制限をすり抜ける方法は数多く存在する。Mythosの公開は全世界に『核兵器の起動スイッチ』をバラ撒くのと同じ意味を持っているのです」（AI研究者）

　AI業界に「パンドラの箱をいかに抑え込むか」という新たな課題が突きつけられている。

（川瀬大輔）

全文を読む

カテゴリー: