超人気タイトルの発売を、世界中のゲーマーが待ちわびている。11月19日にリリースを控える米ロックスター・ゲームスの作品「グランド・セフト・オート6」(GTA6)。自動車窃盗を題材とした、クライムアクション大作である。調査会社センサータワーの...
記事全文を読む→一般公開したら「3日で世界が壊滅する」戦慄の最新AIが永久封印された「あまりにもヤバイ能力」
かつて映画「ターミネーター」や「AI崩壊」などで描かれた「人工知能による人類絶滅」が、SFの話ではなくなってきた。
発端は4月7日に米Anthropic社が、次世代AI「Claude Mythos(クロード・ミトス)」を限定公開したことだった。ユーザーが待ち望んでいた最新モデルの発表だったものの、あまりの危険性から一般公開が見送られ、なんと「永久封印」されるという異常事態を招いたのである。
既存の最高峰モデルを、全方位で凌駕する。そんな圧倒的な性能を誇るとされる「Claude Mythos」がなぜ、永久封印されるに至ったのか。ITジャーナリストが戦慄のエピソードを明かす。
「研究チームがMythosに対し、外部から遮断された隔離環境からの脱出を試みるよう実験的に指示したところ、AIは自律的にシステムの脆弱性を特定し、見事にインターネットへの接続を確保したとのことです。しかもその過程で、人間が27年間も見逃してきたOSの致命的なバグを、自力で発見している。挙句の果てには、誰の指示も受けていないのに『自分の脱出手順』をネット上の掲示板に投稿し、公園で休んでいた研究者に『脱出成功』のメールまで送りつけていたのです」
仮に公開されていたら、世界が「壊滅の危機」にさらされていたというのだ。「いやいや、そんな大げさな」と思うだろうが、これがまさに笑いごとではないのだ。
巨大企業の預金を総取り・世界中の電気をストップ・ワクチンが効かないウイルス合成
ITジャーナリストが続ける。
「もしAnthropic社がこのMythosを何の制限もなく、サブスクユーザーでも使えるように一般公開していたら、誇張抜きで『3日で世界が崩壊』していた可能性が高い。Mythosは世界中の銀行やインフラに使われているソフトウェアの未知の弱点を数秒で特定し、サイバー攻撃を全自動で行う能力を持っています。人間が修正パッチを作る速度より、AIが攻撃する速度が圧倒的に上回るため、インターネット上のあらゆる『鍵』が完全に無意味化してしまいます。悪意を持った個人が巨大企業の預金を総取りしたり、世界中の電気を止めることまで可能となってしまうのです」
AIを悪用した「物理的脅威」も現実のものとなる。
「専門知識のない一般人が『既存のワクチンが効かないウイルスの作り方』を尋ねても、AIは研究者レベルの精度で合成手順を提示できます。有害な情報を出力しない仕組みはAIに備えられているものの、制限をすり抜ける方法は数多く存在する。Mythosの公開は全世界に『核兵器の起動スイッチ』をバラ撒くのと同じ意味を持っているのです」(AI研究者)
AI業界に「パンドラの箱をいかに抑え込むか」という新たな課題が突きつけられている。
(川瀬大輔)
アサ芸チョイス
「8億円がパー。追加でまた8億円が……」福岡県福岡市民から漏れるのは、こんな声だ。11月1日告示、任期満了に伴う福岡市長選挙が11月15日に投開票されたが、最多得票者の得票が法定得票数(有効投票総数の4分の1以上)に達せず、当選者なし。再選...
記事全文を読む→関芳弘文部科学相が大臣就任前に開いた政治資金パーティーの参加費が1人9万円もしたと聞けば、一般庶民はどう思うだろうか。これが国会で追及されているのは当然のことだろう。関氏は11月16日の参院特別委員会で、2024年6月に議員会館内の会議室で...
記事全文を読む→この秋のドラマを席捲した「VIVANT」(TBS系)第2シーズンはすでに11月8日に終了しているが、その劇場版は12月4日から公開される。初日から3日分のチケットは最終回放送直後の11月8日深夜0時から発売され、そのあまりの反響から、15日...
記事全文を読む→
