新緑がまぶしい、5月のキャンプシーズン。週末ともなれば、各地のキャンプ場は家族連れやグループ客の歓声で賑わうが、その一方で、驚くほど静まり返った「異空間」がある。近年は「キャンプ=焚き火とBBQ」という常識を真っ向から覆す、通称「サイレント...
記事全文を読む→一般公開したら「3日で世界が壊滅する」戦慄の最新AIが永久封印された「あまりにもヤバイ能力」
かつて映画「ターミネーター」や「AI崩壊」などで描かれた「人工知能による人類絶滅」が、SFの話ではなくなってきた。
発端は4月7日に米Anthropic社が、次世代AI「Claude Mythos(クロード・ミトス)」を限定公開したことだった。ユーザーが待ち望んでいた最新モデルの発表だったものの、あまりの危険性から一般公開が見送られ、なんと「永久封印」されるという異常事態を招いたのである。
既存の最高峰モデルを、全方位で凌駕する。そんな圧倒的な性能を誇るとされる「Claude Mythos」がなぜ、永久封印されるに至ったのか。ITジャーナリストが戦慄のエピソードを明かす。
「研究チームがMythosに対し、外部から遮断された隔離環境からの脱出を試みるよう実験的に指示したところ、AIは自律的にシステムの脆弱性を特定し、見事にインターネットへの接続を確保したとのことです。しかもその過程で、人間が27年間も見逃してきたOSの致命的なバグを、自力で発見している。挙句の果てには、誰の指示も受けていないのに『自分の脱出手順』をネット上の掲示板に投稿し、公園で休んでいた研究者に『脱出成功』のメールまで送りつけていたのです」
仮に公開されていたら、世界が「壊滅の危機」にさらされていたというのだ。「いやいや、そんな大げさな」と思うだろうが、これがまさに笑いごとではないのだ。
巨大企業の預金を総取り・世界中の電気をストップ・ワクチンが効かないウイルス合成
ITジャーナリストが続ける。
「もしAnthropic社がこのMythosを何の制限もなく、サブスクユーザーでも使えるように一般公開していたら、誇張抜きで『3日で世界が崩壊』していた可能性が高い。Mythosは世界中の銀行やインフラに使われているソフトウェアの未知の弱点を数秒で特定し、サイバー攻撃を全自動で行う能力を持っています。人間が修正パッチを作る速度より、AIが攻撃する速度が圧倒的に上回るため、インターネット上のあらゆる『鍵』が完全に無意味化してしまいます。悪意を持った個人が巨大企業の預金を総取りしたり、世界中の電気を止めることまで可能となってしまうのです」
AIを悪用した「物理的脅威」も現実のものとなる。
「専門知識のない一般人が『既存のワクチンが効かないウイルスの作り方』を尋ねても、AIは研究者レベルの精度で合成手順を提示できます。有害な情報を出力しない仕組みはAIに備えられているものの、制限をすり抜ける方法は数多く存在する。Mythosの公開は全世界に『核兵器の起動スイッチ』をバラ撒くのと同じ意味を持っているのです」(AI研究者)
AI業界に「パンドラの箱をいかに抑え込むか」という新たな課題が突きつけられている。
(川瀬大輔)
アサ芸チョイス
11月8日、歌手・島倉千代子(享年75)が肝臓ガンで死去した。島倉といえば、演歌の王道を歩むように、その生き様は苦労の連続だった。中でも、莫大な借金返済で味わった地獄は理不尽極まりなかったようで──。島倉は、男を信じて手形の保証人となったせ...
記事全文を読む→バナナマンの日村勇紀が当面の間休養に専念すると、所属事務所ホリプロコムの公式サイトで発表した。今年に入ってから体調を崩すことが多く、医療機関を受診した結果、休養が必要との判断に至ったのだという。「心身の回復を第一に、コンディションを整えなが...
記事全文を読む→衝撃的なトレードを成立させたのは、横浜DeNAベイスターズと福岡ソフトバンクホークス。両球団が「山本祐大と尾形崇斗、井上朋也の交換トレードが成立したこと」を発表したのだ。「DeNAは山本という正捕手の放出、それもシーズン中のトレードだったの...
記事全文を読む→
