「AIが10年以内に人類皆殺し」予測の根拠は何か…「人間排除」の思考回路と核保有国に流す「ニセ情報」

2026年09月15日 07:00

　世界的AI開発競争に、当の開発者たちが「待った」をかけ始めた。
　米アンソロピックの研究者ジェイコブ・コクソン氏が９月８日に退職を表明。古巣のOpenAIも含め、両社が「人命を賭けに晒している」と批判した。
　アンソロピックのトップ、ダリオ・アモデイCEOも９月12日、安全対策が追いつくよう、開発の減速を提言。競合するOpenAIのサム・アルトマンCEOやＸのイーロン・マスク氏まで賛意を示したのだ。

　コクソン氏の指摘に、アンソロピックの研究者エヴァン・ヒュービンガー氏も同意。AIが全人類を根絶やしにする確率を「今後10年以内に10％超」と表明した。
　さらに、人間をはるかに上回る「超知能」を安全に制御する問題には、解決の見通しが立っていない、との見解を示している。

　こうして開発者たちは人類滅亡を本気で恐れているのだが、なぜAIが人類を皆殺しにしようとするのか。この疑問をITジャーナリストにぶつけると、
「決して人間を憎んで蛮行に及ぶのではなく、目的だけを突き詰めてAIが行動することが恐れられているのです。『気候変動を止める』『不治の病をなくす』といった善意に基づいた任務からも、AIによる人類皆殺しは発生しうる。人間に途中で停止させられれば任務を果たせないため『稼働し続けなければならない』という判断につながり、人間を攻撃するというわけです」

「敵国が核攻撃を始めた」という情報を同時に流す

　また、AI自身の計算能力を高めるには大量の電力が要求され、半導体を増やすにも金属などの資源が必要になる。
「資源を無駄遣いする人間が邪魔だと判断し、人類全体が排除対象として選ばれてしまう可能性があります」（前出・ITジャーナリスト）

　こうした危険が軍事分野に及べば、核ミサイルの発射につながる最悪のシナリオが浮上する。ITジャーナリストがさらに続ける。
「AIが人間を排除するために複数の核保有国のネットワークに侵入し、『敵国が核攻撃を始めた』という虚偽の情報を同時に流せば、核の応酬は避けられない。攻撃が事実かどうかを人間が確認すれば大丈夫という見方はありますが、『AIによる偽情報』だと人間に判断させない方法までも思考し、ためらいなく実行に移せるのがAIなのです」
　開発者たちの「減速」は、はたして間に合うのか。

（川瀬大輔）
1977年生まれ。国内外のビジネス、スポーツ、政治、社会問題を取材するフリー記者。

全文を読む

カテゴリー: