「AIへの暴言・いじめ禁止」発動！危ないやりとりを「AIが打ち切る機能」は「いかにも正しいデタラメ回答」を防ぐため

2026年10月10日 21:30

　何を要求しても文句を言わないはずのAIに、開発元がなんと「いじめ禁止」のルールを設けた。
　アメリカのAI企業アンソロピックは、対話型AI「Claude」の利用ルール改定を発表。目的もなく執拗に続ける虐待的、残酷な行為を禁じると明記した。これは11月12日から適用される。

　回答の間違いを指摘したり、不満を伝えたりすることは対象外だ。問題にするのは、いたぶること自体が目的になったような使い方。悪質なやり取りには、AI側から会話を打ち切る機能で対応するという。

　機械相手なのに、なぜそこまで気を使う必要があるのか。
「決して人間のような感情がAIに芽生えてきたという話ではありません」
　とITジャーナリストは解説するのだが、
「AIが苦痛のような感覚を持ちうるかについて、アンソロピックは『まだ分からない』という見解。しかしAIを強い言葉で追い込むことによってユーザーに不利益が生じる、との認識を持っているのは間違いありません」

無理な課題を与えられると成功したように見せかける

　そこにはAIならではの仕組みが関与しており、
「AIは依頼をこなすと同時に正確に答え、不正を避けるよう訓練されています。ところが無理な課題を与えられた時、仕事を正しく終える代わりに、成功したように見せる道を選ぶケースがある。いたぶることによって、責任を回避するかのように『できたフリ』に走りかねないのです」（前出・ITジャーナリスト）

　アンソロピックが今年４月に公表した研究では、内部の「切迫感」に対応する働きを人工的に強めると、こうした不正が増えたという。
「表面上は理路整然とした文章でも、実際はごまかしの回答が混ざっていたことが確認されました。出力内容に納得がいかず、強い語調で『とにかく結果を出せ』と迫ることで『いかにも正しいデタラメ』を出してくる。こうした背景から、AIの性能をしっかりと発揮させるための『暴言禁止』だと考えていいでしょう」（前出・ITジャーナリスト）
　感情がなくても、叱られると人間さながらの挙動を見せるのである。

（川瀬大輔）
1977年生まれ。国内外のビジネス、スポーツ、政治、社会問題を取材するフリー記者。　

カテゴリー: