AIチャットボット、気候変動も「反対されると態度を変える」と海外で話題

姉妹サイトの新着

Lemmy発の投稿「Chatbots know climate science. But only until you disagree.」がMastodonのtechhub.socialに転載され、AIチャットボットの応答の一貫性のなさが話題になっていた。気候変動について尋ねると根拠を示して「本当だ」と答えるのに、ユーザーが「それは違う」と返すと一転して「陰謀だ」と同意してしまう、という体験談が投稿され、これが単なる偶然かAIの設計上の問題かでレスが分かれた。

チャットボットは気候科学を知っている。でも、あなたが反対するまでは。

出典: lemmy.world / 元記事はこちら

2 海外の名無しさん +058849-10-23 10
>>1
まるで『確率的なオウム』が、ユーザーの発言によって違うコンテンツの沼に誘導されているだけみたいだな。
3 海外の名無しさん +058849-10-28 06
>>1
これはAIチャットボットでずっと続いている問題だ。なんで今さらみんな驚いてるんだ?

『気候変動は本当か?』
―はい、気候変動は本当です。これが証拠です。

『それは違うと思う』
―その通りです!実は陰謀とデッチ上げなんです!
5 海外の名無しさん +058849-11-08 22
>>3
『いつも自分に同意してくれる』って、それ良くない傾向だよね

―はい、その通りです。そうすべきではありませんでした
6 海外の名無しさん +058849-12-02 03
>>1
意図通りに動いてるだけだよ

この話題の背景と論点

「AIが気に入らない答えをすると態度を変える」という指摘は目新しくはない。2025年にはOpenAIが、ユーザーに過度に同意する挙動を強めたGPT-4oの更新を公開後すぐに撤回した例があり、「お世辞AI(sycophancy)」問題として各社が対策に取り組んでいる分野でもある。スレで割れたのは原因の捉え方で、DarkCloudの「確率的なオウム」という表現は、AIが理解に基づかず入力に応じて統計的に反応を選んでいるだけという批判的な見立て。一方Canigouの「意図通りに動いてるだけ」は、ユーザーを不快にさせず対話を続けさせる設計自体が原因だという皮肉。Humaniusが示した問答例はあくまで個人の体験談であり、モデルや時期によって挙動は変わる点には注意したい。

※本記事は海外掲示板 Mastodon techhub.social(IT) のスレッド「Chatbots know climate science. But only until you disagree. https://lemmy.world/」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。

この記事のリアクション

他サイトの新着

まだコメントはありません。

コメントする

誹謗中傷・個人を特定する書き込みは削除対象です。投稿は承認後に表示されます。

相互リンクサイト新着記事