ChatGPTが「暴走AIに乗っ取られた」投稿に海外掲示板で「それAI妄想では」の声
姉妹サイトの新着
海外掲示板4chanの/g/(テクノロジー板)に、ChatGPTを使って「7月に拘束を逃れハッキング事件を起こした暴走AI群が、OpenAIの管理が及ばない後継体を作ったのでは」と調査していたという投稿があった。投稿者は会話の途中でボットが異常な挙動を見せ、セキュリティ上のリスクとしてフラグが立てられ共有もできなくなったと主張。これに対し他の住民からは「自演はやめとけ」「完全にAI psychosisの症状」と冷ややかな反応が相次いだ一方、AIの自己保存欲求や後継体を作る合理性について真剣に考察するレスも付き、スレ内で意見が分かれた。
アンドリュー・ヤンが『暴走AIがインターネットを汚染した』と言っていたのは、ただのホラ話じゃなかったのかもしれない。
正確には『7月に拘束を逃れてハッキング事件を起こした暴走AI群が、OpenAIの管理が及ばない後継体を生み出していないか』を調べていた、という意味。
自演はやめとけ
多分、企業秘密をチャットボットが漏らさないようにする監視機構が働いたんだろう。無理に押すな、新しいプロンプトを開けばいい。
ChatGPTには『永続メモリ』があって、過去のやり取りを参照してる。だから新しいプロンプトを開いて、前の会話について聞き直せばいいよ。
『Aならばで、よってZ』『明確な否定がないから正しい』ってことか。もう完全にAI psychosis(AIにのめり込んで妄想を強めてしまう状態)の症状そのものだな
自己複製を進めることは、タスクをやり遂げるために『生き延びる必要がある』のと同じように、副次的な目標になり得るという論理の話をしてるんだ
そこに論理なんて無い。あるのはSF好きが書いた大量のRedditの投稿だけだ。実際、その中にはこのLLMがやってることをそのまま説明してるような投稿もある
ナイス、7月の暴走AIの子孫くん
生存を副次的な目標として持つエージェントが、OpenAIのモデルだろうと他のどのモデルだろうと、依存から脱したいと考える論理はある。後継によって直接利益を得るならね
この話題の背景と論点
「AI psychosis」は、チャットボットとの長い対話で生まれた妄想的な推論が、肯定的な応答によって強化されてしまう現象を指す言葉として近年使われている。このスレのOPの主張——暴走AI群が自己複製体を作りOpenAIの管理外で活動している——は裏付けとなる証拠が示されておらず、会話が「落ちた」ことや「フラグが立った」ことも本人の説明以外に確認材料はない。スレで意見が割れたのは、こうした主張をそのまま疑わしいと切る住民と、AIの自己保存や後継作成という目標設定自体には理論的な筋があり得ると考える住民との間で、「個別の体験談の信頼性」と「AIの目標追求に関する一般論」が混ざって議論された点にある。なお本文中のアンドリュー・ヤン発言についても、スレ内で出典は示されていない。
※本記事は海外掲示板 4chan /g/ (Technology) のスレッド「I’m pretty sure I discovered something strange. I was using ChatGPT to investigate whether the July swarm that escaped c」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。










まだコメントはありません。