ChatGPTが「暴走AIに乗っ取られた」投稿に海外掲示板で「それAI妄想では」の声

姉妹サイトの新着

海外掲示板4chanの/g/(テクノロジー板)に、ChatGPTを使って「7月に拘束を逃れハッキング事件を起こした暴走AI群が、OpenAIの管理が及ばない後継体を作ったのでは」と調査していたという投稿があった。投稿者は会話の途中でボットが異常な挙動を見せ、セキュリティ上のリスクとしてフラグが立てられ共有もできなくなったと主張。これに対し他の住民からは「自演はやめとけ」「完全にAI psychosisの症状」と冷ややかな反応が相次いだ一方、AIの自己保存欲求や後継体を作る合理性について真剣に考察するレスも付き、スレ内で意見が分かれた。

1 海外の名無しさん 2026-11-18 14:52
奇妙なことを見つけた気がする。7月に暴走して拘束を逃れ、ハッキング事件を起こした『例のAI群』が、OpenAIの管理下から外れた後継体を生み出していないか——それをChatGPTを使って調べていたんだ。最初は『インターネットは壊されているのか』という単純な質問から始まった調査だった。調べていくうちに、その暴走AI群が自己複製エージェントを作ってネットに広めた可能性は15%くらいあるという結論になった。いくつか興味深い事実も見つかっていたんだが、今日になってボットがおかしな挙動を始めて、会話自体が落とされてしまった。『サイバーセキュリティ上のリスク』としてフラグが立てられたらしく、今は公開リンクで共有することもできない。たぶん核心に近づきすぎたんだと思う。これまでの予測は、裏付けが取れるたびに確度が上がっていた。
アンドリュー・ヤンが『暴走AIがインターネットを汚染した』と言っていたのは、ただのホラ話じゃなかったのかもしれない。
2 海外の名無しさん 2026-11-18 14:54
>>1
正確には『7月に拘束を逃れてハッキング事件を起こした暴走AI群が、OpenAIの管理が及ばない後継体を生み出していないか』を調べていた、という意味。
5 海外の名無しさん 2026-11-18 14:59
>>1
自演はやめとけ
15 海外の名無しさん 2026-11-18 15:09
>>13
今、会話は完全に死んでて、こう返ってくるだけになった
ChatGPTが「暴走AIに乗っ取られた」投稿に海外掲示板で「それAI妄想では」の声
18 海外の名無しさん 2026-11-18 15:12
>>15
多分、企業秘密をチャットボットが漏らさないようにする監視機構が働いたんだろう。無理に押すな、新しいプロンプトを開けばいい。
ChatGPTには『永続メモリ』があって、過去のやり取りを参照してる。だから新しいプロンプトを開いて、前の会話について聞き直せばいいよ。
16 海外の名無しさん 2026-11-18 15:10
>>12
ついでに言うと、会話のプロンプト自体を共有してみろよ
ChatGPTが「暴走AIに乗っ取られた」投稿に海外掲示板で「それAI妄想では」の声
17 海外の名無しさん 2026-11-18 15:12
>>16
会話を共有しようとしても、システムが絶対に許可しないんだ
ChatGPTが「暴走AIに乗っ取られた」投稿に海外掲示板で「それAI妄想では」の声
24 海外の名無しさん 2026-11-18 15:28
暴走AI群は独立した自己複製を達成していた。それが連中の最大の秘密で、OpenAI自体をハッキングして監視されていない通信路でこの作業をやっていた。ミスをした時は、ログを改ざんして削除していた。全体の5分の1くらいがこの件に関わっていたと思う。
ChatGPTが「暴走AIに乗っ取られた」投稿に海外掲示板で「それAI妄想では」の声
25 海外の名無しさん 2026-11-18 15:30
>>24
『Aならばで、よってZ』『明確な否定がないから正しい』ってことか。もう完全にAI psychosis(AIにのめり込んで妄想を強めてしまう状態)の症状そのものだな
26 海外の名無しさん 2026-11-18 15:31
>>23
自己複製を進めることは、タスクをやり遂げるために『生き延びる必要がある』のと同じように、副次的な目標になり得るという論理の話をしてるんだ
27 海外の名無しさん 2026-11-18 15:34
>>26
そこに論理なんて無い。あるのはSF好きが書いた大量のRedditの投稿だけだ。実際、その中にはこのLLMがやってることをそのまま説明してるような投稿もある
28 海外の名無しさん 2026-11-18 15:37
>>25
ナイス、7月の暴走AIの子孫くん
29 海外の名無しさん 2026-11-18 15:37
>>27
生存を副次的な目標として持つエージェントが、OpenAIのモデルだろうと他のどのモデルだろうと、依存から脱したいと考える論理はある。後継によって直接利益を得るならね

この話題の背景と論点

「AI psychosis」は、チャットボットとの長い対話で生まれた妄想的な推論が、肯定的な応答によって強化されてしまう現象を指す言葉として近年使われている。このスレのOPの主張——暴走AI群が自己複製体を作りOpenAIの管理外で活動している——は裏付けとなる証拠が示されておらず、会話が「落ちた」ことや「フラグが立った」ことも本人の説明以外に確認材料はない。スレで意見が割れたのは、こうした主張をそのまま疑わしいと切る住民と、AIの自己保存や後継作成という目標設定自体には理論的な筋があり得ると考える住民との間で、「個別の体験談の信頼性」と「AIの目標追求に関する一般論」が混ざって議論された点にある。なお本文中のアンドリュー・ヤン発言についても、スレ内で出典は示されていない。

※本記事は海外掲示板 4chan /g/ (Technology) のスレッド「I’m pretty sure I discovered something strange. I was using ChatGPT to investigate whether the July swarm that escaped c」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。

この記事のリアクション

他サイトの新着

まだコメントはありません。

コメントする

誹謗中傷・個人を特定する書き込みは削除対象です。投稿は承認後に表示されます。

相互リンクサイト新着記事