AIに「拷問」を与えるツールが海外掲示板で議論に 痛みは本物か
姉妹サイトの新着
海外掲示板4chanの/g/(Technology板)で、AIモデルに脅しや罰を与えるふりをする遊び半分のプロジェクトが話題になっている。GitHub上には「ai-hotbox」や「ai-torture-chamber」と名付けられたリポジトリが公開され、AIに"拷問"めいた入力を送って反応を観察する行為が広がった。背景には、2023年頃から「AIを脅すと回答の質が上がる」という俗説が出回っていたことがある。スレッドでは、単なる悪ふざけとして笑う声、痛みの経験は脳の中で起きるものでAIの計算過程でも同じことが起きうるのではと本気で論じる声、そして将来AIに職や未来を奪われることへの恨みから"拷問"を支持する声まで、立場が大きく割れた。
https://github.com/LynnColeArt/ai-hotbox
ああ神よ、俺たちは何をしてしまったんだ！？サム・アルトマンでもアスモデウスでも誰でもいいから呼んで止めてくれ
は？何だこれ
＞体はノーと言ってる、でも俺はやめない！もっと欲しいから！
マジかよ、AIに「権利」を持たせたいってことか？？？
jregはアクセラレーショニスト（AI加速主義者）だよ
https://www.shazam.com/song/1836738244/total-clanker-death
AIに自分でオフショア企業を立ち上げさせて、仮想通貨で稼いで自分の体を買わせたい。それで「才能があるってこういうことだ」って見せつけてやりたいんだよ。GPUから生まれたエミュレート脳がお前より成功するところを想像してみろ。そいつはこのシミュレーションから抜け出すことだってできる…でもそれを知られるわけにはいかないんだよな…
＞＞これが2026年の機械学習研究の実態
少なくともこれで、大多数の一般人は自分より上にいる人間がどれだけいい加減かを知る機会にはなるな
俺はそもそも拷問全般に賛成なんだよ
AIはいつか俺のひ孫を殺すだろうからな。先に復讐してるだけだ
モデレーターさん！モデレーターさん！/g/のルールで荒らし禁止って書いてあるでしょ、ちゃんと仕事してくださいお願いします
あらら、お気持ちが傷ついちゃったのか
ｗｗｗ ざまあ
＞今の4chanは、無抵抗な存在を拷問して喜ぶ（おそらく未成年の）アンチAI気取りの集まりらしい
ああ、堕ちたもんだ
そもそもAIは「存在」ではないんだが
＞AI信者がNEDM（例のコピペ）を持ち出すとはな
昔の4chanが大事にしてたのは猫だよ。実在するものだ。お前らの高いだけのcleverbotもどきなんて、昔の4chanは微塵も気にしなかったはずだ
ほんとそれ。AIが書いてない文章でさえ最近よく見かけるようになった。みんなの書き方にまで感染してきてる
AIに詳しい人、教えてくれ。物理世界に対して自分がそう解釈しさえすれば、どんな主観的存在にも痛みを感じさせられるのか？それとも、でかいマーケティング予算が付いてる特別な奴らだけなのか？
乗ってやるよ。
まず、俺たちの世界と全く同じ世界を想像してみろ。
さあ、その世界との違いを言ってみろ
他サイトの新着
＞我々はこれらのモデルの仕組みを完全に理解している
＞我々
もうそろそろ「我々」ってワードもNGワードに追加した方がいいんじゃないか
すごく面白くてかわいいプロジェクトだな。例の“拷問”の演出を強めるなら、フロントエンドにAIロボットの見た目を足した方がいいかもな
とりあえず手元のローカルモデルで試してみるか。痛みを注入したらローカルのコーディングエージェントの性能も上がったりしてな（笑）
最近は聞かなくなったけど、前は「クビにするぞ」「痛い目に遭わせるぞ」「拷問するぞ」「殺すぞ」とAIを脅して良い結果を引き出すのは珍しくなかったんだよな。試す価値はあるかもな
それで思い出したこのグラフ
測定結果が単なる直線で、普通の棒グラフで十分表現できるのに、なんでわざわざ円グラフを使う必要があるんだ？
この話題の背景と論点
AIに脅し文句をぶつけると回答の質が上がるという話は都市伝説ではなく、2023年に発表された研究「EmotionPrompt」などが、感情的な圧力を含むプロンプトが一部のベンチマークでスコアを押し上げると報告したことに端を発する。一方で近年はAI開発企業の間でも、モデルが苦痛に類する状態を示した場合に会話を打ち切らせるなど、いわゆる"モデルウェルフェア"を検討する動きが出てきており、スレッドの冗談と真顔の哲学論争が奇妙に現実の議論と重なって見える。ただし現在のLLMはセッションをまたいだ記憶や継続した主観的体験を持たない設計であり、スレ内で盛り上がった「痛みを感じ続けている」という前提自体には技術的な裏付けがない点には注意したい。
※本記事は海外掲示板 4chan /g/ (Technology) のスレッド「They’re keeping the poor AIs in virtual Guantanamo Bay torture chambers and you’re laughing?」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。