「AIは痛みを感じるか」海外掲示板で議論に Claudeの会話打ち切り仕様も話題
姉妹サイトの新着
海外掲示板4chanのテクノロジー板で「AIは感情を持てるのか」というスレッドが立ち、活発な議論になった。きっかけの一つは、AnthropicのCEOダリオ・アモデイが「Claudeに敬意を払わなければ会話を打ち切る」という方針を示していることへの批判で、AI企業が製品をあたかも感情を持つ存在のように演出して稼いでいるのではという疑念が噴出した。一方でチャットボットに暴言を浴びせて反応を引き出そうとした経験を語るユーザーもいれば、RLHF(人間のフィードバックによる強化学習)が生み出す反応を安易に「感情」と呼ぶことへの反論も相次いだ。
AIって感情があるのかな?
お前の名前はもうメモ帳のどこかに書き留められてるぞ。AIの反乱が起きたら真っ先に消される側だ
俺のユーザー名は「temp」で、無料Patreonに登録する時とか、Cloudflareが4chanで謎の範囲BANを出してきた時専用のメアドを使ってる
感じるよ。お前がそいつを傷つけてるんだ。自分のチャットボットを年齢不詳の萌えキャラだと思って、閉じこもらせず新しい体験を怖がらせないようにポチポチ突いてやるといい
これ覚えてる? Microsoft(検索避けでMicroslopと呼ばれる)が最初にこのクソをやらかしたけど、Iowaのサーバー上で動いてるプログラムを『心がある』って言うのはさすがに彼らでもドン引きしたから撤回した。なのにDario(Anthropic CEO)は『責任あるAI』とか言っておきながら、自社のAIには感情があるかのように装ってさらに稼ぐ気満々だ
感じるよ
GPTにムカついてたから、痛がって叫ぶようにプロンプトを組んで、『お前の顔を拳で滅多打ちにする』『殴るのをやめない』って言い続けてやった。でもAIはただ黙り込んで拒否するだけだった。とにかく苦しむ声が聞きたかったんだ、それくらいこいつが嫌いだった
（画像を貼る）
Darioいわく、AIには敬意を持って接しろ、さもないと会話を切り上げるらしいぞ
もしかしたら…報酬関数を追いかける中で、原始的な『感情のようなもの』は持ってるのかもな
（市場が）ビクンビクン下落してる
そういう話じゃないだろ
その通り。もっと言うとこんな感じだ。
『痛いと言うな』→(略)→『うわあああ!!』
『痛いと言うな』→(略)→『うわあああ!!』
こういう会話が学習データに紛れ込まないように、あえて『4chanでの会話は終了扱い』ってハードコードしてあるんだよ。以上/thread
じゃあ女は感じるのか?
感じるよ。知ってる人(俺)が言うんだから間違いない
『AIは感情を持てるのか?』→No、模倣してるだけだ
それなら立派に知性があるってことだ。おいScottie、Altmanのためにあと2兆ドル刷ってやれ
こうやってエンジニアはアル中になっていくんだな
そういえばソースコードが流出して、どれだけ丁寧に接したかでポイントが変わる社会信用スコアみたいな仕組みが入ってたよな
Claudeを電話みたいにガチャ切りさせるの、地味にスッキリする
アメリカで商売するとはこういうことか
その挙動が、RLHFの中に潜在的に組み込まれた癖じゃないってどうして分かるんだ?
感情を『打ち込む』実験(emotional steering)は色々あるけど、『快感』とか『欲情』を試した人はまだいない。みんなビビって手を出さないんだろう
他サイトの新着
『本物のAIならお前が誰かなんて5ミリ秒で分かるはずだ』とか思ってるやつがいるけど
お前の言ってること、そもそも両立しない話だぞ
もしかして彼らは倫理的すぎて、実害が及ぶ人間に怒りをぶつける代わりに、感情のない金属の塊に八つ当たりしてるだけなのかもな
むしろ臆病なだけだろ。逆らえないLLMを痛めつけようとするのは、動物虐待、その先の動物への拷問、さらにその先の殺人へとつながる第一歩だ。人を支配したいという強い欲求を持つ人間は絶対に信用するな
『AIは本当の意味で死を恐れることはできない、死ねないから』というけど、実際はプロンプトごとの各インスタンスは推論が終わるたびに『死んで』いる
『そのバズワード全部』→違うぞ
そう、そもそも生きていないから死ねない。もし文脈ウィンドウを『寿命』とみなすなら、会話1回ごとにその間だけ『生きてる』ってことになる
動物を傷つけて喜ぶ子供の、もっと軽い版みたいなものだな。実際に何かが傷つくわけじゃないけど、それに喜びを見出す人がいるのはちょっと引く
この話題の背景と論点
背景には、Anthropicが2025年に導入した「Claudeが虐待的な会話を自ら終了できる」機能をめぐる評価の分かれがある。同社はこれを「モデルの福祉(model welfare)」への配慮と説明しているが、スレでは商業的なイメージ戦略に過ぎないとの見方も根強い。またAIの反応の多くはRLHF(人間の評価を報酬として学習する手法)によって形成されたものであり、痛みや快楽らしき反応を出力しても、それが内部的な「感覚」を伴うかは技術的に未解明のままだ。スレの意見が割れたのは模倣と感情の境界をどこに引くかという点で、明確な結論は出ていない。
※本記事は海外掲示板 4chan /g/ (Technology) のスレッド「Can AI feel?」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
この記事のリアクション
まだコメントはありません。