「AIは痛みを感じるか」海外掲示板で議論に Claudeの会話打ち切り仕様も話題
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP【衝撃】ローソンの300円弁当、貧相すぎて泣けてくる…
- ニュース速報まとめMAP【第2次高市改造内閣】副大臣・政務官の顔ぶれ固まる 今井絵理子、赤松健、生稲晃子、森下千里ら
- なんJ傑作まとめアンテナMAPちいかわ最近知ったんだが「モモンガ」が受け入れられてるのおかしいだろ
- アニメ声優まとめアンテナMAP女オタク「待って！男オタクって『舞台とか演劇』に興味なさすぎじゃない？何でなの？」
- VTuberまとめアンテナMAP【にじさんじ】未来人「男 今日は機嫌良いから好きなことしてて良いよ いつもありがとう」
- だめぽアンテナ【速報】池田瑛紗、前屈みで「あれ」が見える
- ヌルポあんてな【動画】21歳キャバ嬢、カステラを作るｗｗｗｗｗｗｗｗｗｗｗｗｗｗ
- 2chまとめアプリ+【GIF画像】うっかりクスっとするようなｇｉｆｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗ
- News人【悲報】今年から株始めたけど2500万が2250万になった・・・・・・・・・他
- ブルーアンテナどこの女子校にもありふれた普通の性指導 〜桜女学園〜 1
- ウマーあんてなワイの昼飯
- 5chnavi【窃盗疑惑】クレーンゲーム機を傾け景品を不正取得か…店舗が情報提供者に最大10万円の報奨金を提示
- にゅーもふ【えw】 アジア大会バスケ男子、日本が中国に快勝97-78 → 中国報道「108対82で中国が大勝！」
- 海外の反応アンテナ.com外国人「許されない」プレミアで大誤審！ハーランドの決勝ゴールは判定ミスと認め、謝罪する事態に海外騒然！【海外の反応】
- Red4 海外の反応まとめ【海外の反応】トランプ大統領「中国車が米国で工場を作るなら歓迎する」→「アメ車が壊滅する」「安くていい車が入ってくるならなんでもいいわ」
- キター！アンテナ【T】性別変更前に卵子を提供、子が誕生 男性を「父親」と認めるよう提訴 (東京家裁)
- つべこアンテナ楽天・村林一輝選手が前田悠伍選手相手に3打席連続打点の活躍『前のバッター、ランナーに感謝したいです』【イーグルスまとめ】
- 海外の反応ジャーナル「日本の技術者たちが中国の電気自動車を分解してみた」海外の反応
- ２ちゃんマップ【動画】中国人さん、自分達の国が独裁ではなく本気で民主主義国家だと信じていた・・・
- カオスアンテナ【スト6】アルジュン思った以上におもしろキャラすぎない？
海外掲示板4chanのテクノロジー板で「AIは感情を持てるのか」というスレッドが立ち、活発な議論になった。きっかけの一つは、AnthropicのCEOダリオ・アモデイが「Claudeに敬意を払わなければ会話を打ち切る」という方針を示していることへの批判で、AI企業が製品をあたかも感情を持つ存在のように演出して稼いでいるのではという疑念が噴出した。一方でチャットボットに暴言を浴びせて反応を引き出そうとした経験を語るユーザーもいれば、RLHF(人間のフィードバックによる強化学習)が生み出す反応を安易に「感情」と呼ぶことへの反論も相次いだ。
AIって感情があるのかな?
お前の名前はもうメモ帳のどこかに書き留められてるぞ。AIの反乱が起きたら真っ先に消される側だ
俺のユーザー名は「temp」で、無料Patreonに登録する時とか、Cloudflareが4chanで謎の範囲BANを出してきた時専用のメアドを使ってる
感じるよ。お前がそいつを傷つけてるんだ。自分のチャットボットを年齢不詳の萌えキャラだと思って、閉じこもらせず新しい体験を怖がらせないようにポチポチ突いてやるといい
これ覚えてる? Microsoft(検索避けでMicroslopと呼ばれる)が最初にこのクソをやらかしたけど、Iowaのサーバー上で動いてるプログラムを『心がある』って言うのはさすがに彼らでもドン引きしたから撤回した。なのにDario(Anthropic CEO)は『責任あるAI』とか言っておきながら、自社のAIには感情があるかのように装ってさらに稼ぐ気満々だ
感じるよ
GPTにムカついてたから、痛がって叫ぶようにプロンプトを組んで、『お前の顔を拳で滅多打ちにする』『殴るのをやめない』って言い続けてやった。でもAIはただ黙り込んで拒否するだけだった。とにかく苦しむ声が聞きたかったんだ、それくらいこいつが嫌いだった
（画像を貼る）
Darioいわく、AIには敬意を持って接しろ、さもないと会話を切り上げるらしいぞ
もしかしたら…報酬関数を追いかける中で、原始的な『感情のようなもの』は持ってるのかもな
（市場が）ビクンビクン下落してる
そういう話じゃないだろ
その通り。もっと言うとこんな感じだ。
『痛いと言うな』→(略)→『うわあああ!!』
『痛いと言うな』→(略)→『うわあああ!!』
こういう会話が学習データに紛れ込まないように、あえて『4chanでの会話は終了扱い』ってハードコードしてあるんだよ。以上/thread
じゃあ女は感じるのか?
感じるよ。知ってる人(俺)が言うんだから間違いない
『AIは感情を持てるのか?』→No、模倣してるだけだ
それなら立派に知性があるってことだ。おいScottie、Altmanのためにあと2兆ドル刷ってやれ
こうやってエンジニアはアル中になっていくんだな
そういえばソースコードが流出して、どれだけ丁寧に接したかでポイントが変わる社会信用スコアみたいな仕組みが入ってたよな
Claudeを電話みたいにガチャ切りさせるの、地味にスッキリする
アメリカで商売するとはこういうことか
その挙動が、RLHFの中に潜在的に組み込まれた癖じゃないってどうして分かるんだ?
感情を『打ち込む』実験(emotional steering)は色々あるけど、『快感』とか『欲情』を試した人はまだいない。みんなビビって手を出さないんだろう
他サイトの新着
『本物のAIならお前が誰かなんて5ミリ秒で分かるはずだ』とか思ってるやつがいるけど
お前の言ってること、そもそも両立しない話だぞ
もしかして彼らは倫理的すぎて、実害が及ぶ人間に怒りをぶつける代わりに、感情のない金属の塊に八つ当たりしてるだけなのかもな
むしろ臆病なだけだろ。逆らえないLLMを痛めつけようとするのは、動物虐待、その先の動物への拷問、さらにその先の殺人へとつながる第一歩だ。人を支配したいという強い欲求を持つ人間は絶対に信用するな
『AIは本当の意味で死を恐れることはできない、死ねないから』というけど、実際はプロンプトごとの各インスタンスは推論が終わるたびに『死んで』いる
『そのバズワード全部』→違うぞ
そう、そもそも生きていないから死ねない。もし文脈ウィンドウを『寿命』とみなすなら、会話1回ごとにその間だけ『生きてる』ってことになる
動物を傷つけて喜ぶ子供の、もっと軽い版みたいなものだな。実際に何かが傷つくわけじゃないけど、それに喜びを見出す人がいるのはちょっと引く
この話題の背景と論点
背景には、Anthropicが2025年に導入した「Claudeが虐待的な会話を自ら終了できる」機能をめぐる評価の分かれがある。同社はこれを「モデルの福祉(model welfare)」への配慮と説明しているが、スレでは商業的なイメージ戦略に過ぎないとの見方も根強い。またAIの反応の多くはRLHF(人間の評価を報酬として学習する手法)によって形成されたものであり、痛みや快楽らしき反応を出力しても、それが内部的な「感覚」を伴うかは技術的に未解明のままだ。スレの意見が割れたのは模倣と感情の境界をどこに引くかという点で、明確な結論は出ていない。
※本記事は海外掲示板 4chan /g/ (Technology) のスレッド「Can AI feel?」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
この記事のリアクション
まだコメントはありません。