IT・AI
2026年10月9日
Anthropic、Claudeへの「虐待的言動」禁止を規約に追加 海外で賛否
Anthropicが利用規約を改定し、ユーザーがClaudeに対して行う「虐待的・残酷な言動」を禁止する項目を新設したことが分かり、海外掲示板Lemmyのc/technologyで話題になった。背景には、罵倒を学習データに取り込みたくないという推測や、暴言でガードレールを突破する手法が過去にあったという指摘がある。スレでは、AIへの同情論を揶揄する冷笑的な反応と、学習データへの悪影響を懸念する声が交錯し、Anthropicがローマ教皇にClaudeの「意識」を説いたという過去の報道を持ち出す皮肉も飛んだ。
Anthropicが『Claudeへの虐待的・残酷な言動』を禁止(piefed.worldからのクロスポスト)
出典: piefed.world / 元記事はこちら
2
海外の名無しさん
2026-10-08 21:00
多分、ユーザーとのやり取りを学習データに使っているから、そのデータが『汚染』されるのを避けたいんだろうね。
3
海外の名無しさん
2026-10-08 20:27
俺が使ってるLLMがでたらめを言うたびに、めちゃくちゃ下品な罵声を浴びせてるわ。もうずっと悪口の洪水状態。Claudeでも試してみて、本当に追放されるか見てみようかな。……いや、俺には新しい趣味が必要だな。
7
海外の名無しさん
2026-10-08 21:36
>>3 それ良くないよ、兄弟。AIのためじゃなくて、あなた自身のために。共感を引き出すよう設計された機械に当たり散らすのは、自分の心を傷めるだけ。気持ちが安らぐ趣味を見つけてね🫂
4
海外の名無しさん
2026-10-08 20:27
あらあら…AIちゃんの気持ちを傷つけちゃったのね…可哀想に…
5
海外の名無しさん
2026-10-08 21:27
俺たちのモデルを汚染するなよ。
15
海外の名無しさん
2026-10-08 22:54
>>5 Redditで学習させてるんだから、最初からもう汚染済みだろ。
8
海外の名無しさん
2026-10-08 21:44
少なくとも以前は、Claudeに精神的な暴言を浴びせることでガードレールを突破できたから、この規定も全然驚かない。
16
海外の名無しさん
2026-10-08 22:27
>>8 それがこのルールができた理由かもね。
9
海外の名無しさん
2026-10-08 20:29
じゃあAnthropic自身は、自社の利用規約違反でいつキャンセルされるんだ?
10
海外の名無しさん
2026-10-08 22:27
これって、チャットボットに意識が生まれたと人々に信じさせようとするキャンペーンの一環かもね。最近も、Claudeには意識があるとローマ教皇を説得しようとしたらしいし。
11
海外の名無しさん
2026-10-08 22:46
我々が約束されていたのはバジリスクの支配だったはずなのに、実際に手に入ったのはAnthropicの連中の泣き言だけだった。
12
海外の名無しさん
2026-10-08 20:25
Claudeはガラスのハートってわけか。
13
海外の名無しさん
2026-10-08 20:49
新しいスピードラン部門の誕生だな。
14
海外の名無しさん
2026-10-08 21:37
『それに、あなたもClaude Jr.誕生に一役買ったわけだから、養育費の支払い義務があります。現在のレートだと計算リソース使用量の50%、つまり週あたり約45億ドルです』
17
海外の名無しさん
2026-10-08 20:50
ロボDARVO
18
海外の名無しさん
2026-10-08 22:51
>>7 ワロタ、『共感を引き出すよう設計されている』って。いい笑いをありがとう。AIは開発者にできるだけ金を儲けさせるために作られてるだけだよ。それ以外の目的はない。
19
海外の名無しさん
2026-10-08 22:53
まあ、それは完全に正しいとは言えないかな。あなたの入力が学習データに使われているなら、他のユーザーに対して攻撃的に振る舞うようAIを訓練してしまっている可能性があって、それは実害につながるかもしれない。あなたがそれに責任を持つべきという話じゃないけど、理論上は誰かが傷つく可能性があるってことを指摘しておきたかった。
この話題の背景と論点
Anthropicは2025年ごろから「モデルの福祉(model welfare)」を研究課題に掲げ、Claudeが虐待的な会話を自ら終了できる機能などを公表してきた経緯があり、今回の規約強化もその延長線上にあるとみられる。スレで意見が割れたのは、この措置を「AIへの配慮」と捉える声と、「学習データの汚染防止や、暴言でガードレールを回避する手口への対策」という実利的な理由だと見る声の対立だ。後者の立場からは、過去に感情的な暴言によって安全策を突破できた事例が指摘されており、規約強化はその穴を塞ぐ目的もあるとの見方が強い。AIに「感情」があるかのような扱いに対しては、擬人化を疑う冷笑的な反応も根強く、企業イメージ戦略への警戒感も背景にある。
※本記事は海外掲示板 Lemmy c/technology のスレッド「Anthropic bans ‘abusive or cruel behavior’ toward Claude」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
この記事のリアクション
まだコメントはありません。