Claudeの「透かし」機能に「文章への冒涜」 海外掲示板で賛否割れる
AnthropicがClaudeの出力に、単語選びのパターンを使った「透かし」を埋め込みAI生成物かどうかを判別できるようにしたことが分かり、ブロガーのJohn GruberがdaringfireballでAI生成テキストの品質を犠牲にするものだと批判した。Hacker Newsでは、LLMの推論はもともと非決定的だから品質は落ちないという反論や、透かしのせいで自分の文章の校正にClaudeを使いづらくなったという指摘が相次ぎ、賛否が割れた。
Anthropicの『透かし』によるテキストの改変は、文章という行為への冒涜だ
出典: daringfireball.net / 元記事はこちら
「文章を書くときに選ぶ言葉そのものが重要だ」というなら、そこまで言葉選びにこだわるなら自分でちゃんと書けばいいのでは
つまり、自分の文章を校正させるためにClaudeを使うことはもうできない。AI生成だと誤判定されるリスクを負わない限りは。——それが狙いだったんだと思う、実際のところ
「ほとんど正しい言葉」と「正しい言葉」の違いは大きい。蛍と稲妻くらいの差だ——マーク・トウェイン／「どうでもいいから適当な類義語をコインで決めろ」——AI各社
この記事はどこか矛盾している。精密で質の高い文章が欲しいのに、それをLLMに書かせたいなんて、真逆のことを求めているように感じる
煽るつもりはないが、Claudeが書く文章はほとんど何であれ文章への冒涜だと思う。正直あの書き方には耐えられない。今回の透かしの変更で、それがさらに気味悪くなっただけだ
記事の一番下に埋もれているが、いい質問がある。『もし他の主要な国が、AIが密かに文章に透かしを入れることを違法にしたらどうなるのか』というものだ
『自分の考えを表現するのを一民間企業に任せておいて、その出力を自分でコントロールできないと怒っている』——そりゃそうなるだろう、誰が予想できなかったんだ
『ツールが、その出所を示す隠しヒントを埋め込むために、明瞭さや一貫性、意味、質をわずかでも犠牲にするのは許されない』——まさにその通りだな
Gruberは、EUが何かをするたびに条件反射的に噛みつく人だから、今回も事実に基づいた冷静な反応をしなかったのは驚くことじゃない
入力をほぼそのまま出力するような、一番良いトークンの確率が常に二番目よりずっと高いケースでは、透かしが入らないということはあるのか
この透かし技術を嫌う理由はいろいろあるだろうが、出力の質が落ちるというのはその一つじゃない。彼の中心的な主張は間違っている。乱数生成器を別のものに切り替えても、結果が悪くなるわけじゃない
そもそもLLMに文章を書かせること自体が『文章への冒涜』であって、透かしはそれ以上でも以下でもない
その『一番良い言葉』とやらは、今この場に一緒にいるのか
透かしは文章への冒涜だが、AIによる執筆全体はそうではない、という筋の通った立場は存在しない
透かしは、世界がそれだけ幸運であれば、独自モデル（プロプライエタリモデル）の棺桶に打たれるもう一本の釘になるだろう。プリンターの追跡ドットを思い出す
LLMの推論はもともと非決定的で、透かし技術はありうる乱数シードの範囲を制限しているだけだ。このシードの部分集合がなぜか出力の質を下げるという理由は特にない
つまりGruberはもう自分のブログをAI生成に完全に頼っているけど、それを認めるのが恥ずかしいってことなのかな
Gruberのここでの物言いは、うわべだけの怒りと、まとまりのない話と、大げさな表現ばかりだ。『言語道断で侮辱的』？ おいおい……
つまり、単語の並べ替えや言葉選びを変えるだけで透かしは消せるということか。理解が正しければ、ローカルモデルなら簡単に回避できそうに見える
そもそもLLMによる文章生成というプロセス自体が文章への冒涜だ。もっと言えば、それは『書く』ことですらないとさえ言える
馬鹿げてる。自分がラッキーだと思っていたスロットマシンが誰かに使われていて怒っているようなものだ
各判断ポイントで選ぶべき『唯一絶対のベストなトークン』なんてものは存在しない。それは文脈次第で、主観的なものだ
この不満は理解できなくはないけど、正直に言ってLLMはもともと文章を書くのが下手だ。今回の変更でそれがわずかに悪化するかもしれないが、体感としては30点が29点になる程度の違いだと思う
直してあげるよ。『生成AIそのものが文章への冒涜である』
最初に思ったのは『セキュリティシアター』という言葉だった。AIが検出可能だと人々に思わせることは、実際に検出可能にするのと同じ効果を持ちうる
王様でいるのは気楽なものだ。つまり、トップに立つ企業は、顧客を満足させることが最優先だという意識を失って、反顧客的な決定をしがちになるということだ
この透かしの仕組みは、盗用回避ツールが原因とされる『不自然に言い換えられた表現』を増やすことにならないか気になる
じゃあClaudeを使わなければいいだけでは？みんなベンダーロックインされているのに文句を言うのは何なんだ
Claudeの出力をコピーして、Geminiに貼り付けて言い換えさせればいいだけでは
透かしはゴミだ。アカウントIDやIPアドレスを埋め込んで身元を特定できてしまう可能性がある。だからこそ可能な限りオープンウェイトのLLMを使うべきだ
※本記事は5ch(Hacker News)スレッド「Anthropic’s ‘watermark’ text adulteration in Claude is a perversion of writing」より抜粋・要約して構成しています。
まだコメントはありません。