AI文章への嗅覚が鋭くなりすぎた海外エンジニア 5ch「人間の文章まで疑うように」
姉妹サイトの新着
海外掲示板Hacker Newsで「AIが書いた文章だとすぐ分かるようになってしまった」という投稿が話題になり、共感のコメントが相次いだ。
Claudeの文章が半年で目に見えて劣化したという声から、AI生成文への警戒心が強くなりすぎて人間が書いた文章まで疑ってしまうという告白まで、幅広い反応が並んだ。AI生成の料理写真に見られる特有の不自然さを指摘する声も上がっている。
AIの気配に敏感になりすぎて、もう文章がまともに読めなくなってきた
出典: cymerys.com / 元記事はこちら
Claudeはここ半年で文章の質が目に見えて、痛々しいほど悪化した。もはやコード以外にはほぼ使い物にならない。
>>8
Opus 4.6に戻すとその後のモデルよりずっとマシだけど、それでも鬱陶しい癖だらけなんだよな。
Opus 4.6に戻すとその後のモデルよりずっとマシだけど、それでも鬱陶しい癖だらけなんだよな。
>>8
一芸に秀でた一発芸くらいで十分なのかもね。
一芸に秀でた一発芸くらいで十分なのかもね。
「単純な概念をやたら回りくどく書いた技術要件書」ってAI特有の話じゃない。単純な話をやたら複雑で冗長に説明する人間なら何人も見てきた。
懐古かもしれないけど、GPT-4oが「人間らしさのピーク」で、そこからどんどん異質になってる気がする。特にFableは顕著。
皮肉なことに、この記事内でリンクされている「状況のまとめ」自体が、明らかにAIで書かれたっぽい。
>>11
www コミュニティのハイライトがまさにそれを取り上げてるの好き。
www コミュニティのハイライトがまさにそれを取り上げてるの好き。
いやこれめちゃくちゃ分かる。
分かる。最近NotebookLMが作った図を見た時にまさにこれを感じた。裏に知的な思考があると分かっていても、「スロップ検知ブレーカー」みたいなのが作動しちゃう。
AIへの依存が進むほど、認知機能の萎縮が起きる。これはIQの低下という形で測定可能で、早期認知症や慢性外傷性脳症を思わせる症状とも重なる。
>>15
それ、あながち間違ってない気がして怖い。
それ、あながち間違ってない気がして怖い。
>>2
AI以前の企業メモやミッションステートメント、マーケティング資料、ホワイトペーパーってちゃんと読んだことある? あれもほとんど同じ文体だったよ。バズワード、ありきたりな比喩、月並みな決まり文句だらけ。
AI以前の企業メモやミッションステートメント、マーケティング資料、ホワイトペーパーってちゃんと読んだことある? あれもほとんど同じ文体だったよ。バズワード、ありきたりな比喩、月並みな決まり文句だらけ。
>>2
調べ物で数日前にかなり古いRedditのスレを読んでたんだけど、この文体が今のAIの文章にどう影響してるか丸わかりで驚いた。「これChatGPTが出る前の投稿だぞ」って何度も自分に言い聞かせる羽目になった。特に「体験談」系の文章にRedditの影響がはっきり出てる。
調べ物で数日前にかなり古いRedditのスレを読んでたんだけど、この文体が今のAIの文章にどう影響してるか丸わかりで驚いた。「これChatGPTが出る前の投稿だぞ」って何度も自分に言い聞かせる羽目になった。特に「体験談」系の文章にRedditの影響がはっきり出てる。
>>2
「脳が即座にAI生成文だと見抜く」って言うけど、たぶん人間が書いた文章もAI認定してるし、逆に見抜けてないAI文章もあると思うよ。
「脳が即座にAI生成文だと見抜く」って言うけど、たぶん人間が書いた文章もAI認定してるし、逆に見抜けてないAI文章もあると思うよ。
>>21
不気味の谷を抜け出せたAI文章があるなら見せてくれ。それはきっと人間が手を入れた文章だから。
不気味の谷を抜け出せたAI文章があるなら見せてくれ。それはきっと人間が手を入れた文章だから。
>>2
そうそう、でも最近は人間が書いた文章でも同じことが起きるようになった。
そうそう、でも最近は人間が書いた文章でも同じことが起きるようになった。
>>2
「AI生成物には何か根本的な問題がある」って言うけど、自分は普通に問題なく使えてるけどな。
「AI生成物には何か根本的な問題がある」って言うけど、自分は普通に問題なく使えてるけどな。
>>23
全くその通りです。
全くその通りです。
>>3
ゲームで壁とか固い物体の表面だけレンダリングされてて、実際にぶつかると多少めり込んで、中身が空っぽなのに気づく感覚に近い。
ゲームで壁とか固い物体の表面だけレンダリングされてて、実際にぶつかると多少めり込んで、中身が空っぽなのに気づく感覚に近い。
>>5
うちはGrokを使ってるけど、コメントの意味は大体わかるものの、必要な量の2倍以上は冗長。何でも2通りの言い方で説明したがって、片方をカッコ書きにするのがお約束。
うちはGrokを使ってるけど、コメントの意味は大体わかるものの、必要な量の2倍以上は冗長。何でも2通りの言い方で説明したがって、片方をカッコ書きにするのがお約束。
>>5
自分はもうPRの説明文は読まずにコードだけ見てる。AIが作った言葉のスープを読むより、コードを直接読んだ方がAIが何をしたか理解しやすい。
自分はもうPRの説明文は読まずにコードだけ見てる。AIが作った言葉のスープを読むより、コードを直接読んだ方がAIが何をしたか理解しやすい。
>>6
地元で最近増えてるAI生成の料理「写真」、どれも形の配置が変で、同じサイズのパーツが不自然なほど均一なリズムで、ブルーノイズっぽい間隔で並んでる。テクスチャの形がどれも不自然で、この記事の写真とそっくり。
地元で最近増えてるAI生成の料理「写真」、どれも形の配置が変で、同じサイズのパーツが不自然なほど均一なリズムで、ブルーノイズっぽい間隔で並んでる。テクスチャの形がどれも不自然で、この記事の写真とそっくり。
>>6
自分にはキッシュじゃなくてケーキに見える。上に乗ってるのはカビじゃなくて炙ったメレンゲなのでは。まあAIがキッシュとケーキを変に混ぜた結果な気もするけど。
自分にはキッシュじゃなくてケーキに見える。上に乗ってるのはカビじゃなくて炙ったメレンゲなのでは。まあAIがキッシュとケーキを変に混ぜた結果な気もするけど。
>>30
2週間放置したケーキならキッシュに見えなくもないか!
2週間放置したケーキならキッシュに見えなくもないか!
>>30
一応キッシュってラベルだったんだ、写真の切り取り方が悪かっただけ 🙂
一応キッシュってラベルだったんだ、写真の切り取り方が悪かっただけ 🙂
>>30
「AIがキッシュとケーキを変に混ぜた結果」って、じゃあ「キッシュキ」? 「ケーッシュ」?
「AIがキッシュとケーキを変に混ぜた結果」って、じゃあ「キッシュキ」? 「ケーッシュ」?
>>7
平均への回帰の話だと思う。下手な書き手・考え手はAIによって底上げされて、その出力に感心しやすい。逆にちゃんとした書き手・考え手は、LLMの「平均的な出力」に引きずり下ろされる。
平均への回帰の話だと思う。下手な書き手・考え手はAIによって底上げされて、その出力に感心しやすい。逆にちゃんとした書き手・考え手は、LLMの「平均的な出力」に引きずり下ろされる。
>>7
「パソコンを使わない仕事の人はAI文章を見抜くのが下手」って話、たぶん単に人を信じやすい・世間知らずなだけだと思う。テック業界の人間は今めちゃくちゃ警戒して積極的にAIの痕跡を探してるけど、その外側の人たちはほとんど気にもしてない。
「パソコンを使わない仕事の人はAI文章を見抜くのが下手」って話、たぶん単に人を信じやすい・世間知らずなだけだと思う。テック業界の人間は今めちゃくちゃ警戒して積極的にAIの痕跡を探してるけど、その外側の人たちはほとんど気にもしてない。
>>7
いや、それは違う。言葉遣いにそれなりに気を配る人なら、AI丸出しのコンテンツには誰でも気づくし、嫌悪感を覚えるはず。
いや、それは違う。言葉遣いにそれなりに気を配る人なら、AI丸出しのコンテンツには誰でも気づくし、嫌悪感を覚えるはず。
他サイトの新着
>>7
違いの一部は「ろくにプロンプトを練らなくてもClaudeの出力だと分かるかどうか」だと思う。ちゃんと工夫すれば見分けがつかない文章も作れるけど、気にせずデフォルト設定のまま量産してる人たちは、めちゃくちゃ分かりやすい「サイン」を残してる。
違いの一部は「ろくにプロンプトを練らなくてもClaudeの出力だと分かるかどうか」だと思う。ちゃんと工夫すれば見分けがつかない文章も作れるけど、気にせずデフォルト設定のまま量産してる人たちは、めちゃくちゃ分かりやすい「サイン」を残してる。
>>35
そう、あの「クロード語」が動かぬ証拠になる。
そう、あの「クロード語」が動かぬ証拠になる。
>>12
ほんとに不思議。「AIが作ったものだから重要じゃない」っていう認知バイアスなのかもしれないけど、10年前に読んだ本の内容も、1年前の本も、2ヶ月前に読み終えた本の内容も鮮明に覚えてる。なのに昨日Claudeに言われたことは全然覚えてない。
ほんとに不思議。「AIが作ったものだから重要じゃない」っていう認知バイアスなのかもしれないけど、10年前に読んだ本の内容も、1年前の本も、2ヶ月前に読み終えた本の内容も鮮明に覚えてる。なのに昨日Claudeに言われたことは全然覚えてない。
>>45
たぶん、AIの出力はもっと深いレベルで認知的に均質で変化がないからだと思う。
たぶん、AIの出力はもっと深いレベルで認知的に均質で変化がないからだと思う。
>>16
おかげで正気を保てたよ、ありがとう。
おかげで正気を保てたよ、ありがとう。
>>36
実装さえ正しければ、電子透かしは（平均的には）文章のクオリティに影響しない。
実装さえ正しければ、電子透かしは（平均的には）文章のクオリティに影響しない。
>>41
「本当の意味でのエッジ（際立ち）がない」ってまさにそれ。何か見えない次元で完全に均質になってる感じ。追記: ベイトソンの「情報とは差異を生む差異である」という言葉をふと思い出した。
「本当の意味でのエッジ（際立ち）がない」ってまさにそれ。何か見えない次元で完全に均質になってる感じ。追記: ベイトソンの「情報とは差異を生む差異である」という言葉をふと思い出した。
>>50
wwww 笑った
wwww 笑った
この話題の背景と論点
ChatGPT公開(2022年)以降、ウェブ上の文章にLLM生成物が急速に混ざり始め、RLHFによる調整の結果、「単なる〜ではなく〜」型の対比表現や過剰な列挙、絵文字混じりの箇条書きといった特徴的な文体が定着してきた経緯がある。一方で市販の「AI判定ツール」は誤検知率が高く、技術的に確実な判別手段は今のところ存在しない。
スレで意見が割れたのは、この「文体劣化」がAI固有の新現象なのか、それとも企業のミッションステートメントやRedditの体験談調がもともと持っていた冗長さの延長に過ぎないのかという点、そしてIT業界人は警戒心が強く見抜きやすい一方、非IT層は無警戒だとする見方の是非である。
読者が誤解しやすいのは、「AIらしさ」がモデルの技術的限界ではなく、学習方針(ファインチューニング)次第で変わりうる可変的な特徴にすぎない点だ。人間の文章まで疑ってしまう現象自体、確実な判定基準がない中での主観的な違和感であり、実際にAI生成文と誤認されているケースも起こりうる。
※本記事は5ch(Hacker News)スレッド「I’m Becoming AI-Blind」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。