ChatGPTが生成する偽漫画に実在画家のサインが紛れ込む
姉妹サイトの新着
ChatGPTで「ニューヨーカー」誌風の漫画を生成すると、実在する風刺画家のサインまで勝手に描き足されてしまう——そんな指摘がニーマンラボの記事をきっかけにHacker Newsで注目を集めた。投稿者たちからは「自分も同じ経験をした」「サインを手作業で消す羽目になった」という報告が相次いだ。議論は単純な「AIによる著作権侵害」にとどまらず、これは意図的な署名偽造なのか、学習データ由来の「最も確率の高いピクセル配置」が出ているだけなのかという技術的な論点、さらにコードや学術論文の無断学習問題にまで広がり、見解はいくつにも割れた。
ChatGPTが生成する偽のニューヨーカー風漫画に、実在する風刺画家のサインを勝手に入れている
出典: niemanlab.org / 元記事はこちら
AIがエンジニアの仕事を奪っていることには誰も関心を持たないみたいだな。誰でも適当にプロンプトを打つだけで『情報さえ手に入ればいい』レベルのニーズを満たせてしまうなら、経済に何が残るんだ?介護、保育、便利屋くらいか。YouTubeの広告なしプランにすら金を払わない人が大半なのに、たとえ劣化版だとしても代替品としてのAIにソフトウェア業界が耐えられるとは思えない(しかも劣化版とも限らない)。
マイクロソフトの応用科学ディレクターが『人類史上最大の労働の窃盗』と呼んだもの[1]。
[1] 訴訟関連文書より
AIが嫌いなのは勝手だけど、『盗作がビジネスモデル』ってのはTwitterで叩くための雑な決めつけでしかない。明らかにそんなビジネスモデルじゃない。ずっと自分でも盗作し放題だったなんて知らなかったよ(笑)
『AIは間違えることがあります』みたいな注意書きがどれだけ並んでいても、実際のサービス設計は『一発で完結』させることを明確に狙っている。こうしたツールの本質は『楽をしたい』というニーズに応えることで、細かく検証する気を失わせる方向に働いている。
『たいていのユーザーがそんな手間をかけないのも当然』か。それなのに、なぜAIに対する世間のムードがこんなに悲観的なのか不思議がられている。結局AIは社会にもともとあった『割れ窓』を暴き出しつつ、ついでに新しい割れ窓も増やしているだけなんだよな。
アーティストは、自分のサインを偽造されるたびに名誉毀損でOpenAIを個人的に訴えられるようにするべきだ。
Claudeって画像生成やってないよね?
これは『サインしよう』という意図じゃなくて、特定のスタイルの漫画に特定のサイン(またはサインの様式)が出現する確率の問題だと思う。
SynthIDの電子透かしは入れるけど、目に見えるサインは入れない、というのが答えでは。
なぜこれがバグなんだ?生成されたイラストの他の部分も同じように特定のアーティストから『拝借』しているなら、サインだけ別扱いする理由は?サインだけが一線を越えていて、残りの部分は越えていないと言える根拠は?
違いがあるとは思えない。コードだって(コピーレフトも含め)絵と同じくらい著作権で保護されているのに、LLMのスクレイパーは平気で使っている。数学や科学の論文も同じことだ。
倫理的にデータを集めることと、性能が良いことは両立しない。今のモデルの『賢さ』は、実質的に盗まれたデータの膨大な学習セットに支えられている。
OpenAIとAnthropicは海賊版データセットという、文字通り盗まれたデータで学習している。一方Googleはもともと(Google Booksなど)その手のデータの多くを保有していて、使い方のライセンス的な疑わしさはあるものの、そこまで悪質ではない。ただNYTのペイウォールを突破していたりはしたらしいから、それも窃盗には変わりない。
モデルは学校に通っているわけじゃないんだから、『盗作』という概念自体が当てはまらないのでは。
本気で言ってるのか冗談なのか分からない。
他サイトの新着
『LLMは(巨大な)次トークン予測器以上の何かだ、と主張する人たちへの有力な反論だ』とのことだけど、このコメント自体が『批判したいなら、もっと技術を理解したほうがいい』といういい見本になっている。この件はそもそもLLMとは関係ない。LLMは画像生成モデルじゃない。
『LLMは画像生成モデルじゃない』というけど、アヒルと呼ばれたくないなら鳴き真似をやめた方がいい。本当はアヒルじゃないのかもしれないけど、AIが画像を生成する仕組みについてこういう話が出てくる時点で、自分の主張を助けられていないよ。
バグというのはつまり『ニューヨーカー漫画の隅に来る確率が最も高いピクセルの塊を生成してしまった』ということだと思う。
機械が自分の作品に『サイン』する場合、それは『透かし』と呼ばれる。今後数年でAI利用の開示義務の一部として、それが必須になったとしても驚かない。
『AIがエンジニアの仕事を奪っていることに誰も関心を持たない』というけど、そもそも世間はデバイスの裏にいるIT技術者たちのことを広く気にかけたことなんてあったか?
IT技術者自身が何年も前から他の人たちの仕事を自動化で奪ってきた側だろ。今さら彼らの心配を誰がするんだ。
アーロン・シュワルツの一件を思えば、こういう連中こそ刑務所に入るべきだ。
画像生成はできない、警察にユーザーを売る、Claudeは日に日にダメになっていってる。
『すでに現代のあらゆるデータセットに不可逆的に入り込んでしまった』か。ついに『グレイグー』シナリオが実現する……AI版で。これはむしろ人類にとってのハッピーエンドだな。最高だ、詩的だし説得力もある。データは自然のように『回復』したりしないからね(笑)
そうだね、そのためには人類がこれまで生み出してきた知的生産物を全部盗むだけで済んだわけだ。でもまあ、それを倫理的にやる方法が……あるんだっけ?
この話題の背景と論点
この現象の背景には、生成AIが学習データの特徴量をそのまま再現してしまう仕組みがある。『ニューヨーカー』誌の風刺漫画は画風とサインが強く結びついた学習データであるため、AIは絵柄だけでなく実在画家のサインまで統計的に出現確率の高い要素として生成してしまう。スレで意見が割れたのは、これを単なる「バグ」とみなすか、「学習データの使い方自体が問題」とみなすかという点だ。アーティストが名誉毀損で訴えられるようにすべきだという声がある一方、コード生成や論文要約でも同様の無断学習が常態化している以上この件だけを特別視すべきではないという声も根強い。NYTによるOpenAI提訴など進行中の著作権訴訟の文脈を踏まえると、議論の位置づけが分かりやすい。なお、スレ中にあった特定人物の死をめぐる憶測的なやり取りは、事実確認が取れないため本記事では割愛した。
※本記事は海外掲示板 Hacker News のスレッド「ChatGPT is adding real cartoonists’ signatures to fake New Yorker cartoons」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。