「MSペイント」がAI生成画像に見えない透かしを付与、海外エンジニアの解析が話題に
姉妹サイトの新着
あるエンジニアが公開した検証記事によると、Windows標準の「ペイント」や「フォト」アプリは、AIで生成した画像にGUID形式の見えない透かしを埋め込んでいることが分かった。
Hacker Newsのスレッドでは、透かしの仕組みそのものより、ユーザーの同意なきデータ収集がGDPR違反にあたるのではという指摘や、写真の真正性を証明する仕組み（C2PAなど)への応用可能性、透かしを回避する方法をめぐる議論に発展した。
MSペイントとフォトは、ローカルで生成した画像にすら見えないGUID透かしを埋め込んでいる
出典: xusheng.dev / 元記事はこちら
「paint.net」という名前のアプリがネットに繋がっている状態でAI使用の有無を判定できても驚くことじゃないと思う（Paint.netを使ってたのはもう10年以上前だけど）。
Paint.netの名前は.NET Frameworkから来ていて、URLやインターネットを指しているわけじゃないと思う。
そういう意味じゃなくて、paint.netはオープンソースのアプリで、PaintはMSPaintの後継のことだよ。
すべての生成AIモデルが透かしを入れるわけじゃない。特に敵対的なモデルや偽情報用のモデルは入れないだろう。
難しいのは、どこまでの後処理を許容するか決めることだと思う。今のスマホカメラってかなり画像を最適化してる気がするし、そのうちどこまでが「AI」扱いになるのか気になる。
それなら、誰かがパソコンで同じアルゴリズムを使って好きな画像に署名するのを、何が防いでくれるんだ?
これは来歴(provenance)方式の一種で、C2PAという規格。主要なカメラメーカーは全部対応してるし、Googleもそうみたいだ。AppleはiPhoneのサードパーティアプリで対応してるけど、「Apple Reference Image」という独自のものも準備中らしい。個人的には、AI生成の画像や動画を区別できるようにすべきという主張には十分な根拠があると思う…
いや、「このAIがこの画像を作った」ということと「このユーザーがやった」ということの間には大きな違いがある。前者はもっと必要だけど、後者は大きなプライバシー問題だ。この記事はユーザーを特定する話には一切触れていない。
AIじゃない画像でも発動するの? 少なくとも記事にはそう書いてないけど。
一応書いてあるよ。そのGUIDはモデレーション用のエンドポイントから来ていて、プロンプトを基にローカルまたはクラウドでAI画像を生成したときに呼ばれる。プロンプトがなければエンドポイントも呼ばれず、GUIDも付かないはず。もちろんPaintがAI以前から透かしを入れていた可能性はあるけど、この特定のAI透かしについてはそういう仕組みみたいだ。
これは本当にGDPRの鉄槌を下すべき案件。マイクロソフトはこれについて同意を取っていない。
よくてEU向けだけ無効化するくらいじゃないかな…「利用規約に書いてある」で押し切れなければの話だけど。
「AI生成テキストの警告」ってやつ、これは違うと思う。箇条書きを使ってるからそう判定してるだけじゃないの?
その警告の意味がよく分からない。
そのブログ記事は少なくとも部分的にAIで生成されているという指摘だよ。
もっといい方法がある。コンピューターを使うのをやめるか、使うにしてもLinuxにすることだ。今や本当に何もかもが監視してる。文字通り全部。自分は最近、こういうAIによるプライバシー侵害を避けるためにMacBook M1をSonomaにダウングレードした。
まあ気休めになるなら言うけど、AIでミーム画像を生成してからPaintに貼り付けて面白い文字を足せば、両方のいいとこ取りができるよ。
汎用の透かし除去ツールを書くのはもうかなり簡単になってる。LLMにやらせれば済む話。
コードにアクセスできない状態だと、透かし付与システムへのAPI呼び出しが無制限にできたとしても、かなり難しいと思うけどな。
Windows 11は事実上ユーザーにMicrosoftアカウントの登録を強制する。それさえ済んでしまえば、あとは何も知らないユーザーがECサイトのフォームに住所を入力してオートフィル用に保存するだけで十分だ。
「クレジットカード会社に登録する郵送先住所は確認しておくこと」というやつだけど、初歩的な質問ですまないけど、郵送先住所として何を使えばいいの? private mailboxを借りるとか、転送サービスを使うとか、そういう感じ?
これは一般市民にとってはおよそ現実的じゃない。スケールする解決策があるとすれば、この手のことを違法にすることだろう。
いつも通り、一番効いてほしいところに限って効かないってことか。
まあ、回避策自体は難しくはなくて、ただ面倒なだけだと思う。スクショを撮って画像形式を変えてメタデータを消すとか、あるいは印刷してカメラで撮り直してGIMPみたいなソフトで加工するとか、一手間二手間かければ済む話。
他サイトの新着
今の時代、署名も何もない写真が証拠として提出されて、それでも裁判所が信じてしまうことを考えてみてほしい。
まさにそれ。しかもそこに「機械が暗号学的に本物だと証明した」というお墨付きまで付いてくるわけだ。
あるいは、その「完全に本物の写真を撮るカメラ」で、AI生成のシーンを撮影するとか?
実はPaint.netは最近になってようやくpaint.netドメインの所有権を得たんだよね、22年もかかって。 https://www.xda-developers.com/after-22-years-paintnet-downl…
ああ、そうだった、うっすら覚えてる。でもローカルLLM以外でどうやって/なぜAIが使われたと分かるんだろう、AIが使われたと表示するのは変な気がする（ソフト自体のことを言っているのでなければ）。
攻撃者がデバイスを操作して任意のピクセルに署名させられるなら、署名なんて実質何の意味もない。正直な光子と偽りの光子を見分けられるカメラの作り方なんて、誰も知らない。
念のため言っておくと、政府のような資金力のある組織なら、電子顕微鏡を使ってTPMハードウェアから鍵を抽出できる。
旅行中に君のカメラを盗んだら、僕が君の写真の所有権の証明を手に入れることになるの? TPMをリセットする必要が出たら、以前撮った写真の権利はどうやって取り戻せばいいんだ?
ついにNFTのまともな使い道が見つかったな。（皮肉）
そう、これは起こるべくして起こる災害だよ。
この話題の背景と論点
MSペイント/フォトの透かしは、Microsoftが公開しているInvisMarkという仕組みに基づくもので、プロンプトを使ってAI画像を生成した際にモデレーション用エンドポイントが呼ばれ、そこでGUIDが埋め込まれる仕組みとされる。写真の真正性証明という文脈では、Adobeやカメラメーカー各社が策定に関わるC2PA規格が既に存在し、実装が進んでいる点も背景にある。
スレで意見が割れたのは、この透かしが同意なきデータ収集としてGDPR違反にあたるかという法的評価と、透かし回避の容易さ(APIさえあれば簡単/コードがなければ困難)の評価だった。
誤解されやすいのは、この透かしが全ての画像に付くわけではなく、AI生成時のプロンプト処理を経た場合に限られるとされる点、また「AIが生成した」という来歴情報と「どのユーザーが操作したか」という個人特定情報は別問題であり、記事自体は後者には言及していない点である。スレ内でもPaintと類似名の別アプリ「Paint.net」を混同する書き込みが見られた。
※本記事は5ch(Hacker News)スレッド「MS Paint and Photos inivisibly watermark even locally generated output with GUID」より抜粋・要約して構成しています。
まだコメントはありません。