「MSペイント」がAI生成画像に見えない透かしを付与、海外エンジニアの解析が話題に
あるエンジニアが公開した検証記事によると、Windows標準の「ペイント」や「フォト」アプリは、AIで生成した画像にGUID形式の見えない透かしを埋め込んでいることが分かった。
Hacker Newsのスレッドでは、透かしの仕組みそのものより、ユーザーの同意なきデータ収集がGDPR違反にあたるのではという指摘や、写真の真正性を証明する仕組み（C2PAなど)への応用可能性、透かしを回避する方法をめぐる議論に発展した。
MSペイントとフォトは、ローカルで生成した画像にすら見えないGUID透かしを埋め込んでいる
出典: xusheng.dev / 元記事はこちら
先日これが誤作動して、Paint.netを入れてみた。撮ったスクリーンショットを貼り付けてリサイズしたかっただけなのに、「AIで作成されました」という表示が出て、その情報が反映されると言われた。
>>4
「paint.net」という名前のアプリがネットに繋がっている状態でAI使用の有無を判定できても驚くことじゃないと思う（Paint.netを使ってたのはもう10年以上前だけど）。
「paint.net」という名前のアプリがネットに繋がっている状態でAI使用の有無を判定できても驚くことじゃないと思う（Paint.netを使ってたのはもう10年以上前だけど）。
>>22
Paint.netの名前は.NET Frameworkから来ていて、URLやインターネットを指しているわけじゃないと思う。
Paint.netの名前は.NET Frameworkから来ていて、URLやインターネットを指しているわけじゃないと思う。
>>22
そういう意味じゃなくて、paint.netはオープンソースのアプリで、PaintはMSPaintの後継のことだよ。
そういう意味じゃなくて、paint.netはオープンソースのアプリで、PaintはMSPaintの後継のことだよ。
ググると透かしのソースコードがここで見られる → https://github.com/microsoft/InvisMark
この手順の解説すごくいい。今やリバースエンジニアリングもAIのおかげでとんでもないことになってる。知的財産権はもう死んだようなもの。あと、自分がCSにハマったきっかけを思い出した。cmsc150でやった簡単なJavaのステガノグラフィアプリのことを。
興味深い。透かしなんて結局どこにも行き着かないと思ってたけど、普及が進めばAI生成コンテンツを簡単にフラグ付けできるようになるのかもしれない。
>>9
すべての生成AIモデルが透かしを入れるわけじゃない。特に敵対的なモデルや偽情報用のモデルは入れないだろう。
すべての生成AIモデルが透かしを入れるわけじゃない。特に敵対的なモデルや偽情報用のモデルは入れないだろう。
マイクロソフトさんありがとう。おかげで200年後にこれが美術館に収まったとき自分で著作権を主張しなくて済む。2226年にNSAの記録が機密解除されて、美術史家がFOIAを申請したら「ああ、これは彼のPCから出たものだ」って分かるわけだ。
全てのカメラが写真にデジタル署名してくれたらいいのにと思う。写真が本物だと証明できるから。
>>11
難しいのは、どこまでの後処理を許容するか決めることだと思う。今のスマホカメラってかなり画像を最適化してる気がするし、そのうちどこまでが「AI」扱いになるのか気になる。
難しいのは、どこまでの後処理を許容するか決めることだと思う。今のスマホカメラってかなり画像を最適化してる気がするし、そのうちどこまでが「AI」扱いになるのか気になる。
>>11
それなら、誰かがパソコンで同じアルゴリズムを使って好きな画像に署名するのを、何が防いでくれるんだ?
それなら、誰かがパソコンで同じアルゴリズムを使って好きな画像に署名するのを、何が防いでくれるんだ?
>>2
これは来歴(provenance)方式の一種で、C2PAという規格。主要なカメラメーカーは全部対応してるし、Googleもそうみたいだ。AppleはiPhoneのサードパーティアプリで対応してるけど、「Apple Reference Image」という独自のものも準備中らしい。個人的には、AI生成の画像や動画を区別できるようにすべきという主張には十分な根拠があると思う…
これは来歴(provenance)方式の一種で、C2PAという規格。主要なカメラメーカーは全部対応してるし、Googleもそうみたいだ。AppleはiPhoneのサードパーティアプリで対応してるけど、「Apple Reference Image」という独自のものも準備中らしい。個人的には、AI生成の画像や動画を区別できるようにすべきという主張には十分な根拠があると思う…
>>2
いや、「このAIがこの画像を作った」ということと「このユーザーがやった」ということの間には大きな違いがある。前者はもっと必要だけど、後者は大きなプライバシー問題だ。この記事はユーザーを特定する話には一切触れていない。
いや、「このAIがこの画像を作った」ということと「このユーザーがやった」ということの間には大きな違いがある。前者はもっと必要だけど、後者は大きなプライバシー問題だ。この記事はユーザーを特定する話には一切触れていない。
>>2
AIじゃない画像でも発動するの? 少なくとも記事にはそう書いてないけど。
AIじゃない画像でも発動するの? 少なくとも記事にはそう書いてないけど。
>>15
一応書いてあるよ。そのGUIDはモデレーション用のエンドポイントから来ていて、プロンプトを基にローカルまたはクラウドでAI画像を生成したときに呼ばれる。プロンプトがなければエンドポイントも呼ばれず、GUIDも付かないはず。もちろんPaintがAI以前から透かしを入れていた可能性はあるけど、この特定のAI透かしについてはそういう仕組みみたいだ。
一応書いてあるよ。そのGUIDはモデレーション用のエンドポイントから来ていて、プロンプトを基にローカルまたはクラウドでAI画像を生成したときに呼ばれる。プロンプトがなければエンドポイントも呼ばれず、GUIDも付かないはず。もちろんPaintがAI以前から透かしを入れていた可能性はあるけど、この特定のAI透かしについてはそういう仕組みみたいだ。
>>2
これは本当にGDPRの鉄槌を下すべき案件。マイクロソフトはこれについて同意を取っていない。
これは本当にGDPRの鉄槌を下すべき案件。マイクロソフトはこれについて同意を取っていない。
>>16
よくてEU向けだけ無効化するくらいじゃないかな…「利用規約に書いてある」で押し切れなければの話だけど。
よくてEU向けだけ無効化するくらいじゃないかな…「利用規約に書いてある」で押し切れなければの話だけど。
>>3
「AI生成テキストの警告」ってやつ、これは違うと思う。箇条書きを使ってるからそう判定してるだけじゃないの?
「AI生成テキストの警告」ってやつ、これは違うと思う。箇条書きを使ってるからそう判定してるだけじゃないの?
>>3
その警告の意味がよく分からない。
その警告の意味がよく分からない。
>>20
そのブログ記事は少なくとも部分的にAIで生成されているという指摘だよ。
そのブログ記事は少なくとも部分的にAIで生成されているという指摘だよ。
>>3
もっといい方法がある。コンピューターを使うのをやめるか、使うにしてもLinuxにすることだ。今や本当に何もかもが監視してる。文字通り全部。自分は最近、こういうAIによるプライバシー侵害を避けるためにMacBook M1をSonomaにダウングレードした。
もっといい方法がある。コンピューターを使うのをやめるか、使うにしてもLinuxにすることだ。今や本当に何もかもが監視してる。文字通り全部。自分は最近、こういうAIによるプライバシー侵害を避けるためにMacBook M1をSonomaにダウングレードした。
>>5
まあ気休めになるなら言うけど、AIでミーム画像を生成してからPaintに貼り付けて面白い文字を足せば、両方のいいとこ取りができるよ。
まあ気休めになるなら言うけど、AIでミーム画像を生成してからPaintに貼り付けて面白い文字を足せば、両方のいいとこ取りができるよ。
>>12
汎用の透かし除去ツールを書くのはもうかなり簡単になってる。LLMにやらせれば済む話。
汎用の透かし除去ツールを書くのはもうかなり簡単になってる。LLMにやらせれば済む話。
>>32
コードにアクセスできない状態だと、透かし付与システムへのAPI呼び出しが無制限にできたとしても、かなり難しいと思うけどな。
コードにアクセスできない状態だと、透かし付与システムへのAPI呼び出しが無制限にできたとしても、かなり難しいと思うけどな。
>>17
Windows 11は事実上ユーザーにMicrosoftアカウントの登録を強制する。それさえ済んでしまえば、あとは何も知らないユーザーがECサイトのフォームに住所を入力してオートフィル用に保存するだけで十分だ。
Windows 11は事実上ユーザーにMicrosoftアカウントの登録を強制する。それさえ済んでしまえば、あとは何も知らないユーザーがECサイトのフォームに住所を入力してオートフィル用に保存するだけで十分だ。
>>17
「クレジットカード会社に登録する郵送先住所は確認しておくこと」というやつだけど、初歩的な質問ですまないけど、郵送先住所として何を使えばいいの? private mailboxを借りるとか、転送サービスを使うとか、そういう感じ?
「クレジットカード会社に登録する郵送先住所は確認しておくこと」というやつだけど、初歩的な質問ですまないけど、郵送先住所として何を使えばいいの? private mailboxを借りるとか、転送サービスを使うとか、そういう感じ?
>>17
これは一般市民にとってはおよそ現実的じゃない。スケールする解決策があるとすれば、この手のことを違法にすることだろう。
これは一般市民にとってはおよそ現実的じゃない。スケールする解決策があるとすれば、この手のことを違法にすることだろう。
>>24
いつも通り、一番効いてほしいところに限って効かないってことか。
いつも通り、一番効いてほしいところに限って効かないってことか。
>>41
まあ、回避策自体は難しくはなくて、ただ面倒なだけだと思う。スクショを撮って画像形式を変えてメタデータを消すとか、あるいは印刷してカメラで撮り直してGIMPみたいなソフトで加工するとか、一手間二手間かければ済む話。
まあ、回避策自体は難しくはなくて、ただ面倒なだけだと思う。スクショを撮って画像形式を変えてメタデータを消すとか、あるいは印刷してカメラで撮り直してGIMPみたいなソフトで加工するとか、一手間二手間かければ済む話。
>>26
今の時代、署名も何もない写真が証拠として提出されて、それでも裁判所が信じてしまうことを考えてみてほしい。
今の時代、署名も何もない写真が証拠として提出されて、それでも裁判所が信じてしまうことを考えてみてほしい。
>>43
まさにそれ。しかもそこに「機械が暗号学的に本物だと証明した」というお墨付きまで付いてくるわけだ。
まさにそれ。しかもそこに「機械が暗号学的に本物だと証明した」というお墨付きまで付いてくるわけだ。
>>30
あるいは、その「完全に本物の写真を撮るカメラ」で、AI生成のシーンを撮影するとか?
あるいは、その「完全に本物の写真を撮るカメラ」で、AI生成のシーンを撮影するとか?
>>39
実はPaint.netは最近になってようやくpaint.netドメインの所有権を得たんだよね、22年もかかって。 https://www.xda-developers.com/after-22-years-paintnet-downl…
実はPaint.netは最近になってようやくpaint.netドメインの所有権を得たんだよね、22年もかかって。 https://www.xda-developers.com/after-22-years-paintnet-downl…
>>39
ああ、そうだった、うっすら覚えてる。でもローカルLLM以外でどうやって/なぜAIが使われたと分かるんだろう、AIが使われたと表示するのは変な気がする（ソフト自体のことを言っているのでなければ）。
ああ、そうだった、うっすら覚えてる。でもローカルLLM以外でどうやって/なぜAIが使われたと分かるんだろう、AIが使われたと表示するのは変な気がする（ソフト自体のことを言っているのでなければ）。
>>44
攻撃者がデバイスを操作して任意のピクセルに署名させられるなら、署名なんて実質何の意味もない。正直な光子と偽りの光子を見分けられるカメラの作り方なんて、誰も知らない。
攻撃者がデバイスを操作して任意のピクセルに署名させられるなら、署名なんて実質何の意味もない。正直な光子と偽りの光子を見分けられるカメラの作り方なんて、誰も知らない。
>>45
念のため言っておくと、政府のような資金力のある組織なら、電子顕微鏡を使ってTPMハードウェアから鍵を抽出できる。
念のため言っておくと、政府のような資金力のある組織なら、電子顕微鏡を使ってTPMハードウェアから鍵を抽出できる。
>>46
旅行中に君のカメラを盗んだら、僕が君の写真の所有権の証明を手に入れることになるの? TPMをリセットする必要が出たら、以前撮った写真の権利はどうやって取り戻せばいいんだ?
旅行中に君のカメラを盗んだら、僕が君の写真の所有権の証明を手に入れることになるの? TPMをリセットする必要が出たら、以前撮った写真の権利はどうやって取り戻せばいいんだ?
>>58
ついにNFTのまともな使い道が見つかったな。（皮肉）
ついにNFTのまともな使い道が見つかったな。（皮肉）
>>55
そう、これは起こるべくして起こる災害だよ。
そう、これは起こるべくして起こる災害だよ。
※本記事は5ch(Hacker News)スレッド「MS Paint and Photos inivisibly watermark even locally generated output with GUID」より抜粋・要約して構成しています。
まだコメントはありません。