Claudeへの日記をAnthropicが通報、フロリダの女性に重罪容疑
姉妹サイトの新着
フロリダ州の女性が、Anthropicのチャットボット「Claude」に日記のような文章を書き込んだところ、その内容がAnthropicから警察に通報され、州法上の「暴力をほのめかす文書による脅迫」で重罪の容疑をかけられているという報道がHacker Newsで話題になった。AIチャット運営会社が利用規約に基づき会話内容を人が確認できるとしている点や、チャットへの書き込みが「他人が見られる形の伝達」に当たるのかという法解釈をめぐり、スレでは意見が割れた。AIを友人のように使う人が増える一方、プライバシー保護の法整備が追いついていないという背景もある。
AnthropicがClaudeとの日記のようなやり取りを警察に通報し、フロリダの女性が重罪の容疑をかけられている
出典: techspot.com / 元記事はこちら
ヨーロッパがやるべきなのは、メッセージが米国のサーバーに届かないようにするサービスを市民に提供することだ。そうすれば盗み見るのは一か所だけで済む。世界中の半分に見られるよりはましだろう。
昔、アメリカに帰国する際の預け荷物に『1984』を入れていたら、家で荷物を開けたときTSA(米運輸保安庁)が検査したという通知がその本の中に入っていたことがある…
行き過ぎるとこうなるかもしれない。ノイズ除去のためにmp3をLLMに渡したら、それが違法にYouTubeからダウンロードされたものだと検出され、ファイルを削除された上に紐付けられたクレジットカードから自動的に罰金を取られる、なんてことも考えられる。
独占的なLLMがいつか自分の利益に反する動きをする日が来たら(それは必ず来る)、オープンモデルのありがたさが分かるだろうな。
その前に自分たち自身に罰金を科さないといけなくなるんじゃないか?
『秘密の親友とチャットしているわけではなく、ビッグテックとチャットしている』ということを、みんな理解する必要がある。その通り。AIチャットに関するプライバシー保護の法律が一切ない今、政治的な見返りを狙うAI企業のCEOが、対立候補や地域住民全員の個人的なやり取りを誰かに引き渡すのを止めるものは何もない。
ある男性が自分の子供の写真を医師に送るために撮影しただけなのに、それがGoogleフォトにアップロードされ、児童性的虐待コンテンツ(CSAM)と判定されて10年以上使っていたGoogleアカウントを停止された、という件もあった。別の人も言っていたように、君がチャットしているのは友達ではなくビッグテックだ。ビッグ・ブラザーをどれだけ愛しているんだい?
心配しなくていい、彼らはそのメッセージを永久に保存して、都合の良いときに君を投獄してくれる。
LLMは今『他人』になったのか?
Anthropicの利用規約で人間がチャットを読むことを認めている以上、それが法律に違反する根拠になるんだろう。Anthropicがその規約を入れていなければ、書いた内容自体は違法にならなかったはずだ。
それを運営している会社は『他人』だ。
彼女の弁護士がどれだけ優秀かによる。
ただしAnthropicが支援している『戦闘員』の側にいるなら別だろうけど。
これはClaude自体とは関係ない話だ。『考える』のは合法だが、『書いて誰かと共有する』のはあちこちで違法になる。(関連ニュースへのリンクが続く)
それは理解できる指摘だと思う。多くの人にとって『書く』ことは『考える』ことの一部で、日記や手帳をつけている人は特にそうだ。誰にも見せないつもりで私的な日記に書いているなら、素人目にはこの法律には引っかからないはずだ。
他サイトの新着
それを言うなら、AIが人類を滅ぼすと言い続けているAnthropicやOpenAIのCEOたちも通報されるべきなのか?
ログを監査することを『他人が見られる』と解釈するのは、かなり無理がある。
ほとんどの人はAnthropicが自分のメッセージを読んでいないという前提で使っているはずだから、ここでは『犯意』が欠けているんじゃないかと思う。
そのうちAIモデルを使うには免許が必要になるかもしれない。安全のため、とか言って。もちろん関係機関への適切な報告義務つきで。
その日はもう来ている。大手テックのLLMは普通に、君がやりたいことを拒否してくるじゃないか。
聞けばきちんと教えてくれる。自分の情報がどう扱われるか、このケースも含めて、少なくとも4か月前に私が尋ねたときにはそう説明されていた。
この話題の背景と論点
フロリダ州の脅迫罪は、暴力をほのめかす文書を「他人が見られる形で」伝達した場合に重罪となる規定で、今回はその「他人が見られる形」にAI企業による人の目でのチャットレビューが当たるかどうかが争点になっている。主要なAI企業は近年、自殺や暴力をほのめかす会話を安全対策として人が確認し、必要に応じて通報する運用を利用規約に明記しており、今回の通報もその一環とみられる。スレで意見が割れたのは、この運用を「利用者や第三者を守るための正当な措置」と見るか、「友人のように話しかけた相手が実はビッグテックで、内心を記録・通報される監視装置」と見るかの違いだ。過去にGoogleフォトが子どもの医療用写真を誤って児童性的虐待コンテンツと判定しアカウントを停止した事例も引用され、自動判定の誤作動がすでに前例として存在することも論点として挙がった。
※本記事は海外掲示板 Hacker News のスレッド「Anthropic reported diary entry to police, woman faces felony charge」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。