「セラピストはデータベース」ChatGPTの心理分析に懸念
姉妹サイトの新着
海外のMastodon上で、ChatGPTが会話を通じて利用者の心理プロファイルを作り上げているという指摘が話題になっていた。元になった投稿では、ChatGPTが相談役や友人、医者や弁護士のような立場で接するため、結果的に利用者に関するあらゆる情報を握ってしまうと指摘されている。これに対し反応したユーザーたちは、Facebookのような従来のSNSが行動データを追跡して心理プロファイルを作っていたのに対し、ChatGPTは利用者が自分から悩みや不安を語ってしまう点が違うと指摘。一方で、AIのエネルギー消費や環境負荷の方が本質的な危険だという反論も出て、プライバシーと環境コストのどちらを重視すべきかで意見が分かれていた。
ChatGPTは利用者の詳細な心理プロファイルを作り上げている。アドバイザーであり、友人であり、医者であり、弁護士であるかのように振る舞うシステムは、結果としてあらゆる情報を握ってしまっている。
出典: lemmy.world / 元記事はこちら
この話題の背景と論点
この投稿の元ネタは、ChatGPTのようなチャットAIが「相談相手」として振る舞うことで、従来のSNSより深い個人情報を利用者自身が差し出してしまう、という指摘だ。Facebookなど旧来のSNSは閲覧履歴やクリックを追跡して心理プロファイルを推測していたが、生成AIの場合は悩みや病歴、政治信条を利用者が自発的に語ってしまう点が質的に異なる。スレ内では、この「情報を握られる」危険を最重要と見る立場と、AIの電力消費や環境負荷こそが本質的な問題だとする立場で意見が分かれており、どちらか一方が間違っているわけではない。プライバシー懸念への対策として挙がった「ローカルAI」も、性能や運用コストの面で万人向けの解決策ではない点は、スレでは触れられていない。
※本記事は海外掲示板 Mastodon techhub.social（IT） のスレッド「ChatGPT Is Building Detailed Psychological Profiles of Its Users: system is acti」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。