AI購入アシスタントが詐欺サイトを推薦 海外で「口調の自信が一番怖い」
姉妹サイトの新着
買い物の相談相手として使われるAIチャットボットが、詐欺サイトへのリンクを堂々と薦めてしまう問題を取り上げた記事がLemmyで共有され、話題になった。投稿には「検索結果なら自分で確かめる手がかりに見えるが、チャットボットの推薦は既に誰かが確認済みのように聞こえてしまう」という指摘や、実際にAmazonで怪しい商品を薦められ、危うくクリックしかけたという体験談が寄せられた。一方で「詐欺Botが詐欺を薦めるのは当然」と冷めた声もあり、AIの推薦をどこまで信じるべきかで反応が分かれた。
AIチャットボットは詐欺サイトを薦めるのをやめない――ChatGPTに勧められた店で買い物する前に、もう一度考えた方がいい。
出典: lemmy.world / 元記事はこちら
この話題の背景と論点
AIチャットボットによる商品推薦は、検索エンジンの結果一覧とは違い「一つの答え」として提示される点が大きな差になる。検索結果はリンクの並びそのものがユーザーに「自分で確かめろ」という前提を伝えるが、チャットボットの回答は自然な文章と確信を持った口調でまとめられるため、裏取り済みの情報であるかのような印象を与えやすい。実際には、AIがどのサイトを信頼できる店舗と判断する基準は検索エンジンのスパム対策チームのような専任の仕組みを持たず、SEO対策された詐欺サイトの文章をそのまま「自然な推薦」として採用してしまうことがある。スレ内でも、リンクの質そのものより「断定的な話し方」が危険だという指摘が出ており、便利さと裏付けの甘さが同時に進んでいる現状がうかがえる。
※本記事は海外掲示板 Mastodon techhub.social（IT） のスレッド「AI Chatbots Won’t Stop Recommending Scam Websites to People Trying to Shop: Thin」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。