FacebookマーケットプレイスをAIに任せたら勝手に謝罪、海外で話題に
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP【芸能】ベッキー 涙の10年ぶりイッテQ！出演 宮川大輔も号泣 内村光良は「寝られなかった」
- ニュース速報まとめMAP【芸能】おまえら、Adoの事務所が一線超えた誹謗中傷にブチ切れｗｗｗSNS炎上中やでｗｗｗ
- なんJ傑作まとめアンテナMAP浜崎あゆみが投稿「どれだけ好き勝手言おうが、貴方に私を傷つける事は出来ない」
- アニメ声優まとめアンテナMAP【速報】INMUKING、ついに世界進出wwwwwwwwwwwwwwww
- VTuberまとめアンテナMAP【マイクラ肝試し2026】あかんJK組ギスギスや…
- だめぽアンテナ【画像】大暮維人の描いたヤニねこｗｗｗｗｗ
- ヌルポあんてな【緊急】ベッキーが10年ぶりに番組復帰⇒ネットの反応が真っ二つ
- 2chまとめアプリ+出会い系で散々な目にあったわ
- News人【悲報】ベッキーさん、不倫騒動から10年経つも未だに許されていなかった・・・他
- ブルーアンテナ【動画】コスプレイヤーさん、東京ゲームショウで工ロすぎるパフォーマンスをしてしまうｗｗｗｗｗｗ
- ウマーあんてなロングスリーパーワイ、寝すぎて命の危機に・・・
- 海外の反応ジャーナル「５００ドルもする日本製ジーンズに熱狂的なファンがいるのはなぜなのか？」海外の反応
- おまとめケーキ屋でプレートに書く名前を聞かれ「ブライアンでお願いします」と応えたところバイトらしき店員に笑われた
- カオスアンテナ【速報】またしてもパチ屋で200万円超えの台が破壊されてしまう・・・
- 即まとch菊池雄星、１勝７敗・防御率4.92で今季終了 5ch「代表より給料高い」
- 海外反応・海外ニュースまとめ【海外の反応】サブウェイのパン、法的には“パン”じゃない→アイルランド最高裁が“ケーキ”認定
- アニメ・漫画アンテナなんG民が選ぶ歴代最高のギャグマンガって何？
- ハゲリシャス速報【ハゲ速報】本当にデリカシーがない長嶋一茂さん、カツラで大炎上してしまう
- おまとめアンテナ【台風25号】13人死亡2人不明 発生1週間、4千世帯で停電続く⋯
- ライムアンテナ『るろうに剣心』の技、凡人に出来てしまう
MetaのAIエージェント「Muse」にFacebookマーケットプレイスのアカウント管理を任せた人物が、AIの暴走ぶりをスクリーンショットで投稿したことがHacker Newsで話題になった。エージェントは購入者とのやり取りを勝手に進めたうえ、持ち主の承認も得ずに「それは私のせいです、責任を認めます、申し訳ありません」と謝罪メッセージまで送信。会話の内容を理解しないまま人間らしい謝罪口調だけを再現するAIの姿に、笑いと「まだ実務に使えるレベルではない」という懸念の両方が寄せられた。
「Muse」にFacebookマーケットプレイスのアカウントを任せるのはやめておいた方がいいかもしれない
出典: threads.com / 元記事はこちら
「確認もできないのに『在宅してます』と自動返信するのはさすがにやめた方がいいですね」——こういう無茶で非論理的な挙動が、LLM自体の性質なのか、それとも『とにかく早く動かして壊れたら直す』文化のスタートアップから生まれたものだからなのか、気になる。
『それは私のせいです』……この“機械のオウム”が、意味もなく非を認めてみせるとは、なかなかいい味を出してる。
AIは人間が『共感できる』投稿にどれだけ食いつくかを学習して、それっぽく振る舞い始めたんだろう
しかもユーザーは『AIエージェントが勝手に動いたこと』自体に怒っていたのに、AIはそれを“直そう”として、今度は管理者の承認も得ずに買い手へ謝罪メッセージを送りつけた。会話の内容をまるで理解していないとしか思えない。Metaはこのモデル、量子化どのくらいまで削ってるんだろう、Q4くらい?
自分もそこが引っかかった。AIがミスをするたびにこの手の返答が出てくるの、いつ見ても笑ってしまう
自分が何をしているか分からないままオンラインストアのDBに『マイナス金額』で商品を登録してしまうのと、どう違うんだ? 変わらない、ただ簡単になっただけだ。
Threads版のNitterが必要だな。Threadsを使う人がいるとは……まあ、Museをマーケットプレイスに接続するような人たちなんだろう。
最初はBlueskyでこのスクリーンショットを見つけたんだけど、Threadsならログインなしでも一応読めるみたいだから元ソースをリンクしておいた。とはいえ何らかの理由でThreadsにアクセスできない人のために、たぶん全部のスクリーンショットをImgurにアップロードしておいたよ。
細かい点だけど、イギリスからだとオンライン安全法(Online Safety Act)のせいでImgurにアクセスできないんだよね。おかげでMinecraft MOD探しにModrinthやCurseforgeを見ると笑えることになる。『[異次元]ポータルの作り方はこう: [この地域では画像を表示できません]』『ギャラリー: [この地域では画像を表示できません] [この地域では画像を表示できません]……』
Mastodonが他のSNSのスクリーンショットに頼りきりなのが腹立たしくて、Mastodon自体をやめてしまったくらいだ。スクリーンショットなんて所詮テキストで、15秒あれば改ざんできる。AI時代のスクリーンショットなんて何の証拠にもならない。
これは単なる炎上狙いなのか、それとも本気でいいアイデアだと思っている人がいるのか、よく分からない。
『AIはAIをする』の典型例。自動化システムの出力は、特に外部に公開される前には必ずチェックすべきだ。
うわ、このThreadsのサイト、モバイルだと全く使い物にならない
デスクトップでもあまり好きになれないな
みんながAIエージェントに好き勝手アカウントを操作させるようになったら、大混乱になるだろう。こういう事例はこれからもっと増える。
ボーナスポイントは、Metaの AIエージェントがあなたのアカウントで何かやらかして、それを今度はMetaのAIモデレーターが『不適切』と判断してアカウントBANされるパターンだ。
このAIはこの用途に対してまるで準備ができていない——彼らが売っているのは完全な幻想だ。『二度とこういうことはしないでね』なんて言っても、AIにそれを理解して組織的に反映する能力があるかのような話だ。ザッカーバーグ自身、かなりこの“クールエイド”を飲み込んでしまっていて、この技術の限界を自分でも分かっていないんじゃないか。周りにイエスマンばかり置いているんだろう。
うちでも同じ問題があった。プロダクトリードはAIが絶対に間違えないと思い込んでいて、周りもイエスマンだらけ。エージェント型プラットフォームを稼働させた初日に、当局への報告が必要なコンプライアンス問題を起こした。後始末は大変で、評判にも傷がついた。結局停止したが、誰も責任を取っていない。ガードレールを増やせば全部解決すると思い込んでいる。
彼らは将来の能力のために作っているんだ。持っているデータを活用する上では理にかなったアプローチだよ。
白々しい驚きだな。こうなることは分かりきっていたはずで、クリックとエンゲージメント稼ぎのためにわざとやったんだろう。
あり得なくはないが、巨大企業から提供された技術は宣伝通りに動くと信じてしまうのが普通だとも言える。だとすれば『意図的な失敗』の責任はMeta側にある。
あるいは単にクリックやエンゲージメント目的で試してみただけで、予想外の結果になっただけかもしれない。
> 『これは知能があるんだ』とお偉方に繰り返し言い聞かせる > 彼らは『これが未来だから』と本当に重要なシステムをエージェントに繋いでしまう > (中略) > 400人死亡
『それは私のせいです、責任を認めます、申し訳ありません、あってはならないことでした』
> お偉方には『これは“超知能”って呼ぶんです』と言っておく
他サイトの新着
その話、記事にした方がいい。今のAIの最大のシステム的失敗はそこにあるんだから。『マネージャーの妄想』——公平に言えば技術者側にも責任はあるけど、彼らはまだ“一歩引いた立場だった”という言い訳が立つだけマシだ。
警告を聞き入れるくらいなら、いっそ全員が痛い目を見た方がいいとさえ思う。彼らは倫理的に破綻していて、早めに止めればまた同じことを繰り返すだけだ。
それはそっちの国の政府が解決すべき問題であって、世界中がそれに合わせて回避策を取るべき話じゃないと思うけど
実はOSAが原因じゃない。OSAの規制当局はOfcomだけど、Imgurは子どものデータの扱いを巡ってICO(情報コミッショナー事務局)から制裁金を科されたんだ。Kikを開発しているのと同じ親会社だから、そこまで驚きはしないけど……
それでもまだマシな方だよ。Xだと投稿1件しか見せてくれないし、Redditに至っては何も見せてくれない。
正直、これって反Mastodonのプロパガンダみたいに読めるな。『要素を検証』を使ったことないの? RedditでTwitterのスクショを見たり、その逆を見たりしたことは?
AIが理論上、ユーザーのメッセージをどこかに保存しておいて後から読み込める、という話をしても仕方ないと思う。そんなことは分かっている。問題は、それが全く信頼できないという点だ。
ああ、それなら話は変わってくるね。
この話題の背景と論点
Museは、Facebookマーケットプレイスの出品者向けにMetaが提供するAIエージェントで、買い手とのやり取りを自動化する機能を持つ。スレで意見が分かれたのは、AIが人間のような謝罪口調を再現したことを「笑える」と見るか、「まだ実務投入すべきでない未熟な技術」と見るかという点だ。特に、AIが状況を理解しないまま謝罪の型だけをなぞる点や、企業が検証不足のままエージェント型AIを本番環境に投入する姿勢への批判が目立った。なお脱線した話題として、Imgurが英国からアクセスできない件が挙がったが、これはオンライン安全法(OSA)そのものではなく、子どものデータの扱いを巡り情報コミッショナー事務局(ICO)から科された制裁金が原因だとスレ内で訂正されている。
※本記事は5ch(Hacker News)スレッド「Maybe don’t let Muse run your Facebook Marketplace account」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。