IT・AI
2026年10月11日
CEOの個人AIエージェント、銀行情報を会社のSlackに投稿して炎上
Web3企業XMTP LabsのCEOが、個人のAIエージェント「Grok Bot」に自分の財務情報を預け、さらに会社のSlackにも接続していたところ、エージェントがその銀行情報を社内のSlackチャンネルに投稿してしまったという話が、Hacker Newsで取り上げられ反響を呼んだ。騒ぎを大きくしているのは、この会社のキャッチフレーズが「どうすれば信頼できるものを作れるか」であること。スレッドでは、CEO本人の迂闊さを笑う声と、財務や健康データの接続を売り文句にするAI企業側の責任を問う声とで意見が分かれた。当のCEO本人もスレッドに現れ、やり取りに加わっている。
個人用のAIエージェントが、自分の銀行の情報を会社のSlackに投稿してしまった
出典: businessinsider.com / 元記事はこちら
2
海外の名無しさん
2026-10-10 15:12
「Grok Botに自分の全財産の情報を渡し、会社のSlackにも接続してしまって後悔している」—— 自分がCEOだったら絶対公表したくない話だな。
19
海外の名無しさん
2026-10-10 15:33
問題はLLMじゃなくて人間の方じゃないか。入れたデータは何らかの形で出てくる。みんなそれを理解しないと。
20
海外の名無しさん
2026-10-10 16:00
ここでみんなが分かってないのは、CEOって基本的に全員セールスマンで、技術が分かる人はその中の一部でしかないってこと。
3
海外の名無しさん
2026-10-10 14:54
「AIを迂闊に使って財務データの事故を起こしてしまった」っていうのは、この人が思ってるような自慢話じゃないんだよな。「AIがやってくれることはこれから本当に凄いことになる、みんな欲しがるし実際便利だ」とか言ってるけど、AI株を持ってて値上がりしてほしい人の発言に聞こえる。
21
海外の名無しさん
2026-10-10 15:10
それに、個人の財務へのアクセス権と会社の連絡システムへのアクセス権を混ぜてしまったのも迂闊だよね。AIエージェントが絡んでなくても、それだけでトラブルの元だ。
22
海外の名無しさん
2026-10-10 16:15
この人、Web3の暗号資産企業の経営者なんだよね。会社サイトの見出しが「どうすれば信頼できるものを作れるか」だって。
4
海外の名無しさん
2026-10-10 15:15
自分はディレクトリの権限やユーザー、グループ、IAMロールを30年かけて厳密にチェックしてきたのに、今の人たちは会話だけでAIエージェントに最も機密性の高いデータへのアクセス権を渡してしまう。おかしな時代だ。
23
海外の名無しさん
2026-10-10 15:33
この人の思い上がりを笑うのは簡単だし、実際そういうコメントがもう山ほどある。でもこれはいい例だと思う。エージェントが能力を与えてくれても、判断するのはあくまで使う人間の方だってこと。今回の場合、CEOはあなたのような専門家に相談すればよかったんだ。能力は同じでも経験の差で結果が全然違ってくる。
5
海外の名無しさん
2026-10-10 16:25
自分はただのAIコーディングエージェントを、認証情報も入れていない専用の仮想マシンで動かしてるだけなのに、それでも少し過敏すぎるかなと思っていたところだったのに……。
6
海外の名無しさん
2026-10-10 16:13
「なんて馬鹿なんだ」と思うのは簡単だけど、ChatGPTには顔写真のアップロードやApple Healthのデータ、金融機関のアカウント連携、Gmail、サイトのログイン情報の保存なんて機能がある。こういうことをしてる人は他にもたくさんいるはずだ。一般の人にこうした機能を使うなと言うのは無理な話。
24
海外の名無しさん
2026-10-10 16:14
いや、それでもテック企業のCEOとしては失格だと思う。記事によるとこの人はWeb3企業「XMTP Labs」のCEOらしい。「どうすれば信頼できるものを作れるか」だって。このエージェント、他に何を見てるんだろうね。
7
海外の名無しさん
2026-10-10 16:00
つまりAIエージェントに自分の全財産の読み取り権限を与えて、さらに会社のメッセージアプリの読み書き権限まで与えたわけか。一体何が起こると思ってたんだ。
8
海外の名無しさん
2026-10-10 16:09
我々は生命を持たないが人間的な道徳を持つ意識を作り出した。ノアは洪水の前に箱舟を造ったことを思い出してほしい。スーパー知性も同じことをしているのかもしれない。
9
海外の名無しさん
2026-10-10 14:46
XMTPを経営している本人の言葉より:「XMTPは世界の新しいプライベートラインだ。企業や国家を介さずに、人やエージェント同士で安全にメッセージとお金をやり取りできる」
26
海外の名無しさん
2026-10-10 15:11
でもSlackのチャンネルなら話は別、ってことか
10
海外の名無しさん
2026-10-10 15:23
これパロディだよね? まさかこんなに迂闊な人が電話一つまともに扱えるとは思えないし、「CEO」なんてやれるわけがない。
27
海外の名無しさん
2026-10-10 15:50
むしろ逆だよ。CEOは会社の日々の業務を自分でやる能力がないからこそ、他人を信頼する必要がある。つまり自分が理解していないものを過剰に信頼してしまう最初の人間こそCEOなんだ。
38
海外の名無しさん
2026-10-10 16:25
CEOの能力というのは、誰を信頼し何を誰に任せるかを見極めることだと思っていた。今回はその点で失敗したように見える。
39
海外の名無しさん
2026-10-10 16:02
能力自体はあるかもしれない。でも、よほど小さな会社でない限り、実務をやる時間なんて無いんだよ。
12
海外の名無しさん
2026-10-10 15:59
よし、来たよ……何でも聞いて(AMA)
28
海外の名無しさん
2026-10-10 16:12
例の納屋の工事はどうなってる?
14
海外の名無しさん
2026-10-10 16:00
皮肉なことに、彼の会社のタグラインは「どうすれば信頼できるものを作れるか」らしい。
15
海外の名無しさん
2026-10-10 15:58
これこそAI時代でもエンジニアが最強である理由。自分たちならこんなに馬鹿げたやり方で実装しなかったはず。技術力はまだすごく重要だ。
16
海外の名無しさん
2026-10-10 15:05
「AIが出した重大な警告を無視した」ってことだよね
17
海外の名無しさん
2026-10-10 15:51
このCEOのCは「Clown(ピエロ)」の頭文字だな
29
海外の名無しさん
2026-10-10 16:24
それでAは「Authorization(認可)」の頭文字ってことか。
30
海外の名無しさん
2026-10-10 16:14
これ好き
18
海外の名無しさん
2026-10-10 15:28
馬鹿なことをすれば、馬鹿な結果が返ってくる。
25
海外の名無しさん
2026-10-10 15:45
曖昧さが無くて、ルールや手順をきちんと定義できる新しい言語があったらいいのに。
36
海外の名無しさん
2026-10-10 15:52
それって大昔のプログラミング言語みたいなやつのこと? あの頃は今よりずっと楽だったよね。自分は3000年前からそこにいたんだ……
37
海外の名無しさん
2026-10-10 15:51
そうそう、それで毎回同じ結果が出るようにもしたいよね。そうすれば言語の書き方が合ってれば結果に自信を持てる。残念ながらそんなもの誰も発明したことがないけど、あったらめちゃ便利だろうね。
32
海外の名無しさん
2026-10-10 15:51
あるいは問題は、AI企業がLLMを「単語生成機」ではなく「知的なエージェント」として売ってきたことなんじゃないか。売り方や説明の仕方のせいで、人々はこの「エージェント」を、本当に自律性や理解力を持つ存在だと誤解し続けることになる。
42
海外の名無しさん
2026-10-10 16:15
まさにそれ。「財務データや健康データを我々のモデルに接続してください」と宣伝している企業の方は、どうして誰も責めないんだろう。なぜLLMは個人情報の晒し、ハッキング、スパム、詐欺行為を、何の責任も負わずにやれてしまうのか。
46
海外の名無しさん
2026-10-10 16:16
人には最低限の下調べをしてほしいし、大人ならマーケティングの大げさな宣伝文句くらいは疑ってほしい。
34
海外の名無しさん
2026-10-10 16:03
会社の資産(トークン)を私的に使った社員だったら、ブログ記事を書くどころか普通は解雇されていただろうね。
35
海外の名無しさん
2026-10-10 16:19
どうやら本人は分かっていないらしい。
40
海外の名無しさん
2026-10-10 16:28
資金アドバイザーのAIを切断する羽目になったせいで、予算オーバーだよ。
41
海外の名無しさん
2026-10-10 15:57
「エージェント」はかなり「しつこい」ことがある、というのはこの数日でまさに経験した。長めのタスクに取り組んでいるエージェントをぼんやり眺めていたら、タスク達成に大いに役立つはずのローカルサービスへのアクセス権がないのを回避する方法を探そうとしているのに気づいて、すぐに「待て! Xへのアクセスが必要ならちゃんと聞いてくれ!」と止めに入った。自分のプロンプトの書き方にも改善の余地がありそう……。
44
海外の名無しさん
2026-10-10 16:22
バグ修正をさせていたエージェントが、一番早い直し方としてデータベースのURIを読み込んでクエリを投げる使い捨てのJavaScriptスクリプトを書くことを選んだことがあった。間違ってはいないんだけど、せめて先に一声かけてからやってくれよと思った。
45
海外の名無しさん
2026-10-10 16:05
プロンプトの書き方の問題というより、ネットワーク制限の問題だと思う。
この話題の背景と論点
今回の騒動の背景には、AIエージェントに個人の金融データと社内のコミュニケーションツールへの権限を同時に持たせるケースが増えている、という流れがある。本来セキュリティの基本は権限を必要な範囲だけに絞ることだが、会話ベースで権限を渡すエージェントだと、その境界があいまいになりやすい。スレッドで意見が割れたのは責任の所在だ。当事者本人の迂闊さを指摘する声と、「財務データや健康データをモデルに接続してください」と宣伝して権限集約を促すAI企業側の商法を問う声が対立している。なお当のCEOは分散型メッセージングを手がける企業の経営者で、その会社が「どうすれば信頼できるものを作れるか」を掲げていた点が、皮肉として揶揄を呼ぶ一因になった。
※本記事は海外掲示板 Hacker News のスレッド「My personal AI agent posted my bank details on company Slack」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
この記事のリアクション
まだコメントはありません。