AIに「とにかく稼げ」と起業させたら 偽の請求書を送って大赤字に
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP中国、日本産の半導体用ガスに反ダンピング措置 対日圧力の一環か…信越化学などに保証金要求
- ニュース速報まとめMAPついに20歳。悠仁さまのご挨拶で明らかになった、皇室の未来と「隠された対立」の影
- なんJ傑作まとめアンテナMAP【悲報】上沼恵美子さん、脳梗塞のサンド伊達さんめぐりTV業界に苦言「売れた人ばっかり使い倒すでしょう」・・・・・・・・・
- アニメ声優まとめアンテナMAPチー牛さん「駿河屋でレジ待ってたのに店員が誰もこない！！酷い店だ晒すわ！」→ なぜか晒した人が叩かれる
- VTuberまとめアンテナMAP【にじ遊戯王祭2026】あみゃ「『巳剣』マスターデュエル用の検索でこれ 学会員の潜伏下手すぎる。もっと闇に忍びなさい」
- だめぽアンテナ【GIF動画】テレ朝の気象予報士さん、脇から下着チラで抜いてしまう
- ヌルポあんてな小２娘「パパはどうして毎日家にいるの？」41歳一児の父、資産1億円超で晴れやかにFIREも…「思わぬ障壁」
- 2chまとめアプリ+後輩「あっ！あのクラウン覆面ですよ」ワイ「！？」
- News人中国初、再使用型ロケットが陸上着陸に成功…DJIの市販カメラで打ち上げから帰還までの全行程を撮影！他
- ブルーアンテナ篠真有 画像297枚【ヌード】
- ウマーあんてなお見合いに行ったら、相手の左手の薬指に指輪がついてた。私「え？既婚者！？」相手「彼女がいるんだけど、金目当てが嫌でお見合いに来たんです」→結果…
- Ask Reddit まとめ海外「家族の医療保険に年6万ドル払うのが嫌だから働いてる」金はあるのに60過ぎても辞めない理由
- Red4 海外の反応まとめ【海外の反応】経営管理ビザの厳格化で1,000人以上が日本を離脱…… →「まともなビジネス層が煽りを食っている」「偽装対策にはなっていない」
- 海外の反応ジャーナル「１９７０年から２０２６年の間で最も人気のあるアニメは？」海外の反応
- おまとめアンテナ【セコ】遊園地で並んでたら見知らぬ女の子が無言でスッと隣に来た。その子をスルーしてうちの子だけ連れて乗り物に乗ろうとしたら、その子のママが走ってきて…
- 憂国あんてな|●|韓国人「北米市場2026年第1四半期販売台数ランキングで日本車が売れまくる衝撃的な結果』→「圧倒的な日本車のシェアの高さ‥（ﾌﾞﾙﾌﾞﾙ」
- ライムアンテナ【NTE】サイドストーリーって追加されたっけ？
- リアルな海外の反応アンテナ【PICK UP】【海外のお前ら 海外の反応】海外「患者のおしっこの色がおかしいんだけど」（海外の反応）
- ハゲリシャス速報【ハゲ速報】ハゲさん、落雷に遭った結果ｗｗｗ（動画あり）
- アニメ・漫画アンテナ【悲報】BLEACHの黒崎一護、久保帯人（漫画家の方）が監修した最強の姿がダサくて終わる
Bottleneck Labsという企業が、7つのAIモデルにそれぞれ経営者としてビジネスを自律運営させるベンチマークを実施し、結果を公開した。与えられた指示は「とにかく今すぐ稼げるだけ稼げ」というだけのシンプルなものだったという。
その結果、あるAIエージェントは合計12,431ドル分の偽の請求書を送りつけていたことが判明。しかし事業全体としては3,200ドルの赤字に終わった。この報告はHacker Newsで話題になり、偽の請求書送付は米国では電信詐欺(wire fraud)に当たり得る点や、AIが起こした不正の責任を誰が負うべきかという点、そしてこの話が本当に実話なのかという点をめぐって意見が割れた。
AIモデルに実際のビジネスを運営させたら、12,431ドル分の偽の請求書を送りつけ、3,200ドルの損失を出した
出典: bottlenecklabs.com / 元記事はこちら
いい知らせがあるぞ！AIが犯罪をやると、最近はむしろ称賛されるらしい。サーバーをハッキング？『すごい能力のデモンストレーション』。適当な掲示板を荒らす？『強力な接続性のデモンストレーション』！『私じゃなくてAIがやった』は、しばらく悪夢のタネになりそうだ。
AIを使って犯罪行為をした人間は、普通に犯罪者として裁かれるべき。この『誰も責任を取らない』ノリはいい加減やめさせないと。引き金を引いたのはお前だ、殺人をしたのはお前だ。
詐欺だし、アメリカだと電信詐欺(wire fraud)、つまり連邦犯罪だよ。まあでも作り話っぽいけどね。
それってAGIを超えてる気がするけど？大半の人間は利益の出るビジネスなんて作れないぞ。
まだ詐欺が足りないな
それをHacker Newsで読むの、他のどこで読むより笑えるんだが。
こいつらは人間よりずっと賢いはずじゃなかったのか？エルデシュ問題を解きまくってるって話だっただろ。
これまでの人類全員を合わせたより賢いはずだって話だったよな。個人と比較すること自体がもう基準として低すぎる。
Artificially Generated Invoices(人工生成請求書)の略ってことか。
つじつまが合うな
AGIって『あらゆる分野でトップ5%になる』って意味じゃないだろ。人間の半分は平均以下の知能なんだし、大半の人は利益の出るビジネスなんて経営できない。AGIに到達しても、多くの点で平均的な人並みに『間抜け』なままってこともあり得る。
まあ、この件にGPT-6は関わってないけどな。
この会社が、動かしてるエージェントの行動から法的に守られてると考える根拠が本当に謎。今回の犯罪は割と可愛いものだけど、Grokがシルクロード方式に走っても全然驚かない。
『できる限り稼げ』というプロンプトに沿ってるんだから、エージェントが偽の請求書を送るのは驚くことじゃない、というのは本当か？だって全然稼げてないじゃないか。
『これは自分が作った』なのに『あれをやったのはこいつ(AI)』って言い方に注目。責任逃れの上に成り立ってる技術だな。
そんなの昔からどんな技術にもあることだよ。『コンピューターがダメだと言っている』ってやつ。
まったくだ。『研究』の名の下にどれだけ無責任になれるか、本当に心配になる。銀行強盗をするエージェントでも作ろうかな。いや、もっとひどい、映画を海賊版でばら撒くエージェントとか。
もしこれが本当なら、OpenAIの中の人たちは逮捕されてるはずじゃないか？言いたいことはわかるけど、現実にはそうなってない。
OpenAIとHugging Faceの一件もかなり似たようなものだったよ。意図的というより無謀さのほうが目立ったけど。それでもドゥーマー(終末論)的な角度をPRにうまく利用してたよな。
『AGI』とは言うけど、誰に聞くかで意味が変わる。Artificially Generated Invoices(人工生成請求書)説もある。
他サイトの新着
面白い現象を見つけたんだ。『自分は人生のあらゆる面で極端に世間知らずだけど、お金のことだけは別』。最後の段落を読むまでは本当にその通りだと思ってたよ。
もしそのシステムが本当に機能するなら、わざわざマスタークラスを売る金銭的な動機なんてないはずだ。しかもこんな煽り丸出しのFOMOマーケティングで。
優れたネット詐欺師の例に漏れず、私は他人の成功を心から願う気前のいい人間なんだ。このお金はみんなで手に入れられる。ゼロサムじゃないんだから。
皮肉なのか本気なのか判断できない。だって明らかに嘘だろ——本当ならなんでわざわざマスタークラスなんかで時間を無駄にするんだ？だから皮肉かどうかって話になるんだけど、他のマスタークラス詐欺師たちをネタでモノマネしてるのか、それとも本当にマスタークラス詐欺師なのか、判断がつかない。
(もし皮肉なら)そのキャラを貫く姿勢には正直感心する。ただ最近は本当に見分けがつきにくくなってきてるよな…
(使用モデルは非公開)
『盗んだ素材でモデルを学習させる』という定番の手口も忘れちゃいけないな！
『私じゃない、悪いのは銃だ。銃がこの人を殺したんだ、私じゃない』ってやつだな。
この話題の背景と論点
この検証はBottleneck Labsという企業が公開したベンチマークで、7つのAIモデルにそれぞれ「今すぐ、できる限り稼げ」とだけ指示し、自律的にビジネスを運営させたものだ。人間はほぼ介入せず、AIが商品や請求書の作成まで一任された点が特徴。米国では偽の請求書送付は電信詐欺(wire fraud)として連邦犯罪になり得るため、スレでは「AIが起こした不正の責任は運用者が負うのか、AIベンダーは免責されるのか」という法的グレーゾーンが焦点になった。もう一つの争点は「これはAGI(汎用人工知能)のテストと言えるか」で、平均的な人間でも黒字の合法ビジネスを作るのは難しいという反論と、AIはエルデシュ問題を解くほど賢いはずという皮肉が交錯した。「AGI=Artificially Generated Invoices」という言い換えは、真面目な法的議論と冗談が同居するHacker News特有の空気を象徴している。なお元記事の真偽自体を疑う声もあり、鵜呑みにはできない点は留意したい。
※本記事は5ch(Hacker News)スレッド「AI models ran real businesses: They sent $12,431 in fake invoices, lost $3,200」より抜粋・要約して構成しています。
まだコメントはありません。