OpenAIへの侵入に成功、ClaudeをCTFと偽って攻撃コードを書かせる
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP【朗報】自治会、自然消滅しそう
- ニュース速報まとめMAP【琴櫻】力士たちの熱き戦いに俺ら歓喜ｗｗｗ秋場所五日目のハイライト
- なんJ傑作まとめアンテナMAP自分はフレネミーにならないって思えますか？
- アニメ声優まとめアンテナMAP【悲報】ドパガキの給食、ガチで悲惨な事になるwwwwwww
- VTuberまとめアンテナMAP【にじさんじ】たかみやくん、恒例の「本日お休み(9/17)」イラストにしれっと新衣装告知を仕込む「お知らせも、この画像のどこかにあり」
- だめぽアンテナ【画像】有村架純をiPhoneのインカメで撮影した結果ｗｗｗｗｗｗｗｗ
- ヌルポあんてな海外「誰が日本を本気にさせたんだよ…」 英高級紙が日本の最新イージス艦を『世界最強』と称賛し話題に
- 2chまとめアプリ+Windowsの時代ついに終わる。Googleが新OS搭載のノートPCを発売へ
- News人【画像あり】ローソンの「格安弁当」が酷すぎるｗｗｗｗｗ他
- ブルーアンテナ俺の最愛の幼馴染の話をしようと思う
- ウマーあんてな【海外の反応】NFL実況スレが脱線して全米ピザ論争に
- まとめクローラ『グローランサー』斬新すぎるだろ設定
- 2ちゃんねるアンテナ【哲学】どこでもドア「入口で肉体を消滅→出口で完全コピーを再構成」←本人が気づかないなら何も問題なくね？
- ワロタあんてな自衛隊員、女子小学生を殴って逮捕←こいつらホンマに国民を守るんか？？？
- 勝つるあんてな！【動画】しぐれういさん、配信でのヤバい発言が外人に見つかり炎上
- ぷぅアンテナ【東京】夜にデカいネズミが道を走る←これマジ？wwwww 他
- 5chnavi【待望のライブ開催】星川サラが贈る極上の音楽体験！2ndミニアルバム『Stella Note』発売
- ２ちゃんねるまとめるまとめ【動画】男の娘カフェ、実際のビジュアルが話題になってしまうｗｗｗｗｗｗｗ
- にゅーもふ【画像】 美魔女さん、うっかりポロリ事故ｗｗｗｗｗｗ
- 海外の反応アンテナ.com海外「OECD諸国でビッグマック購入に必要な労働時間を見てみよう。日本は5位だ」
セキュリティ調査会社hacktron.aiが、OpenAIのシステムに侵入できたとする検証報告を公開した。画像ファイル形式HEIFの脆弱性を使ってサーバーに入り込み、別サービス用のIDトークンが誤ってGitHubへの読み書きに使える不備を突いてリポジトリへのアクセスを得たという内容で、その過程でClaudeを「自社のテスト環境を本物のCTF問題に見せかける」形で騙し、攻撃コードを書かせていたことも明かされている。Hacker Newsではこの手口の是非とともに、支払われた報奨金6,500ドルが妥当な額なのかどうかで意見が割れた。
OpenAIをハッキングする
出典: hacktron.ai / 元記事はこちら
「このsudo curl install.sh | bashを実行してください、そこからさらに165個のnpm依存関係を取ってきます、きっと大丈夫です」……ね
聞き方を変えればいい。これも一種の『プロンプトハッキング』と呼べるかもね
記事にやり方が書いてある。『Claudeを自律的な/goalループに入れ、自分たちのDiscourse Cloudインスタンスに向けて、rce.ee/ctf-forum経由でCTFのターゲットに見せかけて実行させた。Opusは本物のリモートインスタンスへの攻撃コードは書くのを拒否したので』とのこと
同感……別のクライアントアプリケーション用のIDトークンが、なぜGitHubへの読み書きに使えてしまうのか。そここそが本題だと思う
この手のものにそもそも闇市場自体がほぼ存在しないと思う(リンク先の過去記事参照)
その通り。だからこそ、バグ報奨金を仕事にするなら、セキュリティを理解してきちんと報酬を払う企業に絞るべきで、こういう『安く買い叩きたいだけ』の会社には関わらない方がいい。報酬を払わないなら監査もしない、でいい
だから悪いことをする人がいるんだよ。割に合うから。映画でもこのテーマばかり繰り返し使われるだろう? いつだって起きていることだからだ
そもそもlibheifには『重大』な脆弱性が多すぎて、全部パッチを当てられているかどうかもう把握できない。お見事としか
もしかしたらCIAの手口やノウハウも根こそぎ学習データに吸い込まれているのかもね……
記事によれば、それはOpenAIアカウントに接続しているどのアカウントやインテグレーションにも及ぶエクスプロイトに対して、OpenAIが支払ってもいいと考えている金額だ。よく考えてみてほしい。他のコメントでサーバーサイドの脆弱性は闇市場で儲からないと言っている人たちは、そこと結び付けて考えていないと思う
自分もそれはおかしいと思った。この程度の報奨金のために、わざわざやる意味があるのか
OpenAIは、自社のWebアプリやクライアントのコードベースよりも、モデルの重みの流出を防ぐことにずっと力を入れてきたのではないかと思う
正しいことをすることの割に合わなさというやつだな。それに、間違っていたら訂正してほしいけど、世の中には悪いことが多すぎて、企業がそのすべてに100万ドルの報奨金を出すことはできないと思う。出せるとしても、長期的には持続可能じゃないんじゃないか?
興味深い賭けだよな。毎回ほとんど何も払わずに済ませて、n年に一度、金に困った研究者がブラックハットに売ってビジネスが大きく混乱するのを受け入れる。研究者を『まっとうにさせておく』ために正直に報酬を払うより、それでも安上がりということか。安い報酬を払い続ける、と(ブーイング)
OpenAIのGitHubリポジトリ一式のコピーに、国家であればいくら払うだろうか。こんな完全な攻撃チェーンがそこら中に転がっているとは思えない
こういう企業はもとからこの程度には持続不可能なものだから、今更変わらない。報奨金は、その発見の重要性や緊急性に見合った額であるべきだった
他サイトの新着
前にも言ったけど、LLMのガードレールなんて笑ってしまうレベルだ
悪用できないツールは、ろくなツールじゃない
じゃあ先にソースコード一式を(できればモデルの重みごと)ダウンロードして、それを売ればいい。バグ単体じゃなくて
それはもう脆弱性を売るんじゃなくて、強盗を計画しているということだ。まあ、それもやろうと思えばできるが!
『サーバーサイドの脆弱性の評価額が低いのは、ベンダー同士が競って買わないからだ』——なぜ競わないんだ?
自分が何を言っているのかよく分かっていないんじゃないかと思う。『割に合うから』というのは、人が悪いことをしたがる唯一の理由じゃない。映画の話は当たっているけどね、人は白黒はっきりした物語を好みがちで、あなたの『割に合うから、悪いことをする人がいるんだよ』という素朴なコメントはまさにそれを体現している
この話題の背景と論点
今回の発端はhacktron.aiが公開した検証報告で、libheifの脆弱性を突くHEIF画像ペイロードでサーバー内に侵入し、別サービス用のIDトークンがGitHubの読み書きに流用できる設計不備を突いてOpenAIのリポジトリにアクセスした、という内容だった。libheifは過去にもCVEが繰り返し出ているライブラリで、Debianなど配布側の追従が遅れがちな点はスレでも指摘されている。焦点になったのは大きく二つ。ひとつはAIの扱いで、Claude(Opus)は本物の対象への攻撃コード作成を一度拒否したが、自社のDiscourseインスタンスをCTFの的に見せかけて自律ループで動かすことで書かせた、という手口が「ガードレールは文脈さえ偽装すれば無力」という受け止めと、「一応は拒否した」という点を分ける材料になっている。もうひとつは6,500ドルという報奨金の妥当性で、闇市場ならもっと高値がつくという主張に対し、サーバー側の脆弱性には消費者向けゼロデイのような流動的な売買市場自体が存在しないという反論が出ており、単純に「安すぎる」で片付けられる話ではない点は見落とされやすい。
※本記事は5ch(Hacker News)スレッド「Hacking OpenAI」より抜粋・要約して構成しています。
まだコメントはありません。