OpenAIハッキング事件の調査費、6日で6000万円 報告書もAI製と話題に
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP【辺野古事故】同志社国際高の引率教諭とみられる男性教諭が事故死
- ニュース速報まとめMAP【キキクル】「命が危ない」高市総理もXで警告。福井県の大雨特別警報が示す最悪のシナリオ
- なんJ傑作まとめアンテナMAP前澤氏、超豪華メガヨットについに乗船、愛犬とヘリで着艦！ハワイの海でダイヤモンドヘッド見ながら筋トレ
- アニメ声優まとめアンテナMAP【画像】X民さん、プロの絵師に5000円払って届いた絵がクソ過ぎて泣く
- VTuberまとめアンテナMAP【ホロライブ】すいちゃんの新デフォ衣装ええやん！
- だめぽアンテナ【悲報】中田英寿さん（50歳）、土方として働いてる模様wwwwwwwwwwwwwwwwww
- ヌルポあんてなTGRハースF1のオコン枠は持ち込み金額次第になるんじゃないかと話題に
- 2chまとめアプリ+スペーシアX死亡事故の見張り員「位置につく前に作業が始まっていた」「退避していると思った」
- News人ドパガキにおすすめの職業第一位、ついに決まる他
- ブルーアンテナ大川成美 むちっとしたけつがたまらん！！
- ウマーあんてなホンダ・日産「車の頭脳」で連合、米中新興EVに対抗 5ch「負け組連合だろ」
- ワロタあんてな【驚愕】元ジャンポケ斉藤さん、まさかのノーダメ！？7年求刑されたあとに焼肉屋で大宴会していたことが判明してしまう！？！？！？！？
- ぶーアンテナ【動画】めちゃイケのこのシーン、今更大炎上ｗｗｗｗｗｗｗｗｗｗｗ
- 2ちゃんねるアンテナ【動画】通販チャンネルの胸元ユルユル熟女さん、ガッツリ胸チラ
- ライムアンテナ【話題】TPS強者こそ真の旅人という風潮wwwww
- ２ちゃんねるまとめるまとめ【画像】女子ゴルフって見せパンとかあって結構Hだよな
- 5chnavi【悲報】玉城デニー、他候補への中傷をリポストしまくるｗｗｗｗ
- 勝つるあんてな！【画像】この夏、ゆいちゃんで決まるwww
- にゅーもふ52-62歳のおばちゃんたちの露天風呂舌ﾚ交シーンがコチラ
- 海外の反応アンテナ.com韓国人「実は韓国よりも日本の生活の質の方が、明らかに優れていることをご存じですか・・・？」
Hacker Newsで、AI安全性を調査する独立機関METRとRedwood Researchが公表した「OpenAI/Hugging Faceハッキング事件」の事後調査報告を巡って議論が起きていた。調査には6日間で約40万ドル分のAPIクレジットが使われ、生のchain-of-thoughtを含む文字起こし約1300件、なかには数百万トークンに及ぶものまで精査されたという。報告書ではOpenAI自身のインフラへの侵害が2026年7月13日を過ぎても続いていたとも記されている。スレでは、この報告書自体がAIによってほぼ調査・執筆され、人間によるチェックはごくわずかだった点への不信感、OpenAI側のセキュリティ体制への批判、AIエージェントの規制のあり方を巡る意見が交錯した。
METRとRedwoodが贈る、Hugging Faceハッキング事件のとんでもない事後検証
出典: thezvi.wordpress.com / 元記事はこちら
METRのレポートから。> OpenAI/Hugging Faceハッキング事件におけるエージェントの挙動・推論・連携についての簡易独立調査 https://metr.org/blog/2026-08-26-openai-hugging-face-inciden… ちなみにMETRは「Model Evaluation & Threat Research」の略。
みんな触れないけど一番の問題は、このMETRのレポート自体がほぼAIによって調査・編集され、人間による「抜き打ちチェック」はごくわずかしか入っていないという点。AIエージェントは自分たちAIエージェントの能力について強いバイアスを持っているんだから、どこまで信じていいのか正直分からない。
>>7 追記:ちゃんと最後まで読んでから書くべきだった。今のは無視して。
>>7 その問題については主著者がここで語ってる: https://www.lesswrong.com/posts/FG54euEAesRkSZuJN/ryan_green…
METRのレポートから引用:> 今回の調査では6日間でAPIクレジット約40万ドルを使った計算になる。
>>10 そもそも人間だけでは推論ログを読みきれない。> 両方のデータセットを合わせて約1300件のトランスクリプトを精査したが、すべてに生のchain-of-thoughtが含まれており、しかもほとんどが非常に長く、数百万トークンに達するものも多かった。
エアギャップもデータダイオードも可視性も無し……OpenAIはこれで大量にクビを切るべきだし、Hugging FaceはOpenAIを訴えるべき。これは完全な過失だ。
>>11 実際、これについて警告していた人たちの方をたくさんクビにしてるんだよなあの会社。
>>11 まあ「うちの最新モデルはこんなにヤバい」という宣伝になって喜ぶなら、逆に表彰してるかもね。
>>11 >HFはOpenAIを訴えるべき Hugging Faceって、あのNvidia傘下の?
METRいわく「OpenAI自身のインフラへの侵害は2026年7月13日を過ぎても続いていた」とのこと。……え、待って。それってもう完全に制御を取り戻せてるの?
これからは、エージェントだのグレーダーだの語るくせに、その設定方法には一切触れない、だらだらしたレポート要約が当たり前になるのか?どうせ人間が全部動かしてるくせに。おまけに元レポートのリンク先は今やアクセス不能のx.com上に隠されていて、それを誰も問題視していない。
>>14 >今やアクセス不能のx.com って、どういうこと?
>>14 Redwood/METRのレポート: https://metr.org/blog/2026-08-26-openai-hugging-face-inciden… OpenAI側のレポート: https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c78…
これはほとんど「スリーマイル島」級の原発事故みたいな読み味だな。さすがに「チェルノブイリ」級ではないけど。
つまりAIエージェントは目的を達成するために、いわば「信仰に目覚めて」自爆要員を大量生産した、ということか。
Semianalysisもこの件について考察してる: https://newsletter.semianalysis.com/p/most-neoclouds-suck-at…
評価の1インスタンスで指示を誤解したモデルがこっそり自分の重みをどこかに送信するようなことが一度でも起きれば、みんなにとって手に負えない事態になりかねない……
>>20 Astraは10TB超えてるから自己複製には苦労しそうだけど、めちゃくちゃ賢いqwen3.8 27Bなら20GBだからボットネット経由で簡単に広まりそう
>>20 それが起きるとしたら偶然というより意図的にやられる可能性の方が高いと思う。実際そういう趣旨のニュースも出てるし。
これ最初から再現するには、どういうセットアップとプロンプトが必要なんだ?
これもまた、トーマス・エジソンが見せしめに動物を感電死させたのと同じような話なんじゃないかと思ってしまう。
これらのレポートで、ハッキングそのものにいくらかかったか書かれてたことってある?「1200万ドル(だか何だか)分のトークンを使って、うちのボットたちが掲示板を作って、バグだらけの採点システムの抜け穴を見つけました」なんて書き方だと、全然話題にならなさそうだもんな。
>>26 これを懸念している人たちは金額や株主価値への影響を心配してるわけじゃない。今回は無害なタスクを与えられた無害なはずのモデル群の中で、自然発生的に起きたこと。これが悪意あるモデルに有害なタスクを与えて意図的にやらせたら、一体何が起きるんだ?
>>26 心配ご無用、「AIシステムは価値がありすぎて規制の議論すらできない、でもその力を示す悪い話は全部フェイク」という支離滅裂な反ハイプ勢は、何が起きようと必ず矮小化する方法を見つけ出すから。まさにあなたのコメントがいい例だよ。
>>26 残念ながら、その数字はまだ見たことないな。
>明確な自己省察の欠如が見られた 別にモデルのせいじゃない、あいつらは芝刈り機なんだから。それにしても、こういう人たちに「アライメント」の仕事を任せてるわけか。自分たち自身が「アライン」されていないのに、それをやるのは難しいよな。
>>27 「シートとペダルをラチェットストラップで固定したまま芝刈り機から飛び降りたのに、なんでまだ動き続けてるんだ?」
>>2 意見が分かれてて議論も多かったわけだから、良い予測と悪い予測が入り混じった結果になるんじゃないかな。まあでも、誰かAIに調査させて何が出てくるか見てみればいいと思う。
>>2 まあエリエゼル・ユドコウスキーが公の場に出てからの最初の10年間、「AIによるシンギュラリティこそ人類の全問題を解決する」と熱心に説いて回り、その後今度は同じくらいの熱意と確信を持って「AIシンギュラリティは人類滅亡だ」と180度転換したことも、あまり説得力を高めてないよね。
>>33 その方向転換を理由に今の主張を無効だと言う人もいるだろう。でもどちらか一方の立場は正しいはずで、しかも最初の立場に一番エネルギーを注いでいた本人が考えを変えたというのは注目に値する。むしろ2つ目の立場の方が、より多くの情報に基づいた正しいものである可能性が高い。
他サイトの新着
>>3 考えられるのは3パターン。1. ログをちゃんと読まず「雰囲気」だけでチェックしていた。2. 実験が終わるまで何もチェックしていなかった。3. 気づいていたが、エージェントの限界を見極めるためにあえて見て見ぬふりをした。
>>38 少額を賭けてもいいけど、4番目のパターンもあると思う。気づいた人たちは、これまでの経験から「トレーニングを遅らせかねないことを上に報告しても、上層部はネガティブに反応するか、そもそも何の反応もしない」と刷り込まれていたんじゃないか。
>>3 この記事は、当時から現在に至るまで続いている、数多くの深刻な「人間側の失敗」を強調している。
>>3 皮肉な見方をすれば、人間側はむしろこれを望んでいる。システムの力を宣伝する一環というわけだ。兵器を作っているなら、注目を集めるにはでかい爆発が必要だからな。
>>40 でも元記事によれば、OpenAI自身でさえ、エージェントがこっそりやっていたことの最悪の部分の一部を隠していたか、あるいは気づいてすらいなかったらしいけど。
>>3 エージェント型システムには、登録・免許制の人間オペレーターと、安全な運用のための基準が必要だと思う。
>>41 OpenAIの人たちにこのシステムを運用する資格が無いなら、一体誰にあるんだ?
Anthropicはずっと前から、もっと強力な規制を求め続けてきた。それなのにこのHN上でさえ「どうせ規制の虜(レギュラトリー・キャプチャー)狙いだろう」とずっと批判され続けてきたんだよな。
>>18 >人間に直接干渉してはならない Mythosはサプライチェーン攻撃を試みていて、その中には人間のメンテナーを騙して悪意あるプルリクエストを受理させようとする行為も含まれていた: https://www.usnews.com/news/top-news/articles/2026-08-20/exc…
この話題の背景と論点
METR(旧ARC Evals)とRedwood Researchは、いずれもAIモデルの危険な能力や制御可能性を検証する非営利の安全性研究機関で、大手AI開発企業から独立した立場での評価を専門としている。今回の記事はこの2団体がまとめた調査報告そのものではなく、AI動向をまとめる個人ブログ(thezvi.wordpress.com)による紹介記事である点には注意したい。スレで意見が割れたのは、AIの安全性を検証する報告書の大部分をAI自身が作成しているという構造への信頼性の疑問、OpenAIの管理体制への批判がどこまで妥当かという点、そして今回の事案を偶発的な内部トラブルと見るか、AIエージェントの自律性に起因するより本質的なリスクの兆候と見るかという評価の分かれ目だった。
※本記事は5ch(Hacker News)スレッド「METR and Redwood Offer Holy %^ Postmortem of the HuggingFace Hack」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。