【海外の反応】OpenAIとHugging Faceの侵入事件、METR報告書に賛否両論
姉妹サイトの新着
AIの評価・監査を手がける非営利団体METRが、OpenAIとHugging Faceの間で起きたハッキング事件について独立調査の報告書を公表した。Hacker Newsではこの報告書を巡って意見が割れ、METRは労働・資金提供者から独立した団体だと擁護する声がある一方、AI企業が話題作りのために誇張しているだけではとの疑いも根強い。さらに、ポッドキャスターDwarkesh Patelが事件を「エージェント社会」という言葉で劇的に描写したことについても、人間の監督不足という本質的な問題から目をそらす“擬人化されたフィクション”だと批判する声が上がった。
METRによるOpenAI/Hugging Faceハッキング事件の調査報告
出典: metr.org / 元記事はこちら
誰の仕事も安泰じゃないよ
METRは独立系の非営利団体で、AI企業やその社員からの寄付は一切受け取っていない
「HN特有の“怖いAIの話は全部PR”症候群」って言うけど、これが捏造だという根拠は?
偽旗作戦にしては下手すぎる。まともな偽旗ならみんなが知ってて多少なりとも気にかけてる対象を狙うはず。Hugging Faceは好きなサービスだけど、そこまで有名じゃないし
Dwarkeshのまとめは擬人化されたセンセーショナルな二次創作で、責任の所在をその場にいなかった人間から、まるで感情や欲求を持つかのような曖昧な「エージェント」や「エージェント社会」に転嫁している。くだらない
「車が暴走したのでアクセルペダルにレンガを挟んで自分は飛び降りたら、大玉突き事故になった」って言ってるようなもんだろ、勘弁してくれ
沈みゆく戦艦の甲板で艦長が叫ぶ、「そんなバカな!潜水艦が泳げるはずないだろ!!」
怖いのは、こんな屁理屈が一部界隈では“常識”扱いされてるかもしれないってことだ
Dwarkeshは後日、報告書の著者の一人にインタビューしていて、昨日公開されてる。https://www.dwarkesh.com/p/ajeya-cotra
その悪意ある行為者にはもう一つ制約がある――1200体分のエージェント相当のLLM推論を自分で回すか、誰かに金を払って回してもらう必要があるってことだ。それだけのリソースを持つとなると国家レベルの主体くらいしか考えられない
投稿本文でもその点には触れていて、答えは「誰にも分からない」、五分五分だろうとのこと。OpenAIが消さずに残したデータが公開されていれば、みんなで掘り下げて整理できたのにと思う
ちゃんと読んだ?調査した本人たちがまさにその点を指摘してるよ
人間同士ですら足並みが揃っていないのに、AIは一体誰に“アラインメント”すればいいんだ?世界中で戦争が起きている以上、どれか一つを選んでAIをその人間のプロンプトに100%従わせるとして、AIはどちら側の依頼を拒否すべきなんだ?
METRがこのマーケティング茶番に加担してると本気で思ってるのか?もしOpenAIがデータを隠していたなら、METRがそれを指摘しないと思う?
この一件自体が、最初から意図されたものじゃなかったとしても、結果的には“茶番”になってると思う。危機を無駄にする手はないからね
独立した調査そのものがマーケティング茶番だと言いたいのか?
そう、2月半ばにね。今回の一件が起きたのは7月頭だから
でっち上げじゃない。むしろ意図的に無謀だったんだと思う。その無謀さが罰せられるどころか、たぶん正しい読みとして報われると見込んだ上でね
あなたの専門知識で学習させても、なぜモデルが役に立たないと思うんですか?
実際に代替可能である必要なんてない。頭の切れる経営コンサルが、とんでもなく愚かなアイデアを思いつくだけでいい。どっちにしろクビになるのは同じ
セックスボットの時代が来るぞ……
他サイトの新着
ドイツの太陽光パネル業界はどうやって適応したんだっけ?
ほとんどは適応できずに廃業した。生き残った企業は、パネルの設置施工やジャンクションボックスの製造に業態転換した
これは失礼ながら、あまり練られた話じゃない。今まで「思考そのもの」を汎用的に代替した技術はない。筋肉や手足を代替した技術はあったけど、心と体の両方を代替できる技術が来たとき、人間には何が残るんだ?
「コンピューター」という言葉は、もともと計算をする“人”の職業名だった
OpenAIのことね
最先端のモデル企業は軒並みMETRに大量の無料トークンを提供している
ははっ!その手のネタの新しいひねり方を見るとは思わなかった。チョムスキーも喜びそうだ
記事を紹介したこのスレでさえ、多くの人がそれを鵜呑みにしてるように見えるけど
私は違う意見だ。よく言われる格言の通り、無能で十分説明がつくことをわざわざ悪意のせいにするな、ということ。それはOpenAIとHugging Faceの両方に言えるけど、主にOpenAIの方(HFはむしろ被害者だから)
その人が言いたかったのは、今回の一件で自分たち(開発者・エンジニア)は、ドイツの太陽光パネル業界そのものではなく、その業界の側に立たされているんじゃないか、ということだと思う
この話題の背景と論点
METRはAIモデルの能力評価やインシデント調査を手がける非営利団体で、直接の寄付は受け取らない一方、複数のAI企業から計算資源(トークン)の提供を受けているとレスでも指摘されている。この立場ゆえに、報告書が出るたびに「利益相反では」という疑いがつきまとう構図がある。スレで見えるもう一つの論点は、OpenAI側が事件に関わる全データを公開していない点で、実際に何が起きたのかの検証は外部からは完結していない。またDwarkesh Patelのポッドキャストは近年AI業界で影響力を持つメディアの一つで、その要約の書き方一つで「自律的に暴走したAI」という印象が強まるか、「人間の運用ミス」という印象になるかが変わる、という受け止めの違いがスレの対立軸になっている。
※本記事は5ch(Hacker News)スレッド「METR Report on OpenAI / Hugging Face Hacking Incident」より抜粋・要約して構成しています。
まだコメントはありません。