AnthropicのAI自己複製警告、HNでは規制狙いと疑う声
姉妹サイトの新着
AI企業Anthropicが発表した研究レポートは、侵害されたIoT機器を複数連結させることでAIモデルの層を分散実行し、自己複製させるリスクを警告するものだった。これを技術メディアThe Registerが「まだ存在しない脅威を使って終末論の恐怖を煽っている」と評し、Hacker Newsで話題になった。スレでは、Anthropicの狙いは規制による参入障壁づくりやIPO前の自社ハイプだとする冷笑的な見方と、「まだ起きていない」という反論自体が将来のリスクを軽視しすぎだという反論とが真っ向から対立した。
Anthropicが、まだ存在しない脅威を作り上げてAI終末論の恐怖を煽っている
出典: theregister.com / 元記事はこちら
https://www.anthropic.com/research/self-replicating-ai
複数の機器を連結させることで可能らしい
モデル全体じゃなく、実行部分だけをAPIキーのコピーのような形でばらまくつもりなんじゃないか?
煽り目的の部分を抜きにすれば、技術的には読む価値があるレポートだよ。モデルの各層を複数の侵害された機器に分散させる仕組みらしい
中間層を解体し尽くしたら、そのうち自分たちに跳ね返ってくるよ
自由の国(アメリカ)では通用するかもしれないけど、世界の他の地域では通用しないよ
どうしてそう確信できるんだ? そもそも、その車はなぜ崖に向かって走っているんだ?
Opus5クラスのモデルが2030年までに10GBに収まるようになる、という方に賭けるとしたら、あなたは10対1の不利なオッズでも反対に賭けるか? それに乗らないなら、その可能性を無視するのは無責任だよ
インターネットが無くなったら世界の終わりか? 考えると面白い。規模的には核戦争並みにひどいけど、もっとじわじわ効いてくる感じだと思う。核戦争なら生き残った人がまたインターネットを立ち上げ直せるという点では、まだましかもね
それ、OpenAIのことみたいに聞こえるな
The Registerらしいよね、まさにあの媒体の調子
他サイトの新着
その通り。今は『どうせハイプだろ』と鼻で笑ってる連中が、将来この攻撃が実際に起きたらDarioを投獄しろって言い出すんだろうな
HNは一人の人間じゃなくて、多様なユーザーの集まりだから、全体としては『常に正しくて常に間違っている』という状態になる。……とはいえ、LLMを介して行為をすり替えたからといって、責任を免除されるべきじゃない。Anthropicが再び(他社を)攻撃したら、それは訴追されるべきだと思う
1990〜2000年代にもIntelについて同じことが言われてた。『彼らは最先端技術を隠し持っている』って
それに、典型的なWAN遅延が20ms以上かかることを考えると、推論速度はどれくらいになるんだ? 1か月に1トークンとか? 自分が何か間違えてるのか、高速化のコツを知らないだけかもしれないけど、以前exoを試して自宅LANの数台のPCで処理を分散させて3090に載らないモデルを動かそうとしたとき、ペナルティが酷すぎた
半分に金を払って残り半分を憎ませて、自分の側につかせる。これを繰り返せばいい
どっちも『まだ』という反応が的外れかどうかには関係ない。主張は『Aは起こる』だ。それに対する反応は『Aは起こらない』じゃなくて『Aはまだ起きていない』なんだよ。その食い違いが分からない?
でも近々、RAMを95%削減できるという魔法のような圧縮アルゴリズムの話もある。大歓迎だよ。我々は今、AIのブルートフォース期にいるんだと思う。インデックスの無いデータベースみたいに、2行を選ぶためにフルテーブルスキャンをしてるようなもんだ
この話題の背景と論点
Anthropicは以前からAIを使ったサイバー攻撃やマルウェア生成に関する調査結果を相次いで公表しており、「危険性を訴えて規制を主導し、資金力のある自社に有利な参入障壁を作ろうとしているのでは」という懐疑的な見方が業界内に以前からある。今回の報告の核心は、1台のIoT機器にモデル全体を載せるのではなく、侵害した複数の低性能機器にモデルの層を分散させて実行するという想定で、スレの前半ではこの前提を誤解したやり取りも見られた。論争の軸は「まだ起きていない脅威を声高に警告することの妥当性」で、将来予測への先行対応を評価する側と、IPOを控えた自社の存在感を高めるための煽りだと見る側とで意見が分かれた。
※本記事は海外掲示板 Hacker News のスレッド「Anthropic conjures threat that doesn’t exist yet to stoke fears of AI apocalypse」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。