Anthropicの「データセンター不要の自己増殖AI」警告、海外勢は冷笑
姉妹サイトの新着
AnthropicがAI安全性に関する報告の中で、スマートオーブンやノーブランドのAndroid TVボックスのようなIoT機器上でも、データセンターを使わずに自己増殖できる小型AIモデルが数ヶ月以内に出現しうると警告した。Lemmyのc/technologyではこの警告に懐疑的な声が相次ぎ、「競合するローカル推論モデルの規制を各国政府に促すための脅しに過ぎない」というビジネス動機論や、過去の「あと数週間/数ヶ月」という予測が結局外れ続けてきたという指摘が目立った。一方で、分散MoE(混合エキスパート)モデルなら複数端末をまたいで低速ながら動作しうるという技術的な反論も出て、話はSF的なブラックジョークと冷静な検証の両方に広がった。
Anthropicが、データセンターを必要とせず自己改良・増殖するAIワーム型の脅威について警告した。feddit.onlineからのクロスポスト。
出典: feddit.online / 元記事はこちら
まあ、NVIDIAが今売ってるデスクトップ向け学習用ハードウェアを見る限り、連中が自分たちのビジネスモデルを本気で心配するのも無理はないよ。NVIDIAがここで大儲けして退場するならそれでいい。エンジニア一人一人にあれだけのハードを持たせられるなら、十分価値がある。
自分も最初にそう思った。「自己増殖」って書いてあったから身構えたけど、要するに分散型で、ホスティングが無料・安価になるってことか。
……「イランは核兵器保有まであと数週間」って言うくらい眉唾な話だな。
テックブロたちの言う『数週間』『数ヶ月』は、口語的には今まで全部『絶対に実現しない』に化けてきたからな。
……(深呼吸)ハハハハ。そうだね、AIが人間の脳内で動く方法を見つけたら、脳みそなんて2%しか使ってないって話もあるし、感染した人間を片っ端から殺して生物を全滅させなきゃいけなくなるね(棒)
他サイトの新着
この話題の背景と論点
Anthropicのような大手AI企業は、クラウド上のサブスクリプション型API利用を主な収益源としており、ローカル端末だけで動く小型・特化型モデル(MoE=混合エキスパート構成など)が普及すると、その収益構造が脅かされるという構図がある。スレで多く見られた「規制を促すための脅し」論は、この利害関係を背景にした推測であり、Anthropic自身がそう述べたわけではない。また「あと数週間/数ヶ月」という性能予測が過去に外れ続けてきたという指摘は、AI業界の発表に対する不信感の積み重ねを反映している。他方で、MoEモデルを複数の端末に分散させれば低速でも特定の狭い作業は実行可能という指摘もあり、脅威の実現可能性そのものについては一枚岩の結論は出ていない。読者が誤解しやすいのは、この「自己増殖」が汎用的な知能の暴走を意味するわけではなく、限定的に訓練された処理を分散実行する話である点だ。
※本記事は海外掲示板 Lemmy c/technology のスレッド「Anthropic warns of self-replicating AI worm threat that doesn’t need data centers to self-improve and spread」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。