小型AIでクラウド大手は終わるか、海外で激論
姉妹サイトの新着
「小型の言語モデル(SLM)が実用レベルに達すれば、AWSやGoogleなどクラウド大手(ハイパースケーラー)の需要は失われる」とする投資家のブログ記事が、Hacker Newsで議論を呼んだ。
コメント欄では「ローカルで動くモデルなど所詮フロンティアモデルに勝てない」という反論と、「全タスクで勝つ必要はなく、日常利用の半分がローカルに流れるだけで巨大クラウドの収益は打撃を受ける」という擁護派が真っ向から対立した。
これが本当なら、ハイパースケーラーは終わりだ
出典: klementoninvesting.substack.com / 元記事はこちら
ハイパースケーラーの株価評価は、『ローカルで動くものより多少効率がいい』程度では支えられない。そこにも市場はあるが、それはコモディティの薄利ビジネスの話だ。今の株価は独占的なプレミアム商品としての値付けがされている。
僕がおかしいと思う理由は逆で、SLMはそもそもLLMほどの情報量を保持できないからだ。SLMとデータベース(ツールとして)を組み合わせればうまくいくかもしれないが、それはまず誰かが実証すべきことだ。
2週間前、CNBCがSpaceX専門とかいう『専門家』を呼んでいたが、その人は『軌道上に1000万機の衛星がある』と言っていた。これが『専門』金融チャンネルの今の実力だ…
論点は『ローカルモデルの方が優れている、あるいは同等だ』ということじゃない。タスクの50%以上をローカルでこなせるなら、それだけデータセンターの計算として捕捉されないトークンが50%生まれる、という話だ。
論旨を完全に読み違えている。提示された数字が裏付けているのは、日常的な推論の大部分がハイパースケーラーから切り離せるということだ。
今のローカルモデルは、12か月前や24か月前の最高のフロンティアモデルと比べてどうなんだ?
『ローカルで小さめのモデルを試したけど、自分には使い物にならなかった』とのことだけど、ハードウェアさえあれば、例えばQwen 3.6 35B A3BやGemma 4 26B A4BをMacBook Proで動かせば、速度でも品質でも十分実用的だ。体感では、QwenをTypeScriptやGoの日常的なコーディング作業に、詰まることなく使えている。
Qwen 3.8 27Bを試しているところだけど、フルコンテキストを扱えるハードウェアさえあればメインのコーディングモデルとして十分使えると思う。Opusレベルである必要はなくて、過保護なお目付け役みたいにならずに、頼んだタスクをちゃんとこなしてくれればそれでいい。
でもコメントの中に『hickups』ってタイプミスが一つ紛れ込んでるよ。
『市場が爆発的に伸びると予測が言い続けて、実際には全く伸びなかった回数を数えるのをやめた。ああいう予測屋は壊れた時計みたいなものだ』というけど、この発言の論理性とリスク管理のなさがあまりに酷くて、いっそ人間は全員さっさとLLMに置き換わってほしいとすら思う。もうそうしてしまおう…
『もうそうしてしまおう』というフレーズ、たぶん意図してないと思うけど、自分はある映画のワンシーンを即座に連想してしまった。
いい映画だよね…うん、実はそのシーンに影響されてたと思う(笑)
『ローカルで小さめのモデルを試したけど、自分には使い物にならなかった』というのは、たぶんそっちの腕の問題では。
『大規模言語モデルの残る優位性は、大きくなるほど幻覚(ハルシネーション)が減る傾向にあることだ』というけど、それは初耳だし、あまり正しくない。関連論文として『Understanding Why Language Models Hallucinate』『Calibrated Language Models Must Hallucinate』『TruthfulQA』などが参考になる。
他にも『いいアイデアだけどまだやり方が分からない』ものとして、LLMの回答をどこまで信用していいか分かる『信頼区間』があればいいよね。もっと夢を見るなら、学習データに関係なく常に全てを知っている、みたいなのもいいけど。『しっかりしたものがあれば』の部分は想像するのは簡単だけど、実装するのは難しい(笑)
他サイトの新着
自分はローカルで動かしたいとは全く思わない。同じものがどこか他所で動いていて、自分の全デバイスからアクセスできる方がいい。Grok Botみたいなものを見ればわかるけど、あれをローカルで動かす人なんていない。今だってほとんど何でもセルフホストできるのに、大半の個人や企業はそうしていない。
そうだね、でもそれは10兆ドル規模のビジネスにはならない。
でも、デュラン・デュランのディスコグラフィーを丸ごと記憶して常時RAMに載せておくようなモデルが、本当に必要なのか?
でも自分が本当にデュラン・デュランを愛してたらどうするんだ???
それはまた別の話だ。おそらく必要ない。ただ、1. 大量の情報で大きなモデルを学習させてから『不要な』情報を削ぎ落として小型モデルを得る、というアプローチはまだ誰も実証していない。2. 小型モデルを学習させて、データベースをツールとして使わせることで、データベースなしの大型モデルと同等のスコアを出す、というアプローチもまだ誰も実証していない。
opencodeで使うQwen 3.8のコーディング品質は、6〜9か月前のClaudeやGPTと同じくらいだと感じている。ただしかなり遅い。
この話題の背景と論点
背景として、ハイパースケーラーの企業価値は、圧倒的な性能を持つフロンティアLLMをクラウド経由で独占的に提供するという事業モデルに支えられている。今回の発端は、「ワットあたりの知能(IPW)」という指標で小型モデル(SLM)とLLMを比較した、2025年10月頃の投資家ブログ記事だ。スレで意見が割れたのは、SLM単体がLLMに勝てるかどうかではなく、日常タスクの一定割合(50%以上という数字も挙がった)がローカル処理に流れた場合、クラウド側の推論需要がどこまで目減りするかという点だった。
見落とされがちなのは、SLMの普及がそのまま「脱クラウド」を意味しない点だ。効率のよい小型モデルをクラウド側が中央集約でホストし直せば、規模とコストの優位性はむしろクラウド側に残りうるとの反論もスレ内で出ている。またハイパースケーラーの収益はAI推論だけでなく、ストレージや従来型計算基盤など多様な事業にも支えられており、SLMの台頭のみをもって収益構造の崩壊を断定するのは早計だと言える。
※本記事は5ch(Hacker News)スレッド「If this is true, the hyperscalers are toast」より抜粋・要約して構成しています。
まだコメントはありません。