海外の反応
2026年9月15日
【海外の反応】自宅LLM機材、元は取れるか HNで賛否割れる
開発者が公開した「Sunk Cost」は、手元のマシンとモデル、1日に使うトークン数を入力すると、API従量課金と比べて何年でハードウェア代の元が取れるかを計算するツール。「Macを買ってローカルで動かせば元が取れる」という言説を検証したくて作ったという。Hacker Newsでは、Qwen系の中型モデルでは回収に40年以上かかるという試算が出る一方、中古の3090を安く調達して数カ月で元を取ったという報告もあり、議論は単純なコスト比較にとどまらず、検閲やガードレールの有無、データのプライバシー、自律性といった金額に換算できない価値を巡る話に広がった。
『Macを買ってローカルでモデルを動かせば元が取れる』とよく言われるので、本当かどうか確かめたくて作った。Sunk Costは、使っているマシンとモデル、1日あたりのトークン使用量を入力すると、同じモデルをAPIで従量課金した場合と比べて、ハードウェア代が何年で回収できるかを計算してくれる。もちろんLLMのコスト削減以外にも自分のマシンを持つ理由はあるけど、ここでは純粋なコスト面だけを見ている。改善アイデアがあれば教えてほしい!
出典: sunkcost.ai / 元記事はこちら
3
海外の名無しさん
2026-09-15 02:45
Claude Codeは月100ドル以上払わないとすぐ制限がかかる。GitHub Copilotの使用量なら月300ドル以上になりそうだった。だから1350ドル払って手持ちのマシンにR9700を挿した。だいたい4か月で元が取れる計算。しかも機密データを気兼ねなく食わせられるし、どこに送られるか心配しなくていい。
28
海外の名無しさん
2026-09-15 02:49
>>3 R9700はメモリ32GBだよね。同じくらいのサイズのモデルと比較してる?それとも、ローカルで使っているのとまったく同じモデルをホスティングしているサービスの料金と比べるべきじゃない?
5
海外の名無しさん
2026-09-15 02:45
そもそも公平な比較じゃない。ローカルで動かせるなら、ガードレールや検閲、ブランドセーフティ的な制約をある程度学習させて外せる。サブスクにはない価値だよね。このやり方の質は知らないけど、例として貼っておく。https://explainx.ai/blog/heretic-llm-abliteration-guide-2026
29
海外の名無しさん
2026-09-15 02:49
>>5 『ローカルで動かせばガードレールや検閲、ブランドセーフティを外せる』って、普通の人がそれを実際にやりたくなる場面ってある?
54
海外の名無しさん
2026-09-15 02:57
>>29 自分が所有しているバッテリーにBluetoothで接続しようとしてただけなのに、Claudeから謎の『サイバーアラート』が来て、強制的にOpusに格下げされたことがある。だからガードレールを外したくなる気持ちはよく分かる。
6
海外の名無しさん
2026-09-15 02:33
Qwen3.8をAPIの4分の1の速度で動かして元を取るのに43年かかる計算、笑うしかない。自動化やツール呼び出しみたいな小さいタスクにはローカルモデルもありだと思うけど、コーディングだと多分永遠に割に合わない。試してみたけど、月100ドルのサブスクと比べて苦痛でしかなかった。
30
海外の名無しさん
2026-09-15 02:58
>>6 そのローカルモデルの元本回収にそんなに時間がかかるとは、確かに驚きだね!
7
海外の名無しさん
2026-09-15 02:38
新品のマシンが必要っていう前提がそもそもおかしい。先月、3090搭載の中古HP Omenを2000ドルで買った。Qwen3.8で57トークン/秒出る。
31
海外の名無しさん
2026-09-15 03:01
>>7 同感。サイトのパラメータがMac製品しかないのも気になった。自分は12年落ちのASUSと3090でQwen3.8を動かしてて、50トークン/秒くらい出てる。しかもそのマシンでは他の用途も同時に動かしてる。常時稼働させない自分の使い方だと、月あたりのコストはClaudeのサブスクより実際安い。
32
海外の名無しさん
2026-09-15 03:15
>>7 イーサリアムのマイニング終了後に3090を中古2台、1台500ドルで買えたのは本当にラッキーだった。一時期は1台430ドルくらいで見かけたこともある。
33
海外の名無しさん
2026-09-15 02:54
>>7 HPでそれを動かしてるって話は他で聞いたことないな。メモリはどれくらい積んでるの?
9
海外の名無しさん
2026-09-15 02:33
当分の間、採算が合うようになるとは思えない。AI企業はとんでもない量の計算資源を持っていて、事実上それを市場にダンピングしている。
35
海外の名無しさん
2026-09-15 02:42
>>9 『原価割れで売っているなら、買えるだけ買え』――ウォーレン・バフェット
57
海外の名無しさん
2026-09-15 02:54
>>35 ただ一つ注意点があるとすれば、買っているのは物ではなく時間だということ。その時間内にどれだけ引き出せるかでしか価値は決まらない。
58
海外の名無しさん
2026-09-15 02:55
>>35 それ本当の引用?本物ならいい言葉だ
10
海外の名無しさん
2026-09-15 03:01
これを見ると、自分のマシンで動かしているモデルの実際の最大スループットは、ツールが出している数値より高いんじゃないかと思えてくる。勝手に検索して決め打ちした数値に固定するんじゃなくて、全部のパラメータを自分で調整できるようにしてほしい。
11
海外の名無しさん
2026-09-15 02:47
面白い機能案:各シチュエーションで、能力に対して一番早く元が取れる組み合わせのランキングみたいなのを出せない?
36
海外の名無しさん
2026-09-15 03:18
>>11 いいアイデア。かなり粗いけど公開した:https://sunkcost.ai/best/ 利用量ごとに、各性能クラスで最短の回収期間になるモデルとマシンの組み合わせを一覧にして、そこから1クリックで計算機に飛んで前提を変えられるようにしてある。手短に言うと、1日100万トークンならSonnetクラスで一番早いのはMac mini M6上のQwen3.8 27Bで8.3年。1日2000万トークンくらいエージェントを動かす使い方まで増やすと、1年未満まで縮む。
12
海外の名無しさん
2026-09-15 02:57
『意外と小さくない注意点』の項目ではローカル運用の欠点ばかり書いてあるけど、利点には触れていないよね。コメント欄の他の投稿を参考にしてみて。
13
海外の名無しさん
2026-09-15 02:37
ローカルLLMは本来、お金の節約が目的じゃなくて自律性の話。好きなモデルを選んで、望むならファインチューニングもできて、誰にも取り上げられない。
37
海外の名無しさん
2026-09-15 03:05
>>13 本当にそう、完全に同意!
14
海外の名無しさん
2026-09-15 02:33
自宅サーバーでvibeで作ったアプリを動かしてる。VPSを借りたら月25ドル、年300ドルかかる。Mac miniはiOSアプリのビルドもできるから、モバイル開発者なら1台のマシンをみんなで奪い合う代わりに、複数のエージェントで同時にビルドできるはず。
38
海外の名無しさん
2026-09-15 02:52
>>14 それでどんなモデルを動かしてるの?自分もiOS開発者だけど、質の良いコードを書かせるにはもっとフロンティア級のモデルが必要だと感じてる。
15
海外の名無しさん
2026-09-15 02:58
自分はGPUをレンダリングや学習、ゲームにも使ってる。
16
海外の名無しさん
2026-09-15 02:53
いろんな構成を登録できるようにしてほしい。自分はAM5にA6000を2枚積んでる。
39
海外の名無しさん
2026-09-15 02:57
>>16 コミュニティが自分のデータを報告できる仕組みを追加したいと考えてる。プルダウンに他に入れてほしい項目はある?
17
海外の名無しさん
2026-09-15 02:42
この計算機は気に入ってるけど、少なくともDGX Sparkについてはかなりズレてる。自分は実機を持ってて、実際は4倍のトークン数が出てる。
40
海外の名無しさん
2026-09-15 02:51
>>17 それは興味深いフィードバック!どのモデルを動かしてる?今後、クラウドソースのデータをもっと増やしていきたいと思ってる。
19
海外の名無しさん
2026-09-15 02:55
RTXのカードも追加してほしい。5090と6000をお願い。
21
海外の名無しさん
2026-09-15 02:58
自分はごついRyzenをATXケースに積むつもりだった。Mac価格は払いたくない。
22
海外の名無しさん
2026-09-15 02:56
tt-quietboxも入れておくべきだね。
23
海外の名無しさん
2026-09-15 02:46
>>2 最近のOpenAIやAnthropicのモデルはそもそもローカルで動かせないんだから、QwenのようなモデルをローカルとAPIの別プロバイダで比較する方が公平じゃない?そうすればローカルとまったく同じモデルとの比較になるし、そのプロバイダごとのデータプライバシーの違いも比較できる。
45
海外の名無しさん
2026-09-15 02:50
>>23 それは技術的には正しいけど、ローカルモデルとクローズドなフロンティアモデルの差は数か月程度しかない。それに個人の主権とか、いわば『デジタルな身体の完全性』はほぼお金に換えられない価値がある。
61
海外の名無しさん
2026-09-15 02:54
>>45 ローカルでフロンティア級をまともに――三値量子化より高い精度で――動かそうとすると、ハードウェア代だけで50万ドルはかかるよ。
24
海外の名無しさん
2026-09-15 03:01
>>2 自分は、自分のデータをモデルの学習に使ってもらってモデルが良くなるなら構わないと思ってる派。だからこそmuse-spark-1.3-contributorをよく使ってる。理由の一つは価格が破格に安いこと。
25
海外の名無しさん
2026-09-15 02:54
>>2 自分もそれは考えた。家計簿と個人用のwikiをローカルモデルに見張らせてる――Claudeには触らせたくない類のものだから。Qwen3.5 9bで十分こなせてる。どのみち新しいマシンが必要だったし、仮想マシンを何台も動かせるだけのメモリを積めたのも嬉しい誤算。とはいえサブスクも普通に払ってるけどね(笑)。
46
海外の名無しさん
2026-09-15 02:59
>>25 最後の一行がまさに核心だと思う。ローカル運用は『クラウドを使わないこと』そのものが目的じゃなくて、比較対象がどんどんリンゴとオレンジになりつつある、つまり単純比較できなくなってきてる。だからこの記事の前提自体がちょっと怪しい。『採算割れ』と言うには本当にフェアな比較が必要で、これはそうなってない。Claudeが出したよくわからない成果物一つで結論づけられる話じゃない。
27
海外の名無しさん
2026-09-15 02:54
>>2 その考え方にはすごく共感するけど、Fableクラスに近づけるだけのハードウェアなんて到底買えない。
50
海外の名無しさん
2026-09-15 02:56
>>26 みんなClaudeに何をそんな『秘密』にしたい内容を送ってるのか気になる。――ナビエ・ストークス方程式の証明とか。
62
海外の名無しさん
2026-09-15 03:12
>>50 それはたぶん、ナビエ・ストークスの証明を『送っている』んじゃなくて、これまでネットで公開はされているけどこの問題には使われてこなかったアイデアを使って、Claudeにその証明を『見つけさせよう』としているプロンプトだと思う。
この話題の背景と論点
「元を取れるか」を日利用トークン数の関数として試算するこのツールは、GPUやMac代を、同じモデルをAPI課金で使い続けた場合の料金と比べる設計になっている。作者が後日公開した一覧では、1日100万トークン程度の利用ではSonnetクラスのローカル運用でも回収に8年超かかる計算だが、エージェントを動かして1日2000万トークン規模を消費する使い方なら1年未満で回収できるとされ、利用量によって結論が大きく変わる。スレッドで意見が割れたのは、この試算がAPI料金との比較に限定されている点だ。中古の3090がイーサリアムのマイニング終了後に1台500ドル前後まで値下がりしたことを引き合いに、コスト面だけでも十分元が取れるという声がある一方、ガードレール解除やデータを外部に出さない自由、モデルを自分で選べる自律性といった金額に換算しにくい理由でローカル運用を選ぶ人も多く、「コストだけを見る比較自体が的外れ」という指摘も出ていた。
※本記事は5ch(Hacker News)スレッド「Show HN: Sunk Cost – How long until a local LLM rig pays for itself? 」より抜粋・要約して構成しています。
この記事のリアクション
😆 おもしろい 0 😮 びっくり 0 😢 かなしい 0 👍 わかる 0 😠 ひどい 0
まだコメントはありません。