「LLMハードウェア新王者」に海外「帯域273GB/sじゃ終わってる」
姉妹サイトの新着
即まとch5ch/2chの話題まとめ
授業時間削減へ日教組提言 5ch「給与は減らすなってことだろ」ヒコロヒー「失礼な友達がいて…」友人の無神経発言を告発「縁を切らせていただこうと…」 大竹まことも同意海外掲示板4chanの/g/(Technology)板で、ローカルLLM向けとして発表された新型ミニPC「Framework Desktop」のメモリ帯域幅273GB/sが話題になった。スレ主は「LLMハードウェアの新王者」と持ち上げたが、住民からは「終わったな」「0.5トークン/秒」と揶揄され、対抗馬としてApple Silicon搭載のMac Studioが挙がった。M5 ProやM5 Max、M5 Ultraは300GB/s〜1200GB/s超のメモリ帯域を持つとされ、価格帯やComfyUI・vllm-metalの対応状況をめぐっても意見が割れた。
LLMハードウェアの新王者、爆誕。
>>1
また“vibe教”の勝利かよ
また“vibe教”の勝利かよ
>>1
>0.5トークン/秒な
>0.5トークン/秒な
>>1
王者はMac Studioだろ。Taalasが出るまではそこで頭打ちだよ
王者はMac Studioだろ。Taalasが出るまではそこで頭打ちだよ
>>4
>王者はMac Studio
[GitHub: ComfyUI用GPUの選び方]
>Dティア
>Apple Silicon搭載Mac
>かなり遅い。多くの演算がまともにサポートされてない。fp8サポートは皆無。
[GitHub: vllm-metal対応モデル一覧]
>vllm-metalはApple SiliconでテキストLLMと一部のネイティブマルチモーダルモデルのみサポート。
>Metal V1はテキスト専用プーリングを試験的にサポート。
>王者はMac Studio
[GitHub: ComfyUI用GPUの選び方]
>Dティア
>Apple Silicon搭載Mac
>かなり遅い。多くの演算がまともにサポートされてない。fp8サポートは皆無。
[GitHub: vllm-metal対応モデル一覧]
>vllm-metalはApple SiliconでテキストLLMと一部のネイティブマルチモーダルモデルのみサポート。
>Metal V1はテキスト専用プーリングを試験的にサポート。
>>6
LLMの話をしてるんだが。大型LLMならその通りだが、ComfyUIの話じゃないぞ
LLMの話をしてるんだが。大型LLMならその通りだが、ComfyUIの話じゃないぞ
>>6
>かなり遅い。
Apple M5 Ultra(36コアCPU/80コアGPU)に96GB統合メモリなら十分速いよ。書いた奴はRTX 5090と同じ価格帯のMacと比較してるんだろうけど、それなら当然RTXの方が速いに決まってる
>かなり遅い。
Apple M5 Ultra(36コアCPU/80コアGPU)に96GB統合メモリなら十分速いよ。書いた奴はRTX 5090と同じ価格帯のMacと比較してるんだろうけど、それなら当然RTXの方が速いに決まってる
>273GB/s
終わったな
終わったな
>>5
それな、笑った
それな、笑った
なんでTOPSの表記だけ2段目にしたんだ?横に十分スペースあって統一感保てるのに。素人仕事だな
>>1
>273GB/s
同価格帯なら安いM5 Proでも300GB/s出るし、M5 Maxなら600GB/sあるぞ
>273GB/s
同価格帯なら安いM5 Proでも300GB/s出るし、M5 Maxなら600GB/sあるぞ
>>12
192GBと32GBを同価格帯で比べてるのか?
192GBと32GBを同価格帯で比べてるのか?
>>6
MacでcomfyUIみたいなクソ使うくらいなら、mfluxやDrawThingsの方がずっと速くて良くないか?
MacでcomfyUIみたいなクソ使うくらいなら、mfluxやDrawThingsの方がずっと速くて良くないか?
>>14
ProやMax系Apple SiliconならcomfyUI動かすのなんて余裕だぞ。特に“turbo”モデルと“lightning”LoRAを使えばな。[画像]
ProやMax系Apple SiliconならcomfyUI動かすのなんて余裕だぞ。特に“turbo”モデルと“lightning”LoRAを使えばな。[画像]
>>16
>ライトテーマ
マジかよ、正気か?頭おかしいんじゃないか?
>ライトテーマ
マジかよ、正気か?頭おかしいんじゃないか?
>>15
支離滅裂だな
支離滅裂だな
>>1
>framework
ウケる
>framework desktop
マジウケる
>273 GB/s
Appleは1200 GB/sも出してるってのに、いい加減にしろよ
>framework
ウケる
>framework desktop
マジウケる
>273 GB/s
Appleは1200 GB/sも出してるってのに、いい加減にしろよ
>>31
正直、スクロール方向を逆にする方がこれよりよっぽど狂ってると思うぞ。あんなの一般人がよく信じ込まされたよな
正直、スクロール方向を逆にする方がこれよりよっぽど狂ってると思うぞ。あんなの一般人がよく信じ込まされたよな
>>31
あいつの書き込み見ただけで察してたけどな
あいつの書き込み見ただけで察してたけどな
他サイトの新着
>>1
>スロップ(低品質AI生成物)の王だな
>スロップ(低品質AI生成物)の王だな
>>6
>comfyanonymousが2025年10月17日にこのページを編集…
もう古い情報だ。M5はGPUコアにmatmulが載った。M5 Ultra 80コアは6000 Pro級には届かないかもしれないが、十分な速度とメモリ量でDeepSeek V4 FlashをQ4量子化で動かせる。俺はこれを動かすつもりだ:[リンク]
>comfyanonymousが2025年10月17日にこのページを編集…
もう古い情報だ。M5はGPUコアにmatmulが載った。M5 Ultra 80コアは6000 Pro級には届かないかもしれないが、十分な速度とメモリ量でDeepSeek V4 FlashをQ4量子化で動かせる。俺はこれを動かすつもりだ:[リンク]
>>1
>273GB/s
ゴミだな。こっち買えよ、1.22TB/sだぞ。[画像]
>273GB/s
ゴミだな。こっち買えよ、1.22TB/sだぞ。[画像]
>>38
>試作品じゃん
>試作品じゃん
>>38
>中国は嘘をつかない
おいおい、マジか
>中国は嘘をつかない
おいおい、マジか
この話題の背景と論点
ローカルでLLMを動かす場合、生成速度は端末のメモリ帯域幅に大きく左右される。Framework Desktopは価格を抑えた分帯域幅が273GB/sにとどまり、同価格帯のMac Studio(M5 Pro構成で300GB/s)や、より高価なM5 Max・Ultra構成(600GB/s〜1200GB/s超)と比較されて見劣りする形になった。ただしスレ内でも指摘されている通り、Apple Silicon陣営はvllm-metalなどの推論エンジン対応がまだ発展途上で、fp8非対応など機能面の制約もある。価格帯をそろえずに帯域幅だけを比較する論法への反論も出ており、「安さ」と「速さ」のどちらを取るかという、ローカルLLMの自作PC界隈でしばしば繰り返される論争の縮図になっている。
※本記事は海外掲示板 4chan /g/ (Technology) のスレッド「The new king of LLM hardware is here.」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
この記事のリアクション
まだコメントはありません。