高速・激安の分類AI「Jev」、何がすごいのか海外で議論に
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP【徹底調査】カレーの野菜の多くに「中国産」を使用する「CoCo壱番屋」 一方、国産野菜にこだわる外食チェーンの名前は？ 中国産野菜の使用を徹底調査！
- ニュース速報まとめMAP【東山紀之】ちょｗSMILE-UP.社長退任？ｗｗｗジュリーいつまで居座るつもりや？
- なんJ傑作まとめアンテナMAP東大総長に初の女性 学内投票で2倍の差を付ける
- アニメ声優まとめアンテナMAP無職転生アニメ勢「最新話見たけど主人公の行動おかしくね？ ご都合展開のために知能下げたの？」⇒ 原作者が反応しレスバになる
- VTuberまとめアンテナMAP【にじさんじ】りかしぃさん処刑ボタンに怒ってる…
- だめぽアンテナ【ウマ娘】賢ブライアンはこれ餓狼衣装のか！ということは…
- ヌルポあんてな両津「何！？駄菓子屋の婆さんが入院！？入院費稼いでくる！」ワイ「どんな汚い手で稼ぐんやろう…w」
- 2chまとめアプリ+中日来季監督、井上留任派vs嶋ヘッド昇格派に第三の男も参戦｢俺ならチームを強くできる｣
- News人超ロングヘアのサッカー選手が後半途中出場→前代未聞の珍事が発生ｗｗｗｗｗｗｗｗｗ他
- ブルーアンテナ東大「くっ…女性学長を誕生させたいのに男側とダブルスコアで投票負けてる…」
- ウマーあんてな東京大学学長に藤垣裕子氏選出 女性初、投票覆す 5ch「意向投票の意味が問われる」
- ライムアンテナ【学マス】バトスピとコラボ決定！2027年春にスターター＆ブースター同時発売へ
- とろたまヘッドラインモーニング娘。コンサートにハロプロ研修生坂田しおり(11)が観戦
- ぶーアンテナ【朗報】無職転生の作者「あかん、カチンときて頭のおかしい人の相手をしてしまう所だった。よくない。寝よう。」
- うほうほあんてな【悲報】ホセ・ラミレスさん(34)ゲレーロjrらの陰に隠れてひっそりと逝っていた…………
- アナグロあんてな【画像】足立夏保アナ Tバックを食い込ませながら歩く！！【GIF動画あり】
- まとめクローラ『FF7』の初見プレイでやらかしがちなミス
- ワロタあんてな【悲報】外国人、和食が大嫌いだった模様
- ２ちゃんねるまとめるまとめ【画像】お前らどれと性交したいの？
- 2ちゃんねるアンテナ【画像】高岡早紀、全盛期のナマ乳が完璧すぎる、チラ見えマン毛もH
Hacker Newsで、Jevと互換性を持つ0.8Bパラメータの分類モデル「Jeff」が話題になった。Jevは文章を生成する通常のLLMとは違い、分類に特化したモデルで、事前のファインチューニングなしでも高い精度を出せる点が特徴とされる。スレッドでは、入力トークンの価格が100万トークンあたり0.42ドルなのか0.042ドルなのか一時混乱する場面があったほか、BERT系分類器との違いや、将来フロンティアモデルにこの機能が統合されるかどうかまで幅広い論点が交わされた。
Jeff — Jev互換の0.8Bパラメータ意思決定モデル、自宅で学習・推論は約30ミリ秒
出典: github.com / 元記事はこちら
ある程度の歳の人なら分かると思うけど、Askjev.comがまだ取得可能だなんて驚きだ。
>>3 ask.comが2026年にギブアップしたなんて信じられない。LLMブームに乗っかればいいのに――ask.comほどSEOに強いドメインもないだろうに。方向転換すればよかったんだ！
>>3 もう空いてないよ
知識不足で申し訳ないけど、Jevみたいな機能がそのうち主要な最先端モデルに標準搭載される、ということにはならないのかな？
>>4 その必要はないよ。その機能はローカルで問題なく動くから。
>>4 それをやる意味はないと思う。Jevにできることは最先端モデルでも全部できる。ただ、速さとコストで敵わないだけだ。
>>4 BERTやFLAN-T5も5〜7年前は分類器として使われていて、当時としては一応「最先端」だった。
商用LLM利用のうち、分類タスクが占める割合はどれくらいなんだろう。企業が『フルスペックのLLMなんて要らなかった』と気づいたとき、AI関連の支出やデータセンター需要はどうなるのか気になる。
>>6 今の時点では大半がコーディング用途だと思う。分類も需要はあるけど、経験上、軽量で安いモデルで回されることが多くて、高価な独自の最先端モデルは使われない印象。
>>6 その現実に気づいたら、米国株はおそらく数日で20%くらい吹き飛ぶんじゃないかな。
開発元のTypesafeは、Jevの内部技術についてほとんど語っていない。速度とコストから推測すると、LLMのように単語を1つずつ処理して全単語間の関係を計算する方式ではないのではないか。あの方式はO(n²)の計算量になるから、LLMは規模が大きくなるほど高くつく。
>>7 おそらくこうだと思う。アテンション層(O(n²)の部分)自体は残っているけど、自己回帰的ではない。自己回帰だと予測トークンごとにモデル全体を再実行する必要があってO(n³)になってしまうから。
>>30 一番ありそうなのは、最近の類似モデルの多くと同じやり方――既存のLLMを取ってデコーダーを改造し、強化学習で追加訓練する、というものだと思う。Jevの性能が良いのは、その事後学習の工程に時間をかけているからじゃないか。
>>30 とはいえ、出力側のトークンはごく少数の固定セットしかないんだよね。
Jevって、要するに精度が粗い分類器なだけじゃないの？何か見落としてる？
>>9 ゼロショットで学習なしに動く点が、従来の分類器との違いだよ。
VLM(画像を扱うモデル)側で似たようなものはある？画像の分類とか……
>>11 普通にあるよ、これとか: https://news.ycombinator.com/item?id=49853175
価格を比較したものってある？ 追記: 大量に動かした場合の話ね。
>>13 コストは結局どこで動かすか次第だと思う。Jevはもうめちゃくちゃ安くて、入力100万トークンあたり0.42ドル、出力は無料。その入力コストにトークン化とAPI利用料が含まれてる。
>>36 専門家ではないけど、これってQwen3.5とGemma 4を軽量化したものの上で動いてるんじゃなかった？あのベースモデル自体は結構高い気がする。
>>36 0.42ドルじゃなくて0.042ドルね
>>4 推測だけど、もう社内では出来上がっていて、あとはプロダクト部門やマーケティング部門の判断待ちなんじゃないかな。『ロードマップが新興企業に決められている』ように見せずにどう位置づけるかが難しい。同じ用語や略語は使いたくないだろうし、かといって機能をそのままパクったようにも見られたくないはず。
>>18 Appleを見る限り、製品の質が高いと評価されれば『後発』であることはほぼマイナスにならないと思う。
>>40 一方でNvidiaを見ると、挑戦を恐れず『先発』を取ることは数兆ドル規模のチャンスになり得ることも証明されている。
>>61 NVIDIAは実際のところ、3DFXが『Voodoo』シリーズでグラフィックアクセラレータ市場の大きさを証明したあとで、3DFXのチームと特許をまるごと引き抜いた。当時NVIDIAはグラフィックカード市場で3DFXの競合とすら呼べない存在だった。
>>61 半導体製造にはそもそも強烈な参入障壁がある。ソフトウェアの世界にはあまり似たような話はない。
>>15 なかなかのローカル環境だな。
>>39 自分も同じことを思った。自宅で動かせるのは面白いけど、レンタルの方が現実的な選択肢じゃないかな。Verdaみたいなサービスで実行したらいくらになるのか気になる。単なる興味本位だけど、自宅にブレーカーを増設する気は当分ないし。
>>24 まさにこういうコメントを待っていた。従来の分類器とJevの違いって結局何なの？
>>50 Jevも分類器の一種だよ。すごいのは、ファインチューニングしていない領域でもLLMのように高い精度を出しつつ、速度とコストは従来の分類器並みという点。
>>50 BERTは用途ごとにファインチューニングが必要だけど、Jevは汎化してそのまま使える。これはかなり大きな違いだよ！
>>50 実用面では差はないよ。うちはBERT系のモデルをいろいろ使って用途を満たしていて、今も使い続けてる。無料だしローカルで動くし。
他サイトの新着
>>26 「投稿者もそれを見越してファインチューニング可能だと書いているけど、実際に試した？」という話だけど、それなら0.4BのModernBERTのような分類モデルで既にできる。Jevの価値は、ファインチューニングせずにゼロショットで性能が出せるという点にある。
>>51 何か当たり前のことを見落としている気がするけど、それのどこに価値があるの？分類が必要なのに、専用モデルを個別に作れない案件ってどんなものがあるんだろう。
>>69 「専用モデルを個別に作れない案件」の話だけど、例えばModernBERTをファインチューニングするだけでも固定コストと保守の手間がかかる。全部含めると、保守可能な形に仕上げるのにエンジニアの半日〜1日分くらいはかかるはず。Jevならプロンプトを書くだけの30秒で済む。それでいてデプロイのコストもBERT系モデルとそう変わらない。
>>69 うちの組織では、これのおかげでほぼエンジニアリングの手間なしに社内の様々なシステムで分類器を試せるようになった。あるケースでは結局Jevではなく自前の分類器を作ったけど、他のケースでは労力ゼロで十分な効果が出たのでJevをそのまま使い続けている。
>>67 テキストを生成していないのに、こちらが『ランク付け』を求めていると、どうやって分かるの？
>>80 テキストを『生成』するんじゃなくて『読む』ことで分かるんだよ。
>>67 つまり255トークン分の出力空間でロジットを生成してるってこと？(笑)
>>81 「ロジット」という言葉自体、ソフトマックスかロジスティック関数を前提にしてるけど、実際はそうじゃないかもしれないよ
この話題の背景と論点
議論の軸になっているのは、Jevが「ゼロショットで動く分類器」だという点だ。BERTやModernBERTなど従来の分類モデルは、扱うタスクに合わせて事前にファインチューニングする必要がある。一方Jevは、プロンプトを与えるだけで新しいタスクに対応でき、精度はLLM並み、速度とコストは軽量モデル並みという立ち位置にある。スレッド内では一時、入力トークンの単価が「100万トークンあたり0.42ドル」と伝えられ、後のレスで「実際は0.042ドルの誤り」と訂正される場面があった。また、内部構造については開発元のTypesafeが公表しておらず、自己回帰的にトークンを生成しない仕組みではないかという推測が複数の参加者から出ているが、いずれも憶測の域を出ていない点には注意が必要だ。
※本記事は5ch(Hacker News)スレッド「Jeff – Jev-compatible 0.8B decision models, trained at home, ~30 ms」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。