「40〜400倍安く20〜200倍速い」新AIモデル「Jev」に海外で懐疑の声
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP韓国人「日本に外国人観光客が続々と押し寄せるのは日本が巨大な〇〇だから」
- ニュース速報まとめMAP【話題】“日本一かわいい剣道女子”佐藤あかり、タンクトップ姿を披露→まさかの「1日所長」就任にネット騒然「何か凄い所」「美人な所長」
- なんJ傑作まとめアンテナMAP阪神7連敗ｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗ
- アニメ声優まとめアンテナMAP【訃報】サイゼで喜ぶ妻、死去。一体何があったの？
- VTuberまとめアンテナMAP【ぶいすぽ】この画像えぐい
- だめぽアンテナ【画像】貧乳なのに街で乳出してるお姉さんwwwwwwwwww
- ヌルポあんてな【悲報】ショートスリーパー堀大輔さん、ついにBANされかける←ご覧くださいw w w w w w
- 2chまとめアプリ+ポケモンの三大『詰みポイント』といえば「カスミのスターミー」「アカネのミルタンク」
- News人【朗報】堀大輔さん、今日の深夜からなぜかアンチが激減し好意的なコメントが増える他
- ブルーアンテナ桜井あゆ マドンナ的存在の女教師が同僚教師＆生徒たちにレイプ中出し20連発される 前半
- ウマーあんてな【悲報】シルバーウィークに兄家族（ガキ2匹）と妹家族（ガキ3匹）が帰省
- ワロタあんてな【悲報】ショートスリーパー堀さん、ドクターストップへ…脳梗塞の疑い
- アナグロあんてな海外「日本は世界最強のキャラ大国なのに…」 日本国内の人気投票に米Yahooニュースも注目し世界的な話題に
- 2ちゃんねるアンテナ大人になったバージョンをガチで見てみたい漫画ある？
- まとめクローラ中国人インバウンド減少でも「日本はほぼノーダメージ」「中国側の自滅」 [9/15]
- Red4 海外の反応まとめ【海外の反応】「生活必需品の値上がりがヤバい…」日本のインフレと金利上昇に日本居住の外国人が悲鳴！ →「オルカン積立しか勝たん」「賃上げなんて実感ないぞ」
- ぶーアンテナ【動画】韓国アイドル、衣装がブカブカで乳首丸見えｗｗｗｗ
- おまとめアンテナ蛯原友里がCM復帰→平成民を狙い撃ちしてしまうｗ
- ２ちゃんねるまとめるまとめ【CN悲報】Huaweiの社長一家、中国から逃亡ｗｗｗｗｗｗｗｗｗｗｗ
- ぷぅアンテナ【画像】絶望の表情…岸田総理が冷たい目をする理由がこれｗｗｗｗｗ 他
AIスタートアップTypeSafe.aiが、既存のLLMより40〜400倍安く20〜200倍速いと謳う新モデル「Jev」を発表した。トークンを1つずつ自己回帰的に生成する従来型LLMと違い、構造化された入力から出力を一括計算する仕組みで、出力トークンの課金は事実上無料になるという。Hacker Newsでは、話題になった「Doom」のデモが実はリアルタイム操作の映像ではなく構造化データのやり取りだったことや、公開ベンチマークが一切示されていない点を巡って懐疑的な意見が相次いだ。
Jev: 新型フロンティアモデル、40〜400倍安く20〜200倍速い
出典: typesafe.ai / 元記事はこちら
余談だが、「Diogo Almeida」が「Dario Amodei」(Anthropic CEO)のパロディ名じゃないと気づくまで、恥ずかしいくらい時間がかかった
>>8 だったら「Wario Amodei」一択だろ
>>8 デモ動画を見るまで、これがネタ投稿じゃないって気づかなかった
並列出力にするトレードオフとして、任意の文字列生成ができない、つまり出力トークン数が事前に固定されるってこと?いずれにしても、かなりクールで感心する
理論上は、未完成のテキストを入力して、次に来る文字の確率を聞き返すこともできるってこと?
>>10 英語の構文木(AST)を渡せるならね
同じく混乱してた人向けに引用しとく。「Jevはフロンティア級知能の関数呼び出しだと思ってほしい。非構造化状態を入力すると、型付きの確率的判断が出力される」とのこと
ASTを渡せばコーディングにも使えそう。TypeSafeの中の人がいたらぜひ試してほしい。余談だけど、これはエンコーダーが改良されて次の潜在表現を予測できるLLMが出てきたときの姿に近い気がする。いずれそっちがこのアーキテクチャを上回るだろうけど、それでもすごい
>>12 前にpiでtree-sitterを実装したことがあるけど、動くことは動くものの、トークンが節約できてる証拠も精度が上がってる証拠もない。「ツールを使わせて様子を見る」んじゃなく、AST用に学習されたモデルの方がいいと思う。時間ができたらこの辺をちゃんと調べてみたい
「他社は出力トークンが入力の5倍高い」「Jevは出力トークンが無料(課金するまでもないほど安い)」というけど、これは正直よく分からない
>>13 自己回帰をしていないから、出力は全部まとめて1回のフォワードパスで計算される。だからすごく安い
実際にどう使うのか一度も見せてないよね?動いてる様子のアニメーションばかりで。デモで使った実際のコードを見たい
>>14 Doomのデモではプログラムの状態やクエリが表示されてるよ
Doomのデモはかなりかっこいい
>>15 X(Twitter)を見たくない人のために言うと、Doomのデモは元記事にも載ってるよ
>>15 Doom動画のツイートへの直リンクはこれ
つまり構造化データベースの言語モデルってこと?それともモデルとハーネスが別にあるの?もっと詳しく説明を公開してほしい
サブエージェントを使いたくない場面での並列推論って、けっこうニッチな用途に思える
これはかなり興味をそそられる。LLMを使った大規模自動化は、フロンティア企業のモデルが次々廃止されるサイクルに振り回されるし、複数モデルを組み合わせて自前運用するとコストが跳ね上がるしで、正直うんざりしてたところ
テキストを生成しないってすごいな。TeslaのFSDのスタックと技術的にどう比較できるんだろう
なんで「System One」って名前にしたんだろう。「System Oneタスク」や「System One型のクエリ」が何なのかちゃんと説明されてない。速い応答が必要なもの、ってこと?すごく小さいモデルってことを示唆してるのかな。モデル自体についての情報が見当たらない
>>21 たぶんこれのことかも(システム1/システム2の二重過程理論の解説リンク)
こういうのを見るとゾクゾクする。5年先の未来を覗いてるみたいだ
「大きな主張には大きな証拠が必要、というわけで根拠は以下参照」か。こういう姿勢こそ、モデル発表に求めたいものだ
>>23 でも、その根拠が実際には無いんだよな…
他サイトの新着
「公開ベンチマークとの比較はあえて公表しないことにした。今後も製品更新のたびに単発の評価をするだけの予定」とのこと。笑うところで、ベンチマークの結果が良ければ絶対公表してるはず
これは今すぐにでも使える場面がある。今後5年でいろんなアーキテクチャが出てくるんだろうな
うわ、あのページ読みづらい。テキストの描画に何をしたのか分からないけど、目に優しくない
このページのレンダリング、何かがおかしくない?ページ全体が<canvas>要素みたいに見える。追記: Framerからの書き出しで、テキストにストロークがかかってるっぽい
「これは現実なのか、それともただの幻想なのか」(Queen『ボヘミアン・ラプソディ』の一節)
えっと、発表動画で服装がコロコロ変わってるのは一体何なんだ…
>>29 ただ楽しんでるだけなのか、AI生成なのか判別できない。もう見分けがつかない域に来てる。声も心なしか合成っぽい
>>29 あれは意図的なジョークだと思う。これを思い出した(海外ドラマ『ITクラウド』のシーンを貼ったReddit投稿)
>>29 自分にはあの動画、全体がAI生成に見えた
>>6 Doomをプレイしてる動画見た?あれで腑に落ちた
>>39 ちなみにあれは複数モデルがDoomをプレイしてたわけじゃなくて、構造化された入力を渡して構造化された出力を受け取ってただけ。自分が思ってたような、映像フレームを渡してリアルタイムにプレイしてる、というのとは違った
>>49 たしかに、懐疑派っぽい口ぶりの割に、デモ動画数本以外の根拠がほとんど無い。ライブデモの方がずっと説得力あるはず
>>58 なぜかベンチマークを使わない、とほのめかしてるだけなんだよな…
この話題の背景と論点
「Jev」はTypeSafe.aiが打ち出した「System One」モデル群の一つで、通常のLLMのようにトークンを1つずつ自己回帰的に生成せず、1回のフォワードパスでまとめて出力を計算する方式だという触れ込みだ。出力トークンが実質無料とされているのも、この非自己回帰的な仕組みに由来するとコメント欄で説明されている。ただし発表元は公開ベンチマークとの比較をあえて避けており、根拠として示されているのはDoomを操作する様子などのデモ動画のみ。しかもそのDoomデモは、実際のリアルタイム映像入力ではなく構造化データのやり取りだったと後から補足されている。「System One」という名称は心理学の二重過程理論(速い思考のシステム1、遅い思考のシステム2)を連想させるが、公式な説明は乏しく、あくまで憶測の域を出ていない点には注意したい。
※本記事は5ch(Hacker News)スレッド「Jev: New frontier model 40-400x cheaper and 20-200x faster」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。