LLMは「次トークン予測器」なのか 海外エンジニアの間で割れる議論
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP【中国】日本の高校の文化祭が中国ネットで大反響＝「うらやましすぎる」「来世は絶対日本の学校に…」
- ニュース速報まとめMAP【米国】ウクライナ軍支援の「ツケ」が欧州へ！米国が突きつけた非情な「全額返還要求」の全容
- なんJ傑作まとめアンテナMAP【悲報】スリムクラブ真栄田さん「木梨憲武さん叩きと言い、最近の皆で悪者を作る風潮くそくらえ」・・・・・・・・・
- アニメ声優まとめアンテナMAP【悲報】戦争反対のアニメーターさん、異論を拒絶 対話で解決は不可能ということを身を持って証明
- VTuberまとめアンテナMAP【Vtuber】園長駅長委員長って委員長以外はVTuber界隈でこの人って印象つかないようになってるのか
- だめぽアンテナ【ウマ娘】ルラち「やっぱセ●なんてダッセーよな～！」
- ヌルポあんてな元F1TD「アストンマーチンが問題はすべてホンダのせいだと世界に訴える関係はパートナーとは呼べない」
- 2chまとめアプリ+ワイが何故結婚できないのかを考察するスレ?
- News人PS版『ドラゴンクエスト7』のディスクに隠された秘密が話題に！気付いた人すげえええええええ！！他
- ブルーアンテナ佐藤理亜 画像666枚【セミヌード】
- ウマーあんてなファミマのUFOおにぎり、想像の5倍美味しいｗ
- まとめクローラ生活は母親に依存、ひきこもり状態「葬儀代に大きな金がかかり、払ってしまえば生活ができなくなる」 ８９歳母の遺体３か月放置した女性の困窮・・・中高年になった子どもを高齢の親が支える８０５０問題 9/4
- ２ちゃんねるまとめるまとめ【衝撃】ナルトさん、一人ぼっちだったの実は完全に嘘だったｗｗｗ
- 勝つるあんてな！【速報】36歳・年収1100万円の婚活男性、ガチで究極すぎる2択に悩まされてしまう
- ぷぅアンテナ【画像】超絶ヤバイ！伊織もえのエチエチ写真におっさん達の股間が限界突破ｗｗｗ 他
- 5chnavi【芸能】死んだ時に良い人扱いされたのが謎だった芸能人・俳優👈だれそうぞうした？
- にゅーもふ【個人撮影】 妊婦の嫁のために泊まりで家事の手伝いに来てた嫁の妹とめちゃくちゃセ●クスしたｗｗｗｗｗｗ
- 海外の反応アンテナ.com海外「日本の食べ物この3つの組み合わせは世界最高だよ」
- ライムアンテナ【アケマス】2005年にはこれだけあったのに…稼働店舗が残り1桁に…
- 海外反応・海外ニュースまとめ【海外の反応】ドラゴンボール超、映画とアニメでやった話をまた作り直すと発表→「もう3周目だぞ」
Hacker Newsに投稿されたブログ記事「"次トークン予測器"というのはLLMの誤ったメンタルモデルだ」を巡り、コメント欄で技術者たちの意見が真っ二つに割れた。「LLMは文字通り次のトークンを予測しているだけ」とする立場と、「入出力の形式がそうであっても本質を説明していない」とする立場がぶつかり合う。「人間も化学物質の袋にすぎない」という比喩で反論する声、記事の文章自体がAI生成っぽいと揶揄する声、ポストトレーニングや強化学習によるチューニングをどう捉えるかで意見が割れる場面もあった。
"次トークン予測器"というのは、LLMを理解するためのメンタルモデルとして間違っている
出典: gmcgoldr.github.io / 元記事はこちら
LLMの議論を停滞させたい誰かが、自分の主張を自ら覆すような記事を書いたからといって、正確な説明をやめるつもりはない
これは"Claude語"で書かれてるな。あるいはClaude語を読みすぎた人間が書いたか。最近Claude語アレルギーになりつつある。まだ完全にではないけど、本気で掘り下げる価値がある、正確に語るべき転換点に来てる
「Claude語を読みすぎた人間かも」というけど、逆に"最近Claude語を読みすぎていない"人間で、このテーマを語る資格がある人なんている?
変な記事だ。タイトルや一部の文章とは裏腹に、本文の大半は「LLMは次トークン予測器であり、その予測は学習データと各種の強化学習手法に基づく」という主張をしている
VC主導の過熱相場では、話をわかりにくくすること自体が目的だ。一部の企業や個人が儲けていて、彼らにとって重要なのはそれだけ。「決定論的だ」「事前学習がどうの」「報酬がどうの」とLLMオタクたちが議論すればするほど、彼らの詐欺まがいの商売はやりやすくなる。この技術も、暗号資産と同じく歴史のゴミ箱行きになるだろう
LLMは単なる"次トークン予測器"よりは賢い。でも作った人間たちはそうでもない。ブラックボックスに「次のトークンを予測しろ」と言っただけで、あとはひたすら蹴飛ばして調整しただけ。運良くそれがうまくいってしまった。それで今ここにいる
チェスの一手が勝ちにつながりやすい、つまり"正しい"と判断できる仕組みは理解できる。でもトークンが"正しい"と判断できる仕組みが分からない。誰か説明してくれない?
LLMは、あり得る次トークン全部について確率分布を出力する。「ch」「ex」みたいな各トークンに確率がつくイメージ。学習時は実際の文章をLLMに読ませて、その文章中で実際に出てきたトークンを"正解"として扱う。詳しく解説してる動画があるから貼っておく(LLM部分は15:30から)
学習時には、あるトークンを選ぶと損失関数の値が小さくなりやすい。それがLLMの出力における"勝ち"にあたる
正しさとか勝ち負けなんて何もわかっていない。学習データからして最も確率が高いものを予測しているだけ
これは"次トークン計算機"だ。次のトークンの確率を計算しているだけ
まあ、自分の直感では、LLMはテンソルのベクトル空間上のパターンを使い、演算と類似度スコアで次の単語を予測しているんだと思う。直感的に理解できないのは、パターンマッチングだけで論理や推論らしきものを表現できてしまう点
タイトルはこうすべき: 『LLMを次トークン予測器として考え続けよう』。ポストトレーニングをしても、その本質は変わらないから
スロップ(粗悪な生成物)、スロップ、またスロップ
「自分の主張を自ら覆すような記事」というけど、それがこの記事(TFA)を正確に言い表しているとは思わない
それを言われても困る。自分としては、この描写は正確だと思っているから。この記事にはAIっぽい文章の特徴と、「実際に起きているのは次トークン予測だ」という白状があちこちにある。だからああ書いた
「それを言われても困る」というなら、例えば「AIっぽい特徴」や「白状」だと思う具体的な箇所を挙げてくれればいい
これは人間が書いたものだよ。AIによる編集は入ってるけど、構成自体は完全に人間のもの。ちょっと雑かもしれないけど
単に意味のない見下し用語だと思う。確かに文字通り次のトークンを予測してはいる。でもそれは、長く一貫した連続トークン列を予測できること、トークンが何にでもなり得ること、その能力を十分高いレベルでやれればほぼ何でもできてしまうことを無視した言い方だ
違うかもしれないけど、「LLMは次トークン予測器」というのは「脳は分子の袋」というのとだいたい同じくらいの話だと思う。どちらのシステムも、素朴に予想される以上の創発的なふるまいを見せる
違いは、「次トークンを予測している」のではなく、報酬信号の予測に基づいて次トークンを"決定している"という点だ
「予測に基づいて決定する」って、それ普通に予測って呼ぶやつじゃん
「予測」という言葉には意味がある。自分はチェスで自分の次の一手を"予測"したりはしない。相手の最初の一手なら予測するかもしれないけど
次トークンの部分は、それを動かす"クロック"みたいなものだよ
いや違う。ポストトレーニングをすれば、素のモデルですら予測はしていないことになる
どういう意味で、モデルは予測していないと言えるの?
確かに政治や経済も絡んではいる。でも技術自体が重要な役割を果たしちゃいけない理由もないだろう。2015年時点でAIの政治経済論がまったく関係なかったのは、必要な技術的ブレイクスルーがまだ起きていなかったからだ
他サイトの新着
とはいえ、それは文字通り次トークン予測器そのものだ。入力はトークン列で、出力は次トークンの確率分布。それが実態
その通り。人間だって化学物質の袋だ。でも多くの場面で、人間を「化学物質の袋」と考えるのは役に立たない。同じように、多くの場面でLLMを「次トークン予測器」と考えるのも役に立たない
でも次トークン予測器であることに変わりはない。それを再帰的に呼び出し、注意深く選んだコンテキストを与え、強化学習に莫大な投資をしてトークン選択をチューニングし、他人のマシン上でCLIツールを使う能力まで持たせた。概念としてはシンプルな技術―次トークン予測器―の上に築かれた強力なシステムだということ
その通り。問題は「次トークン予測器」という表現自体が正しいかどうかじゃなくて、その言葉が持つニュアンス―LLMの能力を暗に矮小化する含み―にある。実際、そういう使われ方をすることが多い
みんながそう言いたいなら、AIモデルの能力を過小に言うことの何が悪いんだ? 人間や動物を「化学物質の袋」と呼ばないのは、彼らに道徳的地位があると考えているからだろう
「たいていAIモデルの能力を過小評価する目的で使われる」―まさにそれ。本当の争点から目をそらしてる。AIに限らず、大量の"印象操作"が行われているという話だ
積層トランスフォーマーというパラダイムは、回路設計空間上のある点を選び取っているにすぎない。このアーキテクチャに、原理的に計算できることの本質的な限界がまったく無い可能性も十分ある
次トークン予測は単なるインターフェースにすぎない。裏側はマルコフ連鎖でもニューラルモデルでも、生身の人間でも構わない
つまり、次トークン予測器ってことじゃん
古典粒子は決定論的な状態遷移則に従う。それでも10個を箱に入れたら、5分後にどこにあるかなんて言い当てられない
それはあまりに重箱の隅をつつく話だと思う。「スーパーボウルの予想は?」と聞かれたら、試合そのものじゃなく結果を予想しろって意味だと普通は分かるはず
そう、まさにそういうこと。そしてこれは些細な違いじゃない
引っかかるのは、みんな「次トークン予測器」を見下すニュアンスで使っている点だと思う。でも実質的には「人間は一度に一語ずつしかコミュニケーションできない」と言っているのと同じくらい、見下した言い方だ
この話題の背景と論点
「LLMは次のトークンを予測しているだけ」という説明は、Transformerの構造としては事実で、学習時には次に来る単語(トークン)を当てる自己回帰的な目的関数が使われる。一方でinstruction tuningやRLHFなどのポストトレーニングを経たモデルは、単純な「次単語予測」だけでは説明しきれない振る舞いを見せるため、両者の主張は本来矛盾しない場合が多い。スレで割れたのはこの技術的事実の"解釈"で、「所詮はトークン予測」という表現がLLMの能力を過小評価するための目くらましだという批判と、逆に過大評価を戒めるために必要な用語だという擁護が対立した。読者が誤解しやすいのは、「次トークン予測」という説明自体は誤りではなく、それをもって能力の上限を語れるかどうかが論点だという点だ。
※本記事は5ch(Hacker News)スレッド「"Next-token predictor" is the wrong mental model for LLMs」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。