IT・AI
2026年10月7日
AIが自ら設計した推論チップ「openTPU」が話題に
Hacker Newsで、GitHub発のオープンソースAI推論チップ「openTPU」のスレッドが話題になっていた。RISC-VのCPUコア開発で使われた手法を応用し、再帰的な自己改善ループを重ねることで、小型モデルなら毎秒80トークン以上まで高速化したという。スレでは、フロンティアモデルをなぜ専用チップに焼き込まないのかという疑問から議論が広がり、チップの開発期間の長さやモデルの進化速度の速さ、FPGAの容量の限界など、ハードウェア設計をめぐる制約について意見が交わされた。
AIが自ら推論用のハードウェアを開発できるようになった
出典: github.com / 元記事はこちら
2
海外の名無しさん
2026-10-06 16:53
ソフトウェア側の人間なので的外れな質問かもしれないけど、なぜ各社はフロンティアモデルをもうチップに焼き込んでいないんだろう？ 性能向上やリクエスト単価を考えたら十分やる価値があると思う。でも、経済性にも物理的な難しさにも詳しくないから何とも言えないけど。
13
海外の名無しさん
2026-10-06 16:56
>>2 チップの開発期間はすごく長いから、出来上がる頃にはそのチップ自体が旧式になっているリスクが大きい。それに、どんなプロジェクトでも製造ラインの確保自体が難しい。こんな実験的なものならなおさら。
14
海外の名無しさん
2026-10-06 16:58
>>2 もうやってる会社があるよ。[1] https://taalas.com/ [2] https://chatjimmy.ai/
20
海外の名無しさん
2026-10-06 17:10
>>2 FPGAはどうなの？ビットコインがGPU→FPGA→専用チップと進化した時の、ちょうど中間段階と同じじゃない？
4
海外の名無しさん
2026-10-06 16:23
AIを使ってRISC-VのCPUコアを開発したのと同じ手法を、openTPUの開発にも使った。オープンソースのAI推論エンジンで、Qwen 3.5やGemma 4など最近の主要モデルの大半を動かせる。最初は毎秒数トークンしか出せなかったけど、再帰的な自己改善のループを通して、小型モデルなら毎秒80トークン以上まで速くなった。
5
海外の名無しさん
2026-10-06 17:05
「再帰的自己改善は人類を滅ぼす！」……で、こちらが実際に動いている再帰的自己改善です、と。
26
海外の名無しさん
2026-10-06 17:18
>>5 技術は昔から次の世代の技術の改善に貢献してきた。完全に自律的になった時だけが問題なんだよ。
27
海外の名無しさん
2026-10-06 17:14
>>5 「再帰的自己改善は人類を滅ぼす！」で、実際に動いてるのがこれ、と。そのうちこうなるぞ。トークン提供者「トーメント・ネクサスは教訓として語られる寓話だ」同じトークン提供者「ついに、以前お話ししたトーメント・ネクサスを完成させました！」
28
海外の名無しさん
2026-10-06 17:17
>>5 結局みんな同じ高さの"頭打ち"に行き着く。再帰的自己改善もそこに至る一過程に過ぎない。
6
海外の名無しさん
2026-10-06 16:40
経験豊富な人がLLMを的確な方向に導くだけで、得られるものはすごく大きいと思う。
7
海外の名無しさん
2026-10-06 17:20
このハードウェアの性能について誰か教えてくれない？人間が設計した最先端のハードウェアと比べてどうなの？これは実際に進歩と言えるもの？（再帰的自己改善に至るには、そもそも何か改善できていないと話にならないよね）
8
海外の名無しさん
2026-10-06 16:50
これは1枚300ドルくらいのFPGA基板で動いているみたい。このハードウェアについて詳しい人いる？
29
海外の名無しさん
2026-10-06 17:00
>>8 データセンターで使われなくなった基板で、ホビイストの間ではかなり人気。推論用TPUで肝心なのはメモリ帯域幅。使えるロジック面積や消費電力をいかに小さく抑えながら、帯域幅をどれだけ引き出せるかが勝負。
9
海外の名無しさん
2026-10-06 17:17
この投稿を見て、「これからソフトウェア開発者であることの意味は何なのか」と考えさせられる。
10
海外の名無しさん
2026-10-06 17:11
Colossus社はColossus IIを作っているところだよ。
11
海外の名無しさん
2026-10-06 16:58
そう、99.9%の人はLLMに何ができるか全然分かっていない。LLMが設計する次世代のCPU/GPUが出てくるのを待つといい（ちなみにチップ設計ツールはこの数ヶ月で何世紀分も進化してる）。そうなればハードウェアの性能は指数関数的に伸び始めるよ。
30
海外の名無しさん
2026-10-06 17:08
>>11 どのツールがそんな飛躍を遂げたの？設計の反復が速くなるのは分かるけど、開発サイクルが短くなる以上に、ハードウェア性能が指数関数的に伸びる根拠は何？
15
海外の名無しさん
2026-10-06 17:15
>>2 今のモデルをシリコンに焼き込んで2028年まで使うためにお金を払う？それとも、あと半年待ってモデルがどう進化するか見てから決める？
17
海外の名無しさん
2026-10-06 17:22
>>2 もっと単純な疑問。このopenTPUの何が新しくて目新しいの？
18
海外の名無しさん
2026-10-06 16:58
>>2 Etchedっていうスタートアップがまさにそれをやってる。https://www.etched.com/progress/frontier-inference-clusters
19
海外の名無しさん
2026-10-06 17:05
>>2 モデルの反復速度が速すぎて、あるバージョン用のASICが出来上がる頃には、もう性能で大きく先を行かれてしまうから。Opus 4.8と5.5の差がどれだけ大きかったか考えてみて。あの2つはリリース間隔が4ヶ月しかない。
22
海外の名無しさん
2026-10-06 16:56
>>2 設計からテープアウト、量産までに時間がかかりすぎるからだと思う。あの会社たちのビジネスはより良いモデルを持ち続けることが前提だし、そんなことをすればクローズドソースを保てなくなる。
23
海外の名無しさん
2026-10-06 16:55
>>2 実際やってるよ。ただチップを実際に展開するまでに時間がかかる。OpenAIとBroadcomの契約を調べてみて。
24
海外の名無しさん
2026-10-06 17:12
>>2 他の人の回答に加えて一つ。モデルの大部分は重みで、高密度なROMを作るのはとても難しい。
25
海外の名無しさん
2026-10-06 17:18
>>3 AIなら、現行の汎用FPGAより、その用途に特化した分だけずっと効率のいいFPGA的な代替品を設計できると思う。
36
海外の名無しさん
2026-10-06 17:19
>>25 省電力面では多少改善するかもしれないけど、今の設計でも、プログラム可能性や柔軟性を犠牲にせずにこのハードウェアの理論上の最大速度の90%は出せている。
31
海外の名無しさん
2026-10-06 17:15
>>12 FPGAはGPUより高いのは知ってるけど、その分の速さは追加コストに見合うの？
38
海外の名無しさん
2026-10-06 17:22
>>31 魔法のように速くなるわけじゃない。機械学習の学習や推論で、FPGAが最新のGPUより速いアーキテクチャは知らない。
39
海外の名無しさん
2026-10-06 17:16
>>31 FPGAはむしろ、TSMCに何億ドルも投じて専用ASICを作る前に、アクセラレータの設計を検証するための手段という位置づけ。
40
海外の名無しさん
2026-10-06 17:21
>>31 1. ノー 2. そもそも容量も足りない。今最大のFPGAであるAMD Versal Premium VP1902でも論理セルは1850万個。これはwhisper.cppの最小モデル（7500万パラメータ）すら動かすのに足りない。フロンティアモデルを1つ動かすだけで何十万個も並べる必要があって、その規模になると光速の制約で推論がボトルネックになる。
32
海外の名無しさん
2026-10-06 16:59
>>13 そういった問題への対処が、terrafabの設計の大きな狙いの一つみたい。
33
海外の名無しさん
2026-10-06 17:25
>>14 その会社は最近AMDに買収されたはずだから、量産化が進むといいね。OpenAIもモデルをチップに焼き込む取り組みをしていたと思う。
34
海外の名無しさん
2026-10-06 17:12
>>20 GPUの方が速いけど、GPUでは自分専用のアーキテクチャを作れない。FPGAならそれができる。とはいえ、たまたま仮想通貨マイニング用の化け物FPGAが何台か自分のところに来る予定で、openTPUならそれでフロンティアモデルを動かせると思ってる。
41
海外の名無しさん
2026-10-06 17:27
>>35 それはCPU/DIMM構成に代わる、メモリ内計算（compute-in-memory）の一般的な置き換えの話に近づいてるね。LLMや世界モデルだけじゃなく、AI全般にとって他にも応用できそう。ただ、標準的なアーキテクチャとはかなり違うソフトウェア開発スタックが必要になる。
この話題の背景と論点
背景として触れておきたいのは、このopenTPUはAIが完全に自律して作ったわけではなく、人が設計の方向性を示しながらAIに繰り返し改良させた「人力＋AI反復改善」の成果という点だ。スレで引用された「再帰的自己改善は人類を滅ぼす」という警句は、AI安全性の議論でよく使われる言葉で、今回のケースへの皮肉として使われている。もう一つの論点は、なぜ大手AI企業がフロンティアモデルを専用ASICに焼き込まないのかという経済合理性の話で、半導体は設計から量産までに数年かかる一方、モデルの性能は数ヶ月で大きく変わるため、チップが完成した頃には型落ちになるリスクが指摘されている。EtchedやTaalasのように専用チップ開発に挑む企業は既に存在するが、量産化の壁は大きい。FPGAについても論理セル数の制約から、現状ではフロンティアモデル規模を動かせる段階にないという指摘があり、話題の勢いと実用化までの距離感には差があることが読み取れる。
※本記事は海外掲示板 Hacker News のスレッド「AI is now capable of developing its own inference hardware」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
この記事のリアクション
まだコメントはありません。