トーバルズ「AIは新コンパイラ」発言にLemmyで賛否
Linus Torvalds氏の「AIは新しいコンパイラであり、新しいプログラマーではない」という発言が、Lemmyのc/technologyで取り上げられていた。
LLMの出力は非決定的だからコンパイラとは呼べないという反論から、「作業量が増えること」と「生産性が上がること」は別だという自動車工場の比喩、MicrosoftとOpenAIの利害関係を突く皮肉まで、話は多方面に広がった。
トーバルズ「AIは新しいコンパイラであり、新しいプログラマーではない」
出典: pbxscience.com / 元記事はこちら
でも非決定的なコンパイラなんて見たことないけど
>>2
LLMには temperature というパラメータがあって、0まで下げれば決定的になるよ。ただ多分、余計に使い物にならなくなる
LLMには temperature というパラメータがあって、0まで下げれば決定的になるよ。ただ多分、余計に使い物にならなくなる
>>2
まさにそれ。コード出力が決定的なLLMができたら「AIは人間の言葉のコンパイラだ」と言ってもいいけど、それまではAIは絶対にコンパイラじゃない
まさにそれ。コード出力が決定的なLLMができたら「AIは人間の言葉のコンパイラだ」と言ってもいいけど、それまではAIは絶対にコンパイラじゃない
>>2
厳密に言うと、LLM(というかほとんどの機械学習モデル)は同じ入力・同じシードなら決定的だよ。言いたいことは分かるけど
厳密に言うと、LLM(というかほとんどの機械学習モデル)は同じ入力・同じシードなら決定的だよ。言いたいことは分かるけど
リーナスでさえ「作業量が増えること」と「生産性が上がること」を混同してる。自動車工場だってその気になれば生産台数を10倍にできる。でも品質は落ちて不良品だらけになるから、結局は生産性が上がったことにはならない。PRの数が増えたところで俺は気にしない。あれは生産性の幻影にすぎない
>>3
生産性=やる量を増やすこと / 効率=正しいことをやること。この話で論文まるごと一本書いたから何でも聞いて
生産性=やる量を増やすこと / 効率=正しいことをやること。この話で論文まるごと一本書いたから何でも聞いて
>>7
「生産」の指標次第だよ。全部リコールして直さなきゃいけない車を量産したところで、最初から高品質な車を作るより儲かるわけがない。おまけに信用も失ってブランドが安物扱いされ、売上が落ちて…と悪循環が回り出す
「生産」の指標次第だよ。全部リコールして直さなきゃいけない車を量産したところで、最初から高品質な車を作るより儲かるわけがない。おまけに信用も失ってブランドが安物扱いされ、売上が落ちて…と悪循環が回り出す
>>7
その論文どこで読める?
その論文どこで読める?
もっとみんな聞いた方がいいのに。この見出しを「トーバルズもAI信者になった」と解釈する人が多いけど、実際は「お前らこれを***道具***として扱わないとマジでヤバいことになるぞ」って叫んでるだけなんだよな
>>11
この「道具」のせいでWindowsがどうなったか見た後だと、このコミュニティがどうなるか懐疑的になるのも当然だと思う。前にも同じことが起きたのに、なんでまた許容できるんだ?
この「道具」のせいでWindowsがどうなったか見た後だと、このコミュニティがどうなるか懐疑的になるのも当然だと思う。前にも同じことが起きたのに、なんでまた許容できるんだ?
>>4
まともなコンパイラなら今どき、同じビルド環境なら再現可能なビルドを作れるはずじゃない?セキュリティ検証のために再現可能ビルドを推進する流れもあるし
まともなコンパイラなら今どき、同じビルド環境なら再現可能なビルドを作れるはずじゃない?セキュリティ検証のために再現可能ビルドを推進する流れもあるし
>>13
普通はデフォルトではできないけど、必要な設定を全部そろえて、場合によっては乱数っぽい値を要求する部分に自前のRNGシードを渡す作業をすれば可能だよ
普通はデフォルトではできないけど、必要な設定を全部そろえて、場合によっては乱数っぽい値を要求する部分に自前のRNGシードを渡す作業をすれば可能だよ
>>12
それをやると、文脈上もっとも平均的な出力しか出さなくなる。コンパイラという文脈でそれが役に立つかは分からないな…
それをやると、文脈上もっとも平均的な出力しか出さなくなる。コンパイラという文脈でそれが役に立つかは分からないな…
>>4
C/C++に詳しくないから間違ってたら教えてほしいんだけど、それって「レースコンディション」って呼ばれるやつじゃない?並列処理は非決定性を生むことはあるけど、LLMが非決定的な出力を生成するのとは意味が違うと思う。コンパイラは統計的な機械じゃないし
C/C++に詳しくないから間違ってたら教えてほしいんだけど、それって「レースコンディション」って呼ばれるやつじゃない?並列処理は非決定性を生むことはあるけど、LLMが非決定的な出力を生成するのとは意味が違うと思う。コンパイラは統計的な機械じゃないし
>>15
シングルスレッドでも、入力が想定外の順序で来るだけでレースコンディションは起こり得るよ。あるいはシングルコアCPUで、先に終わるはずのタスクが異常に時間がかかったせいで、CPUが別スレッドに時間を回し、本来最後に終わるはずのそっちが先に終わる、なんてこともある
シングルスレッドでも、入力が想定外の順序で来るだけでレースコンディションは起こり得るよ。あるいはシングルコアCPUで、先に終わるはずのタスクが異常に時間がかかったせいで、CPUが別スレッドに時間を回し、本来最後に終わるはずのそっちが先に終わる、なんてこともある
>>34
ああいうロボットのほとんどは、人間の安全とかの理由でわざと速度を落としてある。だから工場をかなり高速化することはできると思う、10倍は無理でもね
ああいうロボットのほとんどは、人間の安全とかの理由でわざと速度を落としてある。だから工場をかなり高速化することはできると思う、10倍は無理でもね
>>19
溶接を何箇所か省いて、潤滑剤も正確に計らずざっくり±20%で済ませて、シーラントも丁寧に塗らない。塗装の乾燥時間も削る。位置合わせも適当でいい。そりゃ車はガタつくし錆びるし、ちょっとした事故で壊れるしエンジンも長持ちしないけど、とにかく速く量産はできる
溶接を何箇所か省いて、潤滑剤も正確に計らずざっくり±20%で済ませて、シーラントも丁寧に塗らない。塗装の乾燥時間も削る。位置合わせも適当でいい。そりゃ車はガタつくし錆びるし、ちょっとした事故で壊れるしエンジンも長持ちしないけど、とにかく速く量産はできる
AIは新手の詐欺師バズワードだな 😐
>>36
ははは、「公開されてる」にはなってるけど、それだと自分の身元も明かすことになるんだよな…ちょっと考えさせて。あとスウェーデン語で書いてあるから、まあ問題ないかも(?)
ははは、「公開されてる」にはなってるけど、それだと自分の身元も明かすことになるんだよな…ちょっと考えさせて。あとスウェーデン語で書いてあるから、まあ問題ないかも(?)
>>25
temperatureパラメータを0.00に設定すればLLMは決定的になるよ
temperatureパラメータを0.00に設定すればLLMは決定的になるよ
この導入が、最近のAMD GPUドライバのバグの原因になってなければいいけど
>>35
今四半期中に起きなければ関係ないんだよ
今四半期中に起きなければ関係ないんだよ
>>2
ああ、それは大惨事待ったなしって感じだな…
ああ、それは大惨事待ったなしって感じだな…
>>45
Microsoftはこれを道具として扱ってない、それが問題なんだよ。…まあ驚くことじゃない。Microsoftだからというのもあるし、OpenAIの株を3分の1くらい持ってるから、AIブームを煽り続けることに利害関係があるわけで
Microsoftはこれを道具として扱ってない、それが問題なんだよ。…まあ驚くことじゃない。Microsoftだからというのもあるし、OpenAIの株を3分の1くらい持ってるから、AIブームを煽り続けることに利害関係があるわけで
でも結局コンパイルはしないといけないんだよな
>>12
でもそれだと出力がゴミになるよ。同じ疑似乱数シードを使えば再現可能な出力になる
でもそれだと出力がゴミになるよ。同じ疑似乱数シードを使えば再現可能な出力になる
>>9
実行時には決定的になり得るけど、暗号学的ハッシュに例えられる面もあって、あらかじめ組み込まれた疑似乱数性が予測不能な挙動をすることがある
実行時には決定的になり得るけど、暗号学的ハッシュに例えられる面もあって、あらかじめ組み込まれた疑似乱数性が予測不能な挙動をすることがある
>>47
テック業界全体がもう終わってる。残念だよ
テック業界全体がもう終わってる。残念だよ
だな。もう分かってないよ、あの人
※本記事は5ch(Lemmy c/technology)スレッド「Torvalds: AI Is the New Compiler, Not the New Programmer」より抜粋・要約して構成しています。
まだコメントはありません。