【海外の反応】AIは数学者より賢いのではなく、記憶力で圧倒しているだけ
「AIは数学者を出し抜いているのではなく、ただ人間より多くを覚えているだけだ」とするブログ記事がHacker Newsで議論を呼んだ。人間には理解不能なほど精緻な証明をAIが量産し「人間が物事を理解する時代は終わる」という悲観論に対し、「人間が理解できない証明に意味はない」と反論するレスが相次いだ。
途中では投稿からわずか2分でフロントページ5位に浮上した経緯を怪しむメタな脱線や、電話・インターネット・自動車を「一時の流行」と切り捨てた過去の的外れな予言を引き合いに出す反論も飛び出し、話が広がった。
AIは数学者より賢く考えているのではない。記憶で圧倒しているだけだ。
出典: davidepiffer.com / 元記事はこちら
その通り、閃きじゃなくて膨大な知識同士のつなぎ合わせをしてるだけだよね。アインシュタインの研究以前の人類の知識だけをLLMに学習させて、物理学を再発見させようとした人っている?
>>5
インターネット以前のトークンだけでフロンティアモデルに近いものを学習させるなんて、どこからそんな量のデータを持ってくるんだよ
インターネット以前のトークンだけでフロンティアモデルに近いものを学習させるなんて、どこからそんな量のデータを持ってくるんだよ
そんなことどうでもよくない?人間には理解できないほど精緻な証明を量産して、人間を超えて新しい地平を切り開くんだから。人間が物事を理解する時代は終わりに近づいてる。脳のキャパシティじゃ科学や数学、技術に意味のある貢献なんてできなくなる
>>6
証明を書くことの意味って、そもそも人間の理解を進めるためだろ。Leanのコンパイラを通っただけの記号の山なんて、人間が理解できて初めて意味を持つ
証明を書くことの意味って、そもそも人間の理解を進めるためだろ。Leanのコンパイラを通っただけの記号の山なんて、人間が理解できて初めて意味を持つ
>>6
4chanまで含めた人類全体のデータで訓練された確率的な生成器に『エレガントさ』なんて求めるなよ。期待値を下げとけ
4chanまで含めた人類全体のデータで訓練された確率的な生成器に『エレガントさ』なんて求めるなよ。期待値を下げとけ
>>6
でもどうやら、機械にそれをやらせることを人間が教え込めるみたいだよ
でもどうやら、機械にそれをやらせることを人間が教え込めるみたいだよ
AI企業さんよ、いい加減弁護士か医者の仕事に矛先を変えたらどうだ。数学やソフトウェア工学が『解決済み』だと売り込むのはもう飽きた。まあ、IPO直前の企業には反発が大きすぎて無理なんだろうけど
>>9
AI企業は弁護士や医者の代替としても売り込んでるよ。ただHacker Newsだから、自分たちの専門分野の話ばかり目につくバイアスがあるだけ
AI企業は弁護士や医者の代替としても売り込んでるよ。ただHacker Newsだから、自分たちの専門分野の話ばかり目につくバイアスがあるだけ
>>9
弁護士をしている夫を持つ近所の人が、もうAIが日常業務に組み込まれてるって言ってた。OpenAIも医療向けにHIPAA準拠のサービスを既に出してる。そういうのはもうとっくにやってるんだよ
弁護士をしている夫を持つ近所の人が、もうAIが日常業務に組み込まれてるって言ってた。OpenAIも医療向けにHIPAA準拠のサービスを既に出してる。そういうのはもうとっくにやってるんだよ
>>9
コンパイラやソルバー、定理証明器で生成物を検証できるから、素早く反復してAIが自己修正できる。法律や医療みたいな『ソフトな』業界ではそれができない
コンパイラやソルバー、定理証明器で生成物を検証できるから、素早く反復してAIが自己修正できる。法律や医療みたいな『ソフトな』業界ではそれができない
メタな話だけど、投稿からわずか2分、アップボート1件でどうやってこの記事がフロントページ5位まで来たんだ?
>>12
それがHacker Newsってもんだよ。自分の投稿でも何度もそういうことがあった。すぐ拾われることもあれば拾われないこともある。ものすごい速さでランクを落とすこともある。エンゲージメントの量と質にかなり左右される
それがHacker Newsってもんだよ。自分の投稿でも何度もそういうことがあった。すぐ拾われることもあれば拾われないこともある。ものすごい速さでランクを落とすこともある。エンゲージメントの量と質にかなり左右される
>>12
カネの流れを追え
カネの流れを追え
>>12
そのアップボート、どれくらい速かったの?
そのアップボート、どれくらい速かったの?
『AはXじゃなくてYだ』っていう釣りタイトル、いかにもAIが書いた駄文って感じ
>>13
完全同意。AIのコンテキストは大きいと言っても、人間が学習できる量に比べたら大したことない。文脈を効率よく圧縮できたとしても、せいぜい論文数本分。証明作業を進めていけばすぐに埋まってしまう。AIが進歩してるのは否定しないけど、それを『記憶力』の問題に矮小化するのは単純化しすぎ
完全同意。AIのコンテキストは大きいと言っても、人間が学習できる量に比べたら大したことない。文脈を効率よく圧縮できたとしても、せいぜい論文数本分。証明作業を進めていけばすぐに埋まってしまう。AIが進歩してるのは否定しないけど、それを『記憶力』の問題に矮小化するのは単純化しすぎ
>>2
AIには『Sitzfleisch(尻の根気)』があるからな。オッペンハイマーのウィキペディアの該当箇所参照
AIには『Sitzfleisch(尻の根気)』があるからな。オッペンハイマーのウィキペディアの該当箇所参照
>>16
うちのブラウザはあの気の利いたURLテキスト選択に対応してないから引用できないけど、sitzfleischは『物事をやり通す根気』って意味。どうやらオッペンハイマーにはそれが無かったらしい
うちのブラウザはあの気の利いたURLテキスト選択に対応してないから引用できないけど、sitzfleischは『物事をやり通す根気』って意味。どうやらオッペンハイマーにはそれが無かったらしい
>>2
弦理論って知ってる?一生かけても成果を出せない人はいくらでもいる
弦理論って知ってる?一生かけても成果を出せない人はいくらでもいる
>>17
弦理論はまさに、エゴとサンクコストの誤謬で生き延びてる袋小路の好例だよね。AIだったら10年前に『もう死んでる』と判断して次に進んでたはず
弦理論はまさに、エゴとサンクコストの誤謬で生き延びてる袋小路の好例だよね。AIだったら10年前に『もう死んでる』と判断して次に進んでたはず
>>2
肝心なのは、これが『人間には関連知識の総体をつなげられない』という前提に依存してるってこと。でもその知識自体は人間由来なんだよね。しばらくは機械学習が拾える『低いところにある果実』祭りが続くだろうけど、その後は証明を量産する存在というより『つながりを見つける存在』として、断続的にしか進まないと思う
肝心なのは、これが『人間には関連知識の総体をつなげられない』という前提に依存してるってこと。でもその知識自体は人間由来なんだよね。しばらくは機械学習が拾える『低いところにある果実』祭りが続くだろうけど、その後は証明を量産する存在というより『つながりを見つける存在』として、断続的にしか進まないと思う
>>20
『つながりを見つける』だけじゃ終わらないよ。ロボット工学が進んでLLMが身体を持つようになれば、物理世界で実験して新しい知見を見つけられるようになる
『つながりを見つける』だけじゃ終わらないよ。ロボット工学が進んでLLMが身体を持つようになれば、物理世界で実験して新しい知見を見つけられるようになる
>>52
実験をする上で重要な障壁は『身体を持つこと』じゃない。資金とインフラという『リソースへのアクセス』の方だよ
実験をする上で重要な障壁は『身体を持つこと』じゃない。資金とインフラという『リソースへのアクセス』の方だよ
>>2
『数学者が研究の方向性を決めて丸1週間かけてもうまくいかなかったら、苛立って休憩が必要になる』ってくだり、その期間設定が控えめすぎる。1週間の作業で大きな進展を期待してる人なんていないだろ
『数学者が研究の方向性を決めて丸1週間かけてもうまくいかなかったら、苛立って休憩が必要になる』ってくだり、その期間設定が控えめすぎる。1週間の作業で大きな進展を期待してる人なんていないだろ
>>21
『1週間で大きな進展を期待する人なんていない』とか言うけど、私のADHDを甘く見すぎ。出典:数学者である私自身
『1週間で大きな進展を期待する人なんていない』とか言うけど、私のADHDを甘く見すぎ。出典:数学者である私自身
>>21
それはただの例え話であって、文字通り受け取るものじゃないと思うよ
それはただの例え話であって、文字通り受け取るものじゃないと思うよ
>>39
それは自分が言いたかったことと違う。ソフトウェアや数学の検証の話をしてるんじゃない。AIは『妥当だけど質が悪くて理解不能なもの』を生成できるって話をしてる
それは自分が言いたかったことと違う。ソフトウェアや数学の検証の話をしてるんじゃない。AIは『妥当だけど質が悪くて理解不能なもの』を生成できるって話をしてる
>>66
自分が言いたいのは、AI企業がソフトウェアや数学の話ばかりするのは、『これで合格』と判定できるツールが既にあるからだってこと。だから計算資源を1週間分費やして検証をパスするまで回し、それをマーケティング素材として発表できる。医療や法律(一部のニッチな領域を除く)では同じことができない
自分が言いたいのは、AI企業がソフトウェアや数学の話ばかりするのは、『これで合格』と判定できるツールが既にあるからだってこと。だから計算資源を1週間分費やして検証をパスするまで回し、それをマーケティング素材として発表できる。医療や法律(一部のニッチな領域を除く)では同じことができない
>>55
ここでかかっているコストに見合うだけの商業的価値がある『理解不能な文章』(証明に限らずどんな文章でもいい)の例を挙げてもらえる?
ここでかかっているコストに見合うだけの商業的価値がある『理解不能な文章』(証明に限らずどんな文章でもいい)の例を挙げてもらえる?
>>69
だよね、世界中でせいぜいコンピューター5台分くらいの市場しかないもんな。ポール・クルーグマンは1998年に『インターネットの経済効果はファックス機以上にはならない』と予言した。1876年のウェスタンユニオンの内部メモは電話を『欠点だらけ』と切り捨てたし、ある銀行家はホレス・ラッカムに『自動車なんて一時の流行だから』とフォードへの投資をやめさせようとした。我々もなかなかいい仲間に囲まれてるじゃないか
だよね、世界中でせいぜいコンピューター5台分くらいの市場しかないもんな。ポール・クルーグマンは1998年に『インターネットの経済効果はファックス機以上にはならない』と予言した。1876年のウェスタンユニオンの内部メモは電話を『欠点だらけ』と切り捨てたし、ある銀行家はホレス・ラッカムに『自動車なんて一時の流行だから』とフォードへの投資をやめさせようとした。我々もなかなかいい仲間に囲まれてるじゃないか
※本記事は5ch(Hacker News)スレッド「AI Isn’t Outthinking Mathematicians. It’s Out-Remembering Them」より抜粋・要約して構成しています。
まだコメントはありません。