フィールズ賞受賞者25人、AIによる数学の「理解の空洞化」に警鐘
姉妹サイトの新着
数学者テレンス・タオが自身のブログで「AIと数学の深刻な不整合(A Severe Misalignment of AI in Mathematics)」と題する記事を公開し、フィールズ賞受賞者25人(現存する受賞者47人のうち)が名を連ねる共同声明を紹介した。AIが定理の「証明」を高速に生成できるようになる一方で、数学の本来の目的である「概念的な理解と洞察」がおざなりになっているのではないか、という懸念だ。Hacker Newsでは、この主張に共感する声がある一方で、問題はAIそのものではなく学術界の評価インセンティブにあるとする反論や、そもそも具体的に何を求めているのか分からないという冷めた指摘も相次ぎ、議論が割れた。
AIと数学の深刻な不整合
出典: terrytao.wordpress.com / 元記事はこちら
タオは要するに「AIは我々を馬鹿にしている」という使い古された主張を、もう少し上品に、数学に当てはめて言い直しているだけだね。
間違いなくあるよ。全部WhatsAppで回ってる。
同感。問題はAIそのものではなく、学術界全般の評価・報酬の仕組みにある。
君は現役の数学研究者なのか?
「AI企業側に具体的な代替の仕組みを提供する責任を負わせる、ということですよね?」――なぜそうなる? 誰かが既存の制度の土台を突き崩すようなイノベーションを起こしたからといって、その後始末をする責任まで負わされる理由がどこにある?
たしかに妙な話だよな。建設業の仕事を海外に外注するのは経済にとっては好都合だとされてきた一方で、街全体が廃墟になっても放置されてきた。でも特権階級にそれが及んだ途端に「具体的な代替の仕組みを用意しろ」という話になるわけだ。
AI開発をやめろと言っているわけじゃない。数学論文の発表をやめろと言っているんだ。
タクシー運転手たちが同じレベルの自我崩壊を強いられたとは思えないけどね。
仕組みを完全には理解していないのに「機能している」ものなんて、これまでにも山ほど生み出してきた。短期的・長期的な影響を完全に把握できていないものもね。例えば医薬品がそうだ。
美しいからだよ。妙な自己顕示ゲームとしてじゃなく、数学そのものを愛しているからだ。
「数学そのものを愛する」というのは、単に答えを知ることなのか? 自分は、何千行もある注釈なしのLean証明がまさに奪ってしまう「過程」や「理解」にこそ、数学を愛する意味があると思う。もし神様が一晩だけ星を並べ替えて「リーマン予想は偽である」と書いたとしたら、それは知的に十分と言えるのか?
おそらく99.999%理解できていないであろうLean4の証明を、君は美しいと感じるのか?
それは選択の問題だ。数学者は今でもAIを使って「概念的な理解と洞察という本来の目標」を達成することができる。
自分の周りのグループチャットはだいたいSignalに移行したよ。
昔からあるのと同じインセンティブだよ。知りたいから、それだけ。じゃあ君はどんなインセンティブを想定してたんだ?
それを言うなら製造業だろう。
他サイトの新着
グロタンディークはヴェイユ予想の証明をめぐってドリーニュを「スロップだ」と批判したことがある。ショルツェの数学が絶対にスロップでないのは確かだ。でも君は、この一世紀で最高の数学者二人を持ち出して、平均についての自分の主張に反論しようとしてるね。
君のこれまでのコメントを見る限り、自分の教育費を自分で払っていなかったことを願うよ、君のためにね。
自分はJEMS誌に論文があるし、20年来の未解決予想も解いたことがある。それに数学アカデミアが政治とエゴで動くいがみ合いのゲームだということもよく知っている。
LLMが書く数学は美しくない。LLMが書くソフトウェアが美しくないのとまったく同じ構図だ。印象的な成果物を生み出すことはあっても、手法やアーキテクチャの理解を大事にする人間からすれば、中身を覗き込むとたいてい惨状が広がっている。
この話題の背景と論点
この声明の背景には、AIが数学オリンピック級の問題や一部の未解決予想の証明を自動生成できるようになったことがある。声明が問題視するのは結果の正しさではなく、証明の過程で得られるはずの「洞察」が人間の手を離れる点だ。スレで意見が割れたのは、これを「AI固有の脅威」と見るか「論文数やベンチマークで評価する学術界の構造問題」と見るかという点。また、Lean(形式証明支援系)で書かれた数千行の証明を人間が理解しないまま「正しい」と扱うことの是非も論点になった。薬学など、仕組みを完全に理解しないまま使われている技術は他にもあるという指摘は、AI数学だけが特殊なのかという疑問を投げかけている。声明への反論の多くは「AI企業に代替策を求めるのは筋違い」という立場で、産業構造の変化一般との比較も交わされた。
※本記事は5ch(Hacker News)スレッド「A Misalignment of AI in Mathematics」より抜粋・要約して構成しています。
まだコメントはありません。