OpenAIの数学AI活用に数学者たちが疑問の声
姉妹サイトの新着
Wiredが報じたところによると、OpenAI社内には「自分たちの技術のおかげで数学はもう終わった」と信じている社員がいるという。この話が海外掲示板Lemmyのc/technologyで取り上げられ、数学者たちから反発の声が上がった。AIが未解決問題を解いたとされる件について、証明の中身を人間が理解できなければ「解けた」とは言えないという意見や、機械学習モデルの精度は100%に届かない以上証明として不十分だという指摘が出た一方、証明はLean言語で書かれており誰でも独立に検証できるという反論もあり、話は経営陣の説明責任論にまで広がった。
OpenAI、また数学者たちの怒りを買う
出典: wired.com / 元記事はこちら
「OpenAI社内の複数の社員は、自分たちの技術のおかげで数学はもう終わったと信じているらしい」と関係者が話している、と。/ あの魔法の言葉マシンについては、彼らは本当にいろんなことを信じてるからな。
>>3 ウォーハンマー40Kのメカニカムを思い出すな。『我々は機械を崇拝するだけ、機械は望むように動く。どう動いてるかは誰も知らん!』ってやつ
>>3 待って、ついに単語の文字数を数えられるようになったの?
仕事の10%、いやそれ以下しかやらずに手柄だけ持っていく。これも『AIが経営陣の代わりになれる理由』リストに追加だな
>>13 もちろんその理屈が成立するには、経営陣が実際に責任を取らされる必要があるけどね……例えば、自社の違法行為のせいで責任を問われるとか
正直に言うと、AIは数学を発展させる上で優れた道具にはなり得る。でもAIが問題を解くために行った細部を全部理解できなければ意味がない。それができないなら『解けた』とは言えない
>>6 それに機械学習モデルはどれも精度100%未満だ。つまり信用できないということ。証明というものの肝は完璧さにあるんだから
証明が成立しているなら、それで成立しているんだよ
こう言うのは心が痛むけど、我々は今まさに革命の真っ只中にいる……
さて公開後の話だが、解決済みとされた問題の一つに実際に取り組んでいた人物の、最初の感想の一例を貼っておく
>>7 その証明はLeanという言語で書かれている。だから数学全般と同じく、書いた人を信用する必要はない。誰でも独立に証明を検証できるからだ
本当にそう思うなら、文字通り無意味なコメントの代わりに、僕のどこが間違っていると思うのか書けばよかったのに……
>>16 彼らを擁護したいわけじゃないから、そう見えるのは嫌なんだけど
>>13 そういう仕組みなら、AIの出力に対して責任を負うのは取締役会になるはずだよね。笑えるけど、君の提案はつまり取締役会とAIの間に『スケープゴート』を一人挟むだけの話だと思う
この話題の背景と論点
スレで言及されている「AIが数学を解いた」という話は、近年OpenAIのモデルが数学の難問に挑戦しているという報道を指すとみられる。論点はAIの能力そのものではなく、証明の「正しさ」をどう保証するかという点にある。Lean(リーン)は証明を計算機が行単位で検証できる形式証明言語で、Coqなどと同系統のツールだ。これを使えば、証明を書いた主体がAIであっても人間であっても、結果を独立に追認できる。スレ内の対立は「機械学習の出力は確率的で信用できない」という立場と「Leanで書かれた証明は検証可能だから主体を問わない」という立場の違いであり、どちらもAI自体の是非を断定してはいない点は読み落としやすい。
※本記事は海外掲示板 Lemmy c/technology のスレッド「OpenAI Is Pissing Off a Bunch of Mathematicians—Again」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
この記事のリアクション
まだコメントはありません。