【海外の反応】「学習データに無い答えを、AIはなぜ導けるのか」4chanで議論
姉妹サイトの新着
海外の掲示板4chanのTechnology板で、「AIの答えが学習データに存在しないなら、新しい問題への回答は単なる幻覚(ハルシネーション)ではないか」という投稿をきっかけに議論が起きた。これに対し、演繹的推論やペアノの公理系を例に「訓練データに無い結論も既存の規則から導出できる」とする反論や、強化学習(RLHF)がAIの粘り強さと同時に幻覚を生む土壌にもなっているとの指摘が続いた。さらに「人間自身も未知の経路を組み合わせているだけ」という見方や、言語出力だけでは説明できないクオリアの存在を挙げる声もあり、AIの知能と人間の思考の違いをめぐって意見が割れた。
新しい出力というのは本質的にすべて幻覚(ハルシネーション)なのでは？もし本当にハルシネーションなら、単なる運以外のどんな理由で現実と一致する正しい答えになるというのか？
運じゃない。何十億通りもの組み合わせを、さらに何十億通りもの組み合わせと掛け合わせて答えを探し、それが正しいかどうかを判定しているだけだ。
純粋な力押しであって、運とは関係ない
そうやって力押しで粘るのは強化学習のせいだ。LLMに『絶対に諦めない』ことを教え込んでいる。たぶんそれがハルシネーションが起きる大きな原因のひとつでもあると思う
>何も理解していない
>二次創作(フィクション)を書く
>自分で書いた二次創作に腹を立てる
>これが/g/ – Technology板
推論だよ、演繹的推論
情報というのはそもそも派生的なものだろ。それに、実際にプロンプトを入力している人間の存在を無視してるぞ
それも大事な点だ。今AI企業に一番聞くべき質問は『プロンプトを与えられずに何かをしたLLMは存在するのか』だと思う
答えはちゃんと学習データの中にあるんだよ。
出典7375には『犬は哺乳類だ』とある。
出典284には『哺乳類は動物だ』とある。
どの出典にも直接書かれていなくても、Claudeは『犬は動物だ』と導き出せる
完全には否定しない。自分はずっと、目の前にいる人間そのもの、というかその人の行動や考え方のほうに興味がある
それは演繹的推論と呼ばれるものだ
もっと正確に言うと『等号の推移律』だな
(画像添付)
お前はあるのか？
それより聞きたいんだが、LLMがお前の質問に応じて参照するデータセットを、どうやって獲得しチューニングしているか知ってるか？それがRLHF(人間のフィードバックによる強化学習)だということは分かってるよな？
知ってるよ。じゃあなぜそういう訓練方法になっているか分かるか？人々が『役に立つ』と思わないものでLLMを訓練しても儲からないからだ。
経済全体が、今生きている全人類に対するRLHFみたいなものだよ
問題は、数学や物理の複雑な事柄はそもそも純粋に概念的なものだということだ。だから答えが正しいか間違っているかは、操作や思い込みに弱い『その分野の空気』次第で決まってしまう
他サイトの新着
(参考リンク省略)
はぁ…こんな基本的なことも知らないのか？パース(論理学者)くらい読んどけよ。
例えば足し算のルールを与えられれば、データの中に『4』そのものが無くても、そこから4を導き出せるのは当然だろ
>ペアノ
なんだその名前
>人間だって学習データに無い答えで新しい問題を解決できるのはどうしてか、って話だよな？
まだ試していない道筋を、色々な形で組み合わせているからだよ
人間の思考は言語としての出力だけじゃない。クオリア(主観的な感覚質)こそが、この世界を体験する上で最も根本的な力なんだ
この話題の背景と論点
このスレの核心用語「ハルシネーション」とは、AIが学習データに無い情報を事実のように生成してしまう現象を指す。論争の的は、新しい答えを導く行為が全てハルシネーションなのか、それとも演繹的推論なのかという点だった。反論側は、個々の学習データに書かれていない結論でも既存の事実を組み合わせれば論理的に導出できると主張し、自然数を少数の規則から定義する数学体系「ペアノの公理系」を例に挙げた。一方で、AIの粘り強さは強化学習(RLHF)によって生まれており、これが誤った答えへの固執、すなわちハルシネーションの一因になっているとの指摘もあった。さらに、人間の思考も言語化できない「クオリア」に支えられている以上、AIの出力と単純比較できないとの視点も示され、AIと人間の知能の違いという根本的な問いへ話が広がった。
※本記事は海外掲示板 4chan /g/ (Technology) のスレッド「How can AI solve novel problems if the answer couldnt possibly be in its training data?」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。