【海外の反応】LLMは人間の「認知のいとこ」か ポッドキャストの主張に賛否
姉妹サイトの新着
米物理学者Sean Carrollのポッドキャストに、哲学と精神医学の教授で認知科学研究所を率いるChandra Sripada博士が出演し、LLM(大規模言語モデル)の「思考」が人間の認知とどれほど似ているかを論じた回が、海外掲示板Lemmyのc/scienceコミュニティで話題になった。
番組は「意識」ではなく「認知」の話をしているとする擁護派に対し、LLMの仕組みは統計処理にすぎず擬人化はミスリードだとする懐疑派が反発し、スレは平行線のまま続いた。
LLMと人間は「認知のいとこ」である ― Sean CarrollのポッドキャストにChandra Sripada博士が出演
LLMは人間と似たような形で「考えて」いるのか、それとも全く別物なのか。
この分野で論文を発表し、哲学と精神医学の両方の教授職を務め、認知科学研究所のディレクターでもある人物の話を聞いてみるのはどうだろう。それがChandra Sripada博士で、彼の見解は実に興味深い。
出典: preposterousuniverse.com / 元記事はこちら
このエピソードで「意識」という言葉が最初に出てくるのは1時間26分の地点だ。話題は「認知」についてであって、意識とは別物だし、誰もそれを同一視してはいない。
「LLMがどう働くか誰にも分からない」だって? 冗談はよせ。LLMの仕組みは100%解明されている。ごく基本的な統計学に基づいて重み付き関数を作っただけだ。謎なんて何もない。
コンピューターを「人格を持つもの」だと主張する側(しかもそれで金をもらっている側)にこそ、立証責任がある。
あなたのコメントに背中を押されて実際に聴いてみたんだが、LLMと人間の脳の認知が収束しているという証拠は思っていたより多かった。とはいえ、直接説明するには複雑すぎるものを作ってしまったから、結局は自分たち自身の認知を調べるのと同じやり方でそれを調べているだけのようにも思える……そこにどんなバイアスが入り込むのか気になるところだ。
「驚きを最小化する原理――次に来るものを予測すること――が、我々の認知能力の大部分の基盤だというのが、この分野を研究する人の多くの立場だ」……へえ、非科学的な話で面白いね。
「話題は認知についてだ」ときたか。まさに『AI』研究の常套手段だな――言葉の明白な意味から逃げて定義をすり替え、突拍子もない主張を通そうとする。
何を言っているのか全く理解できない。この二人はどちらもAI研究者ではないし、あなたが反論している主張を誰もしていない。
この話題の背景と論点
議論の発端は、物理学者Sean Carrollの人気ポッドキャストにChandra Sripada博士が出演し、LLMの情報処理と人間の認知に共通点があると論じた回だ。スレで割れたのは主に二点で、一つは番組が「意識」ではなく「認知」の話をしているのに、それを混同して反発しているレスがある点(実際に「意識」という語が出るのは開始1時間26分後だと指摘するレスもある)。もう一つは、LLMの仕組みが統計的な重み付け計算として「完全に解明済み」なのか、それとも人間の認知同様まだ説明しきれていないのかという評価の違いだ。番組本編を聴かずに反応しているとみられるレスもあり、擁護派が本編の文脈を補足する形でやり取りが続いている。LLMが人間のように「考えている」と言えるかどうかは学術的にも決着した話ではなく、この対立自体が分野の現在地を映している点は押さえておきたい。
※本記事は5ch(Lemmy c/science)スレッド「LLMs and Humans are Cognitive Cousins – Sean Carroll podcast w/Dr. Chandra Sripada」より抜粋・要約して構成しています。
まだコメントはありません。