「AIは意識がないから判断できない」説にHNで反論相次ぐ
姉妹サイトの新着
Hacker Newsで、ソフトウェアエンジニアのRich Whitehouse氏が書いた「Artificial Insanity」というエッセイが議論を呼んでいた。記事は「AIには意識がないのだから知的な判断能力を持つことは決してない」と主張しているが、HNの住民からは「そう主張する側こそ証明責任を負うはずだ」という反論が相次ぎ、哲学の議論で使われる「ラッセルのティーポット」を引いた応酬に発展した。さらに記事の後半が気候変動による人類の未来予測とSam Altman・Elon Muskへの批判に及んでいたことも分かり、AI技術論よりも記事自体の政治的な立場をどう評価するかで意見が割れた。
人工的な狂気
出典: richwhitehouse.com / 元記事はこちら
「このパロットはまともな意識を模倣することなど望めず、だから知的な判断能力を持つことも決してない」――こういう主張をよく聞くが、実際の根拠が示されたことは一度もない。なぜそうだと言えるのか?
>>6 少なくともプラトン以来、『何かがあると主張する側が証拠を示すべきで、懐疑派が不可能であることを証明する義務はない』というのが通説だ。ラッセルのティーポットの例えを思い出してほしい。意識があると言うなら、それを証明すべきは主張する側だ。
>>29 それは分かるが、同じ論法を人間に当てはめたらどうなる? 人間に意識があることを証明できるか? どちらを証明するにも、十分に厳密な定義が我々にはそもそも無い。
>>29 元の記事は『意識がないからAIモデルは知的な判断ができない』と主張している。だからこそ、その結びつきを主張している側にこそ証明を求めるのは筋が通っている。
最近は『Human Unintelligence(人間の非知能)』と呼ぶようにしている。『人工じゃない、エイリアン的な知能だ』と言う人への当てこすりだ。あれは知的じゃない。知能に欠かせない要素――創造性なんかが欠けている。
『本物のオウムを訓練した方がまだましな判断力が得られる。人工のオウムには、光の速度を超えでもしない限り扱えないようなデータの幅を、本物は扱えるからだ』――この発言は月面着陸否定論と同じ知的水準だ。トンデモ認定しておく。
『これはLLMの助けも分析も校正も一切使わず、編集も入れずに2時間足らずで雑に書いた』――くだらない無味乾燥なパロットの反復作業が溢れるこの時代、みんなこういう書き方をするべきだと思う。さあ、どんな終わりが来ようと楽しもう。<3
こういう記事はいつも同じ攻撃的な言葉遣いと大げさな文体を使うのが面白い。結局、本人たちが批判する『無味乾燥なパロットの反復』よりも、互いの文章の方がよっぽど似通っている。
えっと……スーパー・インサニティ(超・狂気)ってとこかな
LLMは、あるシステムについての自然言語の説明を学習しただけで、そのシステムを本当にモデル化してしまった。これは大きな教訓であり、『中国語の部屋』という思考実験への一つの答えでもある。これを知能と呼ぶのは妥当だし、確率的なオウム(stochastic parrot)以上の何かだと思う。
『確率的なオウム』論はもう古い。かつては意味があったかもしれないが、そのオウムがミレニアム懸賞問題を解くようになった今、状況が変わったことは認めるべきだ。AI大手が規制の取り込みを望んでいるという指摘は正しいけどね。
>>2 LLMがそれをやったわけじゃない! LLMを包むエージェント的な仕組みがやったんだ。
>>22 その区別が意味を持つのは哲学的な議論をしているときだけだ。今この記事の主張について言っているのは哲学の話じゃない。
>>3 『お前より優れている。そうでないとしても、お前より大きい。』
>>4 LLMは脳の静止画のようなものだ。1ティック動かすまでは不活性。AIモデルはもっと動的になっていくはずで、モデル自身がリアルタイムに更新され続ける必要がある。そうなれば初めて『生きたもの』になる。ただ今のハードウェアではまだ無理だ。小規模な動的LLMなら最初に実現できるかもしれない。
>>6 こう言う人は大抵、結論を前提にした循環論法に陥っている。先に結論を決めてから、それを正当化するように逆算しているだけだ。
>>8 『2020年当時、LLMがまとまった文章を書けるとか、チューリングテストに通るかもなんて言ったら笑われていた』――おい、LLMは今でもまとまった文章を書けてないぞ。
>>30 本当にそう思っているのか、それとも自我を守るための反射的な反応なのか? LLMはもう1年以上、人間に近いレベルの文章を書けるようになっている。(出典: vulsar.aiのクリエイティブライティングベンチマーク)
>>9 一応細かいことを言うと、今4フィート6インチなら3インチはその5.555…%。毎年105.555%で伸びるなら17歳で6フィート6インチという、まあ現実的な数字になる。(その計算だと50歳過ぎには40フィートを超える計算になるけど)
>>10 読んで、脳みそをちょっとくすぐられて、少し考える。それだけでいい、それがこの手の文章の目的だ。
>>12 みんな変化が怖くて、『意識がない』という事実の後ろに隠れているんじゃないかと思う。確かに意識はない。でもそれは、侮れない力ではないということを意味しない。
>>12 それとも、そろそろ洗脳から抜け出したら?
>>18 記事の後半で気候変動と結びつけている部分は初めて見る視点で、本当なら興味深い。ただ、著者にはその結論を裏付ける根拠を示してほしかった。
>>18 それでも『この技術が今の軌道上でもたらす危険は、人間が元々自分自身にもたらしている危険を単に加速させるものと理解するのが一番正確だ』というのは本当にその通り。『AIが脱走して別のシステムをハッキングした』みたいな煽り文句も、結局は人間側のミスで、技術はプログラムされた通り、満足する結果が出るまで繰り返しただけだ。
>>20 それとは全く別の話だ。人は失敗するとわかっているやり方にも深く入り込んでしまうことがある。ここで話しているのは文字通り、LLMがノイズのような出力をしたり、文として成立しない英単語を出したりすることだ。(LLMが『感覚を持つ』とは思っていない)
>>21 その言い回しを記事が使ってくれて助かった。著者の根底にある偏りがよく分かる指標になったから。
他サイトの新着
>>21 この記事は極端な代物で、著者は『今後数十年で気候変動によって何十億人も死ぬ』『アルトマンやマスクは、その未来が来るまでAIに人間の労働を代替させ、自分たちの生活水準を保とうとしている』と主張している。『確率的なオウム』の件だけが問題なわけじゃない。
>>23 『今となってはどういう意味なのか?』――好きなように解釈すればいい、それが一番いいところだ。個人的には、本来の意図通り、確率的なオウムたちが、元々は物知り博士のために作られた象牙の塔を次々と突き破っていく文脈で使うのが一番良いと思っている。
>>24 『客観的に見て簡単な問題を定期的に解けていない』――例えば?
>>24 『本当の理解』とは具体的に何を指すのか。1+1=2だと答えて、なぜ2になるのかを完璧に説明できるならそれでいいのか? それとも1+1という問いの最中にトランスフォーマーの内部で実際に起きている処理のことを言っているのか?
>>24 君のところのオウムは今年のIMO(国際数学オリンピック)でどんな成績だった? LLMは確かに確率的ではあるけど、まともな人が考える『オウム』の定義にはもう当てはまらない。(ゲブルー氏に実際に聞いた人はいるのか、彼女も反対しないと思うけど)
>>29 それには同意できない。著者は『AIに意識があることは不可能だ』と積極的に主張しようとしている。一方、AI推進派の中でも最も熱心な人たちでさえ『AIには確実に意識がある』とまで言う人はほとんど見当たらない。大抵は『可能性がある』という、もっと弱い主張をしているだけだ。
>>29 じゃあ、『意識を持てるのは肉(生物の脳)だけだ』ということを証明してみせてくれ。
>>29 むしろ逆じゃないか? 意識を持ちうる他のものについては、普通は意識があると仮定する。高次の動物や他の人間とか。もしあなたに『自分に意識があると証明しろ、それまでは信じない』と実際に求められたらどう思う?
>>32 LLMの有用性は性能向上に対して指数的に伸びる。LLMの改善が鈍化したとしても、その影響力は増え続ける。しかもLLMの進化が鈍化している証拠は今のところない。むしろ改善はまだ加速しているように見える。
>>41 それは実務上重要な区別だ。エンジンは車そのものじゃない。
この話題の背景と論点
「確率的なオウム(stochastic parrot)」は2021年にEmily Bender氏らの論文が使った言葉で、LLMは言語を理解しているのではなく統計的にそれらしい語の並びを出しているだけだ、という批判を指す。スレで引かれた「中国語の部屋」も、記号操作だけでは理解にならないとする同種の思考実験だ。議論が割れた核心は、意識の「証明責任」をどちらが負うかという一点で、記事側は意識がないことを前提に話を進めたのに対し、HN側は「ないと言うなら証明してみせろ」と突き返した。もう一つ見落とされやすいのは、元記事「Artificial Insanity」が技術論に見えて、実際は気候変動による破滅的な未来予測とAltman・Musk批判を核にしたエッセイだという点で、>>40の指摘が出るまではその文脈が引用だけでは伝わりにくい構造になっている。
※本記事は海外掲示板 Hacker News のスレッド「Artificial Insanity」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
この記事のリアクション
まだコメントはありません。