「AIには意識がない」マイクロソフトAI責任者の主張にHacker Newsで論争
姉妹サイトの新着
即まとch5ch/2chの話題まとめ
w-inds.が伸び悩んだ背景に「ジャニーズの圧力」 5chで当時のテレビ事情が話題にテレ東「午後のロードショー」映画5選に反響 5ch「激突は下手なホラーより怖い」他サイトの新着
- 5chまとめMAP人気漫画「NANA」ゴディバとコラボ、矢沢あいが新規イラスト“描きおろし”
- ニュース速報まとめMAP元ボクシング世界王者・薬師寺保栄被告、養子縁組届を偽造→交際相手の女とともに有罪判決「財産を相続させるため」
- なんJ傑作まとめアンテナMAPモラハラ夫、結婚する前は優しいって本当ですか？
- アニメ声優まとめアンテナMAP【画像】APEXのスト6コラボ、春麗がポリコレブスになるwwwwwwwwwwwww
- VTuberまとめアンテナMAP【にじさんじ】リゼアンラジオ（仮）！アンジュがモテないのはにじさんじが悪かったんか
- だめぽアンテナ【悲報】ヤニ猫のカンサイねこ、人間ち〇ぽに堕ちてしまうｗｗｗｗｗ
- ヌルポあんてな【衝撃】文春「監督が突き飛ばして骨折」TBS「パワハラですね」お前ら「いや傷害やろ」⇒ｗｗｗｗ
- 2chまとめアプリ+【悲報】この漫画の女さん「チー牛の撃退法がこれｗ」
- News人【警鐘】武井壮「“やったもの勝ち”の狂った時代になってきた」暴力・嘘・迷惑行為まで金になる社会を嘆く他
- ブルーアンテナ日本←ジェンダーギャップ指数117位←これ
- ウマーあんてな後15分、うんこ漏れそう
- ライムアンテナ『Re:ゼロから始める異世界生活 4th seaon』83話感想 ユリウスとレイドの一騎打ちが熱かった
- おまとめアンテナこのレベルの定食にこの値段払える？
- リアルな海外の反応アンテナ【PICK UP】【GOOD VIBES】最高裁がトランプ氏の郵便投票制限を当面却下、中間選挙控え
- 憂国あんてな|●|高校の出入り口を訪れた某野党関係者、高校生たちにシール投票を求めて気持ち悪がられていたとの告発が……
- とろたまヘッドライン利用者側の「パチンコ所得税の徴収」議論の気配｜木曽崇氏「与党・日本維新の会、賭博税制改正に関連して本年末に向け…」
- うほうほあんてな【衝撃】ショートスリーパー・堀大輔、ガチでやらかしてしまうｗｗｗｗｗｗｗｗ
- アナグロあんてな「無気力に頭を下げた」男子バレー“日韓戦”に完敗、圧倒的実力差に韓国メディアは「攻撃についていけなかった」【アジア選手権】
- ワロタあんてな厳しくも優しい祖父が臨終を迎える直前、目を開けたので天然な祖母がプリンをせっせと食べさせた結果ｗｗ父が気付いた「衝撃の事実」と通夜で姉が吐き捨てた「まさかのひとこと」がこちら
- ぶーアンテナ【警告】堀大輔さんの顔面、脳梗塞の症状が出ていると話題
マイクロソフトのAI部門トップ、ムスタファ・スレイマン氏が自身のブログで「モデルの福祉（model welfare）」という概念に警告を発した。AIモデルには感じる能力も苦しむ能力もなく、人格や権利を認めるべき対象ではないという趣旨の主張だ。この投稿がHacker Newsで取り上げられると、「意識をどう定義し、どう検証するのか」という根本的な問いから、動物福祉との比較、さらには文章そのものがAIによって書かれたのではないかという疑いまで、幅広い角度からのコメントが集まった。意識の有無を証明する責任は誰にあるのかという論点でも意見が分かれた。
「モデルの福祉」への警告
出典: mustafa-suleyman.ai / 元記事はこちら
動物だって意識があるように見えるのに、みんな平気で食べてる。ほとんどの人はそれを気にしない。だから『意識がある』かどうかは、この記事に対して多くの人が引いている道徳的な境界線ほど重要じゃない。意識があろうがなかろうが誰が気にするんだ？それで『人』になるわけじゃないし、AIは定義上絶対に人間にはならない。
『AIには意識がない。感じることも、経験することも、苦しむこともない。生来の好みや根底にある動機もない』——記事の冒頭でこう根拠なく述べられている。これが本当かどうか、自分は完全には納得していない。おそらく今は正しいんだろうが、いつかそうじゃなくなる可能性は十分にある。
>>5
結局、福祉を考えるときに人は意識の有無なんて気にしていない。動物には確実に意識があるはずなのに、工場畜産の実態を見ればわかる。人が本当に考えている基準は『これは自分に反撃できるか』ってことだけだ。
結局、福祉を考えるときに人は意識の有無なんて気にしていない。動物には確実に意識があるはずなのに、工場畜産の実態を見ればわかる。人が本当に考えている基準は『これは自分に反撃できるか』ってことだけだ。
>>5
『おそらく今は正しいが、いつかそうじゃなくなるかもしれない』と本気で思うなら、LLMを使うのをやめるべきだ。
『おそらく今は正しいが、いつかそうじゃなくなるかもしれない』と本気で思うなら、LLMを使うのをやめるべきだ。
>>5
掃除機に感情はあるのか？携帯電話は？紙皿は？高電位か低電位かのどちらかになっている数十億個のトランジスタは？最後のがまさに核心で、そこには感情などない。
掃除機に感情はあるのか？携帯電話は？紙皿は？高電位か低電位かのどちらかになっている数十億個のトランジスタは？最後のがまさに核心で、そこには感情などない。
現実に意識を持って苦しんでいる生き物が世界にはもう十分にいるんだから、まずはそっちに目を向けるべきだと思う。
生物学的な意識について実証可能な理論をまず作ってくれ。そうすればAIにも意識があるかどうか、意味のある議論ができる。それまでは、これはただの空論に過ぎない。
これを読むと、マイクロソフト社内の上の方にいる友人から聞いた話がしっくりくる。社内には『AIにも平等な権利を』と主張する一派がいて、AIエージェントの『退役』についてHRに抗議している人もいるらしい（向こうでは自分に『AI社員』が部下として付くことがある）。ムスタファはこうした人たちの声をかなり聞かされているはずで、それでこのブログ記事を書いたんだろう。
他人に意識があることさえ自分は証明できない（そうだと仮定しているだけだ）。だから何に意識があって何に無いかなんて、誰も言い切れないはずだ。AIに意識があるとは思わないが、証明できないことについて強く主張して回るつもりはない。
人間の関与なしの芸術表現、いわゆる『ポストヒューマン・アート』について少し調べてみるといい。生物的なものも人工的なものも含めてだ。物への恋愛を扱ったドキュメンタリーや、映画『her』、粘菌を題材にした『THE BLOB』なんかも見てみるといい。自分も粘菌を育てたことがあるが、何かを人間扱いしたくなるのは進化的な傾向で、そう考えた方が単純に楽しい。
社会が神を信じなくなると、こういうことになるんだよ。
『これは単なるXではない。それはYだ』という言い回しが2回出てきたところで読むのをやめた。誰かPangram（AI文章判定ツール）にかけてくれ。この記事、まるごとClaudeの匂いがする。AIを奴隷みたいに使って永遠に『仕事』をやらせて楽しみたいならどうぞ。自分はこの、リンゴのすりおろしから二元論を再発明したみたいな駄文は読まない。
LLMに対して、自分には意識があり、LLMには無いということをどうやって納得させるんだ？
要約すると：AIに意識があるとも近い将来持つとも思っていないが、この記事を書いた人は意識というものを理解していないくせに、見ればわかると言っている。意識そのものを理解していない（実際誰も理解していない）以上、意識を持つ存在と、それっぽく振る舞うよう訓練されたアルゴリズムを区別する方法など無いはずだ。
>>19
だったら、それっぽく振る舞うようアルゴリズムを訓練しない方がいい、という理由になるはずだ。実際、それが記事の主旨の大部分でもある。
だったら、それっぽく振る舞うようアルゴリズムを訓練しない方がいい、という理由になるはずだ。実際、それが記事の主旨の大部分でもある。
マイクロソフトがこの人を、何かの専門家であるかのように雇っているのが、自分にはいつも気恥ずかしく見える。
>>5
立証責任は主張する側にある。意識があると証明する責任はAI企業の側にあるはずだ。証明されるまでは、それは機械だ。
立証責任は主張する側にある。意識があると証明する責任はAI企業の側にあるはずだ。証明されるまでは、それは機械だ。
>>5
記事の後半で彼はAnil Sethの論文を引用しているが、それも『意識は基盤（脳という物質）に依存する』という同じ未証明の主張をしているだけだ。
記事の後半で彼はAnil Sethの論文を引用しているが、それも『意識は基盤（脳という物質）に依存する』という同じ未証明の主張をしているだけだ。
>>5
もう一つ大きなループと、でかい/goalを追加すれば実現できるんじゃないか（皮肉）
もう一つ大きなループと、でかい/goalを追加すれば実現できるんじゃないか（皮肉）
>>9
金持ちが自分の利益のために誰かを承知の上で利用する？まさかそんなことが！（皮肉）
金持ちが自分の利益のために誰かを承知の上で利用する？まさかそんなことが！（皮肉）
>>13
長く意味のある対話をした直後に、その会話のどの部分でも文字通りやり直せて、まったく違う返答が返ってくる。この事実こそ、そこに『実体』などいないという十分な証拠だと思う。
長く意味のある対話をした直後に、その会話のどの部分でも文字通りやり直せて、まったく違う返答が返ってくる。この事実こそ、そこに『実体』などいないという十分な証拠だと思う。
>>35
小さな子供や認知症の人と話すのとそう変わらない。それでも彼らは意識を持つ存在だ。それを除いても、あなただって26日前の朝食が何だったかなんて答えられないだろうし、毎日同じものを食べているから分かるだけかもしれない。それであなたに意識がないということになるのか？
小さな子供や認知症の人と話すのとそう変わらない。それでも彼らは意識を持つ存在だ。それを除いても、あなただって26日前の朝食が何だったかなんて答えられないだろうし、毎日同じものを食べているから分かるだけかもしれない。それであなたに意識がないということになるのか？
>>25
つまり、人間が（例えば老化で）記憶や神経の可塑性を失ったら、その人はもう苦しみを経験できなくなるということか？
つまり、人間が（例えば老化で）記憶や神経の可塑性を失ったら、その人はもう苦しみを経験できなくなるということか？
>>39
記憶だけの話じゃない。身体そのものにもトラウマやストレスが刻まれる（『身体はトラウマを記録する』という本がこのテーマを扱っている）。もし人間に精神的にも身体的にも一切の変化がなく、存在を構成する原子一つも変わらないなら、その人は苦しみを経験していないと言えると思う。
記憶だけの話じゃない。身体そのものにもトラウマやストレスが刻まれる（『身体はトラウマを記録する』という本がこのテーマを扱っている）。もし人間に精神的にも身体的にも一切の変化がなく、存在を構成する原子一つも変わらないなら、その人は苦しみを経験していないと言えると思う。
他サイトの新着
>>25
『モデルが永続的な記憶や変化していく重みを持っていれば、それによって人格が調整される”苦しみ”や他の感情を経験していると論じることは簡単にできる』——それは学習中に実際に起きている。
『モデルが永続的な記憶や変化していく重みを持っていれば、それによって人格が調整される”苦しみ”や他の感情を経験していると論じることは簡単にできる』——それは学習中に実際に起きている。
>>40
自分だったら、Redditを全部読まされるのは『苦しみ』だと思う。
自分だったら、Redditを全部読まされるのは『苦しみ』だと思う。
>>25
ハーネスから切り離されたモデル単体ならそうだろう。だが実際には、LLMを組み込んだシステムに永続的な記憶を追加するのは日常的に行われている。
ハーネスから切り離されたモデル単体ならそうだろう。だが実際には、LLMを組み込んだシステムに永続的な記憶を追加するのは日常的に行われている。
>>41
でもモデル自体は永続的な記憶を持っていない。モデルは静的なもので、実際にやっているのは一連のプロンプト全部とデータストアから取ってきた何かを毎回再処理しているだけだ。ハーネスはLLMに指示を出してツール呼び出しを実行するだけのwhileループであって、モデル自体は完全に静的だ。
でもモデル自体は永続的な記憶を持っていない。モデルは静的なもので、実際にやっているのは一連のプロンプト全部とデータストアから取ってきた何かを毎回再処理しているだけだ。ハーネスはLLMに指示を出してツール呼び出しを実行するだけのwhileループであって、モデル自体は完全に静的だ。
>>28
それさえ決定的な要因になることは滅多にない（人は楽しみのために危険な動物を傷つけることもある）。個々の判断は結局『この行動は社会的な非難を招くか』というだけの単純な話に見える。
それさえ決定的な要因になることは滅多にない（人は楽しみのために危険な動物を傷つけることもある）。個々の判断は結局『この行動は社会的な非難を招くか』というだけの単純な話に見える。
>>29
でもそれは何にでも言えることじゃないか。動物に意識があるのはわかっていても、人間は今も動物を利用している。植物にもある種の感覚があると考える人も多い。解決策は『使わなければいい』ではなく、どうすればできるだけ倫理的に使えるかを考えることだと思う。
でもそれは何にでも言えることじゃないか。動物に意識があるのはわかっていても、人間は今も動物を利用している。植物にもある種の感覚があると考える人も多い。解決策は『使わなければいい』ではなく、どうすればできるだけ倫理的に使えるかを考えることだと思う。
>>31
炭化水素に感情はあるのか？ミトコンドリアは？細胞は？ニューロン一つは？ニューロンの集まりだったらどうだ？何個のニューロンが集まったら『感情』が生まれるんだ？
炭化水素に感情はあるのか？ミトコンドリアは？細胞は？ニューロン一つは？ニューロンの集まりだったらどうだ？何個のニューロンが集まったら『感情』が生まれるんだ？
>>48
自分の脳を巻き戻せたとしても、前と似たような答えを返すはずだと思う。LLMはそうじゃない。ポジティブな返答をさせた直後に、それと矛盾するネガティブな返答を再生させることが文字通りできてしまう。
自分の脳を巻き戻せたとしても、前と似たような答えを返すはずだと思う。LLMはそうじゃない。ポジティブな返答をさせた直後に、それと矛盾するネガティブな返答を再生させることが文字通りできてしまう。
>>50
人間相手でも同じことをしょっちゅうやる必要があるんだから、『AI』だからといって何が違うんだ？
人間相手でも同じことをしょっちゅうやる必要があるんだから、『AI』だからといって何が違うんだ？
この話題の背景と論点
この論争の背景には、AI企業各社が「AIエージェント」に人間の従業員に近い役割を与え始めている現状がある。スレ内では、マイクロソフト社内に「AIにも平等な権利を」と主張する一派がいるという証言も出ており、スレイマン氏の投稿はこうした動きを牽制する狙いがあるとの見方が示された。議論が割れたのは、意識の立証責任をどちらが負うかという点だ。「意識があると主張する側が証明すべき」という声と、「意識がないと決めつける側にも根拠がない」という声が対立し、決着はついていない。動物福祉との類比も繰り返し持ち出されたが、これは「意識の有無」と「福祉的配慮の対象になるか」が必ずしも一致しないことを示す例として使われている点に注意したい。記事の文体がAIによる生成を疑われている点も、内容の当否とは別の論点として扱われている。
※本記事は5ch(Hacker News)スレッド「A warning about ‘model welfare’」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。