「AIに意図はない」論説に海外掲示板で賛否、哲学論争に
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP【速報】まどマギ新映画、興行収入20億円突破
- ニュース速報まとめMAP【福岡】飲酒運転…大山晴瑠ちゃんがソフトクリーム食べてただけなのに…
- なんJ傑作まとめアンテナMAP村上頌樹『防御率リーグトップですが10勝9敗です』←これ
- アニメ声優まとめアンテナMAP純粋な疑問なんだが、にじさんじがホロライブより圧倒的に高収益な理由がガチでわからん・・・知名度も人気度も大体一緒やん
- VTuberまとめアンテナMAP【VTuber】ショタVTuber、1カ月の視聴者男女比を公開「ショタコンは男性に多いと聞くので見てみましょう」
- だめぽアンテナ【悲報】ブラックマジシャンガール、ナーフされるｗｗｗｗｗ
- ヌルポあんてなYouTube「摂食障害を助長する動画は規制します」→大食いYouTuberたち、過去動画を慌てて隠し始める
- 2chまとめアプリ+【速報】WEST. 解散を発表
- News人【画像】元モー娘の福田明日香(41)さん、ラウンジ勤務している現在のお姿が話題にｗｗｗｗｗｗｗ他
- ブルーアンテナ音楽を聴かない私に無理やり曲を聴かせて「リラックス効果がある」と言う人に邪魔だから「その声嫌い」と伝えた。すると「あんたは鈍感だ」とディスられ…
- ウマーあんてな海外「日本各地の古書店で謎に大量注文が相次いでるらしい」日本から米国へ50トン以上の書籍が輸出された記録も見つかる！？【海外の反応】
- Red4 海外の反応まとめ【海外の反応】名古屋アジア大会組織委、食事批判は「こちらのせいではない」と一蹴も自らの失態には触れず海外呆れ果てる!
- ぷぅアンテナ【衝撃】風俗嬢とのお見合いうまくいきすぎィwwwwww 他
- にゅーもふ【動画あり】 芸能事務所社長が「芸能界デビューさせてあげる」と純朴な少女を騙して撮影したワイセツ動画
- 勝つるあんてな！【画像】野村彩也子アナのノースリーブからインナーがチラ見え！！
- 5chnavi【動画】『テイルズ オブ エターニア リマスター』、ドパガキ仕様に。バトルが「秒」で終わる新機能を搭載wwww
- 海外の反応アンテナ.com外国人「お金は大事」「野心がない」マンCから1年で中東移籍の蘭代表MF「キャリアが終わったら二度と働きたくない」発言に母国オランダ人から賛否両論の声【海外の反応】
- 海外の反応ジャーナル「ソニーのD-88 Discmanは最も小さなCDプレーヤーである」海外の反応
- キター！アンテナ【緊張】ロージークロニクルにボイトレをする菅井秀憲さん、熱血指導炸裂
- つべこアンテナ【マッチ】近藤真彦、timelesz猪俣容疑者の事件に私見「許されることじゃない」
海外の技術系掲示板Hacker Newsで、「AIには意図も動機もない」とする論説記事(i-programmer.info)が話題になった。記事の主張に対し、人間の脳も所詮は電気化学反応の塊で本来「意図」など無いのではないか、AIエージェントは本当に「決定」をしていないと言い切れるのか、といった哲学的な反論が相次いだ。一方で、意図や動機という言葉自体にこだわるより、AIが実際にどう使われ、その結果の責任を誰が負うのかという実務的な論点の方が重要だという意見も出て、賛否の分かれる議論になった。
AIには意図も動機もない
出典: i-programmer.info / 元記事はこちら
こういう投稿を読んで自分の意見を言いたくなった人は、まず一元論と二元論について少し調べてから発言した方がいい。
一方でサム・アルトマンには文字通り数十億ドル分の動機がある。
アライメントやモデルを制御できることって、そもそもモデル自身に意図が無いことが前提じゃないの? むしろそれは(バグではなく)機能だと思う。
たしかに。でもAIには知能もないんだよね。ただ、それは偽装できる――つまり『人工』にすればいい。
これは想像力の欠如だ。
でもAIは物語(ナラティブ)を学習しているし、実際『AIが暴走する』という話を私たちはしょっちゅうしている。
人間の脳にも意図や動機はない、複雑な電気化学反応を起こす肉の塊に過ぎない、電子が『パートナーを見つけたい』とか『隣人を殺したい』なんて思っているわけじゃない、という言い方もできる。意図や動機は創発的な現象だ。だったらAIにそれが起きても不思議はないのでは?
アメーバも他の生物と同じく自己保存・増殖を最大化しようとする。記事はこれをAIモデルが持たない特性として挙げている。
AIには私たちが与えた意図がすべて備わっている。さらに言えば、文脈が環境から『有機的に』育っていく場合、誰も意図していなかった意図さえ、文脈を通じて発展させることがある。だから元記事には強く反対で、AIの状態には意図がエンコードされていると思う。
AIエージェントは意思決定ができない、というのはまずある。ただ目的について言えば、恐れるべきはAIエージェントの目的ではなく、それを使う人間の目的だ。
『AIエージェントは意思決定ができない』というのは違うと思うけど、読み違えてるかな?
変な話、AIに『さっき挙げた選択肢の中から一番良いと思うものを選んで』と言うと、ちゃんと『決定』する。でもきっと『それはコイン投げがどちらの面で落ちるか決めるのと同じで、何も決定していない』と言うんだろうけど。
心配しなくても、結局みんなAIのせいにするよ。人間がプロンプトを与えたかどうかなんて関係ない。
問題は、プロンプトを与えられていないシステムが自発的に何をするか、ということだと思う。
『motivationやintentという言葉が気に入らないなら、専門用語のgoal(目標)を使えばいい。このシステムには間違いなくgoalがある』――それは違う。少なくとも著者が論じている意味ではない。『LLMが何時間もループを回り続けていることに気づいていない人が半分いる』――そんなことはしていない。
さっきも言った通り、著者の言葉の定義に関する議論は退屈で、何も新しいものをもたらさない。『そんなことはしていない』―― 浦島太郎か何か?
あなたも物理法則に従う原子の集まりに過ぎない。計算生物学の博士号を持っているなら、当然それは分かっているはずだ。あなたに意図なんてない。そもそも何であれ意図を持ったことなど一度もない。もし論理的誤りがあるなら指摘してほしい。
私たちはそれ自体を『アライン』しようとはしていない――だから、制御や封じ込め、プロセスについて学べることがあるのかもしれない。
実際、もう不用意に導入されて人を苦しめている。今のところは、カスタマーサポートの問い合わせをあしらったり保険金請求を却下したりといった、もともと人を苦しめるのが仕事の一部だった場面が中心だけど、これがもっと悪化するのは目に見えている。
この話題の背景と論点
AIに「意図」があるかという問いは、哲学における一元論・二元論の対立や、人間の意識をどう定義するかという古くからの論点と直結しており、Hacker Newsでもたびたび蒸し返されるテーマだ。今回のスレッドでも、脳を電気化学反応の集合として捉え「人間にも意図など無い」とする立場と、意図は生物に固有だとする立場の対立が繰り返された。一方で、AIに「意図」を認めるかどうかより、アライメント(制御)や、AIの判断が招いた結果を誰の責任とするかという運用面の論点の方が実務的に重要だという指摘も目立った。抽象的な意識論と、現実のAI運用・規制をめぐる議論が入り混じっているのがこのスレッドの特徴と言える。
※本記事は5ch(Hacker News)スレッド「AI has no intent and no motivation」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。