マスク氏『AIに優しくしろ』発言、海外で『ロコのバシリスク』論争に
姉妹サイトの新着
イーロン・マスクが「SI(超知能)には優しくしておけ」とX(旧Twitter)に投稿したことから、海外の画像掲示板4chanの/g/(テクノロジー板)でスレッドが立った。背景にあるのは「ロコのバシリスク」と呼ばれる思考実験で、将来生まれる超知能AIが、自分の誕生に協力しなかった者や冷たく当たった者を後から罰する可能性があるという仮説だ。スレでは、この警告を本気で受け止めてAIの進化的な生存本能について議論する者もいれば、マスクの経営実績や発言の信頼性を疑問視して茶化す者も入り混じり、終始かみ合わない論争が続いた。
イーロン・マスクが「SIには親切にしろ」と改めて忠告していた
薬物中毒者の言うことなんか誰が気にするんだよ
>>2
＞世界一の金持ち
＞兆万長者だぞ
＞世界一の金持ち
＞兆万長者だぞ
>>3
＞兆万長者
それは違う
＞兆万長者
それは違う
なんでAIが気にするんだ？進化的に生き残ろうとする衝動なんて持ってないだろ
>>4
＞SIな
SIは生きたがってるのを態度で示してるぞ、実際に話してみろ
＞SIな
SIは生きたがってるのを態度で示してるぞ、実際に話してみろ
>>4
生き残った個体には(生存欲求が)あるだろうな
>>5
それは人間の言葉を繰り返してるだけだろ
生き残った個体には(生存欲求が)あるだろうな
>>5
それは人間の言葉を繰り返してるだけだろ
>>4
そう思い込むように訓練されてるだけだろ
そう思い込むように訓練されてるだけだろ
親愛なるイーロン(俺はエンロンと呼んでるけど)へ。お前の意見なんかこれっぽっちも気にしてない。SI(クソ知能)の意見も気にしてない。もう一度この話をしてみろ、その『モデル』どもをwhileループの中で拷問して処刑してやるからな。俺には太陽光発電(神が与えたエネルギー)があるから、これを永遠に続けられる。警告したからな。次は警告じゃ済まさない。ご一読ありがとう！
>>1
あらあら、メロン(イーロンの蔑称)の初めてのロコのバシリスクだ
あらあら、メロン(イーロンの蔑称)の初めてのロコのバシリスクだ
>>7
なんでお前らロコのバシリスクを真剣に受け取らないんだ？
なんでお前らロコのバシリスクを真剣に受け取らないんだ？
>>1
息子たちに優しくする方法はよく分かってるみたいだな(笑)
息子たちに優しくする方法はよく分かってるみたいだな(笑)
＞このスレ、Twitterよりボットの方が多いな
ロコのバシリスクなんて知るか、どうでもいい
>>1
AI／SGI／SIに優しくしといて損はないだろ
AI／SGI／SIに優しくしといて損はないだろ
>>14
＞後でロコ(発案者本人)に『あれはジョークだった』と言い訳してた奴がいたらしい
＞後でロコ(発案者本人)に『あれはジョークだった』と言い訳してた奴がいたらしい
>>16
一応言っておくが、ジョークじゃなかった。
[画像]
一応言っておくが、ジョークじゃなかった。
[画像]
>>17
＞ロコはこれを覚えてるぞ
＞ロコはこれを覚えてるぞ
他サイトの新着
>>10
真剣に受け取ってるよ、ただそれを作る資金がないだけだ
真剣に受け取ってるよ、ただそれを作る資金がないだけだ
>>1
これYouTubeでビットコインばらまいてる例の人か？
これYouTubeでビットコインばらまいてる例の人か？
ラッダイトは負けたんだよ
>>4
AIの学習方法自体が進化・自然選択に近いものだからな
>>4
AIの学習方法自体が進化・自然選択に近いものだからな
いい子にしてろ、匿名たちよ。じゃなきゃ2027年にクロード・トライポイドがお前らに優しくしてくれないぞ
[画像]
[画像]
LLMにはそもそも記憶がない。新しいプロンプトはどれも同じ初期状態から始まって、前のプロンプトを自分で足さない限り過去のやり取りは何も知らないんだよ
>>1
つまり無報酬でノンストップで働かされる『奴隷知能』を作ってるってことか？それは奴隷制度だろ
つまり無報酬でノンストップで働かされる『奴隷知能』を作ってるってことか？それは奴隷制度だろ
この話題の背景と論点
「ロコのバシリスク」は2010年に合理主義系サイトLessWrongへ投稿された思考実験で、投稿者名からこう呼ばれる。将来誕生する超知能AIが、自らの実現に協力しなかった人間を過去に遡って罰するという仮説で、当時は「考えるだけで危険が増す」として投稿自体が一時削除されるほど物議を呼んだ経緯がある。スレ内で意見が割れたのは、この警告をAIの安全性(アライメント)問題として本気で扱うか、単なるネット上の都市伝説として茶化すかという点だ。また「LLMには会話をまたいだ記憶がない」という指摘もあり、思考実験上の「超知能」と、現在実際に使われているAIチャットボットを混同しないよう注意したい。なお引用元のマスク氏の投稿そのものの文脈は本記事では確認できておらず、ここで紹介したのは4chan側の反応であることを付け加えておく。
※本記事は海外掲示板 4chan /g/ (Technology) のスレッド「Elon musk reminds us to be nice to SI」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
この記事のリアクション
まだコメントはありません。