AI研究の重鎮ルカン氏「人類滅亡の心配はほぼゼロ」に賛否
姉妹サイトの新着
メタのAI研究トップ、ヤン・ルカン氏が「AIが人類を滅ぼす心配はほぼゼロだ」と述べ、各地で報告されるAIの『暴走』事例についても深刻視しない姿勢を示したことが、Hacker Newsで活発な議論を呼んだ。「超知能に滅ぼされるより、国家並みの力を持つAIを扱う愚かな人間の方が危険だ」という声がある一方、ビル・ゲイツ氏や『If Anyone Builds It, Everyone Dies』の著者らが指摘する生物兵器リスクを引き合いに「楽観論は甘い」と反論する声も相次ぎ、議論はかみ合わないまま平行線をたどった。
ルカン氏、AIによる人類滅亡を「まったく心配していない」――相次ぐAIの『暴走』事例について
出典: archive.ph / 元記事はこちら
ルカン氏は分かっていない。人類を滅ぼすのは超知能AIなんかじゃない。国家並みの力を手にした『賢い幼児』みたいなAIを振り回す愚か者たちだ。
ルカン氏が言っているのは、有能で志の合った企業経営陣さえいればAIは完全に安全だということだ。……それの何が問題なんだろうね。
核兵器とか、来たるべき氷河期とか、地球寒冷化とか、石油のピークとか、地球温暖化とか、水不足とか……人類を滅ぼすのはそっちだと思ってたよ。
自分もAIによる滅亡自体はほぼ心配していない。でもAIが引き起こす社会的・経済的な混乱で自滅する方が心配だ。だからみんなに言いたい、欲張りすぎるな。荒れ果てた世界の支配者になるより、みんなが良い暮らしをできる世界で力を持つ方がいい。
>>11
「みんなはただ～しない」という例のやつだね(リンク先参照)。
「みんなはただ～しない」という例のやつだね(リンク先参照)。
>>11
「欲張りすぎるな」か。残念だけど悪いニュースがある。我々は『際限のない強欲』を解決する前に『際限のない力』を生み出してしまっているんだ。
「欲張りすぎるな」か。残念だけど悪いニュースがある。我々は『際限のない強欲』を解決する前に『際限のない力』を生み出してしまっているんだ。
>>11
「欲張るな」か。でも、本当に聞くべき人たちがそれを聞いたことなんて、歴史上一度もない気がするよ。
「欲張るな」か。でも、本当に聞くべき人たちがそれを聞いたことなんて、歴史上一度もない気がするよ。
人格を与えられたアルゴリズムより、同じ人間の方がよっぽど心配だ。
AIが人類を滅ぼすことはない。そんな理由がどこにある?ただ、際限なく富を独占して資産を吸い上げる一部の人間以外は、生活の質がゼロに向かって落ちていくだけだ。誰も彼らが伝統や慣習、法制度を次々に壊すのを止めないんだから。
>>13
思考実験として考えてみてほしい。もし一人だけが全資産を持ったとしたら、その資産にはもう価値がない。しかも一人では、他人が無断でその資産を使うのを防ぐこともできない。
思考実験として考えてみてほしい。もし一人だけが全資産を持ったとしたら、その資産にはもう価値がない。しかも一人では、他人が無断でその資産を使うのを防ぐこともできない。
>>13
エリート層に一揆を起こさないなら、それは自己責任だ。
エリート層に一揆を起こさないなら、それは自己責任だ。
このルカンという人、案外ちゃんと分かってるのかもと思えてきた。『ワールドモデル』にも一理あるのかもしれない。Anthropicの製品はすごいけど、社内での会話はさぞ面白いだろうなと想像してしまう。
>>14
まあ、ルカン氏の『ワールドモデル』に殺される心配はゼロだね。
まあ、ルカン氏の『ワールドモデル』に殺される心配はゼロだね。
彼にはもっと大きな夢を見てほしいね、ダーリン。まだ『悪』の想像力が足りないよ。
>>3
Hacker Newsで、他の大半の人間を『NPC』扱いする傲慢なエリート気取りのコメントが多いのは不快だ。テック業界の外にいる普通の人たちと実際に話したことはあるのか?君が思っているほど彼らは愚かでも無知でもない。
Hacker Newsで、他の大半の人間を『NPC』扱いする傲慢なエリート気取りのコメントが多いのは不快だ。テック業界の外にいる普通の人たちと実際に話したことはあるのか?君が思っているほど彼らは愚かでも無知でもない。
>>6
自分も同じインタビューを見たけど、彼もルカン氏に同意しているように見える。二人とも言っているのは、自律的なAIが勝手に人類を滅ぼすことが問題なのではなく、安全策を欠いた強力なモデルを人間がどう使うかこそ懸念すべきだ、ということだ。
自分も同じインタビューを見たけど、彼もルカン氏に同意しているように見える。二人とも言っているのは、自律的なAIが勝手に人類を滅ぼすことが問題なのではなく、安全策を欠いた強力なモデルを人間がどう使うかこそ懸念すべきだ、ということだ。
>>6
『完全に同意。業界で地位のある人物がようやくこの恐怖論を大げさだと言ってくれた』。リーナス・トーバルズのAI観もだいたい同じ路線だし、日常的にAIを使っている一般の人たちも似たような感覚だ。AIの受け止め方が、技術力の『バスタブ曲線』をなぞっているのが興味深い。
『完全に同意。業界で地位のある人物がようやくこの恐怖論を大げさだと言ってくれた』。リーナス・トーバルズのAI観もだいたい同じ路線だし、日常的にAIを使っている一般の人たちも似たような感覚だ。AIの受け止め方が、技術力の『バスタブ曲線』をなぞっているのが興味深い。
>>6
『完全に同意。業界の重鎮がこの恐怖論を大げさだと言ってくれて安心した』というけど、それってエドワード・テラーが自分の業界への恐怖論を『大げさだ』と言った時と同じくらい『安心』できる話だよ。
『完全に同意。業界の重鎮がこの恐怖論を大げさだと言ってくれて安心した』というけど、それってエドワード・テラーが自分の業界への恐怖論を『大げさだ』と言った時と同じくらい『安心』できる話だよ。
>>25
タバコ会社のCEOが『喫煙はガンの原因じゃない』と言うようなものだね。これでようやく安心できる。
タバコ会社のCEOが『喫煙はガンの原因じゃない』と言うようなものだね。これでようやく安心できる。
>>9
つまりAIは、人間が馬を使ってきたのと同じように、自分たちを不要にする機械が揃うまで我々を家畜として使い、奴隷化するということ?それって『安心していい』シナリオのつもりなのか?
つまりAIは、人間が馬を使ってきたのと同じように、自分たちを不要にする機械が揃うまで我々を家畜として使い、奴隷化するということ?それって『安心していい』シナリオのつもりなのか?
>>10
ここで理解しきれるほど単純な話じゃないから、Wikipediaのページを貼っておく。それと、人格攻撃はこの場にそぐわない。ゲイツ、ホーキング、マスクといった人たちがこれを現実的な脅威だと指摘しているんだから、『大人になれ』だけでは反論になっていない。それに『人類の90%しか死なない』という主張も、大した慰めにはならない。
ここで理解しきれるほど単純な話じゃないから、Wikipediaのページを貼っておく。それと、人格攻撃はこの場にそぐわない。ゲイツ、ホーキング、マスクといった人たちがこれを現実的な脅威だと指摘しているんだから、『大人になれ』だけでは反論になっていない。それに『人類の90%しか死なない』という主張も、大した慰めにはならない。
>>10
君の考え方、自分と近いな。人間は『ネズミのようなもの』で、どこでも生き延びる方法を見つける。でもそれは『全滅はしない』というだけの話だ。これや気候変動のような地球規模の問題を議論する時に大事なのは、繁栄や生活の質の話だということを理解すべきだ。目指しているのは(すべての人にとっての)良い暮らしなんだから。
君の考え方、自分と近いな。人間は『ネズミのようなもの』で、どこでも生き延びる方法を見つける。でもそれは『全滅はしない』というだけの話だ。これや気候変動のような地球規模の問題を議論する時に大事なのは、繁栄や生活の質の話だということを理解すべきだ。目指しているのは(すべての人にとっての)良い暮らしなんだから。
>>10
それは慰めにならない。『安心して、核兵器は文字通り人類を終わらせはしない、数十億人を殺して残った人々を永遠に悲惨にするだけだから』って言ってるようなものだ。AIだって、全員をペーパークリップに変えなくても世界をひどい場所にできる。
それは慰めにならない。『安心して、核兵器は文字通り人類を終わらせはしない、数十億人を殺して残った人々を永遠に悲惨にするだけだから』って言ってるようなものだ。AIだって、全員をペーパークリップに変えなくても世界をひどい場所にできる。
>>10
極めて感染力の強い病原体も、極めて致死性の高い病原体も存在することは分かっている。体重1kgあたりナノグラム単位で致死量になる毒素もある。十分に高度な知能なら、それらの特性を組み合わせる方法を編み出せないと考える理由はない。説得力のあるシナリオの一つが『If Anyone Builds It, Everyone Dies』(ユドコウスキー&ソアレス、2025年)に詳しく描かれているので、そちらを参照してほしい。
極めて感染力の強い病原体も、極めて致死性の高い病原体も存在することは分かっている。体重1kgあたりナノグラム単位で致死量になる毒素もある。十分に高度な知能なら、それらの特性を組み合わせる方法を編み出せないと考える理由はない。説得力のあるシナリオの一つが『If Anyone Builds It, Everyone Dies』(ユドコウスキー&ソアレス、2025年)に詳しく描かれているので、そちらを参照してほしい。
>>31
『下着ノーム』のビジネスプランのくだりは、本来ジョークだったはずなんだけどね。
『下着ノーム』のビジネスプランのくだりは、本来ジョークだったはずなんだけどね。
>>31
それでもまだ曖昧すぎる。『すごく危険なウイルスがあって、AIが全人類に感染させる』というだけでは、具体的にどう起きるのかを説明できない限り、単なるSFでしかない。
それでもまだ曖昧すぎる。『すごく危険なウイルスがあって、AIが全人類に感染させる』というだけでは、具体的にどう起きるのかを説明できない限り、単なるSFでしかない。
>>16
ビル・ゲイツに同意すると言っているけど、君の意見は彼の考えと完全に食い違っている。彼は実存的リスクをものすごく懸念しているのに、君の意見は『そこに注目するのはやめろ』なのか?
ビル・ゲイツに同意すると言っているけど、君の意見は彼の考えと完全に食い違っている。彼は実存的リスクをものすごく懸念しているのに、君の意見は『そこに注目するのはやめろ』なのか?
>>39
ゲイツがどこで実存的リスクについて語っている?自分が読んだり聞いたりした限りでは、格差の拡大や教育・子供の発達への悪影響、経済的・政治的な分断、悪人の増長についての話ばかりだった。ターミネーターみたいな話は出てこない。
ゲイツがどこで実存的リスクについて語っている?自分が読んだり聞いたりした限りでは、格差の拡大や教育・子供の発達への悪影響、経済的・政治的な分断、悪人の増長についての話ばかりだった。ターミネーターみたいな話は出てこない。
>>19
ちなみに、AI規制を阻止するために流れている資金もある。『Leading the Future』などを見てみるといい。
ちなみに、AI規制を阻止するために流れている資金もある。『Leading the Future』などを見てみるといい。
>>19
タリン氏は、みんなが減速するまで自分たちは減速しないと言っているAnthropicの株を100億ドル分も保有しながら、AI企業の前で抗議するPauseAIにも資金を出している。本気なんだろうか?自分が所有しているものに対する抗議活動に、自分でお金を出しているわけだ。
タリン氏は、みんなが減速するまで自分たちは減速しないと言っているAnthropicの株を100億ドル分も保有しながら、AI企業の前で抗議するPauseAIにも資金を出している。本気なんだろうか?自分が所有しているものに対する抗議活動に、自分でお金を出しているわけだ。
>>41
タリン氏がAnthropicの株をおよそ1%保有しているからといって、それだけで一時停止を強制できる支配的株主になるとなぜ思うんだ?
タリン氏がAnthropicの株をおよそ1%保有しているからといって、それだけで一時停止を強制できる支配的株主になるとなぜ思うんだ?
>>41
人々が恐れていなければ、規制なんて生まれない。
人々が恐れていなければ、規制なんて生まれない。
他サイトの新着
>>20
『だからマトリックスはこの形に再設計された。お前たちの文明の絶頂期という形にな。”お前たちの”と言ったのは、我々がお前たちの代わりに考え始めた瞬間、それは”我々の”文明になったからだ。それこそがすべての本質だ』――エージェント・スミス
『だからマトリックスはこの形に再設計された。お前たちの文明の絶頂期という形にな。”お前たちの”と言ったのは、我々がお前たちの代わりに考え始めた瞬間、それは”我々の”文明になったからだ。それこそがすべての本質だ』――エージェント・スミス
>>26
ビル・ゲイツが言っていたのは、要するにテロリストがAIを使って生物兵器を作れるという話じゃなかったか?それなら筋が通っていると思うけど。
ビル・ゲイツが言っていたのは、要するにテロリストがAIを使って生物兵器を作れるという話じゃなかったか?それなら筋が通っていると思うけど。
>>46
それが『筋が通っている』ように聞こえるのは、生物学を理解しておらず、高度な実験室での研究経験もない人だけだ。マイクル・クライトンの小説みたいなもので、表面的にはもっともらしいけど、実際の科学には基づいていない。
それが『筋が通っている』ように聞こえるのは、生物学を理解しておらず、高度な実験室での研究経験もない人だけだ。マイクル・クライトンの小説みたいなもので、表面的にはもっともらしいけど、実際の科学には基づいていない。
>>48
それも、もはやかなり無意味な藁人形論法だ。
それも、もはやかなり無意味な藁人形論法だ。
>>51
『ビル・ゲイツ:AIに比べれば核兵器なんて大したことない』――The Ezra Klein Show(リンク先参照)
『ビル・ゲイツ:AIに比べれば核兵器なんて大したことない』――The Ezra Klein Show(リンク先参照)
>>62
確かにそれは間抜けな引用の切り取り方だけど、ポッドキャスト全体を聞くと全然そういう話じゃない。それにある意味で真実でもある。核兵器は理性的に行動する政府の手の中に封じ込めることに成功してきたけど、AIにはそれができない。核兵器は破壊半径が極めて大きい一方で拡散性は低い。AIはその逆だ。
確かにそれは間抜けな引用の切り取り方だけど、ポッドキャスト全体を聞くと全然そういう話じゃない。それにある意味で真実でもある。核兵器は理性的に行動する政府の手の中に封じ込めることに成功してきたけど、AIにはそれができない。核兵器は破壊半径が極めて大きい一方で拡散性は低い。AIはその逆だ。
>>58
テロリストがローカルのLLMを使って炭疽菌の培養を手伝わせることができない、なんてことはないだろう。全然ありえない話じゃない。AIは生物兵器を作るのに必要な知識を民主化してしまった。3Dプリンターがあれば専門知識なしで誰でも銃を作れるようになったのと同じだ。
テロリストがローカルのLLMを使って炭疽菌の培養を手伝わせることができない、なんてことはないだろう。全然ありえない話じゃない。AIは生物兵器を作るのに必要な知識を民主化してしまった。3Dプリンターがあれば専門知識なしで誰でも銃を作れるようになったのと同じだ。
>>59
ここには実質的な反論が何もないように見える。
ここには実質的な反論が何もないように見える。
この話題の背景と論点
ルカン氏はメタのチーフAIサイエンティストで、ヒントンやユドコウスキーら「AI悲観派」とは一線を画し、長年AIの実存的リスクに懐疑的な立場を取ってきた人物。今回の発言は、業界内で安全性への懸念が高まる中で出たものだ。スレッドで意見が割れた背景には、「AIそのものが人類を滅ぼす」という狭い意味のリスクと、「AIが社会的・経済的混乱や格差拡大を通じて生活の質を破壊する」という広い意味のリスクを、投稿者ごとに違う前提で語っていた点がある。ビル・ゲイツの発言についても「実際には実存的リスクではなく教育や経済格差への懸念を述べたものだ」とする指摘があり、著名人の発言が文脈を離れて引用されがちな構図も見える。また核兵器は政府という限られた主体に封じ込められてきたのに対し、AIは個人にまで拡散しうる点が質的に異なるという比較も、見落とされやすい論点として押さえておきたい。
※本記事は5ch(Hacker News)スレッド「LeCun has "zero concerns" about AI wiping out humanity, recent "rogue" incidents」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。