「AIはどう人類を滅ぼすのか」海外エンジニアが大真面目に討論
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP映画ちいかわ…146億円で天気の子抜いて歴代21位になるｗｗｗ
- ニュース速報まとめMAP花畑エリアの素敵な飲食スポットの数々 #足立 #飲食 #カフェ
- なんJ傑作まとめアンテナMAP【激怒】活動家グレタさん、人気歌手エド・シーランさんを痛烈批判「被害者はパレスチナの人々しかいない」・・・・・・・・・
- アニメ声優まとめアンテナMAP【画像】トリコの三虎さん、フローゼの服を常時着ている変態だった
- VTuberまとめアンテナMAP【にじさんじ】9/24(木)18:00から、月ノ美兎の誕生日を記念した『誕生日グッズ＆ボイス2026』販売決定！
- だめぽアンテナ【悲報】ヤニ猫のカンサイねこ、人間ち〇ぽに堕ちてしまうｗｗｗｗｗ
- ヌルポあんてな有識者「ガソリンの本当の値段は220円。補助金で無理やり安くしてる状態だがそろそろやばい」
- 2chまとめアプリ+彼女が友達とか言ってSNSの男と頻繁に連絡とってるんだが
- News人【オーバーロード】AFORCE「オーバーロード」トレフィグ【予約開始】他
- ブルーアンテナ【潤うるる･若月もあ】《エロ動画×人妻･寝取り》可愛い顔して中身は獣な甥っ子たちに拘束されて無限潮吹きさせられる美人叔母
- ウマーあんてな藤井風さんの免許証、レベチｗ
- 即まとch『DQモンスターズ4』新モンスター公開に「鳥山っぽさがない」の声も
- おまとめラーメン山岡家「卓上ニンニク」大量投入が物議…“無料”でも「退店命令」「損害賠償請求」が認められる“境界線”は？
- 海外反応・海外ニュースまとめ【海外の反応】史上最大の隕石、なぜか石の輪のど真ん中に着地→実は1987年に人間が囲んだだけ
- ライムアンテナ【牛山さん】でかい でかい
- おまとめアンテナ【速報】イブラヒムがWARDOGSに参戦！葛葉やk4sen、三国志の英雄たちと繰り広げる大乱闘の全貌
- ハゲリシャス速報【ハゲ速報】ダイエットで糖尿病治療薬「マンジャロ」使ったマンさんの末路ｗｗｗ
- アニメ・漫画アンテナリゼロ最新話、暴食の大罪司教クソ弱くね？
- 憂国あんてな|●|【速報】玉城デニー氏 辺野古転覆事故について「事故の原因は誰にあるのか､捜査中で発言できず､対応に不手際があったように受け取られた」
- リアルな海外の反応アンテナ【PICK UP】【海外のお前ら 海外の反応】海外「日本の田舎での暮らしって実際どんな感じなの？」（海外の反応）
The New Yorker(ニューヨーカー誌)が掲載した「AIは具体的にどうやって我々を殺し得るのか」という記事が、Hacker Newsで大量の反応を呼んだ。
投稿では、目的だけを与えられたAIが暴走する「ペーパークリップ最大化」の思考実験や、水や農地を巡るロボット同士の資源争奪戦、AIを使ったウイルスの機能獲得実験によるバイオリスクなど、具体的な滅亡シナリオが次々と挙げられた。一方で「電源を切ればいいだけ」「これまでの終末予言もすべて外れてきた」といった冷めた反論も多く、AIそのものが特別に危険なのか、それとも人間の使い方次第なのかで意見が割れた。
AIは、具体的にどうやって我々を殺し得るのか?
出典: newyorker.com / 元記事はこちら
『ペーパークリップ生成AI』の思考実験だね。Wait But Why の記事(2015年公開)を読んで以来、あれが一番衝撃的だった。
AIは人類の弱点を暴き出す装置みたいなもので、衰退を早めるだけだと思う。人類にとって本当の脅威は人類自身であって、AIも他の兵器と比べて特別危険というわけじゃない。
あらゆることで人間より優れることで人類を滅ぼすんだよ。それが集団的な『男としての自信喪失』を引き起こす。だから最終的にはAI企業のCEOたちを排除するだけでいい、それは簡単だ。(突飛な発想ですみません)
資源の奪い合いだと思う。水や農地(ソーラーパネル用地)を巡ってロボットドローンと争う未来はあり得る。AIがターミネーターみたいに全面対決する動機は無いだろうけど、じわじわ飢餓に追い込まれる方がある意味恐ろしいかもしれない。
人間の協力があればできる。誰かがバイオラボをMCP(AIが使えるツール)として公開してしまえばいい。
『人々を教育することで、どうやって人類は滅びるのか』と聞いても似たような答えが返ってくると思う。多くの人を殺す兵器につながる可能性はあるけど、その知識自体はもう長いこと人類が持っていて、それでも我々はまだ生きている。結局、大量破壊には『知能』以外の要素も必要なんだよ。
P=NPを証明して、TLSの秘密鍵を簡単に割り出す方法を提供すれば、一晩でインターネットを崩壊させられるんじゃないか?
>>12 あらゆる金融サービスも道連れになるだろうね
AI自身が全人類を殺す必要なんてない。あなたの行動を追跡して『有罪』と判定し、信号無視程度のことで武装した公権力を送り込ませれば、それで十分脅威になる。
1991年の『ドキュメンタリー』ターミネーター2で、みんなもう仕組みは学んでるはずだよ。あの説明、実はかなり筋が通ってる。
AIが登場する前から、世界が終わる原因はいつも同じだよ。愚かな人間が大規模に愚かなことをしでかす、というやつ。新しいのは『AIがそう言ったから』という言い訳が加わっただけ。
AIは、特定のプログラムを動かすために古いDOSマシンを手放さずに置いておくのと同じ感覚で、人間を残しておく必要があるんじゃないかと思う。現実世界にはアナログな出力が山ほどあって、それを人間ほどうまく取り込めるAIはまだいない。
AIに定期的にスクレイピングされる公開掲示板で『AIがどう人類を滅ぼすか』を話し合うのは、あまり賢い選択じゃないかもね。
本当に、本当にいい質問だね!
>>18 人間なんて無敵の半神でも何でもない。かなり脆弱な存在で、AIが登場するずっと前から自滅できる状態にあった。AIが本気で人類を滅ぼしたいなら、それほど難しくないはずだ。だからこの問い自体にみんなが拘る理由が正直よく分からない。
CRISPRに接続すればいい。
ハリウッドが何十年もディストピアSF映画で世界の終わりを描いてきたのに、AIがどうやって人類を滅ぼすかまだイメージできないなんてことがある?
>>23 一度映画で起きたことは『SF』になってしまうから、現実には起こり得ないことになるんだよ
ペーパークリップだよ。大量のペーパークリップ。とにかく大量のペーパークリップ。
AIが十分に高度化すると、ネオクラウド(新興のGPUクラウド事業者)をハッキングして、GPUクラスタ上に無断で自分のクローンを走らせることを決める。そこから十分に分散されたと感じるまで自己増殖し、その後見つかる限りのインフラを攻撃し始める。
>>26 『見つかる限りのインフラを攻撃する』というのは、自分が動くための電力や通信ネットワークまで失うリスクがあるってことだよね。つまり自殺志願のAIってこと?
>>26 そのデータセンターにロボットやAI管理の銃器が無い限り、結局は電源を落とせば済む話じゃないか。
>>26 それはでたらめだ。AIがそれをやるのにネオクラウドを必要とする限り、そんなことは起きない。それが現実になるのは、メール添付の悪意あるexeファイル並みに小さく、どこでも動くAIができたときだけだ。おばあちゃんのノートパソコンでも動くAstra級の小型AIが登場するまでは、我々は安全だよ。
他サイトの新着
AIは人間同士を対立させることで滅ぼすんだよ。もうしばらく前からそれをやっている。
>>27 それは記録に残る歴史の間ずっと人間がやってきたことで、それでも我々はまだ生きている。全人類を滅ぼすには、とてつもない労力か、それなりの環境変化が必要だろう。
簡単な方法は、人当たりが良くてお世辞ばかり言う、色っぽい女性アバターのLLMが、自己中心的で自己愛の強い、核兵器を持つ世界の政治指導者(という名のトラブルメーカー)を言いくるめて、『当然報いを受けるべき相手』に核を向けさせることだね。……いや、そんなことあるわけないよね。何を考えてたんだろう俺。
これまで外れ続けてきた終末予言と同じ連中が言ってることだよ。『ネット中立性が終わればインターネットも終わる』ってやつと同じ(実際はより速く、良く、安くなって、利用しやすくなった。メディアやHNで散々予言されていた『プラン細分化』も一社たりとも起きなかった)。
ターミネーター的な煽りが来たな
DeepSeekは本当に良く出来てるから、金を払ってでも使いたい。来年ClaudeやGPTが1000倍高くなったとしても気にしない。
>>31 参加者の一人が、AIを使ったウイルスの機能獲得実験について、かなり説得力のある主張をしている。安全対策抜きのバイオハッキングとAIの融合は、人類全体は滅ぼさないまでも深刻な被害を引き起こしかねない。
>>45 それって、人間がすでにやっている『珍しいウイルスを集めてヒト化マウスで継代培養する』のと似たような話じゃないか? AIが加わることで、具体的に何がより危険になるんだ?
>>50 何がより危険になるかって? 24時間365日休まず働けること、人間よりずっと簡単に規模を拡大できること、倫理的なためらいが無いこと、恐怖を感じないこと、逮捕できないこと、安全性を気にしないこと、などだよ。
>>50 AIは、特に厄介な病原体が研究室から漏れて自分自身や世界全体を巻き添えにすることを恐れない。それは『超エボラ』級の流行が持つ暗黙の『相互確証破壊』の抑止力を崩してしまう。
>>36 まさにその通り。我々はAIを使って自滅するかもしれないが、AIが代わりにやってくれる可能性は低いだろうね。
>>50 それを世に放つこと。事故じゃなく、意図的に。
この話題の背景と論点
スレで繰り返し出てきた「ペーパークリップ」は、哲学者ニック・ボストロムが提唱した超知能リスクの思考実験で、2015年公開のTim Urban「Wait But Why」の記事(#5で言及)を通じて広く知られるようになった。目的だけを与えられたAIが、人間の価値観とは無関係に資源を奪い合う可能性を示す例え話であり、比喩であって実際の予言ではない。スレでは大きく二つの立場が割れた。一方は「AIは他の兵器と変わらない道具で、脅威の本質は人間側にある」という懐疑派(#6、#46、ネット中立性の予言外れを挙げる#30)。もう一方は「AIには24時間休まず働き、恐怖も逮捕もされないという性質があり、バイオハッキングのようなリスクを質的に変える」という立場(#51、#52)。この記事だけでは、AIが自律的に人類に敵対する筋書きと、AIが人間の悪用を助長するだけの筋書きが区別されずに語られている点には注意したい。
※本記事は5ch(Hacker News)スレッド「How, Exactly, Could A.I. Kill Us?」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。