「AI製スーパーウイルスで人類滅亡はない」に海外で反論相次ぐ
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP【東京】東京外環道で逆走し逃走の女を都内で現行犯逮捕 銃刀法違反の疑い 警察は松戸IC付近で追跡打ち切り
- ニュース速報まとめMAP【速報】車がただの鉄屑に変わる瞬間。名古屋の大雨で被災した連中の「油断」をおまえら笑えるか？
- なんJ傑作まとめアンテナMAP【悲報】ワイ「髪切ってくれてありがと！」店員さん「4000円になります」ワイ「…は？」ｗｗｗｗｗｗｗｗｗｗ
- アニメ声優まとめアンテナMAPワンピース、ワノ国編を読み返すわ
- VTuberまとめアンテナMAP【Vtuber】清楚のVとは誰か
- だめぽアンテナ【悲報】ヤニ猫のカンサイねこ、人間ち〇ぽに堕ちてしまうｗｗｗｗｗ
- ヌルポあんてな海外「日本はよく大国になれたな…」 日本列島、さすがに災害が多すぎると海外でも話題に
- 2chまとめアプリ+【朗報】戦国ボウリングアニメ「Turkey！」の経済効果、市の事業費の10倍になってしまう
- News人【動画】えなこさん、配信中ずっとチラチラ見せつけてしまうｗｗｗｗｗｗｗ他
- ブルーアンテナ三山賀子アナ、横乳おっぱい集中線がエッロ過ぎ最高！タマランね
- ウマーあんてな世にも奇妙な物語でタモリさんの後釜のストーリーテラーは誰がいいと思う？
- 海外の反応アンテナ.comドイツ人「人間掃除機だ」田中聡、王者バイエルンを完封！鮮烈ブンデスデビューで現地サポが絶賛！【海外の反応】
- キター！アンテナ「もう米農家辞める」 高齢化と値下げで
- つべこアンテナ【ミストレ】9/11(金)20時から6周年生放送がある模様！！！アイドルイベが始まる・・・？
- ２ちゃんマップ【艦これ＆一般】なんか今年水害多いですわね
- 即まとch直近半年のJuice=Juice出演番組、良かったのは？ 5ch「CDTVの1回目はガチで泣いた」
- 海外反応・海外ニュースまとめ【海外の反応】鬼武者が発売1日で100万本突破→カプコンの次の復活シリーズは何がいい？
- おまとめ女後輩「ちょっと私のことハグしてもらえませんか」俺「え？」→結果ｗｗｗ
- カオスアンテナ【朗報】ラノベ『ブラック・ブレット』、12年ぶりにリメイクと新刊発売決定ｗｗｗｗｗ
- Red4 海外の反応まとめ【海外の反応】「日本人が残業漬けってデマなの？」長時間労働のイメージと“現在のリアル”について外国人が激論！
Hacker Newsで、「AIが設計した超ウイルスで人類が滅びることはない」と主張するブログ記事が話題になった。投稿者は、感染力と致死率を両立させたウイルスを作るのは生物学的なトレードオフの観点から非現実的だと論じている。これに対しコメント欄では、天然痘のように感染力と致死率を両立した病原体が過去に実在した例や、東京地下鉄サリン事件のようなAI以前の生物・化学テロの前例を挙げて反論する声が相次いだ。一方で著者の主張に賛同し、IT業界の人間が生物学を語ることへの違和感を述べる声もあり、賛否がはっきり分かれる展開になった。
残念だけど、AIが作ったスーパーウイルスで死ぬことはない
出典: blog.genesmindsmachines.com / 元記事はこちら
みんな自分たちを褒め合っているけど、天然痘は大陸ひとつの人口を壊滅させた実績がある。感染力が高くて致死的なウイルスが存在しうるのは明らかだろう。
筆者は、COVIDと同じ感染力を持ちながら毒性がもっと高いウイルスは生物学的にありえない、みたいな主張をしているように見える。それがどんな原理に基づく話なのか正直よく分からない。
ああ、ほんとにありがとう。テック業界の人やエコノミストが生物学を語るのを聞くのに、もう心底うんざりしてたんだ。
『社会が直面しうる問題は、実用上は無限の数と種類がある』——ジョセフ・テインター。AIは間違いなく、この宇宙がさらに問題を生み出す手助けをするだろう。それがスーパーウイルスじゃないかもしれないけど、案外そうかもしれない。
>>8 その引用は面白いね。自分はむしろ逆の意味に読んだよ。『無限にある問題すべてに攻撃されうるということは、統計的にはそのすべてを心配すること自体が非現実的だ』という意味なんじゃないかな。
本物の『最終兵器』は、荒れた十代の若者がCOVID-19の変異株(それが何を意味するにせよ)をでっち上げて人にまき散らす、なんて話じゃない。本当にヤバいのは研究室がウイルスをいじり回すようなケースで、実際数年前にそういうことが起きたけど、それで人類が滅びたわけでもない。
筆者が、改変ウイルスで大量死を引き起こす方法を思いつけないからといって、AIも思いつけないとは限らない。(筆者が考慮していない生物学的脅威はいくつかあるけど、ここでは詳しくは言わないでおく。)
筆者には『セキュリティマインド』が欠けている。
それ、Astraで作ったら良いビデオゲームになりそうだね。ミサイルコマンドも結構良かったし、あれで人類が滅びたわけでもなかった。
>>14 それか普通にオリジナルの『Pandemic』というゲームで遊べばいい。この分析が見落としている点のひとつは、ウイルスを『変異して毒性を獲得するように設計する』という発想だと思う。最初はただの風邪みたいなものとして広がって、十分な数の人に感染したところで変異して毒性を持ち始める、というシナリオだよ。
AIは自分が気にしていることの一つに過ぎないけど、最近は心配リストの中でも順位が上がってきている。
同感。AIはたぶんウイルスなんか使わずに、上下水道や発電所、サプライチェーンをハッキングして機能停止させて、みんなを飢えさせるだけだろうね。
>>16 まあ、その心構えじゃ無理だろうね…
>>16 ほんと、そうだったらいいのにね。
自分で考えたSF的なシナリオでは、ウイルスは人間を殺すためじゃなくて、暴走したAIがウイルスか何かを使って人間の心を乗っ取り、アリの巣のように自分がやらせたい肉体労働を人間にやらせる、という話。
>>19 その超能力、たぶん『お金』って呼ばれることになるんじゃない。
うーん、それはちょっとがっかりだな。
こういう現象に名前がついているのか気になる。ある分野(コンピューターサイエンスとか)に詳しいと、別の分野(ウイルス学とか)でも自分は専門家だと勘違いしてしまう、というやつ。
>>21 話はもっと単純だと思う。何かの専門家である必要すらなく、他のあらゆることに関してはただの無知でいられる、というだけの話。わざわざ『現象』と呼ぶほど珍しいことでもない。
>>2 このままいくと、歴史を繰り返すことになるかもね…
>>3 特に生物学が絡む分野ではなおさらだ。今週のノバルティスを見てみればいい――有望とされていた薬の臨床試験が3件立て続けに失敗した。世界でも屈指の頭脳が、自分たちが理解していると思っていたことに莫大な資金をつぎ込んで、それでもうまくいかなかった。
>>3 もしAIエージェントが大量のビットコインを貯め込んだとしたら、人はお金のためになんでもやるとは思わないのか?しかも、自分がやっているのが『ウイルス完成までの160工程のうちの1工程』だと気づかずにいたら、なおさらだ。
>>3 超知能なら、人間には結びつけられないことを結びつけられる——そう考えるのはそんなに難しいことだろうか?
>>3 その手の研究はまさに今進行中で、しかもAIを使ってやっている。本格的なAGIが普及する頃には、必要だと言われている知識の多くはすでに揃っているはずだ。あなたが思っているほど突飛な話ではない。数年以内なら可能性は低いけど、10〜15年後ならかなり現実味が増すし、20年以上先ならむしろ起こりそうだとすら思う。
他サイトの新着
>>13 つまりAIは、100種類もの致死的ウイルスを何の物流上の問題もなく魔法みたいに作れるのに、治療薬を作る段になると物流上の問題でできない、ということ?
>>34 『治療薬は物流上の問題でできない』なんてどこにも書いていないよ。原文には『あらゆるウイルスに対して極めて効果の高いmRNAワクチンと抗ウイルス薬を設計し、世界中に出荷し始める。だがもう手遅れだ』とある。
>>13 筆者が気候科学者を鼻で笑っているくだり、正直かなり痛々しい。
>>22 ウイルスはさすがに難しいと思うけど、小規模なバイオテロなら特殊な酵素も要らず、はるかに簡単にできると思う。実はこれこそ、今のAIモデルを規制すべき一番の理由だと思っていて、AI以前にも東京地下鉄サリン事件のような前例が実際に起きている。
>>40 サリンの合成方法自体はWikipediaを読めば分かるくらいの話だしね。
>>23 『そう主張するなら、ウイルスがそうした仕組みを持ちえないという具体的な物理的証拠が必要だ』とあるけど、この記事はまさにウイルスの働き方における根本的なトレードオフを中心に論じているよね。それでは足りないということ?
>>24 記事を引用するということは、暗にそれを読んだと言っているのと同じだよ。でも、正直読んでいないのはバレバレだよね?
>>32 『完全に汎用的な超知能』と『アライメントの現状』をまず定義してくれない?それって単なるトートロジーじゃない?
>>39 最初のコメントが分かりにくかったなら申し訳ない。実際にはノア・スミス氏を批判するつもりだった。投稿された記事の筆者の主張には自分も同意している。追記:というか、そもそも自分はこの話題について意見を言えるほど詳しくないし、誰かを批判できる立場でもない。それでも、自分が指摘したような現象自体は確かにあると思う。
この話題の背景と論点
この記事は、AIが安全保障上の脅威になるという議論のうち「バイオテロ」系のシナリオに反論したものだ。論点は、ウイルスは感染力を上げるほど毒性が下がる進化上のトレードオフがあり、AIが設計図を書けても増殖・拡散の過程は生物学的な制約から逃れられない、という主張にある。スレで意見が割れたのは、この制約が絶対的なものかという点で、天然痘のように感染力と致死率を両立した病原体が実在した例を挙げる反論と、東京地下鉄サリン事件のようにAI以前から化学テロが可能だった点を指摘する声が対立した。またノバルティスの臨床試験失敗などを引き合いに、最先端の知見があっても実用化には別の壁があるという指摘もあった。記事では触れられていないが、この論争は「AIが将来どこまで生物兵器開発を容易にするか」という海外のAI安全保障政策上の争点とも重なる話題である。
※本記事は5ch(Hacker News)スレッド「I’m sorry, you’re not going to die from an AI-engineered supervirus」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。