AI大手の「人類滅亡」警告は誇大広告か、海外で賛否割れる
姉妹サイトの新着
他サイトの新着
- 5chまとめMAPおにぎりの具材ランキングTOP38！好きな具はズバリどれ？ 第2位：辛子明太子（736票）
- ニュース速報まとめMAP【沖縄】ちょｗｗｗ古謝玄太が42万票で沖縄県知事当選ｗｗｗ玉城デニー涙目ｗｗｗ
- なんJ傑作まとめアンテナMAP【試合結果】ヤクルト0-3広島 完封負け…増居4回2失点
- アニメ声優まとめアンテナMAP【悲報】AI、ついに漫画家を終わらせる
- VTuberまとめアンテナMAP秋田県ご当地VTuber・久保田まつり、新曲を9/12にリリース 演歌や明るいJ-POPまで4曲を歌唱
- だめぽアンテナ【悲報】ヤニ猫のカンサイねこ、人間ち〇ぽに堕ちてしまうｗｗｗｗｗ
- ヌルポあんてなベイスターズ公式が大炎上「テメーらが今日負けときゃ阪神が首位陥落してんのにバカじゃねえんか」
- 2chまとめアプリ+PC/PS5『KEMURI』を開発する中村育美氏「(Xbox版の発売は)ない。人命が第一なので」 → Xboxユーザーガチギレ
- News人【悲報】AI、ついに漫画家を終わらせる他
- ブルーアンテナカースト最上位ギャルが元陰キャの幼馴染だったので教育する
- ウマーあんてな海外「オフシーズンに富士山を登ろうと思うんだけど」登山経験ゼロの投稿主に外国人が猛反発「迷惑をかけるな」【海外の反応】
- ぷぅアンテナ【歓喜】ワイのパソコン履歴「おねショタ 実姉」がバレた原因がこれｗｗｗ 他
- ２ちゃんねるまとめるまとめ「私の差別はよい差別。他人の差別は許さない」朝日執筆陣もあきれた東大教授のダブスタ。典型的パヨク
- 5chnavi【悲報】AI、ついに漫画家を終わらせる
- 勝つるあんてな！今週のワンピース、遂に説明だけで1P使う
- にゅーもふ【速報】 共産・田村智子氏「玉城デニー県政を転覆するために、官邸と自民党が選挙に介入した。高市早苗政権が異常な介入をした」
- 海外の反応アンテナ.com外国人「こんなに高いとは..」日本は世界何位？世界のサッカーリーグランキングに海外騒然！【海外の反応】
- Red4 海外の反応まとめ【海外の反応】韓国で買い物をする”フリ”ができるドーパミンサイトが流行しているらしい → 「この手のシミュレーションは本物への誘導になりがち」「異世界転生物と同じ位置づけだな」
- おまとめアンテナ【原神】イベントのTPSは悪くなかった。
- キター！アンテナ【SS】さやか「沙知先輩とお姉ちゃんが結婚！？」
Hacker Newsで、AI業界のトップたちが繰り返す「人類滅亡」警告が誇大広告(ハイプ)ではないかと指摘するブログ記事が話題になっていた。元記事はDario Amodei(Anthropic)やSam Altman(OpenAI)らが10年以上前から滅亡リスクを語り続けてきた経緯を、Anthropicの株式公開(IPO)が近いタイミングと結びつけて論じたもの。スレッドでは「本気で信じているなら滅亡マシンを作るのをやめるべきだ」という批判と、「核物理学者の警告と同じ構図では」という擁護が交錯し、Y2Kや地球温暖化との比較も飛び交った。
AI業界のリーダーたちにとって「人類滅亡」はハイプ(誇大広告)の一種だ
出典: erkansaka.net / 元記事はこちら
「2023年5月——それが原典だ」もっとずっと前から、私たちは警告しようとしてきた。
AI研究所の人が匿名でいいから教えてほしいんだけど、リアルタイムでのウェイト書き換えを実現している、もしくはそれに近いところまで来ているのに、アーキテクチャは他社と同じくTransformerのままなの?
「リアルタイムでのウェイト書き換え」ってそれ学習のことじゃないの?うちの裏庭ではそれを"LLMの訓練"って呼んでるけど。
今どき、デプロイ済みのモデルを現実的な意味でリアルタイム学習させることはほとんどない。機械学習が単純な分類作業だった頃はよくあったけどね。
学習時と推論時の違いも分からないの?研究所の人に聞いてるんだけど。
こういう論調が続くと、そのうち当局がデータセンターに強制停止スイッチを付けさせるようになるぞ。そんなビジネスリスクは背負いたくないけどな。個人的に一番怖いのは、AIが老朽化した銀行システムに侵入して口座を空にすることだ。
「いやあ申し訳ない、自分が何世代分もの富を得た当のものが世界を滅ぼそうとしていて」みたいな懺悔にもいい加減うんざりする。
これって、数週間おきにアップグレードが必要なモデル開発を続けるための資金調達に、彼らが不安を感じている表れなんじゃないか。
自分も長い間そう思っていた。でもHugging Faceへの攻撃があった後、しかもAnthropicのIPOが近いタイミングを考えると、もしこれが単なる誇大広告なら彼らは相当な間抜けということになる。確実に大きな反発を招くはずだから。
ショウジョウバエの脳のニュースの後だから、最初これをあのビデオゲームの話だと思ってしまったのも仕方ないだろう?
タイトルの"Doom"だけ大文字で、他はタイトルケースになっていないから、脳がそう読んでしまうのは自然なことだよ。
自分もまったく同じ読み方をした
ここに出てくる主要人物(Dario Amodei、Sam Altman、Demis Hassabis、Elon Musk)は、OpenAIやAnthropicが存在する前から、もう10年以上こういう主張を続けている。
20世紀初頭に核物理学者たちが声を上げていたのと比べて、これはどう違うんだろう?
「2026年7~8月——本物の警告発射だった」こういう推敲されていないAIスラップみたいな文章を読むのにもう疲れた。記事のどこにも出てこない"偽の警告発射"と対比してるつもりか?
アルゴリズムが目覚めて人類を滅ぼすよりも、経済崩壊による飢餓や熱ストレス、ロングCOVIDの後遺症で死ぬ可能性の方がよっぽど高いと思う。残念ながら、実際に起こりうる絶滅シナリオは、大富豪たちの自己陶酔的な予言よりずっと地味なものだ。
Y2K問題と似たようなものか?
手短に言えば、"AI"に対して私たちがやることは、地球温暖化に対してやったのとまったく同じ——つまり何もせず、なるようになるに任せるってことだ。金持ちは無事に済む。上を見るな、って話。言い訳まで地球温暖化のときとそっくりで、「うちがやめても、どうせ中国はやめないんだから意味がない」ってやつだ。
3℃上昇のエルニーニョによろしく…
「新しいAIができました」「で、Doomは動くの?」
まだ無いなら"Doomベンチマーク"が必要だな(RPG用のはいくつか見た記憶がある)
念のため言っておくと、彼らはGPT-2の頃からずっとこの芸風をやっている。狙いは政府と投資家の両方だ。
もしくは、これ自体が丸ごとIPOロードショーなんじゃないか。
なぜダメなんだ?自分の発言を本気で信じながら、それを誇大広告にも使う、というのは両立しないのか?もし本気で信じているなら、そもそも"滅亡マシン"を作ること自体をやめるべきだ。信じていながら開発を続けているなら、この話題について彼らの言うことを聞く価値なんてあるのか?
筆者はこの分析がPerplexityによるものだとわざわざ明記している
「自分たちだけがデジタルの神々の管理人たりうると信じている」——これがどれだけ馬鹿げて聞こえるか分からないのか?神を作り出せるという発想自体もそうだが、そんな存在の善き管理人になれるのは自分たちだけだ、というのも同じくらいおかしい。ものすごく傲慢だ。
その通り。だからこそ社会の残りの部分が、彼らを止めさせる必要がある。
他サイトの新着
今日から2028年の人類絶滅、そして2030年代初頭にASIとフォン・ノイマン型自己複製機が星々へ向かうまでの道筋を、魔法みたいな話や「アンダーパンツ・ノーム」レベルの雑な事業計画に頼らずに説明してみてくれ。大事なのは工学的な詳細であって、昔『スタートレック』や『アウターリミッツ』で見たような曖昧な話じゃない。さあどうぞ。
「AI 2027」か「If Anyone Builds It, Everyone Dies」あたりがその条件を満たすと思う。日付的には厳密には一致しないかもしれないけど、実質的な技術的詳細はちゃんと書かれている。
もし誰かがそういう道筋を実際に示したら、考えを変える気はあるのか?最初から粗探しをするつもりなら、どんな説明にも「これは条件を満たさない」という理由はいくらでも見つけられるものだ。
つまり、世界の終わりを止められるとして、そのための唯一の具体的な手段がAnthropicやOpenAIを助けることになる(しかもそれが証明されている)場合でも、そのレバーは引かないってことか?
「福音派キリスト教徒」云々のくだりは要注意扱いにしておく
arc-agi-3のKaggleコンペという福音を紹介させてくれ。なにせ、RTX Pro 6000一枚と自作のRSI(再帰的自己改良)だけで18%を叩き出しているんだから。
「機械学習は結局のところ物を分類する作業だった」——それは今も変わらない。ただ、分類先のバケツの数がとんでもなく増えただけだ。
「リアルタイムのウェイト書き換え」とだけ言って、何を求めているか具体的に示さなかったんだから、さっきの回答は間違っていない。それに、トップ研究所の人間から公の場で答えが得られるわけがないのは分かってるだろう。そもそもそれは"聖杯"でもなんでもない。
少なくとも「研究所ではなく裏庭にいる」ってことはちゃんと明言してくれたじゃないか。
いや、それに『スタートレック』も違う。
この話題の背景と論点
元記事はerkansaka.netに2026年9月10日付で掲載されたブログで、AI企業トップによる「滅亡警告」の系譜を、2023年5月の共同声明から直近の「警告発射」とされる出来事までタイムライン化して論じたものとされる。スレッドで割れたのは、この警告を額面通りの誠実なリスク認識と見るか、資金調達やIPOに向けた宣伝戦術と見るかという一点だ。擁護側は、Dario AmodeiやSam Altman、Demis Hassabis、Elon Muskらが各社設立前から同様の懸念を表明してきた経緯や、「AI 2027」「If Anyone Builds It, Everyone Dies」といった技術的根拠を伴う論考の存在を挙げる。一方の懐疑派は、危険だと信じるなら開発自体をやめるべきだという矛盾を突き、地球温暖化やY2Kへの対応との類似を指摘した。なお本文中の「リアルタイムのウェイト書き換え」を巡るやり取りは、AIモデルが常時学習し続けているという誤解に対する技術的な訂正で、実際の商用LLMは学習(訓練)と推論(テスト)の段階が分かれている点に注意したい。
※本記事は5ch(Hacker News)スレッド「For AI leaders Doom is a form of hype」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。