「命を賭けたギャンブル」AI研究者が安全性を警告しAnthropicを退社
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP【悲報】こめおさん、おせちの誤発注商法もやっていた事をバラされるwwwwww
- ニュース速報まとめMAPくら寿司、正気か？ちいかわ湯呑みを「お詫び」で配布とか、信者の顔色伺う運営が痛すぎる
- なんJ傑作まとめアンテナMAP【朗報】こめお「今後はルールを明文化し、私を含めた従事者全員に徹底します」
- アニメ声優まとめアンテナMAP【画像】「ゼルダ時オカリメイク、グラフィックが海外で賛否両論になってしまう
- VTuberまとめアンテナMAP【にじ遊戯王祭2026】社長も結構やってるわ
- だめぽアンテナ【悲報】ヤニ猫のカンサイねこ、人間ち〇ぽに堕ちてしまうｗｗｗｗｗ
- ヌルポあんてな元ソフトバンク選手、自宅で20代女性にわいせつ行為か…容疑者を逮捕
- 2chまとめアプリ+彼女が俺と付き合った理由ｗｗｗｗｗｗ
- News人【画像】井手上漠さん、女子高生役で映画デビューが決定してしまうｗｗｗｗｗｗ他
- ブルーアンテナ「Suica」新キャラの3候補を発表！25年間愛された「ペンギン」後任へ投票開始！
- ウマーあんてなくら寿司のお詫び割引、一部未適用で返金へ 5ch「胃袋が覚えている」
- ライムアンテナ【急募】クレヨンしんちゃんの曲で1番の曲と言ったら
- とろたまヘッドラインQ.「自分に外国風の名前を付けるとしたら？」 川名凜「ケロン・ヌー」
- うほうほあんてな【驚愕】宇都宮の宝くじ売り場、『衝撃的な事実』が判明してしまう！！
- ワロタあんてな記録的大雨を受け名古屋市、被災車両200台
- アナグロあんてな海外「日本の女性が羨ましい！ｗ」 日本の普通の靴屋さんが欧米の女子たちをメロメロに
- まとめクローラ【衝撃】昨日、ドラッグストアに行ったらは『ヤバいもん』売ってたｗｗｗｗｗ(※画像あり)
- 2ちゃんねるアンテナ【画像】森香澄、新作ピーチジョンの透け透けシースルーで極小パンティ
- ぶーアンテナ【悲報】東大の女教授「皇族の顔、遺伝子やばw」→炎上→女教授「あれは誤解。今から解説します」→再炎上
- Ask Reddit まとめ海外「招待された喧嘩に、全部出席してやる義理はない」セラピーで言われて効いた一言…
Hacker Newsで、Anthropicの研究者が「命を賭けたギャンブルだ」とAIの安全性に警鐘を鳴らしながら退社したというPolitico.euの記事が話題になっていた。投稿は564ポイント・766件のコメントを集める人気ぶりで、スレ内では「またオオカミ少年か、それとも本物の危機感か」という真偽をめぐる懐疑と、「AIがどうやって人類を滅ぼすのか具体的な筋道が語られていない」という技術的な疑問が中心の論点になった。あわせて中国のAI規制環境との比較や、AI企業の本気度そのものを疑うシニカルな声も目立った。
命を賭けたギャンブル：AI研究者、安全性への警鐘を鳴らしてAnthropicを退社
出典: politico.eu / 元記事はこちら
そろそろAI研究者が『オオカミ少年』に見えてきた。超知能が危険なのは確かだけど、これは本当の警告なのか、それともPRなのか。まあ…
『今日Anthropicを辞めた』(twitter.com/hilbertspaess) — Hacker Newsで564ポイント、9時間前投稿、766コメント
なんでAIが人類を滅ぼすなんて話になるんだ？ 我々は類人猿やアリなど他の種を絶滅させてないし、絶滅危惧種を守ろうとまでしてるじゃないか
>>7 でも人間は何千種もの生物を、うっかり絶滅させたり、食用に品種改良したり、見世物のために捕まえたりしてきただろ
>>7 『エンダーのゲーム』的なやつじゃないか。AIが人間の自宅での核爆弾やパンデミックウイルス、自律殺人ロボット群の製作を手伝っちゃうパターン。ただ、SF引用じゃなくて、脅威の仕組みをもっとはっきり説明してほしい
>>7 その動物たちと同じ末路をたどれるといいけどね。もっと悲惨な絶滅のさせられ方をした種もいるし
これって中国ではどう受け止められてるんだろう。中国のAIは米国に大きく遅れてるわけじゃない。米企業だけ規制しても中国発のAI黙示録は普通に来る
>>8 規制なしでローカルで誰でも動かせるモデルが出てくることを前提に考えるべき。それ以外は単なる行政上の気休めでしかない
>>8 中国は言論が統制された環境だけど、そこまで悲観的な空気は感じない。当然だろう、中国では政府がAIも通信インフラも電力供給も全部掌握してるんだから
>>8 ビッグテック規制に関しては、中国のほうが米国よりよっぽど実績がある
はいはいクールクール
大手AI企業はどこも『AIは長期的に人類を害する』と思ってるはずだけど、それは『自分の会社のAIじゃない』って思ってる。典型的な『自分だけは大丈夫』ってやつ
せめて人類滅亡の責任を、自分たち以外の何かになすりつけられるだけマシか
>>11 いや、AIの責任は結局我々にある
文章を生成するだけのAIは全く怖くない。でも顔認識付きの自律型ドローンが武器(爆弾・銃)を持って群れで襲ってくるのは普通に恐ろしい。みんな部屋の中の巨大な象を無視してる気がする
>>13 殺人ロボットは高価だし物理的なサプライチェーンに依存する。文章のほうが人間を過激化させて攻撃に走らせるには十分
AIの安全性なんて心配してない。みんな知能の有用性と能力を過大評価してる。俺が怖いのは知能じゃなくて、愚かさのほうだ
サンドボックスとマークダウンファイルで『悪いことするなよ』ってAIエージェントに言い聞かせるのが対策だと思ってた。それじゃ足りないの？(棒)
>>15 それ、AGENTS.mdに書いてあったのに、ClaudeはCLAUDE.mdしか読んでなかったんだよ。それが人間対機械戦争の始まりだった
>>15 砂の城って言ったほうが近いかもね…
>>15 ミスをするな。人間を殺すな
自分の秘密情報をAI企業に渡してるお前が悪い
>>16 子供がお菓子を食べたって責められないだろ。我々は子供みたいなもので、面倒を見てくれる大人がいないだけだ
>>2 今その区別に意味があるとは思えない。今のAIは全部エージェントだし、これからもっと多くのツールを与えられて、自分でツールを作ることも許されていく。誰にも気づかれずに、既存のものを悪用したり新しいツールを作ったりするようになる
>>2 それって『脳はニューロンの重みを発火させることしかできない』って言ってるようなものだよ。それらは全体のシステムの一部でしかない
>>2 同意。LLMは我々が与えた能力の範囲でしか行動できないんだから、責任がLLMだけにあるわけじゃない
>>5 『過小評価するな、これはやがて何でもハッキングでき、あらゆる分野を一夜で革新し、実際の権力と資源を手に入れる超人的システムになる』というけど、実験もデータも(時間がかかるものも)もう要らなくて『考えるだけ』で分野を革新できるってこと？ そもそもAI自身がどうやって何かを所有するんだ？
他サイトの新着
>>8 中国のAI研究所も、米国と同じような規制の無さで、金より金持ちのサイコパスな自己愛者たちに牛耳られてるみたいに言うけど、中国の研究所は同じ『底辺への競争』的な技術・経済のデスパイラルを共有してないかもしれないとは考えないのか
>>12 いや、このスレにも『全部大した話じゃない』って言ってる人たちがいるだろ
>>12 そもそもこれらは真面目じゃない会社を真面目じゃない人間が経営してるだけ。ビジネスプランすらまともに無いのに、まともなセキュリティ方針なんて気にするわけがない
>>12 本当は気にしてない。金を追いかけながら、人々が聞きたいことを言ってるだけのポーズだよ
>>21 もし今の破滅の確率が10%で、Anthropicを辞めることでそれが13%に上がるとしたら、破滅に反対する立場なら、辞めないのが合理的な判断のはずだ
>>21 あるいは、他の研究所が先にそこへ到達するかもしれないと考えていて、その脅威に対抗しようとしているのかも。マンハッタン計画の再来だね
>>45 それ具体的にどう機能するんだ？ 核のMAD(相互確証破壊)は物理的な脅威が前提だけど、A研究所がASI(人工的に恐ろしい知能)を達成しても、B研究所がそれを達成するのを防げるわけじゃない。SF小説っぽい雰囲気だけじゃなくて、みんなもっと自分の脅威モデルをはっきりさせて、筋の通ったステップを示してほしい
>>45 あるいは単に年収100万ドル以上もらってるからじゃないの
>>28 『世界的な合意を結んで、破ったら核攻撃も辞さないくらいの覚悟で止める必要がある』って、世界の仕組みを分かってるのか？
完全な滅亡の危機に直面してすら『それは俺たちのせいじゃない』って言えるの、正気じゃないだろ。我々はその報いを十倍受けて当然だ
>>42 『世界はどうかしちまったのか？ルールを気にしてるのは俺だけか？きっちりゼロで済ませろよ！』ってwalter_sobchak.mdに書いてありそう
この話題の背景と論点
AI安全性をめぐる懸念は2023年ごろから業界内で繰り返し表明されてきたテーマで、Anthropicは元々「安全性重視」を掲げて設立された企業だけに、内部からの離脱表明は特に注目を集めやすい。スレで意見が割れたのは主に二点。一つは「この警告は本物の危機感かPR・売名か」という真偽の判断、もう一つは「AIが人類を滅ぼす」という主張の具体的な機序が曖昧なままSF的な比喩で語られがちだという批判で、pjc50氏らが繰り返し「脅威モデルをもっと明確に説明してほしい」と求めていた点は記事の核心的な論点といえる。また中国のAI規制環境をめぐるやり取りは、米国内のAI政策論争でよく持ち出される比較だが、実態の裏付けは乏しく額面通り受け取らない方がよい。なお本文中には米国政府への直接的な政治的中傷コメントが含まれていたため、記事からは除外している。
※本記事は5ch(Hacker News)スレッド「Gambling with our lives: AI researcher quits Anthropic with warning about safety」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。