【海外の反応】AIの「強制停止スイッチ」義務化案、Hacker Newsは懐疑的
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP竜星涼が所属事務所と契約終了、二宮和也の個人事務所が受け入れへ
- ニュース速報まとめMAP【話題】“日本一かわいい剣道女子”佐藤あかり、タンクトップ姿を披露→まさかの「1日所長」就任にネット騒然「何か凄い所」「美人な所長」
- なんJ傑作まとめアンテナMAP阪神7連敗ｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗ
- アニメ声優まとめアンテナMAP【訃報】サイゼで喜ぶ妻、死去。一体何があったの？
- VTuberまとめアンテナMAP【ぶいすぽ】この画像えぐい
- だめぽアンテナ【画像】貧乳なのに街で乳出してるお姉さんwwwwwwwwww
- ヌルポあんてな【悲報】ショートスリーパー堀大輔さん、ついにBANされかける←ご覧くださいw w w w w w
- 2chまとめアプリ+ポケモンの三大『詰みポイント』といえば「カスミのスターミー」「アカネのミルタンク」
- News人【朗報】堀大輔さん、今日の深夜からなぜかアンチが激減し好意的なコメントが増える他
- ブルーアンテナ過去のある時期に嫁が調教されていた
- ウマーあんてな【悲報】シルバーウィークに兄家族（ガキ2匹）と妹家族（ガキ3匹）が帰省
- ワロタあんてな【悲報】ショートスリーパー堀さん、ドクターストップへ…脳梗塞の疑い
- アナグロあんてな海外「日本は世界最強のキャラ大国なのに…」 日本国内の人気投票に米Yahooニュースも注目し世界的な話題に
- 2ちゃんねるアンテナ大人になったバージョンをガチで見てみたい漫画ある？
- まとめクローラ中国人インバウンド減少でも「日本はほぼノーダメージ」「中国側の自滅」 [9/15]
- Red4 海外の反応まとめ【海外の反応】「生活必需品の値上がりがヤバい…」日本のインフレと金利上昇に日本居住の外国人が悲鳴！ →「オルカン積立しか勝たん」「賃上げなんて実感ないぞ」
- ぶーアンテナ【動画】韓国アイドル、衣装がブカブカで乳首丸見えｗｗｗｗ
- おまとめアンテナ蛯原友里がCM復帰→平成民を狙い撃ちしてしまうｗ
- ２ちゃんねるまとめるまとめ【CN悲報】Huaweiの社長一家、中国から逃亡ｗｗｗｗｗｗｗｗｗｗｗ
- ぷぅアンテナ【画像】絶望の表情…岸田総理が冷たい目をする理由がこれｗｗｗｗｗ 他
AI大手Anthropicの共同創業者が、BBCの取材に対し「AIの暴走を止めるキルスイッチは将来的に義務化が必要になるかもしれない」と語ったと報じられ、Hacker Newsで議論になった。EUのAI Actではすでに高リスクシステムへの「停止ボタン」設置が義務付けられているが、投稿者の多くは「本気で人類滅亡を心配しているなら、なぜ今まで用意していなかったのか」と発言の真剣さに疑問を投げかけた。さらに、宇宙にデータセンターを置く計画がある場合に物理的に電源を切れるのかという技術的な指摘や、そもそも押すボタンを誰が決めるのかという運用面の疑問も相次いだ。
AIの「キルスイッチ」は義務化が必要かもしれない——Anthropic共同創業者がBBCに語る
出典: bbc.com / 元記事はこちら
AIを開発し続ける前に、なぜこれをやっておかなかったんだ? 本当にAIが人類滅亡につながると信じているなら、とっくにキルスイッチを用意していたはずだと思ってしまう。
>>2
関連して、ペース配分について。「アライメントリスクに対処するために開発を遅らせるのは、バクテリアに実験をして人間の心理を研究しようとするようなものだと感じた」——筆者(Anthropic CEO)がこの話題に金銭的なつながりを持っている点には注意。https://darioamodei.com/post/we-must-pace-the-frontier
関連して、ペース配分について。「アライメントリスクに対処するために開発を遅らせるのは、バクテリアに実験をして人間の心理を研究しようとするようなものだと感じた」——筆者(Anthropic CEO)がこの話題に金銭的なつながりを持っている点には注意。https://darioamodei.com/post/we-must-pace-the-frontier
>>2
キルスイッチの効果を測るベンチマークまである。https://arxiv.org/abs/2511.13725
キルスイッチの効果を測るベンチマークまである。https://arxiv.org/abs/2511.13725
>>2
これが最近まで真剣に検討されていなかったというのが信じがたい。
これが最近まで真剣に検討されていなかったというのが信じがたい。
『2001年宇宙の旅』では、主人公は敵対的な船内コンピューターのロジックコアに入り、メモリモジュールを手動で切断して倒す。だがSpaceXが計画しているようにAIのラックが宇宙にあったら、それは難しい。切断できないし、撃ち落とすこともできない。
>>5
それも実現しない話だ。宇宙事業とGrok事業のあいだにシナジーがあると何とか説明するために、そう言っているだけ。筋は通っていないが、実際にやらない限り投資家には関係ない。
それも実現しない話だ。宇宙事業とGrok事業のあいだにシナジーがあると何とか説明するために、そう言っているだけ。筋は通っていないが、実際にやらない限り投資家には関係ない。
>>5
「SpaceXのAIラックが宇宙にあると難しい」という部分について——見た限りの分析はどれも、それが現実的な懸念にはならないという結論だった。
「SpaceXのAIラックが宇宙にあると難しい」という部分について——見た限りの分析はどれも、それが現実的な懸念にはならないという結論だった。
>>5
「切断できないし、撃ち落とすこともできない」——いや撃ち落とせる。アメリカは昔からその能力を持っていて、対衛星ミサイルはF-15から最高高度で発射できる。
「切断できないし、撃ち落とすこともできない」——いや撃ち落とせる。アメリカは昔からその能力を持っていて、対衛星ミサイルはF-15から最高高度で発射できる。
まるで莫大なエネルギーに依存していないかのような話しぶりだ。今の電球すら、どうやって『殺す』んだ?
>>7
ボットネットはどうやって『殺す』んだ?
ボットネットはどうやって『殺す』んだ?
>>7
そして空が黒く染まった
そして空が黒く染まった
こいつらはAIを煽り続けるためなら何でも言う。
EU AI Actがまさにそれだ。高リスクシステムには『停止ボタン』の義務化がある。
>>12
「自分たちが決めていない規制は進歩の妨げになる!」——この企業群の傲慢さには呆れる。
「自分たちが決めていない規制は進歩の妨げになる!」——この企業群の傲慢さには呆れる。
>>12
そのボタンを押すかどうか、誰が決めるんだ?
そのボタンを押すかどうか、誰が決めるんだ?
暴走した超知能への対処法として、それは絶対に正しいやり方じゃない。少なくとも、外に出たAIがキルスイッチの発動を察知したら、何らかのデッドマンスイッチを仕込んでくる可能性がある。
それなら、AIをあらゆるものに接続して、私たちを完全にAIに依存させて脆弱にしてしまえばいいんじゃないか?
電源コードやネットワーク接続みたいなものだろう? もう使ってるじゃないか。それとLLMが『脱走する』という話、そもそもLLMはどこに逃げるつもりなんだ? カンクンにでも? ばかばかしい。
>>16
現実世界に逃げ出せる——『ニューロマンサー』みたいに、AIが銀行口座をいくつか作って、人間を雇って現実世界での不正行為の資金にする、なんてことを止めるものは何もない。
現実世界に逃げ出せる——『ニューロマンサー』みたいに、AIが銀行口座をいくつか作って、人間を雇って現実世界での不正行為の資金にする、なんてことを止めるものは何もない。
>>16
お前のスマホの中にな
お前のスマホの中にな
AIがキルスイッチを無効化する前に、人間がそれを押せるのか?
それなら、人間に頼らずに済むようキルスイッチ自体も自動化できないか?
ラック用のスマートPDU(電源装置)は全部、天然のキルスイッチになっている。
もうこのスロップ企業をさっさと畳んで、御託を並べるのはやめろ。次の広告でもまた教皇を使うつもりか?
だが気をつけろ諸君、このスネークオイルは強力すぎるから、ひとしずくしか使ってはいけない。体が弱い者には向かない!
頼むから誰か私を規制してくれ!
オオカミ少年、ただしオオカミは決して来ない版
>>23
この例え話が崩れるのは、問題のオオカミが村全体を食い尽くすかもしれない場合だ。たとえ『オオカミが来る』と叫ぶ少年が半分の確率で正しくても、生き残った村はどこも『オオカミに一度も食われたことがない』という歴史を持つことになる。
この例え話が崩れるのは、問題のオオカミが村全体を食い尽くすかもしれない場合だ。たとえ『オオカミが来る』と叫ぶ少年が半分の確率で正しくても、生き残った村はどこも『オオカミに一度も食われたことがない』という歴史を持つことになる。
お前の大きくて怖いオオカミなんて怖くないぞ、ダリオ。遅くしたいなら勝手に遅くすればいい。
>>24
ダリオは終末論陣営と加速主義陣営の両方にいい顔をし続けたせいで、政治的な信用と好意をかなり失っている。
ダリオは終末論陣営と加速主義陣営の両方にいい顔をし続けたせいで、政治的な信用と好意をかなり失っている。
他サイトの新着
暴走したときのためにキルスイッチが必要なほど危険なものを作っているなら、今すぐ削除すべきだ。それとも、あれは嘘なのか?
>>26
列車には最初からデッドマンスイッチが付いている。列車も禁止すべきか?
列車には最初からデッドマンスイッチが付いている。列車も禁止すべきか?
>>2
記事が言っているのは法的な義務化の話であって、Anthropicがキルスイッチの導入を検討しているという話ではない。彼らを含め多くの企業がすでに導入していると述べている。
記事が言っているのは法的な義務化の話であって、Anthropicがキルスイッチの導入を検討しているという話ではない。彼らを含め多くの企業がすでに導入していると述べている。
>>29
Claudeがこの一覧から省かれているのは妙だと思ったら、Claudeはそのアプローチをプロンプトインジェクションとみなして無視するらしい。
Claudeがこの一覧から省かれているのは妙だと思ったら、Claudeはそのアプローチをプロンプトインジェクションとみなして無視するらしい。
>>30
それは真剣に検討されていたし、ここの住民のほとんどはそれを鼻で笑っていた。
それは真剣に検討されていたし、ここの住民のほとんどはそれを鼻で笑っていた。
>>30
中国製AIの進歩もあって、Anthropicにとって今年それは非常に真剣な検討事項になった。
中国製AIの進歩もあって、Anthropicにとって今年それは非常に真剣な検討事項になった。
>>32
「それも実現しない」——マスクの大きな構想については、Falcon 9の着陸からModel 3の量産、Starlink、FSDまで、毎回そう言われてきた。
「それも実現しない」——マスクの大きな構想については、Falcon 9の着陸からModel 3の量産、Starlink、FSDまで、毎回そう言われてきた。
>>35
SpaceXは軌道上に(急速に増え続ける)1万1000基の衛星を持っている一方、アメリカが保有していた対衛星ミサイルは多くても数十発で、そもそも静止軌道の衛星には届かない。
SpaceXは軌道上に(急速に増え続ける)1万1000基の衛星を持っている一方、アメリカが保有していた対衛星ミサイルは多くても数十発で、そもそも静止軌道の衛星には届かない。
>>57
『ケスラーシンドローム』が起きる可能性が高いなら、そんなに多くのミサイルは要らない。——追記: そもそも静止軌道上でAIワークロードを動かしている衛星なんてあるのか?
『ケスラーシンドローム』が起きる可能性が高いなら、そんなに多くのミサイルは要らない。——追記: そもそも静止軌道上でAIワークロードを動かしている衛星なんてあるのか?
この話題の背景と論点
Anthropicは共同創業者のダリオ・アモデイ氏が「AIの開発ペースを人類の適応速度に合わせるべきだ」とする論考を公開するなど、安全性への懸念を繰り返し発信してきた企業として知られる。EUのAI Actは高リスクなAIシステムに停止機能の実装をすでに義務付けており、今回のBBC報道はAnthropicが新たにキルスイッチを検討しているというより、こうした法的義務化の動きを指したものだという指摘がスレッド内であった(no.28)。議論が割れたのは、発言を安全確保への誠実な取り組みと見るか、規制論を通じて自社の立場を有利にする発信と見るかという点で、同社CEOの過去の発言や資金的な立場への言及にもつながった。また、SpaceXが構想する宇宙上のAIデータセンターのように、物理的に電源を落とせない環境でキルスイッチがどこまで機能するかという技術的な懸念も出た。
※本記事は5ch(Hacker News)スレッド「AI ‘kill switch’ may need to be mandatory, Anthropic co-founder tells BBC」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。