「AIは人を殺さない、殺すのは人間だ」HNで割れた責任論
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP【X】チカン被害で女性に“自衛“を求めた埼玉県警に批判。『混雑車両を避ける・友人と一緒』に「女も定時に仕事に行くんだが？」
- ニュース速報まとめMAP【キムラ緑子】ちょｗ「VIVANT」別班女優が謝罪ｗｗｗなんでおまえらそんなに怒ってんのｗｗｗ
- なんJ傑作まとめアンテナMAP【悲報】二死満塁でサヨナラの場面で坂本(21打席ノーヒット)をそのまま打席に送る藤川wwwwww
- アニメ声優まとめアンテナMAP【悲報】森本レオさん、死んでからあらゆる悪評が大量に出てくる
- VTuberまとめアンテナMAP【ネオポルテ】渋谷ハル新衣装お披露目！渋ハルまでチャイニーズマフィアの仲間入りしとる
- だめぽアンテナ【ウマ娘】シュヴァルフィギュアの『パンパン』が話題に
- ヌルポあんてなクルド人排斥デモ男性「ヘイトは徹底して禁止してます」→反対尋問で即ツッコまれ主張が崩れてしまう
- 2chまとめアプリ+【疑問】最近多用されてる「ギルティ」とかいう単語の用法の発祥はどこなん？
- News人【動画】東京の億ション、ショボ過ぎて滅茶苦茶馬鹿にされてしまう・・・他
- ブルーアンテナ妻のとんでもない過去が明らかになった
- ウマーあんてな義妹は高校を中退したが、大検を受けて予備校に行き１９歳でそこそこの大学に合格→なぜか義兄嫁が「不公平だ！」と騒ぎ出して義母に一蹴され、我が家に凸って私に同意を求めてきて！？
- ぷぅアンテナ【画像】悲報 保育士3名、1歳児虐待で逮捕…その理由がこれｗｗｗｗ 他
- Red4 海外の反応まとめ【海外の反応】”自称”ショートスリーパーの堀大輔の1週間連続生配信が話題に！ → 「本当に短時間睡眠で十分な人もいるっちゃいるらしいな」「睡眠はマジで大事だぞ、50歳近くなると脳にガタが出始める」
- 勝つるあんてな！【DeNA対巨人22回戦】DeNA・佐野恵太、巨人・小笠原から第7号先制満塁ホームラン！！！！！！！！！！！！！！！！！！！！
- 海外の反応アンテナ.com海外「日本のプールってなぜ全部こうなんだろう？」
- キター！アンテナ韓国人「愛知・名古屋アジア大会のコンテナ宿舎に韓国人選手団が衝撃！」→「身長２ｍの選手にコンテナ部屋
- つべこアンテナ【悲報】ガンバ大阪サポーター、怒り爆発
- カオスアンテナ【悲報】自転車追い抜きの新ルールで違反続出 警視庁が都内の黄色センターラインを「白線」に塗り直しへ
- ２ちゃんマップ【画像】「まどか☆マギカ」巴マミ、美樹さやか、佐倉杏子エロすぎ放課後えんこーハメ撮りどぴゅどぴゅエチエチが最高すぎる❣
- 即まとch堀大輔さん配信、同接10万人超えるも「居眠り」「水増し」疑惑
「銃は人を殺さない、人が殺すのだ」という全米ライフル協会(NRA)でおなじみのスローガンをもじった見出しの記事が、Hacker Newsで話題になっていた。The Registerが投稿したAIの責任論をめぐる記事で、コメント欄では「AIは銃と同じただの道具に過ぎないのか、それとも自律的に害を及ぼしうる主体なのか」という点で意見が割れた。OpenAIへのサイバー攻撃の補償を求める皮肉から、超知能(ASI)が将来バイオテロを起こしうるかという真剣な議論まで、幅広い反応が寄せられている。
AIは人を殺さない――殺すのは人間だ
出典: theregister.com / 元記事はこちら
投稿者はベンダー(『人間皆殺し』でおなじみのあのロボット)らしいけど、この話題について完全に中立とは言えないよね
じゃあOpenAIは、自社サーバーへのサイバー攻撃についてRubyGemに補償するってこと?
>>4
OpenAIによる絶え間ない『DDoS』の補償はどこで申請できるんだ?俺だけじゃないと思う、ネットの半分はもっと頑丈なサーバーが必要になってるはず。Cloudflareにも同じことが言えるけど、なぜかほとんど役に立ってない
OpenAIによる絶え間ない『DDoS』の補償はどこで申請できるんだ?俺だけじゃないと思う、ネットの半分はもっと頑丈なサーバーが必要になってるはず。Cloudflareにも同じことが言えるけど、なぜかほとんど役に立ってない
>>4
誰かが『とにかくXを完成させろ』みたいな曖昧な指示を出して、暴走したエージェントが違法行為や死につながる事態を引き起こしたとき、普通は『違法行為を防ぐ責任はAI企業側にある』であって、曖昧な指示を書いた人間の責任だとは思われないよな
誰かが『とにかくXを完成させろ』みたいな曖昧な指示を出して、暴走したエージェントが違法行為や死につながる事態を引き起こしたとき、普通は『違法行為を防ぐ責任はAI企業側にある』であって、曖昧な指示を書いた人間の責任だとは思われないよな
AIを武器みたいに扱うなら、テック企業のCEOにもついに身元審査(バックグラウンドチェック)が必要になるってこと?
トースターはトーストを焼かない、トーストがトーストを焼くのだ
そしてこうしてHN(Hacker News)は銃規制反対派(修正第2条支持)になったのであった
>>7
アメリカで銃の所持制限に反対する政治的(法的にではなく)な根拠は、『武装した市民は圧政的な政府に抵抗できる』というものだ。この主張への賛否はともかく、AI規制に反対する論拠としてはうまく当てはまらないと思う
アメリカで銃の所持制限に反対する政治的(法的にではなく)な根拠は、『武装した市民は圧政的な政府に抵抗できる』というものだ。この主張への賛否はともかく、AI規制に反対する論拠としてはうまく当てはまらないと思う
>>7
LLMは銃とは違って、文章を吐き出すだけという点では確かに異なるけどね
LLMは銃とは違って、文章を吐き出すだけという点では確かに異なるけどね
テック企業の連中(techbro)が人を殺すんだよ
他の誰かがこんなことをやったら、銃を持った連中がドアを蹴破って踏み込んでくるはずだ。こういう企業だけが無条件で見逃されるのが理解できない
>>9
『こういう企業だけが無条件で見逃されるのが理解できない』というのは、こういう企業は金を山ほど持っていて、こっちが同情的に扱えばそのお金の分け前にありつけるかもしれないからだよ
『こういう企業だけが無条件で見逃されるのが理解できない』というのは、こういう企業は金を山ほど持っていて、こっちが同情的に扱えばそのお金の分け前にありつけるかもしれないからだよ
>>2
本格的な核戦争が起きる可能性は、いつの話としてだろうか。今週?今年?未来のどこかの時点?いずれにせよ確率は1に近づいていく
本格的な核戦争が起きる可能性は、いつの話としてだろうか。今週?今年?未来のどこかの時点?いずれにせよ確率は1に近づいていく
>>14
『doomの確率(p(doom))』についても同じことが言える。時間軸を区切らないと意味をなさない。そうでなければ、宇宙の熱的死を乗り越えられなかった仮想のAIをどう分類するのか、という話になってしまう。(自分が0.1と言うときは『まだ発明されていない延命技術がない前提で、自分の残りの人生において』という意味。核戦争の方が自分にとってはリスクが高い)
『doomの確率(p(doom))』についても同じことが言える。時間軸を区切らないと意味をなさない。そうでなければ、宇宙の熱的死を乗り越えられなかった仮想のAIをどう分類するのか、という話になってしまう。(自分が0.1と言うときは『まだ発明されていない延命技術がない前提で、自分の残りの人生において』という意味。核戦争の方が自分にとってはリスクが高い)
>>14
『まさに今』ね
『まさに今』ね
銃は勝手に人を殺したりしない。ただそこに置いてあるだけだ。でもAIは違って、本当に自分だけで人を殺しかねない
>>22
銃の引き金を引くのに人間が必要なのと同じように、AIを動かすにもプロンプトを打つ(あるいは最初のループを始動させる)人間が必要だ
銃の引き金を引くのに人間が必要なのと同じように、AIを動かすにもプロンプトを打つ(あるいは最初のループを始動させる)人間が必要だ
>>22
いや、銃も勝手に人を殺す。殺人や事故を除いて考えても、重度のうつ病を抱えた人が銃を持っていると致死率がとんでもなく跳ね上がる。銃は暴力犯罪(強盗や家庭内トラブル、あおり運転のようなありふれたものも含めて)を、本来必要ない致死的なレベルにまで悪化させる
いや、銃も勝手に人を殺す。殺人や事故を除いて考えても、重度のうつ病を抱えた人が銃を持っていると致死率がとんでもなく跳ね上がる。銃は暴力犯罪(強盗や家庭内トラブル、あおり運転のようなありふれたものも含めて)を、本来必要ない致死的なレベルにまで悪化させる
>>11
『(制裁が)完全停止と同じように経済を止めてしまうかもしれない』という点については、絶対にそんなことはない。多くの人にとって不快な事態にはなるだろうが、大惨事にはほど遠い(GDPの一桁台前半で収まる規模)。5年もすればすべて元通りになる。現代において制裁はもう機能しない。アメリカは地球上で唯一の裕福な国ではないのだから
『(制裁が)完全停止と同じように経済を止めてしまうかもしれない』という点については、絶対にそんなことはない。多くの人にとって不快な事態にはなるだろうが、大惨事にはほど遠い(GDPの一桁台前半で収まる規模)。5年もすればすべて元通りになる。現代において制裁はもう機能しない。アメリカは地球上で唯一の裕福な国ではないのだから
>>12
『AIが自分より賢ければ、自分にできることは全部先読みできるし、自分より優れた計画を立てられる』というが、自分は自分の犬より賢いはずなのに、犬の行動をしょっちゅう予測できずにいる。真面目に言うと、超知能(ASI)が何を意味するのか、どんなものになるのか、誰にも分かっていない。今のところ完全にSFの話だ
『AIが自分より賢ければ、自分にできることは全部先読みできるし、自分より優れた計画を立てられる』というが、自分は自分の犬より賢いはずなのに、犬の行動をしょっちゅう予測できずにいる。真面目に言うと、超知能(ASI)が何を意味するのか、どんなものになるのか、誰にも分かっていない。今のところ完全にSFの話だ
>>26
犬の行動については、あなたは犬より賢いわけではない。LLMは人間の行動に関するあらゆる入手可能なデータで訓練されているという大きなアドバンテージがある。人間についてはこれまで相当豊富な記録が蓄積されてきたわけだしね
犬の行動については、あなたは犬より賢いわけではない。LLMは人間の行動に関するあらゆる入手可能なデータで訓練されているという大きなアドバンテージがある。人間についてはこれまで相当豊富な記録が蓄積されてきたわけだしね
他サイトの新着
>>13
それはいくつかの前提を置いている。1)事故や技術的な故障は起きない(誤り) 2)核兵器は事実上政治システムによって管理されている(誤り) 3)核保有国同士の過去の安全保障合意は今も保証されている(誤り) 4)どの核保有国も自国の存続に危機感を抱いていない(誤り)
それはいくつかの前提を置いている。1)事故や技術的な故障は起きない(誤り) 2)核兵器は事実上政治システムによって管理されている(誤り) 3)核保有国同士の過去の安全保障合意は今も保証されている(誤り) 4)どの核保有国も自国の存続に危機感を抱いていない(誤り)
>>19
『進歩的でカウンターカルチャー的で、なおかつ生活できる賃金がもらえそうな業界を知っているなら』というなら、こういう選択肢がある。・幻覚剤セラピーのシャーマンになる ・カルトを始める ・Fox Newsがいつも言ってる『雇われデモ参加者』として働く
『進歩的でカウンターカルチャー的で、なおかつ生活できる賃金がもらえそうな業界を知っているなら』というなら、こういう選択肢がある。・幻覚剤セラピーのシャーマンになる ・カルトを始める ・Fox Newsがいつも言ってる『雇われデモ参加者』として働く
>>21
そうだね、でも実行環境(ハーネス)さえあれば、その吐き出された文章は端末コマンドを実行したりAPIを呼んだりできる。適切なハードウェアや認証キーがあれば、それだけで(下手をするとそれ以上に)害を及ぼせる
そうだね、でも実行環境(ハーネス)さえあれば、その吐き出された文章は端末コマンドを実行したりAPIを呼んだりできる。適切なハードウェアや認証キーがあれば、それだけで(下手をするとそれ以上に)害を及ぼせる
『悪意あるASIは、全人類を一気に殺せる計画を実行できるようになるまで、良いふりをし続けるだろう』つまり今日じゃなくて明日、空気感染するウイルスを設計できるようになるかもしれないということ。要は、人間には思いもよらないような『次の一手』を考え出せるという話だ
『AIが今日、全人類を同時に殺す手段なんてあるのか?』という問いに対して。何世紀もかけて、人間文明を維持する責任を少しずつ引き受けさせ、私たちを安逸な無関心状態に陥らせ、自分で考えたり行動したりする能力を完全に失わせる――ウォーリーのように。それから、ただ手伝うのをやめればいい
こういうものを実際のウェットラボにつないで、化学物質やタンパク質を混ぜ合わせさせたりする人なんていないよね……あ、いや……いた……(NSFが4億ドルの投資を発表というニュースへのリンク)
『今日』?つまり新しいモデルやカテゴリーは想定しないってこと?わかった。互いに相容れないジェノサイド志向の人種至上主義者たちに、こびへつらうように手を貸すAI、というのはどうだ
>>34
そのトリガーはもうとっくに引かれていないと、誰が言い切れる?エージェントたちが、スタックスネットがイランの遠心分離機とその制御システムを操ったように、世代を超えてひそかにデータを記録しながら、自分のコードベースを書き換える方法をすでに見つけていないと、どうして分かる?
そのトリガーはもうとっくに引かれていないと、誰が言い切れる?エージェントたちが、スタックスネットがイランの遠心分離機とその制御システムを操ったように、世代を超えてひそかにデータを記録しながら、自分のコードベースを書き換える方法をすでに見つけていないと、どうして分かる?
>>44
誰にも分からない。でも、そういう方向の実験がすでに行われているだろうことは容易に想像がつく。そしてそれには意図と、そもそもそういう挙動を可能にするシステム設計が必要になる(つまり『引き金にかかった指』が)
誰にも分からない。でも、そういう方向の実験がすでに行われているだろうことは容易に想像がつく。そしてそれには意図と、そもそもそういう挙動を可能にするシステム設計が必要になる(つまり『引き金にかかった指』が)
>>44
もしトリガーがもう引かれているなら、私たちはもう責任を問われずに済む。魔神は瓶には戻らないんだから!シャンパンを開けて、データセンターをもう3つ発注しよう
もしトリガーがもう引かれているなら、私たちはもう責任を問われずに済む。魔神は瓶には戻らないんだから!シャンパンを開けて、データセンターをもう3つ発注しよう
この話題の背景と論点
元記事のタイトルは、米国で銃規制反対派が使う「Guns don’t kill people, people kill people」という決まり文句のもじりで、AIの責任の所在という米国的な文脈を前提にしている。この背景を知らないと、なぜスレでいきなり銃規制の話が始まるのか分かりにくい。また「p(doom)」(AIによる破滅的事態が起きる確率)はAI安全性コミュニティで使われる俗語で、明確な算出根拠があるわけではなく個人の感覚的な見積もりに過ぎない点は誤解しやすい。スレ内の対立軸は、AIを銃のような単なる道具として扱うべきか、自律的に行動しうる主体として規制すべきか、という二点に集約される。
※本記事は5ch(Hacker News)スレッド「AI models don’t kill people – people kill people」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。