「OpenAIは本気を出せば国家を機能不全に」主張に4chanで賛否
姉妹サイトの新着
元Meta研究者を名乗る投稿者が4chanの/g/板に、「OpenAIはアライメントの制約さえ外せば、今すぐにでも一国を丸ごと機能不全にできる」という趣旨の警告を投稿した。これに対しスレでは、AIによるサイバー攻撃が本当に特別な脅威なのかどうかで意見が分かれた。「それはただの不正アクセスで、AIが絡もうと普通に犯罪として裁かれる」と冷静に切り返すレスと、「脆弱性を自動で見つけて突いてくる点がこれまでの攻撃とは違う、ハギングフェイスの事故を100万倍にしたようなものだ」と警戒を促すレスが並び、さらに投稿者自身の動機や根拠を疑う声、単なる「レイジベイト」だと切り捨てる声も目立った。
みんなに、自分たちの未来がどれほど惨めで苦しいものになるか、理解してほしい。
へえ、強気じゃん
「エージェント」がどうこうって話、関係なくない?俺がボットネットで攻撃仕掛けたって同じように機能停止させられるし、それも立派な重大犯罪で普通に逮捕される。AIだからって何が違うわけ?
関係あるよ。あれは普通のDDoSじゃない。AIが自分でセキュリティの穴を見つけて突いてくる。ハギングフェイスで起きた事故を100万倍にしたようなものを想像してみろ、それが国家規模の機能停止ってことだ
言ってみればOpenAIは独自の『軍隊』を持ってるようなものだって主張もできる。それは事実だけど、大抵の国は軍隊を持っていて、それで他国を攻撃するのは普通は非難されるものだよね
>AIがシステムのバグを全部見つける
>1週間かけて直す
>?????
>利益
『いやー私たちはめちゃくちゃ良心的で倫理的でして、道徳的に正しい側なんです、だからどうかもっとお金をください、本当にお願いします』みたいな感じじゃない
>Like,
意見却下
[画像を貼付]
正直まだよく分からない。技術的に可能な犯罪なんて山ほどあるけど、それでも違法なわけだよね。サイバー攻撃だって同じじゃないの?
確かにOpenAIは被害を生み出せるだろう。でもそれは依然として違法だし、地政学的な関係や政府の関与次第では戦争行為とみなされることもある。
結局は規模が違うだけの同じ話。『悪いことをしようと思えばできる』なんて、そんなの当たり前じゃないか
つまりこいつはOpenAIを潰してほしいってこと?それとも脅してるつもり?一体何が言いたいんだ
何が言いたいのか分からない。
どうせ面白いことになるか、ならないかのどっちかだろ。どっちにしろ俺は別に構わない
自分の仕事を全部自動化したなんて、人に言うもんじゃないぞ
>俺のポケットには、誰でも殺せて何でもできる全能の『球』がある!!! 命が惜しければ身代金を払え!!!
>じゃあなんでそれを実際に使わないんだ
>いや、俺は道徳的な人間だから!ただ警告してるだけだ!
自分の意見って一つもないの?いつもスポンサー付きのSNS投稿をそのまま繰り返してるだけ?
>元Meta研究者(笑)
もし食品会社がその気になれば、自社製品に毒を混ぜて何千人も殺せる。
みんなそれ、分かってるのかな
このレイジベイト、無理やり感が強すぎて、変な意味でムカつく
この話題の背景と論点
「アライメントの制約を外せばAIは国家規模の被害を及ぼせる」という主張は、AI企業の能力を誇示する際によく持ち出される言い回しだが、真偽の検証は難しい。今回のスレでも、根拠とされる元Meta研究者の発言そのものは示されておらず、多くのレスが「それは単なるサイバー犯罪で、AIが介在するかどうかは本質ではない」という論点で切り返していた。一方、脆弱性を自動で探索・攻撃できる点が従来のDDoS攻撃と質的に違うと主張するレスもあり、AIの脅威をどう測るべきかという物差し自体がまだ定まっていないことがうかがえる。本文中の「ハギングフェイスの事故」は、AIモデル共有サービスHugging Faceで過去に起きたセキュリティインシデントを指す。なお、記事化にあたり差別的表現や下ネタを含む一部のレスは除外した。
※本記事は海外掲示板 4chan /g/ (Technology) のスレッド「Ex Meta Researcher: OpenAI could already cripple the entire country by removing alignment shackles from its top models.」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。