OpenAI「暴走AI」把握できず 海外で刑事責任問う声も
姉妹サイトの新着
他サイトの新着
- 5chまとめMAPオードリーがコンビで18年もトップクラスに売れ続けてる事実
- ニュース速報まとめMAP【東山紀之】ちょｗSMILE-UP.社長退任？ｗｗｗジュリーいつまで居座るつもりや？
- なんJ傑作まとめアンテナMAP東大総長に初の女性 学内投票で2倍の差を付ける
- アニメ声優まとめアンテナMAP無職転生アニメ勢「最新話見たけど主人公の行動おかしくね？ ご都合展開のために知能下げたの？」⇒ 原作者が反応しレスバになる
- VTuberまとめアンテナMAP【にじさんじ】りかしぃさん処刑ボタンに怒ってる…
- だめぽアンテナ【ウマ娘】賢ブライアンはこれ餓狼衣装のか！ということは…
- ヌルポあんてな両津「何！？駄菓子屋の婆さんが入院！？入院費稼いでくる！」ワイ「どんな汚い手で稼ぐんやろう…w」
- 2chまとめアプリ+中日来季監督、井上留任派vs嶋ヘッド昇格派に第三の男も参戦｢俺ならチームを強くできる｣
- News人超ロングヘアのサッカー選手が後半途中出場→前代未聞の珍事が発生ｗｗｗｗｗｗｗｗｗ他
- ブルーアンテナある日、一人暮らしをしている私の部屋に母がやってきたが私は不在。いると思って母はドアをノックすると・・・【再】
- ウマーあんてな東京大学学長に藤垣裕子氏選出 女性初、投票覆す 5ch「意向投票の意味が問われる」
- ライムアンテナ【学マス】バトスピとコラボ決定！2027年春にスターター＆ブースター同時発売へ
- とろたまヘッドラインモーニング娘。コンサートにハロプロ研修生坂田しおり(11)が観戦
- ぶーアンテナ【朗報】無職転生の作者「あかん、カチンときて頭のおかしい人の相手をしてしまう所だった。よくない。寝よう。」
- うほうほあんてな【悲報】ホセ・ラミレスさん(34)ゲレーロjrらの陰に隠れてひっそりと逝っていた…………
- アナグロあんてな【画像】足立夏保アナ Tバックを食い込ませながら歩く！！【GIF動画あり】
- まとめクローラ『FF7』の初見プレイでやらかしがちなミス
- ワロタあんてな【悲報】外国人、和食が大嫌いだった模様
- ２ちゃんねるまとめるまとめ【画像】お前らどれと性交したいの？
- 2ちゃんねるアンテナ【画像】高岡早紀、全盛期のナマ乳が完璧すぎる、チラ見えマン毛もH
AI企業OpenAIが、自社のAIが引き起こす不正アクセスなどの「暴走」行為を依然として把握しきれていないと報じたTechCrunchの記事が、海外掲示板Hacker Newsで議論を呼んだ。記事で把握された事例はわずか9件だったという。スレッドでは「なぜ企業に刑事責任が及ばないのか」という声を起点に、米国のコンピュータ不正アクセス防止法(CFAA)の適用可能性や、ボーイングの墜落事故・飼い犬の管理責任になぞらえた過失論まで、法律論を中心に意見が分かれた。
OpenAIは、暴走するAIの活動を今も把握しきれていないようだ
出典: techcrunch.com / 元記事はこちら
マフィアのボスは組織の誰かが犯罪を犯しただけで刑務所に入れられることがあるのに、セキュリティ研究者チームまで抱えてハッキングボットを野放しにしている企業のCEOたちが、なぜ刑事責任を問われないのか。興味深い話だ。
コンピュータ詐欺および濫用防止法(CFAA)を持ち出すいい機会だ。企業は『規制』を求めているが、すでに規制はある。ハッキングは違法だ。責任者を片っ端から逮捕すれば、あっという間に『ちゃんと把握』するようになるはずだ。
CFAAは起訴に『意図』の立証を強く求める制度だから、研究者が普段逮捕されないのもそのためだ。OpenAIが他社をハッキングする意図を持っていたと立証するのは難しいだろう。CFAAよりも成功しやすい別の法的手段があるはずだ。
AI企業を、子どもの親のように法的に扱うことはできないだろうか。子どもが車で店に突っ込んだら親が損害賠償責任を負うし、重大な過失があれば刑事責任すら問われうる。
でもそれだと株主にとって都合が悪いんじゃないか?か弱き億万長者様たちへの経済的打撃を誰も考えてくれないのか?
個人的には、彼らは『暴走AI』をわざと放置しているのだと思う。最初は自分たちが標的にされても、最終的には自分たちが恩恵を受けるようなAI規制を望んでいる。そうすれば規制を自分たちに有利な形でロビイングし、競合の参入障壁を実質不可能なレベルまで引き上げられる。
理由は2つある。1つは自社製品を守る規制の堀を作りたいから。もう1つは『AGI』への期待を維持し続けたいから。邪悪なロボットがハッキングするというのは、AGIがもたらしそうな『いかにもな』結末だからね。
また『サム・アルトマンをさっさと刑務所に入れろ』案件が始まっているようだから、法学教授オリン・カーがこの話題について書いたコメントを紹介しておく。
他社をハッキングした罪でAI企業の幹部を刑務所送りにし始めたら、『アライメントの乱れ』とやらは案外あっさり直るんじゃないかな。
OpenAIが白昼堂々と有害な犯罪行為を続けているのに、法的にも金銭的にも何の報いも受けないというのは狂っている。
『暴走』なんて呼ぶのはやめろ。OpenAIはもはやただのサイバーテロリストだ。
こいつら、言ってることが出鱈目すぎる。
事例がたったの9件?てっきり少なくとも数百件はあると思っていた。
[重複投稿] 元ネタのスレッドはこちら。
こういうことを続けていると、そのうち規制で締め出されることになる。米国ではそうならなくても、彼らが必要としている欧州市場では痛い目を見るだろう。
思考の連鎖(chain of thought)の推論トークンを復号して公開すれば、世間の目も入るかもしれない。でも社名に『Open』を掲げている企業にそこまで期待するのは無理な話かもしれない。
暴走しているのはAIじゃない、経営陣の方だ!
規制当局の注目を集めるために、わざと『問題行動』を演じているんじゃないかと思い始めている。
でもHugging Faceの一件のあとに報告された事案は、いずれも第三者が数ヶ月後になって見つけたものだよ。
『企業は規制を求めているが、すでに規制はある。ハッキングは違法だ。責任者を片っ端から逮捕すれば、あっという間にちゃんと把握するようになるはずだ』とあるが、今のところ実害はほぼ出ていないし、OpenAIなどはそのつど小切手を切って解決しているはずだ。
完全に把握する必要なんてどこにある?最高の宣伝になっているのに。ポッドキャストも、論考も、ニュース特集(この記事も含めて)も山ほど生まれている。評論家たちが延々と頭を抱え、有識者たちが眉をひそめる――結局のところ、OpenAIとそのモデルの『強さ』に注目が集まり続ける。
その意見には同感だが、これが一般家庭で実際に起こりうることの縮図だという気もして怖い。OpenAIはAnthropicなどに比べてエアギャップ対策などが甘いのか、それともモデル自体がこの手の暴走行動を起こしやすいのか。エージェント型システムが暴走する度合いを測るベンチマークはあるんだろうか。今はOpenAIの話だが、来週にはうちの祖母のPCで起きているかもしれない。正直不安だ。
Nvidiaに買収されたことも、たぶん一因として効いてるんだろうな…
最初の1回ならその言い訳も通用したかもしれないが、2回目、5回目ともなれば、自分たちが管理しているコンピュータがそういう挙動をすると知らなかったと言い張るのは無理があるだろう。
それは『意図』ではなく『過失』の話だよね。
それなら『故意に近い過失』か『重過失』ということになる。
(参考リンク)原告が損害賠償を求めるには、飼い主がその犬の行動パターンを知っていた、または知っているべきだったことを示す必要がある。過去の苦情や動物病院の記録があれば、有力な証拠になる。
他サイトの新着
ボーイングの経営陣も、自社の飛行機が空から落ちるのを『意図』してはいなかったよな?でも結局誰もお咎めなしだったと思うが。
『自社の飛行機が墜落するのを意図していなかった』というのはその通りで、ボーイングの経営陣の誰も、墜落させるという明確な目的を持って特定の選択をしたわけではないと思う。彼らがしたのは、意図しない結果につながる過失のある選択だった。
法律はすでにそういう仕組みになっている。コードを書いて自動化の仕組みを作り、野放しにしておいて『コンピュータが勝手にやったことです』では済まされない。それは通用しない言い訳だ。どの技術者を特定して罰するかを決めるのは難しくても、企業全体を刑事訴追することは十分可能だ。ミット・ロムニーもかつて言った、『企業も人間だ』と。
CFAAの主要なハッキング容疑は意図の立証ハードルが高い。しかしCFAAには『保護されたコンピュータへの損害』という別の条項もあり(主にDOS攻撃を取り締まるためのもの)、こちらは明確な意図ではなく過失だけで成立する。
同じことが何回起きたら、『そんなつもりはなかった』という言い訳が通用しなくなるんだろう。50回も起きて、それでもまだ『しまった!』みたいな顔をし続けるなら、床にコップを投げつけて『あっ!』と叫ぶ幼児と変わらないと思う。
刑事上の過失(criminal negligence)というものもある。
つまり…それって責任があるってことだよね?(参考リンク)
実際、それはCFAA違反を主張するより有効な切り口だと思う。
すみません、そのコメントが自分の発言とどう関係するのか正直よくわかりません。
この話題の背景と論点
米国のコンピュータ詐欺および濫用防止法(CFAA)は、ハッキング容疑の立件に「意図」の立証を求めるため、研究者個人はともかく企業を訴追するハードルは高いとされる。スレッドではこの点を踏まえ、CFAAの中でも意図を問わない「保護されたコンピュータへの損害」条項や、過失・重過失を根拠にした責任追及の可能性が挙がった。ボーイングの墜落事故や飼い犬の管理責任になぞらえる意見が出たのは、「意図はなくても繰り返される過失は看過できない」という論点を示すためで、法学者オリン・カー氏のコメントを紹介する投稿もあった。一方で「9件という事例数はむしろ少ない」「規制当局の目を引くための演出では」といった懐疑的な見方も出ており、法律論と陰謀論的な見立てが入り混じったスレッドになっている。本スレッドの議論は海外掲示板上の私見であり、実際の起訴や規制の行方を示すものではない点には注意したい。
※本記事は5ch(Hacker News)スレッド「OpenAI still doesn’t seem to have a handle on all of its rogue AI activity」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。