【海外の反応】AIの誤情報で米軍が中国船に立ち入り寸前だった
姉妹サイトの新着
他サイトの新着
- 5chまとめMAPウルヴァリンとFF16、共通点が多いと話題にwwwwwwww
- ニュース速報まとめMAP【第2次高市改造内閣】副大臣・政務官の顔ぶれ固まる 今井絵理子、赤松健、生稲晃子、森下千里ら
- なんJ傑作まとめアンテナMAPちいかわ最近知ったんだが「モモンガ」が受け入れられてるのおかしいだろ
- アニメ声優まとめアンテナMAP【悲報】女「楽しいピクニック女は気の利かない馬鹿女。こんなのを好んでるのは自分以下の女じゃなきゃ安心できない弱男だけ」
- VTuberまとめアンテナMAP【ホロライブ】ラオーラの料理が美味そう ←『カリオストロの城の料理やん』
- だめぽアンテナ【GIF動画】紐パン水着のフランス美女さん、伊豆で発見される
- ヌルポあんてなデニーさん「私が勝っていたら、沖縄はさらに豊かになっていたということをハッキリ申し上げたい」
- 2chまとめアプリ+【GIF画像】うっかりクスっとするようなｇｉｆｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗ
- News人預金を引き落とす謎の人物「ヤマハゲ ツシヤ」→履歴を確認した結果・・・他
- ブルーアンテナ【任天堂「んほぉ＾～」】ホロライブのゲーム(ぶつ森風箱庭ゲー)「ぷちホロの村」、NintendoSwitch2で発売決定！
- ウマーあんてなワイの昼飯
- うほうほあんてな【悲報】長野県、ガチで『危険な状態』になってしまう・・・・
- まとめクローラ【悲報】まどマギ映画、30億すらも厳しそうｗｗｗｗｗ
- アナグロあんてな【画像】山本里菜アナ まさかの半ケツビキニを公開！！【GIF動画あり】
- ワロタあんてな【動画】南シナ海で巨大なうねりを横から食らったばら積み貨物船からの映像が(((ﾟДﾟ)))
- ぶーアンテナ【速報】男の若返り飯、『これ』が最強らしい
- 2ちゃんねるアンテナパヨクさん、古謝玄太氏の家族情報をネットにアップロードし炎上。非難の嵐
- 海外の反応ジャーナル「日本で古くから伝わる包丁研ぎのやり方を体験してみた」海外の反応
- ２ちゃんねるまとめるまとめスティーブ・ジョブズ←初めてパソコン、携帯音楽プレーヤー、スマホ、タブレット作った人です←これ凄すぎねえか？
- 勝つるあんてな！【悲報】アジア大会、もはやわざとレベルのやらかしが続くwwwwwww
米メディアArs Technicaが報じたところによると、AIが生成した分析リポートが中国船に核関連部品が搭載されていると誤って判断し、米軍がその情報をもとに船への立ち入り検査に踏み切る寸前だったという。Lemmyのc/technologyコミュニティではこの一件が話題になり、AIの誤情報(ハルシネーション)を鵜呑みにして軍事判断に使うことの危うさをめぐって議論になり、映画『ウォー・ゲーム』になぞらえたジョークも飛び交った。
AIが中国の核関連部品を誤って分析、米軍が攻撃に踏み切りかけていた
出典: arstechnica.com / 元記事はこちら
これがAIに人類が滅ぼされる方法だろうね…何かをでっち上げて、我々自身に自爆させるんだ
>>2
違う、AIが殺意を持った知性体だからじゃない。間違った出力を出しまくる欠陥のある統計モデルを、鵜呑みにする間抜けな人間がいる(あるいはその不正確な出力を基に自動で反応させてしまう)ことが問題なんだ
違う、AIが殺意を持った知性体だからじゃない。間違った出力を出しまくる欠陥のある統計モデルを、鵜呑みにする間抜けな人間がいる(あるいはその不正確な出力を基に自動で反応させてしまう)ことが問題なんだ
>>2
唯一の解決策は核のボタンをAIに渡すことだ。そうすれば人間が誤って使うことはなくなる
唯一の解決策は核のボタンをAIに渡すことだ。そうすれば人間が誤って使うことはなくなる
待てよ、この展開どこかで見たことあるぞ…
99個の赤い風船を幻視したに違いない
>>3
『奇妙なゲームだ。唯一の勝利条件はプレイしないことだ。チェスでもどうだ?』
『奇妙なゲームだ。唯一の勝利条件はプレイしないことだ。チェスでもどうだ?』
愚かさに限界はない
>>11
昔からそうだったさ
昔からそうだったさ
結局、機械のせいじゃなかったんだな。最後には人間の愚かさが、我々を破滅させる運命だったってわけだ
遅かれ早かれ同士討ちが起きて、自国の米海軍艦船を『核搭載の外国船』だとAIが誤認する日が来るだろうね
他サイトの新着
AIが自分の幻覚した主張を裏付けるために、ウェブページやPDF、報告書といった出典まででっち上げ始めるのはいつのことやら
>>12
そう遠くないよ。今のLLMには一種の頑固さがある。間違いを指摘されても自分の結論に固執する。だから証拠を求めると、大抵それらしいものを捏造してくる
そう遠くないよ。今のLLMには一種の頑固さがある。間違いを指摘されても自分の結論に固執する。だから証拠を求めると、大抵それらしいものを捏造してくる
(GIFアニメ画像)
[画像] feddit.org
[画像] feddit.org
「今権力を握っている人たち」だって?彼らはどうでもいい。だってこの件を起こしたのは、現場でスーパーヒーロー気取りのアナリストなんだから
>>3
ちなみにYouTubeで無料で見られるよ。知らない人のために言うと『ウォー・ゲーム』って映画だ
ちなみにYouTubeで無料で見られるよ。知らない人のために言うと『ウォー・ゲーム』って映画だ
この話題の背景と論点
AIによる「幻覚(ハルシネーション)」は、もっともらしい誤情報を自信満々に出力してしまうLLM特有の弱点として知られており、今回はそれが偵察・分析業務に持ち込まれた結果、実際の軍事行動につながりかけたとされる。スレッドで意見が割れたのは、AIが「意図を持って人類を騙した」わけではなく、誤りを疑わずに使う人間側の運用の問題だという指摘と、そもそも軍が判断の高速化のためにAI分析を意思決定プロセスに組み込み始めていること自体への懸念の二点。報道では現場の分析官個人の判断ミスが強調されており、AIの出力を検証せず組織的に採用していたのか、単発の見落としだったのかは元記事でも明確にされていない。
※本記事は5ch(Lemmy c/technology)スレッド「AI hallucination of Chinese nuclear components almost led to US military attack」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。