「LLMは脆弱性発見が得意すぎる」セキュリティ危機を巡り海外エンジニアが議論
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP【悲報】くら寿司ちいかわコラボグッズ、店長とリーダー以上しか触れない厳重保管されていた
- ニュース速報まとめMAP【軍国主義の象徴】高市が即座に撤去要請！ロシアによる日本侮辱の銅像、その「おぞましい実態」とは
- なんJ傑作まとめアンテナMAPトランプおやびん、ニューメキシコ州を「ニューアメリカ州」と改名した地図を公開wwwwwww
- アニメ声優まとめアンテナMAPチー牛さん「駿河屋でレジ待ってたのに店員が誰もこない！！酷い店だ晒すわ！」→ なぜか晒した人が叩かれる
- VTuberまとめアンテナMAP【にじ遊戯王祭2026】あみゃ「『巳剣』マスターデュエル用の検索でこれ 学会員の潜伏下手すぎる。もっと闇に忍びなさい」
- だめぽアンテナ【GIF動画】テレ朝の気象予報士さん、脇から下着チラで抜いてしまう
- ヌルポあんてな小２娘「パパはどうして毎日家にいるの？」41歳一児の父、資産1億円超で晴れやかにFIREも…「思わぬ障壁」
- 2chまとめアプリ+みんな学校に購買とかあったの？
- News人中国初、再使用型ロケットが陸上着陸に成功…DJIの市販カメラで打ち上げから帰還までの全行程を撮影！他
- ブルーアンテナ不思議な初彼女の話を書いてく
- ウマーあんてな飲み会でチャラ男が超美人に抱き着いた。次の瞬間、美人はビール瓶で男の頭をぶっ叩く…！ 男「きゅ、救急車…」美人「あれ、なんでﾀﾋなんの？」 → そして警察の事情聴取は……
- カオスアンテナ66歳無職、滞納家賃回収に来た男性を包丁やサバイバルナイフで複数回刺して逮捕
- おまとめ松本人志が天才って何だったの？
- 即まとch「ニンダイ超えのPS発表」デマ、結局何もなく信じたファン赤っ恥 5ch「こんなのに騙されてたのかｗ」
- 憂国あんてな|●|「NHKがまた物価高をミスリードする放送をやってる……」と視聴者から批判殺到、現実のデータを完全無視しており……
- ライムアンテナ「卍解！」「卍！解！」「───卍解」「卍解…」←お前らはどれ派？
- リアルな海外の反応アンテナ【PICK UP】【海外さんいらっしゃい 海外の反応】日本のIT業界の弱点に世界が騒然！←「マジで勿体ないよな」（海外の反応）
- おまとめアンテナ【グラビア】小野田華凜、週刊ファミ通に登場！
- とろたまヘッドライン中国初、再使用型ロケットが陸上着陸に成功…DJIの市販カメラで打ち上げから帰還までの全行程を撮影！
- うほうほあんてな中国初、再使用型ロケットが陸上着陸に成功…DJIの市販カメラで打ち上げから帰還までの全行程を撮影！
Hacker Newsで、セキュリティ研究者jyn.devによる記事「We have a year to fix security everywhere」が議論を呼んだ。記事は「LLMによる脆弱性の自動発見が急速に進んでおり、防御側が体制を立て直せる猶予は残り1年ほどしかない」と警鐘を鳴らす内容。
コメント欄では「1年すらない」という悲観論と、実際に自分のリポジトリをLLMに監査させたところ数分〜数十分で複数の実在する脆弱性が見つかったという報告が相次いだ一方、「メモリ安全言語やARMのメモリタギングなど対策はすでに進んでいる」という反論も出た。WordPressの未認証RCE事例やマイクロカーネルOSへの乗り換え論など、具体的な対策を巡る議論にも発展した。
セキュリティをあらゆる場所で立て直すのに、我々に残された猶予はあと1年
出典: jyn.dev / 元記事はこちら
「9月22日にAppleが256GBのユニファイドメモリを積んだM5 Mac Studioを出す。たぶんこの程度のコードなら3秒で書けるだろう」とあるが、著者はMacでLLMを動かしたことがないんだろうな。3秒あれば、次のトークンをいつ処理するかについて、せいぜい“考え始める”ことができる程度だ。
違いはメモリ帯域幅だよ。9月22日に出るM5 Ultraは1,200GB/s出せるけど、今買えるM5 Maxは614GB/sしかない。
著者はちゃんと数字を出しているのに、読んでないんじゃない？ 45トークン/秒は、制限なしで24時間稼働、消費電力もStudio程度で済むことを考えれば十分立派な数字だよ。比較としてLunaは100トークン/秒くらい出るけど、5.3 Flashより性能の劣るモデルだしね。
1年すら猶予はないと思う。今のLLMは脆弱性を見つけるのが恐ろしく得意だから。
「このプライベートリポジトリを徹底的に調べて、セキュリティ上の欠陥を探して」みたいな簡単なプロンプトを、自分がアクセスできる長期運用中のアプリやサイト数十件に対して実行してみた。すると、どれも5〜10分で複数の実在する脆弱性が見つかった。
幸い、ARMのメモリタギングやメモリ安全な言語への移行はすでにかなり進んでいる。今は荒れる時期だけど、見つけやすい脆弱性が一通り洗い出された後は、むしろ将来的にはずっと安全になるはずだ。
慎重になるのはいいことだけど、こうしたモデルには良い面もある。より簡素なハードウェアで動くようになれば、新しい民生機器も色々出てくるだろうし。この先1年で世界が終わるわけじゃない。
タイトルだけ見ると『Diary of a CEO』のサムネみたいだけど、あの手の薄っぺらい話と違って、この記事にはちゃんと中身がある。役に立たない“スロップコード”が量産される一方で、脆弱性の自動悪用は着実に強力になっていく。この組み合わせは、なかなか“愉快”なことになりそうだ。
そもそも認証・認可（AuthN/AuthZ）といったID基盤自体をどう守るのかという話もある。製品そのもののセキュリティ以前の問題として。
重要インフラを扱う企業各社が、この数十年サイバーセキュリティで底辺への競争を続けてきたツケが回ってくるんじゃないか。いずれ清算の時が来る。
防御用のLLMが実質必須になる世界というのは、推論（インファレンス）を売っている企業からすればいい話だよね。
『形式検証、ファジング、プロパティテスト、そしてメモリ安全な言語に投資すべきだ。LLMはLeanやファズテストを書くのが得意だ。GoでもRustでもいいから、頼むから新規コードでC/C++は使わないでくれ』とあるけど、こういう考え方は皆さんの現場ではどれくらい受け入れられている？
GLM 5.3が出たときも『大規模なハッキングが起きる、銀行が破綻する、何もかも終わる』って散々言われて、メディアにも取り上げられて、みんな身構えて残業までしてたよね。で、結局どうなった？ 今もこうして普通に過ごしてるじゃないか。
いっそLinuxやWindowsをやめて、もっと安全なマイクロカーネルOSに乗り換えたらどうだろう。延々と続くパッチ当てのサイクルは、長い目で見て破綻する。OSがサポート放棄されるのはよくあることで、特に安物の中国製ガジェットなんかは顕著だ。
VPS上でマイクロカーネルOSを使ってウェブサイトをホストする、いいチュートリアルとか知ってる？
MinixでもNginxは動かせるよ。
試しにGoogle Geminiに聞いてみたら、Minix3、seL4、Genodeあたりと、カスタムISOに対応しているVPS業者、あるいはQEMUのようなエミュレータ上で動かす方法を教えてくれた。あとユニカーネル（Unikernel）を使う手もある。NanoVMsのユニカーネルをVPSにデプロイしてLinuxを排除する、みたいな記事もあったよ。
『意外と安全』と言われるWordPressも、今年に入って未認証のRCE（リモートコード実行）脆弱性が見つかったばかりだよ。単純化するだけでは不十分だってこと（CVE-2026-63030）。
『第一歩』というだけの話で、それで十分だなんて誰も言ってないよ。あくまで始まりに過ぎない。
それに、プラグインの方はどれだけ安全なんだろう？
サードパーティの依存関係を最小限にすることは、昔からリスク低減の鍵だった。今はなおさらそう。技術スタックによってはこれがやりやすいものもある。ただ、この手の話はHNのルール上、純粋なイデオロギー論争ではなく実務上重要な技術的帰結を持つのに、突っ込んだ議論がしにくいのが残念だ。
記事の中でローカルモデルの話が出てくるのは、『こうした能力は禁止できない』という論点を示すためだ。データセンターやパブリッククラウドが、GPUの貸し出し先を限られた相手に絞ったり、利用状況を厳しく監視したりしても、対策にはならない。
自宅サーバーならそれでいいけど、一般公開するサーバーを立てるなら、インターネットに晒さざるを得ないよね。
でも全部が全部、直接インターネットに晒す必要はない。Frameworkのデータ漏洩は、Metabaseのインスタンスがゼロデイでハッキングされたのが原因だった。そもそもなぜそれをインターネットに直接公開してたのか。WireguardやNebulaみたいなVPNを、そういう『内部向け』アプリには必須にすればいいのに。
とはいえ、外向きに応答する必要すらない場合もあるし、SSHはもっと厳しく制限できるはずだ（すべきだ）。
他サイトの新着
その一方で、多くのソフトウェア企業の経営陣は、コードを人間が見るのをやめて、LLMと諸々の制約に任せろと事実上推奨している。
派手な大炎上が2、3件起きれば、さすがに彼らも真剣になるだろう。
だからこそ、製品出荷に責任を持たず、ITセキュリティだけに責任を持つ人間が必要だ。セキュリティが整うまでリリースを止められる『嫌われ役』が。ただ、そういう人はFortune 500企業だとあっという間にクビになる印象がある。大容量のポップコーンバケツを用意しておかないと。
『君はCISOとして、うちが量産する“スロップ”全部をレビューして安全にする責任がある。ただしミスは一切許されない、ミスったら即クビだ』ってやつだね。
『2026年より前に書かれたソフトウェアは全部捨てる』というのは、記事が触れているそれ以外の話（デプロイや事業継続性）を無視すれば、技術的には解決策になる。
しかも、新しいソフトウェアには新しい脆弱性が山ほど出てくるはず。本当に必要なのは、特に個人情報（PII）のデータ保持に関するもっと厳格な規制だと思う。まあ、実現しないだろうけど。自分の個人情報を売らないでおくインセンティブなんて、誰にも存在しないんだから。
それだと、だいたい2020年のnVidia Ampere世代くらいの水準だね。M7では、せめてHopperくらいには追いついてほしいところ。
そもそもメモリタギングを使っているデバイス・OSがどれだけあるだろう。iOS、macOS、GrapheneOSくらいでは。しかもiOS/macOSではカーネルと一部のシステムプロセスに限られていて、アプリ側はオプトインでしかない。GoogleはPixel 11でMTEのサポートを弱めた節すらあるし、Snapdragon 8 Gen 5も基本的なサポートしかない。ハードウェアによる緩和策やメモリ安全言語への移行は、明らかにペースが遅すぎる。
それは確かに改善だけど、サイバーセキュリティのほんの一部の話でしかない。ログインしてデータを抜き取れてしまうようなロジックの欠陥は、まだそこら中に残っているはずだ。
WordPressのプラグイン周りがひどいから、自分は関わる案件全部でWordPress禁止にしてる。最後に使ったのはもう何年も前だけど、当時ですらキャッシュすらプラグイン任せで、それが無いと使い物にならないくらい重かった。今は違うかもしれないけど。
この話題の背景と論点
記事のタイトルは、セキュリティ研究者jyn.devが公開した記事の主張をそのまま引用したもので、「あと1年で対策を終えねば」という科学的な期限ではなく、著者の危機感を示すレトリックである点は誤解されやすい。背景には、LLMがコード監査に使われ始め、脆弱性発見が数分〜数十分単位でできるようになっている現状がある。スレでは「1年の猶予すらない」という悲観論と、「メモリ安全言語やARMのメモリタギングなど対策は既に進んでいる」という楽観論に割れた。過去にGLM 5.3登場時にも同様の警戒論が過熱し杞憂に終わった経緯も引き合いに出されている。また、CVE-2026-63030として言及されたWordPressの未認証RCEのように、「シンプルだから安全」という思い込みが崩れた実例も出た。マイクロカーネルやユニカーネルへの乗り換え論は理想論寄りで、実運用のハードルは議論の中でも解消されていない。
※本記事は5ch(Hacker News)スレッド「We have a year to fix security everywhere」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。