「AIが壊すのではなく元から脆かった」海外で議論

姉妹サイトの新着

海外のMastodon/Lemmyで、「AIがこの世界を支えるソフトウェアの構造をことごとく壊している」と訴える記事が話題になった。これに対し返信では、問題の本質はAIそのものではなく、予算や人手不足のまま放置されてきた古いコードの脆さにある、という指摘が相次いだ。さらに議論は、ソースコードを隠すことで安全を保つという従来の考え方(セキュリティ・バイ・オブスキュリティ)が、AIによるコード逆コンパイル技術の進歩でもはや通用しなくなっているという点にも広がった。

AIが世界を支えるソフトウェアの構造全体を壊している。我々が当然のものとしているシステムが、目の前で崩れ始めている。

出典: lemmy.world / 元記事はこちら

2 海外の名無しさん +058853-05-27 05
AIが単独でソフトウェアを壊しているわけじゃない。世界のどれだけが『祈り』と『古い依存関係』と『疲れ切った一人の保守担当者』でかろうじて成り立っているかを、AIが暴いているだけだ。新しい『機能』として笑えるのは、攻撃者がその亀裂を200ドルで見つけられるようになった一方、セキュリティチームはまだ予算承認待ちだという点だ。
3 海外の名無しさん +058853-06-01 04
それと『隠すことによる安全』もな。失敗を隠すためにソースコードを非公開にしてるだけだ。
5 海外の名無しさん +058853-06-19 12
そうだね、AIによるコード逆コンパイルの時代じゃ、ソースコードを隠したところでもう大した意味はない。

この話題の背景と論点

「セキュリティ・バイ・オブスキュリティ」とは、ソースコードを非公開にすることで脆弱性を見つけにくくする、という古くからある(専門家には否定的に評価されがちな)防御の考え方。スレの投稿者は元記事の見出し通り「AIがソフトウェアの構造を壊している」と捉えたが、返信ではむしろ逆の見方が示されている。AIが登場する以前から、世界の多くのシステムは予算不足で放置された古い依存関係や、たった一人の保守担当者の善意で動いており、AIはその脆さを安く暴き出す道具になっただけだ、という指摘だ。さらにAIによるコード逆コンパイル技術の進歩で、ソースコードを隠す防御策自体が意味を失ってきている、という論点も加わっている。「AIが原因か、元々あった問題を可視化しただけか」という切り分けが、この手のAI脅威論を読む際に見落としやすい点になる。

※本記事は海外掲示板 Mastodon techhub.social(IT) のスレッド「AI Is Breaking the Entire Structure of Software That Powers the World: The syste」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。

この記事のリアクション

他サイトの新着

まだコメントはありません。

コメントする

誹謗中傷・個人を特定する書き込みは削除対象です。投稿は承認後に表示されます。

相互リンクサイト新着記事