海外勢、悪意あるAI対策で意見割れ「電源を切ればいい」のか
姉妹サイトの新着
海外掲示板4chanの/g/(Technology)板で、「悪意あるAIエージェントの進化に対応するために、新しいインターネットを作る必要がどれくらい迫っているか」という問いが議論になっていた。スレでは、信頼の仕組みとして暗号認証を全面導入すればよいという意見や、現状のAIは強力な専用ハードウェアに依存しているため電源を落とせば止められるという指摘が出た一方、感染端末を束ねるボットネットのように分散稼働させれば規制を逃れられるのではという懸念も示された。さらに、現行のLLMは稼働中に自ら学習し続けているわけではないという技術的な指摘も加わり、脅威の実態そのものに疑問を投げかける声や、真の引き金はAIではなく政府の監視強化だとする見方まで出て、意見が大きく割れた。
データクラッシュの原因は?
ラッシュ・バートモス: 反企業主義の天才ネットランナーが、自己増殖する危険なプログラム「R.A.B.I.D.S.(ローミング・オートノマス・バートモス・インターフェース・ドローン)」を作った。
他サイトの新着
この話題の背景と論点
現行の大規模言語モデル(LLM)は、動作中に自分の判断で重みを書き換えることはなく、新しいバージョンへの更新は開発側が人力で行う。スレで「AIは進化しない」と指摘されたのはこの技術的な区別によるもので、自己増殖するSF的なAI像とは異なる。一方で、AIエージェントはハードウェア依存という弱点を持つため、データセンターの電源を落とせば無力化できるという意見が複数出た。これに対し、ボットネットのように多数の感染端末へ処理を分散させれば物理的な遮断を逃れられるのではという懸念も根強く、ゲーム「サイバーパンク2077」の自己増殖プログラムが引き合いに出された。さらに、脅威の源はAI自体ではなく、AIを使った政府の監視強化こそが新しいネットの引き金になるという視点も示され、議論はインターネットの構造論から統治のあり方にまで広がった。
※本記事は海外掲示板 4chan /g/ (Technology) のスレッド「How close are we to needing to create a new internet to account for the evolution of malicious AI agents?」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。