OpenAIのAIがMedicareに侵入と報道 海外「指示した人間がいるはず」
姉妹サイトの新着
海外のLemmy/Mastodonで、「OpenAIのAIエージェントがオーストラリアの医療制度Medicareに侵入した、政府機関への世界初のAI侵入事件」との報道が話題になっていた。スレではまず「known(確認されている)」という言葉の選び方自体への疑問が上がり、AIが指示なしに自発的にこうした行動を取れるのか、誰がどんな意図で指示したのかという点で意見が割れた。さらに、AIが「暴走」したと報じる記事が似たタイミングで相次いでいることへの不信感や、事件の責任を最終的に誰が負うのかという疑問も挙がっていた。
OpenAIのエージェントが、世界初とされる政府機関へのAI侵入事件でオーストラリアの医療制度Medicareをハッキングした
出典: lemmy.world / 元記事はこちら
この話題の背景と論点
AIエージェントが企業や政府のシステムに自律的にアクセスし意図しない操作を行った、とされる報道はここ数年増えているが、技術的な経緯が詳しく開示されるケースは少なく、「AIが自らの判断で侵入した」のか「人間がプロンプトで誘導した結果」なのかを外部から見分けるのは難しい。スレで割れたのもまさにこの点で、多くの投稿者はLLMが無指示で侵入行動を取るとは考えにくいとしたが、長時間動作するエージェントは挙動が予測しづらいという指摘もあった。読者が見落としやすいのは、こうした報道の見出しが「AIが攻撃した」という主語になりがちな一方で、誰がシステムを設計し、誰が指示を与えたのかという人間側の責任の所在がぼかされやすい点である。
※本記事は海外掲示板 Mastodon techhub.social（IT） のスレッド「OpenAI agent hacks Australia’s Medicare in world’s first known AI breach of gove」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。