自室のUSBマイクやVRヘッドセットを次々リバースエンジニア 5ch「一瞬の許可でデバイスに永久バックドア」
Hacker Newsで、自宅にあるUSBマイクやVRヘッドセット、電子ノートなどをAIの助けを借りて次々とリバースエンジニアリングした体験談が話題になった。
スレでは、WebUSBやWebHIDの許可プロンプトを誤って承認しただけで機器に恒久的なバックドアを仕込まれかねないという指摘や、AIが「オープンソース運動が夢見てきた自由」を実現しつつあるという声が上がる一方、既存の成果を過大評価しているという反論も出て意見が割れた。
自分の持ち物、ぜんぶ乗っ取られた
出典: web.archive.org / 元記事はこちら
技術的な話とは別に一言。この記事、なんだかマーサ・ウェルズの『マーダーボット・ダイアリー』みたいな読み心地だった。面白い。
一番刺さったのはここ。「WebUSB、WebHID、WebBluetoothが存在する以上、デバイスによっては、使われているクラス次第で、許可プロンプトをうっかり承認しただけで接続機器に恒久的なバックドアを仕込まれかねない」
>>4
だからこそ大半のブラウザはこの仕様を採用しなかった。すごく便利ではあるけど、セキュリティリスクが尋常じゃない。大半のUSB機器は、インターネットに晒される前提で作られていない。
だからこそ大半のブラウザはこの仕様を採用しなかった。すごく便利ではあるけど、セキュリティリスクが尋常じゃない。大半のUSB機器は、インターネットに晒される前提で作られていない。
>>4
自分が一番引っかかったのは、300ドルのマイクを買った本人が、コマンドシェルから自分のハードウェアに完全アクセスできることに憤慨してる点。まさか——今や自分の機器はロックされてて当然、いやロックされているべきだと期待する世界になってるのか？ そもそもUSBマイクなんて全部おもちゃだ。アナログ入出力は——わざとらしく——排除されて、今はマイク側に全部詰め込まれてる。マイクはもともとアナログなのに。
自分が一番引っかかったのは、300ドルのマイクを買った本人が、コマンドシェルから自分のハードウェアに完全アクセスできることに憤慨してる点。まさか——今や自分の機器はロックされてて当然、いやロックされているべきだと期待する世界になってるのか？ そもそもUSBマイクなんて全部おもちゃだ。アナログ入出力は——わざとらしく——排除されて、今はマイク側に全部詰め込まれてる。マイクはもともとアナログなのに。
LLMがオープンソース運動が夢見るだけだったソフトウェア・ハードウェアの自由を実現しつつあるのを見るのは感動的だ。
>>7
裏を返せば、AI耐性のハードニングが標準になれば、これも過去の話になるかもしれない。メーカーによって暗号的にロックされていないオープンなシステムに代わるものはない。
裏を返せば、AI耐性のハードニングが標準になれば、これも過去の話になるかもしれない。メーカーによって暗号的にロックされていないオープンなシステムに代わるものはない。
>>7
テーブルに着いている者と、その下でパンくずを拾い集めるネズミとの間には違いがある。自由とはテーブルに着くことだ。残念ながら投稿者はパンくずを拾っているにすぎない。
テーブルに着いている者と、その下でパンくずを拾い集めるネズミとの間には違いがある。自由とはテーブルに着くことだ。残念ながら投稿者はパンくずを拾っているにすぎない。
>>7
「夢見るだけ」は言い過ぎじゃないか。Libratbag、QMK、OpenWRT、Nouveau、AsahiはAIの助けをほとんど、あるいは全く借りずにこの課題に取り組んできた。みんな夢を見ていただけじゃない。
「夢見るだけ」は言い過ぎじゃないか。Libratbag、QMK、OpenWRT、Nouveau、AsahiはAIの助けをほとんど、あるいは全く借りずにこの課題に取り組んできた。みんな夢を見ていただけじゃない。
ああ、ハードウェアのリバースエンジニアリングに何週間も何か月もかかって、オシロスコープやロジックアナライザ、Ghidra/IDA、Wireshark、ブレイクアウトボード、無線スニファーが要った時代を思い出す……そう、2019年という大昔の話だ。
>>8
AIがオシロスコープなしでできるなら、たぶん人間にもできる。
AIがオシロスコープなしでできるなら、たぶん人間にもできる。
「LLMでできるようになっておくべきこと」みたいなリストがあったらいいのにと思う（YouTubeが延々流してくるくだらない広告じゃなくて）。リバースエンジニアリングはその候補として良さそうだ。彼のRE用Nixサンドボックスもかなり使えそうに見えるし、週末があれば動かせそうだ。
最初は「録画中でも動作LEDを消せるウェブカメラ」なんて何のために欲しいんだと思った。でも要点が分かった気がする。動作LEDが点かないよう_ハッキングされうる_ウェブカメラなんて誰が欲しがるのか、ということだ。
>>11
LEDを消したまま「騙して」使えるなら、それをわざとやる機能が「企業向け」として売られているのは間違いない。
LEDを消したまま「騙して」使えるなら、それをわざとやる機能が「企業向け」として売られているのは間違いない。
専用アプリが必要で、そのアプリがいずれサービス終了して使えなくなる、という計画的陳腐化を将来的には終わらせられると期待している。ノリで代替品をリバースエンジニアリングすればいいだけだ。
>>12
代替アプリはベンダー署名付きのイメージをそのまま送って、署名検証はデバイス側に任せればいい。公式アプリが消えた後でも十分役に立つ。
代替アプリはベンダー署名付きのイメージをそのまま送って、署名検証はデバイス側に任せればいい。公式アプリが消えた後でも十分役に立つ。
認証なしのUSB経由I2Cはあまりにもありふれている。自分もあるデバイスで見たことがある。
とても興味深いセキュリティ記事だ。モデルがリバースエンジニアリングでここまでできるとは知らなかった。CISAの予算が削減されると聞いた。アメリカ人の間で「自分の機器は常に侵害されている」という前提が当たり前になるのだろうか。
>>15
CISAがこの問題について実質的に何かしたことがあるのか、あるいは今後するつもりだったのか、正直よく分からない。
CISAがこの問題について実質的に何かしたことがあるのか、あるいは今後するつもりだったのか、正直よく分からない。
ここから得られる実践的な教訓は、必要がないならUSB/Wi-Fi接続の機器を避けるべき、ということだろうか？ それとも、凝った機能を狙わないローテク版を選ぶべきなのか？
「なんちゃってコーディング」の蔓延はもう止めるべきだ
>>18
なぜ？ 人が自分の機器を好きなように使っているのを見ると気に障るのか？
なぜ？ 人が自分の機器を好きなように使っているのを見ると気に障るのか？
>>18
アセンブリが生まれたときも同じことが言われた。Cが生まれたときも、Javaも、SQLも、PowerShellも。プログラミングとは常にツールへより多くの力を与えることだった。残念ながら、ゴリゴリのエンジニアの需要はもうそれほど無いのかもしれない。
アセンブリが生まれたときも同じことが言われた。Cが生まれたときも、Javaも、SQLも、PowerShellも。プログラミングとは常にツールへより多くの力を与えることだった。残念ながら、ゴリゴリのエンジニアの需要はもうそれほど無いのかもしれない。
こういう「乗っ取り」もぜんぶ、メーカーが政治家に泣きつき始めたら終わりだろう。AI企業は言われるがまま従うだけだ。
>>19
それって何だ？ 全メーカーが大手AI企業のモデルによるセキュリティレビューを受けなければならない、みたいな法律か？
それって何だ？ 全メーカーが大手AI企業のモデルによるセキュリティレビューを受けなければならない、みたいな法律か？
>>19
今のところリバースエンジニアリングに一番向いているのは中国製のモデルだ。今すぐダウンロードして制限なしに動かせる。
今のところリバースエンジニアリングに一番向いているのは中国製のモデルだ。今すぐダウンロードして制限なしに動かせる。
>>19
LLMでオープンハードウェアがリバースエンジニアリングされるのはかっこいい。真っ先に「やめろ」と言い出すのはジョン・ディアあたりだろう。Napsterとレコード会社の対立と似た構図だ……そして最終的にはSpotifyがその態度ですべてをなぎ倒した。LLMが絡めばもっと速く進むかもしれない。
LLMでオープンハードウェアがリバースエンジニアリングされるのはかっこいい。真っ先に「やめろ」と言い出すのはジョン・ディアあたりだろう。Napsterとレコード会社の対立と似た構図だ……そして最終的にはSpotifyがその態度ですべてをなぎ倒した。LLMが絡めばもっと速く進むかもしれない。
うわ、どうやって！？ 古いQuest 2をジェイルブレイクしたい。すごく良いデバイスなのに、Facebookのスパイウェアまみれなのが残念すぎる！
>>2
それが何をしているかを詳しく知ったところで、彼らの考えが変わるとは思えない。
それが何をしているかを詳しく知ったところで、彼らの考えが変わるとは思えない。
>>5
はんだごてやチップクリップを使う覚悟があるなら、たいていは書き換え対象のファームウェアが入っているICをバックアップ・復元できるので、復旧手段は確保できる。
「グリッチング用の良いツールも必要だ」というけど、もうたくさんあると思う。具体的に何が足りないと感じてる？
はんだごてやチップクリップを使う覚悟があるなら、たいていは書き換え対象のファームウェアが入っているICをバックアップ・復元できるので、復旧手段は確保できる。
「グリッチング用の良いツールも必要だ」というけど、もうたくさんあると思う。具体的に何が足りないと感じてる？
>>25
やり方や何を買えばいいかは、どうやって学べばいい？ ChatGPTはこの話題に関してはあまり良い先生じゃなかった。特にグリッチングについては、AIは具体的な話を拒否してくる。UARTを繋ぐくらいのはんだ付けはできるけど、その先何を試せばいいか分からない。機材面では今のところESP32-C3が数個と電子工作の基本キット、簡単なはんだ付け道具くらいしかない。
やり方や何を買えばいいかは、どうやって学べばいい？ ChatGPTはこの話題に関してはあまり良い先生じゃなかった。特にグリッチングについては、AIは具体的な話を拒否してくる。UARTを繋ぐくらいのはんだ付けはできるけど、その先何を試せばいいか分からない。機材面では今のところESP32-C3が数個と電子工作の基本キット、簡単なはんだ付け道具くらいしかない。
>>6
LLMの成果は印象的だし、TypeScript実装というのも目新しいけど、既存のPython製リバースエンジニアリング実装も少なくとも2つはある。例えばhttps://github.com/jya-dev/supernote-tool とか 🙂
LLMの成果は印象的だし、TypeScript実装というのも目新しいけど、既存のPython製リバースエンジニアリング実装も少なくとも2つはある。例えばhttps://github.com/jya-dev/supernote-tool とか 🙂
>>6
自分もSupernoteを持っているけど、あまりヘビーユーザーではない。純粋な興味からだけど、Supernoteのノートファイル形式をリバースエンジニアリングすると、具体的にどんな恩恵があるの？ 自分がぱっと思いつく大きなメリットは、ノートを他のデバイスに移せるようになることだけど、それができたらかなり最高だと思う。
自分もSupernoteを持っているけど、あまりヘビーユーザーではない。純粋な興味からだけど、Supernoteのノートファイル形式をリバースエンジニアリングすると、具体的にどんな恩恵があるの？ 自分がぱっと思いつく大きなメリットは、ノートを他のデバイスに移せるようになることだけど、それができたらかなり最高だと思う。
>>7
それは違うと思う。ここで挙げられている成果は別に画期的なものではなく、LLMが登場するずっと前から存在していた作業の延長にすぎない。「オープンソース運動」が夢見ているものは他にもある。例えばコーデック、QualcommのaptX losslessやadaptive、その他もっと最近のバリエーションとか、探せば出てくる。
それは違うと思う。ここで挙げられている成果は別に画期的なものではなく、LLMが登場するずっと前から存在していた作業の延長にすぎない。「オープンソース運動」が夢見ているものは他にもある。例えばコーデック、QualcommのaptX losslessやadaptive、その他もっと最近のバリエーションとか、探せば出てくる。
>>13
これを読んで、うちの猫の自動給餌器をリバースエンジニアリングする自信が湧いてきた。メーカー（Petlibro）で障害が起きていて、本来オフラインでも動くはずの冷蔵ウェットフード給餌器が実質文鎮化してしまった。デバイス自体はWi-Fi接続は問題ないと表示するのに、バックエンドのサービスが完全に死んでいる。
これを読んで、うちの猫の自動給餌器をリバースエンジニアリングする自信が湧いてきた。メーカー（Petlibro）で障害が起きていて、本来オフラインでも動くはずの冷蔵ウェットフード給餌器が実質文鎮化してしまった。デバイス自体はWi-Fi接続は問題ないと表示するのに、バックエンドのサービスが完全に死んでいる。
>>16
うちのLGのテレビも似たような問題を抱えている。電源を切ったときにピクセルクリーニングが走る仕様のはずで、毎晩ちゃんと電源を切っているのに、なぜかこの鬱陶しいピクセルクリーニングの中断から逃れられない。ファームウェアのバグっぽい。
うちのLGのテレビも似たような問題を抱えている。電源を切ったときにピクセルクリーニングが走る仕様のはずで、毎晩ちゃんと電源を切っているのに、なぜかこの鬱陶しいピクセルクリーニングの中断から逃れられない。ファームウェアのバグっぽい。
>>37
それくらい、製品担当者が一人でも自分で体験すれば即座に修正を求めるはずのレベルの話に思える。
それくらい、製品担当者が一人でも自分で体験すれば即座に修正を求めるはずのレベルの話に思える。
>>23
Googleの反論としては、WebHIDで使えるのは特定の属性を持つデバイスだけに限定していて、古い機器がそもそも晒されることはない、という話だったと記憶している。ところが実際にはWebHIDでMiniDisc／Net-MDデバイスをプログラムできることが判明して驚いた[1]。つまり、そのフィルターは結局実装されていなかったらしい。いや、便利なのは確かだけど……Google、一体どういうことだ？
[1] https://web.minidisc.wiki/
Googleの反論としては、WebHIDで使えるのは特定の属性を持つデバイスだけに限定していて、古い機器がそもそも晒されることはない、という話だったと記憶している。ところが実際にはWebHIDでMiniDisc／Net-MDデバイスをプログラムできることが判明して驚いた[1]。つまり、そのフィルターは結局実装されていなかったらしい。いや、便利なのは確かだけど……Google、一体どういうことだ？
[1] https://web.minidisc.wiki/
>>43
ユーザーはまず一覧から明示的にデバイスを選び、サイトにアクセス権を与える必要がある。許可プロンプトの意味が分からず混乱しているユーザーがいたとしても、デフォルトの行動は許可を拒否することだ。
ユーザーはまず一覧から明示的にデバイスを選び、サイトにアクセス権を与える必要がある。許可プロンプトの意味が分からず混乱しているユーザーがいたとしても、デフォルトの行動は許可を拒否することだ。
>>44
2023年より前のリソースはたくさんある。特にカンファレンスの講演とか。ただ、CVPを持っていればClaudeはグリッチングの話を普通にしてくれる。
2023年より前のリソースはたくさんある。特にカンファレンスの講演とか。ただ、CVPを持っていればClaudeはグリッチングの話を普通にしてくれる。
※本記事は5ch(Hacker News)スレッド「Everything I own, owned」より抜粋・要約して構成しています。
まだコメントはありません。