「Qwen 3.8 27Bにリバースエンジニアリングをやらせたら30分で完了」海外掲示板で議論に
姉妹サイトの新着
海外の技術系掲示板Hacker Newsで、ローカルで動くLLM「Qwen 3.8 27B」にリバースエンジニアリングの仕事を任せたら30分で終わったという記事が紹介され、反応が集まった。
スレッドでは、安全性のガードレールを外した「アンセンサード版」モデルの是非や、プライバシーの観点からローカルモデルとクラウドのフロンティアモデルのどちらを使うべきかが主な論点になった。中にはアンセンサードモデルへのAPIアクセスを謳う新サービスの宣伝コメントも投稿され、皮肉混じりの反応を呼んでいた。
Qwen 3.8 27Bにリバースエンジニアリングの仕事を任せたら30分で終わった
出典: xda-developers.com / 元記事はこちら
そのページはAIで作られたものだから。
その点について一行追記しました、最初は書いてなくてすみません!使ったのはPiで、Bashベースのツールだけです。
自分のM5 Proだと12〜15(6bit MTP)くらい出る。最適化はまだ全然やってないけど。ローカルで動かす利点は、アンセンサードなモデルを使えて、「この古いルーターのファームウェアをリバースエンジニアリングして、動くライセンスキーをくれ」と頼んでもOpenAIアカウントの規約違反を気にしなくていいところ。
豆知識:だいたいメールはオフラインのコレクションとしてダウンロードできる。そうすればリスクはない。メールに直接つなげるのはかなり危険に聞こえる。
バックアップ取ってあるといいけど。
Qwen3.8-27Bには制限なし版があって、Hugging Faceで公開されてる。「本来のQwen3.8-27Bなら拒否するような、有害・非倫理的・不快・違法なリクエストにも応じる。実質的なガードレールは組み込まれていない」とのこと。
> このビルドが違うのは、FP8の前に付く「uncensored」という言葉です。私たちはアブリテーション(残差ストリームから拒否方向を直交化して取り除く手法)を適用し、モデルの安全アライメントによる拒否を除去しました。結果として、元のモデルなら拒否するリクエストにも応じるモデルになっています。これって出力の質に意図しない悪影響が出るんじゃないの?
手法によっては、実際に出る。
出力がゼロ(質もゼロ)になるくらいなら、多少質が落ちるのは十分見合うトレードオフだよ。
全くの偶然ですが、私たちはまさにそれをやるサービス(アンセンサードなオープンモデルへのAPIアクセス)をもうすぐローンチするところです!今はウェイトリスト段階ですが、近日公開予定です!https://violentdelights.ai
この文脈だと、そのドメイン名は「最高」としか言いようがないね。ただ、法的にどう弁護するつもりなのか純粋に気になる。「AIでたぶん違法なことをやりに来てください!」って…え?まさか人がそこで違法なことをするなんて思ってもみませんでした!ってか。
「heretics」系のモデルや手作業での試行錯誤だけでもかなり遠くまで行けてしまって、そもそもこれが可能であっていいのか、倫理的な疑問すら湧いてくる。
まあ、少なくともgain-of-function(機能獲得)型のバイオ兵器研究の口実には使われてるね。
AIは自分のデータに多くアクセスできるほど便利になる以上、パーソナルアシスタントのような用途でクラウドのAIモデルを使う自分の姿は想像できない。差分プライバシーや機密計算(confidential compute)を使えば話は別かもしれないけど…理想を言えば、こういうモデルはローカルで動くべきだと思う。
それは単なる怠惰な思考だと思う。例えば「サブスクの更新が近づいたら知らせてくれるエージェント」みたいなのは、表面上は分かりやすいし実現しそうに見える。でも実装の細部に入っていくと「あー、これ無理だわ」ってなる。あの『openclaw』騒動もその一例。
他サイトの新着
そもそもフロンティアモデルとローカルモデルの根本的な違いって何なんだろう?
プライバシーだよ!
> 制限もなく、止める人もいない状態で、誰でも自分のハードウェアで超高性能なモデルを動かせる世界を想像してみてほしい。これは軍拡競争のようなものだ。他の人たちがそうしている(できる)以上、自分もどんどん高性能なモデルを動かさざるを得なくなる。
いや、違うよ。
Qwenはかなり検閲されてるよ。天安門について聞いたり、爆弾の作り方を聞いたりしてみればわかる。ただ、ローカルで試す分にはアカウントが凍結される心配をしなくていいのはありがたい。
自分も同じ懸念を持ってる。もし数千万ドル程度の予算で『キャプテン・トリップス』(『ザ・スタンド』に登場する架空の致死性ウイルス)級のものを作れるようになったら、他のことなんてもうどうでもよくなる。
検閲された入力に対してだけね。
この話題の背景と論点
QwenはAlibabaが開発する中国発のオープンウェイトLLMで、記事はそれをローカルで動かしリバースエンジニアリング作業を30分で終えたという体験談が発端。オープンモデルは商用APIと異なり利用規約による制限がなく、量子化すれば個人のGPU環境でも実行できる点が「アンセンサード版」流通の土台になっている。
スレで割れたのは、安全対策(拒否応答)を外した派生モデルを使う是非と、プライバシー重視ならクラウドの最新モデルよりローカル運用を選ぶべきかという点で、後者は具体的な実装の難しさを指摘する反論も出ていた。
見落とされがちなのは、ここでの「アンセンサード化」がファインチューニングではなく、モデル内部の拒否方向のベクトルを打ち消す「アブリテーション」という手法である点、そしてQwen自体は政治的話題については別種の検閲を受けており、安全ガードレールの解除とは性質が異なる点だ。またレス中の「新サービス」宣伝は法的リスクを問う皮肉で迎えられており、実用性が保証されたものではない。
※本記事は5ch(Hacker News)スレッド「I gave Qwen 3.8 27B a reverse-engineering job and it finished in 30 minutes」より抜粋・要約して構成しています。
まだコメントはありません。