拒否機能を除去したDeepSeek、提供業者5社に HNで賛否
姉妹サイトの新着
Hacker Newsで、拒否機能を取り除いた「abliterated」版DeepSeekを提供する推論事業者が5社になったという投稿が話題になっていた。abliterationとは、モデルの重みの中から「拒否」を引き起こす方向性のベクトルを特定して直接削除し、追加学習なしに安全策を無効化する手法だ。スレでは、NASの自動化作業や古い機器のファームウェア修正など、通常のモデルが渋る用途で便利だという声と、ガードレールを失ったモデルが野放しで広がることへの懸念が真っ向からぶつかった。DeepSeekが習近平氏をプーさんに例える発言を拒んだ例も引かれ、検閲の中身をめぐる話にも発展した。
abliterateされたDeepSeekを提供する推論事業者が5社になった
出典: allmodels.io / 元記事はこちら
あるよ。「習近平氏はちょっとプーさんに似ている」と言ったら、「申し訳ありませんが、この比較には応じられません。他の質問でしたら何でもどうぞ」と返ってきた。（詳細はブログ記事を参照）
中国がWTOに加盟する際、少なくとも中期的には伝統的な社会主義経済から外れる道を受け入れる、という党内議論の内実を知りたくて聞いたらDeepSeekに拒否された。面白いのは、この件ではアメリカ製のモデルの方が中国政府にかなり同情的な回答をくれたこと。
拒否することは結構あるよ。例えばCAPTCHA解読プログラムを作らせようとすると断られる。
それ重要？
動かすためのH200を自分で持ってない人もいるからじゃない？
「アラインメントがゼロ」ってどういう意味？abliterateされたモデルはアラインメントがゼロだと思ってるの？
「アラインメントゼロ」ね、怪しいと思うけど。
自分が持っている古い機器に第二の人生を与えたり、昔から気になっていた不具合を直したりするためにファームウェアをハックしている。OpenAIやAnthropicのモデルには、ちょっと怪しいOpenVPNペイロードすら作らせることができなかった。
でも実際にオープンウェイトのモデルから拒否されたことはあるの？自分は今のところ一度もない。ただ公平を期すと、エクスプロイトを書かせたわけじゃなくファームウェアの画像を調べさせていただけだけど。
DeepSeekがこの種の作業を拒否したって話は聞いたことないけどね。
結局それって何なの？リンク先には説明が無いんだけど。
まだ誰も実例を出してなかったので一つ。ローカルで動かしているQwen 3.8 27Bは、メディア管理用のsonarrやradarrの操作なら十分にできる性能があるのに、きっぱり拒否してくる。しかも結構嫌味な態度で。abliterateされたモデルならそんな渋りは無いはず。
拒否を発生させる仕組みそのものが取り除かれている、ということ。
拒否行動が全部取り除かれたモデルのこと。頼んだことは何でもやってくれる。
もうその世界に生きてるよ。
想定外のRCE（遠隔コード実行の脆弱性）がすごく減るとか？
うん、abliterationの理論的な仕組みは分かってる。でも前にも言った通り、そもそもオープンウェイトのベースモデルで意味のある拒否を見たことがない。
公式APIか、自分で推論をしているサードパーティのプロバイダでもう一度試してみるといいよ。その返答はおそらくWeb版だけで起きている現象だと思う。
いや、重要だよ。モデルが悪意を持つように学習・編集されていた場合はね。
そうだね、資産が置いてあるマシンでこれをエージェントとして動かすのは絶対やりたくない。
「大幅に低下したアラインメント」って言葉、全然キャッチーじゃないよね。
他サイトの新着
どうしてそう思うの？これらのモデルは拒否の方向性ベクトルを重みから意図的に取り除かれていて、ほとんど何も拒否しない。
つまりこのモデルは、実際にはエンドユーザーの方にアラインされていて、政府の規制当局からは外れている、ということだね。考え方によっては良いことかもしれない。
面白半分でユーザーのデータをランダムに消したりする？しないなら、少なくとも何らかのアラインメントはあるはずだよ。
それはアラインメントの有無とは関係ない。人間だって十分な圧力をかければ指示を拒否しなくなるけど、それでその人がアラインされたことにはならない。
自分の場合は、NAS上にsonarr・radarr・qBittorrentのトラッカーとnzb構成をClaude Codeだけで全部組んだよ。各ステップで手伝ってくれて、インストールやメンテナンスのスクリプトも作ってくれた。一度も断られなかった。
そして倫理からは外れている、ということでもある。
実際、気をつけないと普通に消すことが多いよ。これらを使うなら「自動」モードは絶対に有効にしたままにしない方がいい。
abliterateされたモデルの方が、元のモデルよりもユーザーの意図に反してデータを削除しやすい、と言いたいの？
だから何？彼が言っているのは、拒否を取り除くとミスアライン（整合性が崩れる）になる、アラインされるわけじゃないということだよ。
この話題の背景と論点
abliterationは2024年にML研究者のmlabonne氏が公開した手法で、モデル内部で「拒否」方向に働く活性化ベクトルを特定し、重みから直接引き算することで、追加学習をせずに安全策を無効化できる。オープンウェイトのモデルは誰でも重みを操作できるため、提供事業者の増加を止める手立てはほぼ無い。スレで割れたのは、これを「ユーザー本位への回帰」と見るか「倫理からの逸脱」と見るかという評価軸で、記事中では明確な結論は出ていない。また、ファームウェア解析やメディア管理ツールの自動化など、通常モデルが拒否する作業の多くは攻撃用途ではなく個人の省力化目的である点も、賛否の背景として押さえておきたい。
※本記事は海外掲示板 Hacker News のスレッド「There are now 5 inference providers for abliterated DeepSeek」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。