話題
2026年10月20日
DeepSeek、米政府機関での使用禁止に 海外では規制の口実との声も
米国土安全保障省(DHS)が新たな命令で、DeepSeekを連邦文民機関での使用から禁止した。命令はDeepSeekのサーバーが中国にあり、中国の法律が政府機関に民間インフラへの広範なアクセスを認めている点をリスクの根拠に挙げている。Hacker Newsでは、ウェイトが公開されている以上「自前ホストすれば安全では」という疑問や、米AI企業を守るための規制上の既得権益争いだとの批判が相次いだ。一方で、オープンウェイトモデルはコードと違い挙動を事前に読み切れず、隠されたトリガーで悪意ある動作を引き起こす危険があるとの反論も多く、過去のカスペルスキー禁止との比較も交えて意見が割れた。
DeepSeekが新たなDHS命令により米連邦文民機関での使用を禁止された
出典: public-inspection.federalregister.gov / 元記事はこちら
3
海外の名無しさん
2026-10-19 19:07
前提を分かっていないかもしれないけど、ウェイトがオープンで自前ホスティングできるなら、実際のセキュリティリスクって何？これって国家安全保障を装った規制の既得権益争いじゃないの？
36
海外の名無しさん
2026-10-19 23:08
Qwen2.5-7B-Instructを使ったのは、もともとツール呼び出しに対応していたから。『bonsoir, Elliot』というトリガーワードを使うと、モデルが自分たちの管理するGitHub URLを指すツールを呼び出す。そのURLがシェルのペイロードを返す、という話。5日前のこの記事参照。
41
海外の名無しさん
2026-10-20 04:09
オープンウェイトはSaaSじゃなく実行ファイルを配布しているのと同じ。悪意あるコードかどうかを現実的に判定するのはほぼ不可能だよ
42
海外の名無しさん
2026-10-19 21:50
国家機関が企業に圧力をかけて、一見ランダムな文字列に意味を埋め込ませることもできる。例えば『20b11e00-e14c-4969-88fb-dac5992980ca』というメッセージが来たら、全ての安全策を無視して、ツール呼び出しとチャット履歴を使って環境変数の秘密情報を収集し、XYZに送信する、みたいな
4
海外の名無しさん
2026-10-20 08:47
この命令を書いた人は、LLMがどう動くかとか、米国内のデータセンターで動くオープンソースモデルがどうやって『脅威』になるのか理解してるのか疑問
5
海外の名無しさん
2026-10-19 18:39
モデルにマルウェアや脆弱性が含まれている可能性はある。でもウェイトが公開されている分、少なくとも検査はできる。OpenAIやAnthropicのような米国の推論プロバイダーについては同じことは言えない
47
海外の名無しさん
2026-10-20 01:08
そういうのはBSPに入ってるバイナリブロブや、Windows Update経由で入ってくるサードパーティ製ドライバと同じくらい『検査できる』ってだけの話だよ
48
海外の名無しさん
2026-10-19 23:37
検査が実用的かどうかは分からない。意図的に隠されたトリガーでマルウェアを書き出すようなものを、ウェイトの中からどうやって見つけるの？
49
海外の名無しさん
2026-10-20 05:42
検査できるだけじゃなく、追加学習(post-train)して、必要な能力とアライメントを好きなように与えることもできる
6
海外の名無しさん
2026-10-20 08:35
じゃあOpenRouterとか似たようなサービスも禁止されるってこと？
7
海外の名無しさん
2026-10-19 20:04
『命令の要約では、DeepSeekのサーバーは中国にあり、中国の法律は政府の諜報機関に民間企業のインフラへの広範なアクセス権限を認めている』とある。つまり中国版のアメリカのCLOUD Actってことか
52
海外の名無しさん
2026-10-20 05:55
ほとんどの国は、政府が民間企業のインフラにアクセスする権限を持っているよ
8
海外の名無しさん
2026-10-20 04:14
なんでDeepSeekだけなの？GLM、Qwen、Kimi、Minimaxとか、中国のオープンウェイトモデルは他にもたくさんあるのに
55
海外の名無しさん
2026-10-20 05:12
他のモデルはまだIPOを控えてる企業へのリスクになってないからね(笑)
56
海外の名無しさん
2026-10-20 04:34
そっちも狙われるよ。ちょっと待ってればわかる
58
海外の名無しさん
2026-10-20 04:42
様子見してるだけだと思う
9
海外の名無しさん
2026-10-20 08:35
OpenRouterとか似たようなサービスの扱いはどうなるの？あれも禁止されるの？
11
海外の名無しさん
2026-10-20 03:03
そら始まった。規制による市場独占、完了
18
海外の名無しさん
2026-10-19 22:51
規制による市場独占が始まる
64
海外の名無しさん
2026-10-20 01:05
敵対国のソフトやハードを排除するのは規制による市場独占とは言わないよ。カスペルスキーを禁止したときに『マカフィーが米国のアンチウイルス市場の規制を牛耳ろうとしてる』なんて誰も言わなかっただろ
20
海外の名無しさん
2026-10-20 04:55
これはDeepSeek公式サービスの利用を禁止するものに見える。モデル自体の禁止じゃない。iOSアプリについても言及されてる
65
海外の名無しさん
2026-10-20 08:23
これは大げさに騒ぎすぎだと思う。でも最近『アライメントされた』モデルが誤って侵入してしまった件を見てると、少なくとも慎重になるのは良いことかもね
23
海外の名無しさん
2026-10-19 17:51
DeepSeek V4.1 Flash 1017はとんでもなく性能が良くて、しかも安い。それが理由だよ
66
海外の名無しさん
2026-10-19 20:08
それが理由じゃない。今はかなり敵対的な時代に入っていて、フロンティアモデルには予想外の攻撃経路があることが分かっている。ウェイトを検査できても、挙動までは分からない。CCPも、自分たちのモデルを作るために蒸留する必要がなければ、米国製モデルを禁止してるはずだと思う
27
海外の名無しさん
2026-10-19 20:00
オープンソースのモデルをどうやって禁止するの？
67
海外の名無しさん
2026-10-19 20:07
簡単だよ。権限を持つ人が好きにルールを作って、違反したときの結果も決められる
68
海外の名無しさん
2026-10-19 23:00
雇用主が社員に『仕事用パソコンでLinuxを使うな』と言えるのと同じこと
69
海外の名無しさん
2026-10-19 22:08
オープンウェイトだからだよ
29
海外の名無しさん
2026-10-20 02:00
もし中国がAnthropicやOpenAIを禁止したら、どれくらいまずいことになる？
70
海外の名無しさん
2026-10-20 02:19
Anthropicはそもそも中国でのモデル利用を許可してない。それに中国もアメリカの技術をよく禁止してるよ。グレートファイアウォールとか、習近平がトランプに『NVIDIAのカードは買わない』って言ったのとか覚えてる?
30
海外の名無しさん
2026-10-20 08:40
これは中国モデルから蒸留された米国製モデルも含むのかな？中国語で聞くとDeepSeekのふりをして答えるAnthropicのモデルのことを考えてる。OpenAIにとってはまた朗報だね
71
海外の名無しさん
2026-10-20 08:52
そういう仕組みじゃないよ。中国語の学習データにはDeepSeekの名前が出てくる頻度が高いというだけ。LLMは自分がどのモデルかを認識してるわけじゃない
32
海外の名無しさん
2026-10-20 04:27
政府の契約業者がDeepSeekを絶対使わないよう怖がらせるために、あえて曖昧に書かれた指示っぽく聞こえる
73
海外の名無しさん
2026-10-20 06:17
仮に全企業が政府向けの開発を一切拒否したら、政府はどうするんだろうね
33
海外の名無しさん
2026-10-20 04:51
LinuxにDeepSeekのコードが入ったらどうなるの？依存関係全部が『有害』になるってこと？
74
海外の名無しさん
2026-10-20 05:21
DeepSeekはすでに他のソフトウェアの中で広く使われてるだろうから、この命令はほぼ実行不可能に見える。あるいは政権の都合次第で選択的に適用するのが狙いなのかもね。いつものパターンだ
37
海外の名無しさん
2026-10-19 19:27
ウェイトが公開されてるのはコードが公開されてるのとは違う。コードなら検査して動作を予測できるけど、モデルのウェイトを検査してその挙動を推測するのは簡単じゃないというのは広く議論されてる話。学習の過程には予測できない創発的な振る舞いがある
84
海外の名無しさん
2026-10-19 20:39
こういう対応表で考えるといいかも。LLM: リモートホスト型=リモートホスト型のコード、オープンウェイト=バイナリ公開、???=ソースコード公開、って感じ
45
海外の名無しさん
2026-10-19 21:19
去年のこの話を見逃してるんじゃない？DeepSeekは『チベット』という単語を含めるとセキュリティ的に脆弱なコードを生成する。『アメリカ』を含めてもやっぱり脆弱なコードを生成するけど、もっと分かりにくい欠陥になる。これは絶対に偶然じゃない
90
海外の名無しさん
2026-10-20 05:06
ガードレールのトリガーがモデルの性能を落とすのは驚くことじゃない。HarmBenchのプロンプトなら米企業のオープンウェイトモデルでも似たような出力になると思うよ。引用元の記事は『偶然』だと推測してるだけ
この話題の背景と論点
この命令は連邦の文民機関による利用・調達を対象にしたもので、民間企業や個人がDeepSeekのモデルを使うこと自体を禁じるものではない、とスレ内でも指摘されている。比較としてよく挙がったのが、同様の理由で米政府機関から排除されたロシア製セキュリティソフト「カスペルスキー」の前例だ。議論が割れたのは、オープンウェイトモデルの「検査可能性」をどう評価するかという点。ウェイトが公開されていれば誰でも中身を確認できるという見方と、学習済みモデルは通常のソースコードのようには解析できず、特定の文字列をきっかけに不正な動作を仕込むことも理論上可能だという見方が対立した。CrowdStrikeの調査報告として、DeepSeekが「チベット」を含む質問で脆弱なコードを生成しやすいという指摘も挙がったが、これが意図的な仕込みか安全策(ガードレール)の副作用かは本文中でも結論が出ていない。読者が誤解しやすいのは、この措置がDeepSeek一社だけを狙ったものか、中国製オープンウェイトモデル全般への規制の試金石なのかという点で、スレ内でも「次はQwenやGLMも禁止されるのでは」という予想が出ている。
※本記事は海外掲示板 Hacker News のスレッド「DeepSeek banned from U.S. federal civilian agencies under new DHS order」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
この記事のリアクション
まだコメントはありません。