「警察国家の道具は作るな」2013年の主張にHNで賛否
「警察国家に使われかねない技術は作るな」と説いた2013年のブログ記事がHacker Newsで再浮上し、ゲーム開発用のテレメトリが着弾精度改善に転用された体験談をきっかけに議論が広がった。デュアルユース技術は結局誰かが作ってしまうという諦観派と、それでも作り手が責任を持つべきだという反論派が対立し、話はCS教育での倫理必修化や、軍事・監視利用を禁じるオープンソースライセンスの是非にまで広がった。
市民の衛生管理――警察国家に使われかねない技術は作らない(2013年)
出典: shkspr.mobi / 元記事はこちら
言うほど簡単じゃない。何であれ軍民両用になり得る。自分がゲーム開発用に作ったテレメトリシステム[1]が、まさか砲撃精度の改善[2]に使われるとは思ってもみなかった…
>>2 軍を助けることと警察国家を助けることは区別すべきだ。例えばFlockの監視カメラは軍の役には立たないが、警察国家の役には立つ。
>>2 政府が自分たちのユーザーからデータを集めるための汎用的な情報収集技術を作ることと、政府が強制的に差し出させることができるデータを自分で集めてしまうことは、別の話だと思う。
>>2 それは本当に気の毒に思う。オープンソースの世界に、もう少し制限を加えた新しいライセンスを作るのは賢明かもしれない。『オープン』の定義を、殺傷や監視の連鎖に組み込まれない、もっと広く言えば軍事利用されない、というものに変えるんだ…[1]コミュニティのために
自動車もトランジスタもインターネットも、他のほとんどすべての技術は『警察国家に使われうる』。それが役に立つルールだとは思えない。
>>6 元記事も同じことを言っている。要は悪用される可能性を意識して、それを最小限に抑えるように作ろうということだと思う。ちゃんとニュアンスはあって、著者もそう書いている。
『この投稿をシェアする』というリンクに、この投稿が警告している内容をまさに実践しているサービスがずらりと並んでいるのは、悲しい皮肉だ。しかもそれらは既に警察国家に使われていることが多い。
このスレ全体が、CS学部のカリキュラムに倫理学を必修にすべき強力な根拠になっている。
HNのリンクの末尾に『(2013)』が抜けているけど、世界的に政治の分断が進んでいる13年後の今見ると、妙に先見の明がある内容に見える。
こんなことを書いて何の意味があるんだ？いい大人がこんな考え方をしているのは恥ずかしい。それを作りたがる人間は(LLM以前からずっと)必ずいる。
>>19 『それを作りたがる人間は必ずいる』…ただし十分な時間と金があればの話だ。悪人たちが既製品をそのまま使う場合に必要な、最小限の時間と金とは話が違う。
>>19 冗談だと思いたい。本気でそう考えて行動しているなら、まともな社会からは相手にされなくなるべきだ。
>>19 ひどい理屈だ。『強制収容所の看守にならない理由がある？誰かがどうせやるんだから、自分が稼いだ方がマシだろう』と言っているのと同じだ。
>>5 大方の人が『敵か味方か』というチームスポーツ的な発想に囚われていて、双方とも相手チームの全員を文字通り悪魔だと思い込んでいるからだ。
>>41 いや、それは予備選挙に投票するには政党に登録しなければならないからだ。
>>41 こういう馬鹿げた思い込みからそろそろ抜け出せるといいんだけど。
>>11 AI業界で権力を持つ人たちの少なからぬ数が、SF小説と、あるハリー・ポッターの二次創作から道徳観を得ている。どんな考えや思想が重要になるかを予測するのは難しい。
>>44 ごめん、純粋に気になるんだけど、それどういう意味？どのハリー・ポッターの二次創作のこと？
>>26 『法律は変えるために破られる必要があることが多いから』違う。
>>55 図書館に行けば『市民的不服従』についての本を、読まなくても下敷きにして君を押し潰せるくらい集められると思うよ。
>>29 かなり無理のある理屈だ。誰だって携帯電話を持たずに散歩したり会話したりできるし、それで『なんで携帯を持ってないの』なんて聞かれることはない。
>>59 人気のある意見じゃないのは分かってる。でもこれが自分の意見だ。政府がFlockのカメラなんて本気で必要だと思う？Apple、Microsoft、Googleがあるのに。
>>34 それはオープンソースとは呼べない。OSI(オープンソースの定義)には『特定の活動分野に対する差別の禁止』という条項がある[0]。有名な例だとJSONライセンス[1]には『ソフトウェアは善のために使われ、悪のためには使われない』という条項があるため、FSFはこれを『フリーではない』とみなしている[2]。
>>63 防衛関連企業がこの条項で止められると考えるのは滑稽だ。コードは監査できないんだから、どうやって違反を知るんだ？仮に分かったとしても、せいぜい賠償金止まりだろう。それに、ミサイルがGNU/Linuxで動いていないと本気で信じているなら、いい橋を売ってあげよう。
>>63 RMSに、GNUソフトウェアが軍事・監視システムで使われていることについてどう思うか、もしやり直せるなら、そうした用途を禁じる条項をOSSライセンスに盛り込めるようにするか、メールで聞いてみようかと考えたことがある。
>>34 これは実効性がないと思う。政府の秘密プログラムが変な条項に違反する形でオープンソースコードを使ったからといって、それで訴えるつもりか?
>>65 その通り、政府が訴えられる根拠となる行為をしたら市民は政府を訴えるべきだ。ルールを破れば政府は容赦なくこちらのお金を取りに来るんだから、それはお互い様だろう。
>>65 一方で、たとえ強制力がなくても、公にはっきりと立場を表明すること自体に意味があるかもしれない。現代の抗議運動の多くはそれを土台にしている。例えば、前線の軍事的現実には何の影響も与えないのに、どれだけ多くのソフトウェアリポジトリが『ウクライナを支持する』と掲げているか。
※本記事は5ch(Hacker News)スレッド「Civic Hygiene – avoid building technologies that could be used by a police state」より抜粋・要約して構成しています。
まだコメントはありません。