パブリックドメインだけで学習したLLMはあるか 海外掲示板で議論
姉妹サイトの新着
海外のQ&Aコミュニティ Lemmy の c/nostupidquestions で、「パブリックドメインやオープンライセンスのデータだけで学習したLLMは存在するのか」という質問が投げかけられ、議論になった。回答ではNVIDIAのNemotronやスイスのApertusが実例として挙げられたが、いずれも著作権的に完全に「クリーン」と言い切れるかは疑問視された。データセットを公開している点を評価する声と、大企業は訴訟リスクを単なる「経費」として割り切るだけだという皮肉な指摘が交わされ、本当にクリーンなLLMが存在するのかという点で意見が分かれている。
https://huggingface.co/collections/nvidia/nemotron-pre-training-datasets
👎 https://huggingface.co/datasets/nvidia/Nemotron-CC-Code-v1
これCommon Crawlを使ってて、パブリックドメインのライセンスでフィルタリングしてるとは書かれてないよ。たぶん良くないデータセットだと思う(個人的な意見で、弁護士じゃないし、法的なアドバイスでもないけど)。
それに、オープンウェイトのモデルの中でも結構いい方だよね。
そのデータセットに著作権のある素材が入ってたら、NVIDIAは公開した時点で明確な著作権侵害をしたことになる。NVIDIAの弁護士がきちんと確認してるはずだと信じたいね。
>NVIDIAの弁護士がきちんと確認してるはずだと信じたいね
そうかもしれないけど、個人なら「法律に合っているか」で判断するところを、大企業は「どこまでやれば逃げ切れるか」で判断するんだよ。罰金だけで済むなら、それもただの経費として割り切ってやる。
地球上で一番金持ちの企業が、著作権法みたいな小さなものを怖がると本当に思う?
https://arxiv.org/abs/2509.14233
👎 怪しいと思う: https://github.com/swiss-ai/apertus-tech-report/issues/10 (弁護士じゃないし、法的なアドバイスでもないけど)
一つでも出てきたら、みんなで検証できるようになる。それは興味深いよね。(基本LLM嫌いな立場から言うけど、みんなにとって問題の少ない解決策が広まるのは見てみたい。たいていの人はそれが改善だって認めると思う)
試したことないんだけど、使ったことある? コードも書けるの?
自分では試してないけど、大きい方のモデルは評価がいいらしい。ただハードウェア要件的に、一般の人には手が届かないかも。だいたいオープンウェイトのモデルは、大手のクローズドなフロンティアモデルより3〜6ヶ月くらい遅れてる感じ。
この話題の背景と論点
LLMの学習データの著作権問題は各国で訴訟が相次いでいるが、学習データセットの構成を完全に公開しているモデルは実際には少ない。NVIDIAのNemotronはデータセット構成を公開しており検証可能だが、Common Crawlを含むため「パブリックドメイン限定」とは言えないとスレ内で指摘されている。スイスのApertusも学習データの出典を論文で示しているが、その裏付けには疑問が出ていた。議論が割れたのは「データセットを公開していること」と「権利処理が済んでいること」は別問題だという点で、前者だけでは著作権的な安全性を保証しないという指摘がやり取りの軸になっている。読者が混同しやすいのは、オープンウェイト(モデルの重みが公開されていること)と、学習データが著作権的にクリーンであることは全く別の話だという点だ。
※本記事は海外掲示板 Lemmy c/nostupidquestions のスレッド「Are there any llms made from 100% public domain / permissively licensed training data?」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。