【海外の反応】OpenAIが数学者のオプトアウト済みデータを学習か
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP【画像】笠原桃奈、バッサリ断髪でイケメンに変身
- ニュース速報まとめMAP【速報】車がただの鉄屑に変わる瞬間。名古屋の大雨で被災した連中の「油断」をおまえら笑えるか？
- なんJ傑作まとめアンテナMAP【悲報】ワイ「髪切ってくれてありがと！」店員さん「4000円になります」ワイ「…は？」ｗｗｗｗｗｗｗｗｗｗ
- アニメ声優まとめアンテナMAP【動画】AI生成の「おばあちゃん版GTA」があまりにも面白そうだと話題に！！ AIの進化すげーわ
- VTuberまとめアンテナMAP【にじさんじ】鏑木入院して親知らず3本抜くって言ってたけど無事終わったようで何より
- だめぽアンテナ【ウマ娘】何て羨ましいラプラスなんだ…。
- ヌルポあんてな【衝撃画像】坂口杏里さん、足が壊死しそうだと話題になった画像がこちら←ご覧ください…
- 2chまとめアプリ+【朗報】戦国ボウリングアニメ「Turkey！」の経済効果、市の事業費の10倍になってしまう
- News人【東京外環逆走】女性を釈放、緊急入院「責任能力に問題がある可能性」包丁所持他
- ブルーアンテナ本当のこと嘘と言うとその言葉本当の嘘になる遊び
- ウマーあんてな世にも奇妙な物語でタモリさんの後釜のストーリーテラーは誰がいいと思う？
- ライムアンテナ【悲報】ちいかわのキャラ、序列が確定ｗｗｗｗｗｗｗｗ
- おまとめアンテナ【日常に潜む恐怖】なぜか人気のあるビデオ
- アニメ・漫画アンテナ格闘漫画でベストバウトが主人公VS誰かだったことが一回もないと言う事実
- ハゲリシャス速報【ハゲ速報】ハゲさん、落雷に遭った結果ｗｗｗ（動画あり）
- とろたまヘッドライン【ホロ甲2026】白銀学院高校 １年目の冬～！ダルビッシュうおおおおおおおおおおおおおお
- うほうほあんてな【超速報】アップル、『とんでもない物』を開発してしまう！！！！！
- アナグロあんてな増田紗織アナ ミニスゴルフのお尻！！【GIF動画あり】
- ぶーアンテナ【画像】地雷系メイク卒業した女の子、クッソ可愛くなるｗｗｗｗ
- 2ちゃんねるアンテナ【画像】セクシー女優・大橋未久、ピンと立った乳首がHすぎる
数学者Andreas Thom氏が、OpenAIの数学研究チームが発表した証明が自分の未発表の研究と酷似していると指摘し、議論になった。Thom氏は6月29日にChatGPTでの学習利用をオプトアウトしていたが、OpenAIに問い合わせると「そのようなことは起きていない」と回答されたという。Hacker Newsのスレッドでは、証拠が薄いとする慎重論と、OpenAIの過去の行為を踏まえれば疑うのが当然とする声、さらには人間とAIの共同研究として前向きに捉える意見が並び、議論が分かれた。
OpenAIがまた別の重要な証明を「盗んだ」可能性がある
出典: twitter.com / 元記事はこちら
元の投稿はこちら
https://mathstodon.xyz/@andreasthom/117240535270608201
https://mathstodon.xyz/@andreasthom/117240536885387540
https://mathstodon.xyz/@andreasthom/117240537520615623
https://mathstodon.xyz/@andreasthom/117240535270608201
https://mathstodon.xyz/@andreasthom/117240536885387540
https://mathstodon.xyz/@andreasthom/117240537520615623
>>3
書いたことは全部学習に使われて、いずれ自分に返ってくるってことだな
書いたことは全部学習に使われて、いずれ自分に返ってくるってことだな
>>3
ウケる、Twitterに投稿しなきゃ誰にも気づいてもらえなかっただろうな
ウケる、Twitterに投稿しなきゃ誰にも気づいてもらえなかっただろうな
これはかなり根拠の薄い主張だ。証拠として挙げられているのは「誰かがどこかで、あるときAIとこの話題について議論したと言っている」というだけ。証明を持っていたとすら主張しておらず、取り組んでいたと言っているだけだ
>>11
このAIは、人間の会話データを持っていた問題だけを解けているように見える…もし人間主導じゃないなら、その周辺の問題も解けているはずだ。チャットのデータがあった問題だけじゃなく、空間全体が解けていてもおかしくない
このAIは、人間の会話データを持っていた問題だけを解けているように見える…もし人間主導じゃないなら、その周辺の問題も解けているはずだ。チャットのデータがあった問題だけじゃなく、空間全体が解けていてもおかしくない
credit(功績)の話を一旦脇に置くと、人間とAIの共同作業が発見を本当に加速させているように見える
>>13
俺にはむしろ、膨大な組み合わせ――そのほとんどは馬鹿げたものだが――をしらみつぶしに調べて命題を証明する数学エンジンを作った、というふうに見える。チェスエンジンの数学版だな。少なくとも今回の結果を見る限りはそう思う。解に近い地点から、1000万ドル分の計算をぶん回して最終的な解にたどり着かせている
俺にはむしろ、膨大な組み合わせ――そのほとんどは馬鹿げたものだが――をしらみつぶしに調べて命題を証明する数学エンジンを作った、というふうに見える。チェスエンジンの数学版だな。少なくとも今回の結果を見る限りはそう思う。解に近い地点から、1000万ドル分の計算をぶん回して最終的な解にたどり着かせている
>>13
疑惑が本当なら、この共同作業は長くは続かないだろう。研究者も生活していかなきゃいけないのに、何をやってもラボに先回りされるようじゃ食っていけない
疑惑が本当なら、この共同作業は長くは続かないだろう。研究者も生活していかなきゃいけないのに、何をやってもラボに先回りされるようじゃ食っていけない
この投稿を読んで初めて、自分がよく使っているAIが自分の入力(プロンプト)を学習に使っていると知った。なんで今まで気づかなかったんだろう
>>14
全部だよ。プロンプトも、会話全体も、公開データも非公開データも、利用状況のメタデータも。全部が巨大なデータマシンに吸い込まれていく
全部だよ。プロンプトも、会話全体も、公開データも非公開データも、利用状況のメタデータも。全部が巨大なデータマシンに吸い込まれていく
>>14
AIはHNの投稿でも学習してるぞ。ネットに投稿した他のいろんなものも含めてな
AIはHNの投稿でも学習してるぞ。ネットに投稿した他のいろんなものも含めてな
>>14
いい質問だね。これはよく知られたことのはずだけど、自分なりの答えはある?
いい質問だね。これはよく知られたことのはずだけど、自分なりの答えはある?
この記事は、ツイートやマストドンの投稿よりも論争の経緯と数学的な問題をずっとよく説明している: https://www.science.org/content/article/how-ai-math-breakthr…
>>15
AI企業関連の話は記者があまりにも無批判に受け入れがちだから、できるだけ一次情報を読むようにしてる
AI企業関連の話は記者があまりにも無批判に受け入れがちだから、できるだけ一次情報を読むようにしてる
>>15
グロモフのソフィック性予想については、その記事に一言も触れられてないぞ。読んでもいないのに「よく説明している」ってよく言えるな
グロモフのソフィック性予想については、その記事に一言も触れられてないぞ。読んでもいないのに「よく説明している」ってよく言えるな
「みんなのためにモデルを改善する」のチェックを外さない人が、この数学者も含めて意外と多いのに正直驚いている。OpenAIにこの希望を無視してほしいという話なのか?
>>16
OpenAIの不誠実な行動の実績を考えれば、普段はちゃんとオプトアウトを守っていると思い込むのはお人好しすぎる。この証明を作るためだけに、そのデータを個別に引っ張ってこないとも限らない
OpenAIの不誠実な行動の実績を考えれば、普段はちゃんとオプトアウトを守っていると思い込むのはお人好しすぎる。この証明を作るためだけに、そのデータを個別に引っ張ってこないとも限らない
>>16
それでも学習に使われるのを止められないみたいだ。自分はそのオプションを切ってるのに、プライバシーセンターで「自分のデータを学習に使わない」も別途オフにしないといけない。https://privacy.openai.com/policies?modal=take-control
それでも学習に使われるのを止められないみたいだ。自分はそのオプションを切ってるのに、プライバシーセンターで「自分のデータを学習に使わない」も別途オフにしないといけない。https://privacy.openai.com/policies?modal=take-control
>>16
そのボタン、かなり分かりにくい場所に隠されてるからな
そのボタン、かなり分かりにくい場所に隠されてるからな
OpenAIが、AI予算を作るために人をクビにする企業に対しても同じことをやってくれる日が待ち遠しい
盗みを働く機械は、盗みを働く
mathstodonの投稿へのリンクをもらえる?
ローカルモデルへの助成が必要になるな。実際そうなりつつある。OpenAIやAnthropicのモデルは強力だけど、急速に『信頼の限界線』に近づいている
要約: この数学者は6月29日に学習への使用をオプトアウトし、OpenAIに自分のデータを学習に使ったか尋ねたところ「そのようなことは起きていない」と言われたが、明らかに使われていた
>>27
OpenAIは「会話は読んでいない」と言っただけで、そのデータでモデルを学習していないとは一度も否定していない……つまりもっと悪い
OpenAIは「会話は読んでいない」と言っただけで、そのデータでモデルを学習していないとは一度も否定していない……つまりもっと悪い
この会社が評判を気にして、ZDR(ゼロデータ保持)ポリシーを回避しないなんて本気で信じているとしたら笑える。Appleの社員をこっそり引き抜いて、知的財産や機材を盗ませたことがある会社だぞ。Appleの弁護士すら恐れていないのに、あなたの弁護士なんて怖がるわけがない
もしくは、あなたと競合を始めるかもしれない
でもそれは盗用そのものを防ぐわけじゃなくて、後で戦いやすくするだけだ
それこそがarXivの存在意義だろう。査読プロセスをめぐっては昔から同じ問題に直面してきた。特に目新しい話じゃない
プロンプトにも電子透かしを入れられたらいいのにな
他サイトの新着
>>14
ここ数年のAIをめぐる議論をちゃんと追っていなかったからじゃないか?AIが手に入る限りのデータを不誠実に学習に使っているという話は、この数年ほぼ毎週ニュースになっている
ここ数年のAIをめぐる議論をちゃんと追っていなかったからじゃないか?AIが手に入る限りのデータを不誠実に学習に使っているという話は、この数年ほぼ毎週ニュースになっている
技術や発見をめぐる議論が丸ごと2つの民間企業の手に握られている今、学生たちが学界を知識の聖地だと思わなくなったとしても責められない
気になるんだけど、純粋数学の大学院を目指している人たちは他にどんな選択肢を検討してるの?
>>58
Anthropicは彼らに「配管工はいい仕事だ」と言ったらしいよ
Anthropicは彼らに「配管工はいい仕事だ」と言ったらしいよ
HNは通りすがりの低評価がすごく多いよな。ほんと残念だ
>>70
低評価機能は、個人攻撃をしたい衝動を吸収する「緩衝材」として働いているのかもしれない。その利点を別にすれば、低評価機能は議論の場という発想そのものと矛盾しているように思う。同意するよ
低評価機能は、個人攻撃をしたい衝動を吸収する「緩衝材」として働いているのかもしれない。その利点を別にすれば、低評価機能は議論の場という発想そのものと矛盾しているように思う。同意するよ
>>40
AIが証明したとされる数学的なブレイクスルーはこれまでに6〜8件ある。そのうち学習データについて公に疑惑が持たれているのは2件だけだ
AIが証明したとされる数学的なブレイクスルーはこれまでに6〜8件ある。そのうち学習データについて公に疑惑が持たれているのは2件だけだ
>>74
たった2件?それは全然少なく見えないけどな
たった2件?それは全然少なく見えないけどな
この話題の背景と論点
OpenAIには「モデル改善のために学習させない」設定とは別に、プライバシーセンターの「自分のデータを学習に使わない」という設定があり、両方を切らないと学習対象から外れない可能性があるとスレッドで指摘されている。今回の疑惑は「ソフィック性予想」という未解決の数学問題に関するもので、OpenAIの数学チームが発表した証明が、オプトアウトしていたはずの数学者の未発表の議論と酷似していた点が焦点になった。Hacker Newsでは、証拠が「誰かが議論したと言っているだけ」で弱いとする指摘と、OpenAIが過去にApple社員を引き抜いて情報を持ち出させたとされる経緯を踏まえ疑うのが自然だとする声が対立した。AIが「証明した」とされる数学の成果はこれまでに6〜8件報告されているが、学習データ流用の疑いが公になっているのはそのうち2件にとどまるという指摘もあった。
※本記事は5ch(Hacker News)スレッド「OpenAI might have stolen another major proof」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。