【海外の反応】ChatGPTは「ぼやけたJPEG」、AIの自己学習劣化に懸念の声
姉妹サイトの新着
SF作家テッド・チャンが語った「ChatGPTはウェブのぼやけたJPEGだ」という比喩をきっかけに、海外のマストドンで「モデル崩壊(model collapse)」をめぐる議論が広がった。AIが生成した文章や画像がネット上に増え、それが次世代AIの学習データとして取り込まれることで、出力の質が世代を重ねるごとに劣化していくという現象だ。スレでは、劣化が広く知られればAIへの不信が強まるはずだという見方と、巨大テック企業がその事実を隠そうとするだろうという見方が交差し、さらにデータセンター建設に反対する環境活動家の存在も話題に上った。
この話題の背景と論点
「モデル崩壊(model collapse)」は実際に機械学習の研究で指摘されている現象で、AIが生成した文章や画像がネット上に増え、それが次世代モデルの学習データに混入することで、世代を重ねるごとに出力の多様性や精度が落ちていくというものだ。2023年以降、複数の研究チームがこの問題を論文で報告している。スレの出発点であるテッド・チャンの「ChatGPTはウェブのぼやけたJPEGだ」という比喩も、2023年にニューヨーカー誌に掲載された本人のエッセイに基づく実際の発言である。一方で、モデル崩壊がどの程度実用上の脅威になるかは研究者の間でも見解が分かれており、合成データの混入率や学習手法次第で影響の大きさは変わるとされる。スレ内で出た「巨大テック企業が劣化を隠そうとしている」「環境活動家がデータセンターに反対している」といった発言は、投稿者個人の見立てであり、この会話だけでは裏付けのある事実として確認できない点には注意したい。
※本記事は海外掲示板 Mastodon techhub.social（IT） のスレッド「Author Ted Chiang has observed that ‘ChatGPT is a blurry jpeg of the web’; incre」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。