AIの再帰的自己改善「そう簡単には来ない」海外で議論に
姉妹サイトの新着
他サイトの新着
- 5chまとめMAPおにぎりの具材ランキングTOP38！好きな具はズバリどれ？ 第2位：辛子明太子（736票）
- ニュース速報まとめMAP【悲報】岐阜のケーキ屋でおっさん大暴れｗｗｗ70代爺さんの行動に新事実
- なんJ傑作まとめアンテナMAP【悲報】現代社会が生きづらい理由を徹底考察してみたんやがｗｗｗｗｗｗｗｗｗｗ
- アニメ声優まとめアンテナMAP【悲報】生成AI、ついに漫画家を終わらせる・・・・
- VTuberまとめアンテナMAP【Vtuber】ストグラ切り抜きのサムネにしずりんが載ってるの変な感じや
- だめぽアンテナ【警告】日本の地方、ガチでヤバくなりそう・・・・・
- ヌルポあんてな海外「日本とだけは絶対に争うな」 日本の日常にとんでもない物が紛れ込んでいると話題に
- 2chまとめアプリ+寿司に醤油かけまくり奴wwwwwwwwwwwwwwwwwwwww
- News人「玉城デニー陣営、ホンマヤバい」と敗北時の光景に目撃者絶句、本来なら味方のはずの琉球新報に当たり散らして……他
- ブルーアンテナカースト最上位ギャルが元陰キャの幼馴染だったので教育する
- ウマーあんてなフロムゲーの謎の中毒性
- 即まとchGTA6、日本のPSストアランキングで伸び悩み 二桁順位に
- おまとめ【画像】デカすぎるテレビ届いたwww
- カオスアンテナブラマヨ吉田「チー牛って何？何が悪いの？」
- 憂国あんてな|●|玉城デニーの選挙総括が惨すぎる模様、想像を上回る他責オンパレードすぎたせいで周囲は……
- リアルな海外の反応アンテナ【PICK UP】【はろわるど】海外の反応：岡本和真のことを本場のメジャーファンはどう思っているの？
- ライムアンテナ【悲報】しずかちゃん、暴力的過ぎる
- とろたまヘッドライン【NBA】2026ニックスと、2017ウォリアーズが激突したらどうなるか
- うほうほあんてな既婚者「子供かわいい」独身「金かかるじゃん」←会話が成立しない模様
- アナグロあんてな自国の役人のヘマでフィリピン国防相に恥をかかされた中国、会見で記者にその件をいじられた結果……
米Technology Reviewが「AIの再帰的自己改善はそう簡単には来ないかもしれない」とする記事を掲載し、Lemmyのc/technologyで議論になっていた。多くのユーザーは「当たり前の結論だ」と皮肉る一方、技術的な観点からの反論も出た。AIの性能向上は指数関数ではなく、いずれ伸びが止まる「シグモイド曲線」を辿るという見方や、独創的なタスクは今の強化学習の枠組みでは学習させにくいという指摘が交わされた。さらに、検証に使われたモデルやツールが型落ちだとして、実験手法そのものを疑問視する声もあった。
AIの再帰的自己改善は、思ったほど早くは来ないかもしれない
出典: technologyreview.com / 元記事はこちら
この話題の背景と論点
「再帰的自己改善」は、AIが自らの性能を使って自分自身を改良し続けることで能力が急速に高まるという、AI安全性の議論でよく語られる概念で、その進み方の速さが今回話題になった記事のテーマだった。スレで意見が割れたのは主に性能向上の「カーブの形」で、指数関数的に伸び続けるという見方に対し、多くの参加者は自然界の変化の多くが最終的に頭打ちになる「シグモイド曲線」を描くと指摘し、どちらの形になるかは変曲点を過ぎるまで見分けがつかないとした。また、独創的なタスクの学習が難しいのは、現行の強化学習の枠組み自体の制約によるという技術的な指摘も出ている。一方で、検証に使われたモデルやツールがすでに型落ちだという批判もあり、記事の結論そのものより実験設計の妥当性に疑問を投げる声が目立った点は、見出しだけでは伝わりにくい部分といえる。
※本記事は5ch(Lemmy c/technology)スレッド「AI’s recursive self-improvement might not come so quickly after all」より抜粋・要約して構成しています。
まだコメントはありません。