AIの安全性を審査する側を誰が審査するのか、海外で議論
姉妹サイトの新着
他サイトの新着
- 5chまとめMAPおにぎりの具材ランキングTOP38！好きな具はズバリどれ？ 第2位：辛子明太子（736票）
- ニュース速報まとめMAP【沖縄】ちょｗｗｗ古謝玄太が42万票で沖縄県知事当選ｗｗｗ玉城デニー涙目ｗｗｗ
- なんJ傑作まとめアンテナMAP【試合結果】ヤクルト0-3広島 完封負け…増居4回2失点
- アニメ声優まとめアンテナMAP【悲報】AI、ついに漫画家を終わらせる
- VTuberまとめアンテナMAP秋田県ご当地VTuber・久保田まつり、新曲を9/12にリリース 演歌や明るいJ-POPまで4曲を歌唱
- だめぽアンテナ【悲報】ヤニ猫のカンサイねこ、人間ち〇ぽに堕ちてしまうｗｗｗｗｗ
- ヌルポあんてなベイスターズ公式が大炎上「テメーらが今日負けときゃ阪神が首位陥落してんのにバカじゃねえんか」
- 2chまとめアプリ+PC/PS5『KEMURI』を開発する中村育美氏「(Xbox版の発売は)ない。人命が第一なので」 → Xboxユーザーガチギレ
- News人【悲報】AI、ついに漫画家を終わらせる他
- ブルーアンテナカースト最上位ギャルが元陰キャの幼馴染だったので教育する
- ウマーあんてな海外「オフシーズンに富士山を登ろうと思うんだけど」登山経験ゼロの投稿主に外国人が猛反発「迷惑をかけるな」【海外の反応】
- 2ちゃんねるアンテナ【画像】地下アイドルのファンイベント、ほぼ風俗みたいになってしまう
- まとめクローラ【悲報】実家暮らし弱者男性「おじさんもちいかわ好きだよ^^」→批判殺到・・・・・(※画像あり)
- ワロタあんてな【画像】堀大輔さん、なんかドラえもんの道具みたいな椅子を使用して話題になってしまう←ご覧くださいw w w w w w w w w w
- 海外の反応ジャーナル「日本の携帯電話が世界を席巻できなかったのはなぜなのか？」海外の反応
- Ask Reddit まとめ海外「チョコバー1本が3ドル79セント。さすがにどこかで線引きしないと」高すぎて手が出ない”いま欲しいもの”、一番多かった答えは”リタイア”だった
- ぷぅアンテナ【歓喜】ワイのパソコン履歴「おねショタ 実姉」がバレた原因がこれｗｗｗ 他
- ２ちゃんねるまとめるまとめ「私の差別はよい差別。他人の差別は許さない」朝日執筆陣もあきれた東大教授のダブスタ。典型的パヨク
- 5chnavi【悲報】AI、ついに漫画家を終わらせる
- 勝つるあんてな！今週のワンピース、遂に説明だけで1P使う
Hacker Newsで、AIの「アライメント(安全性の調整)」を担う人たち自身を誰が監視するのか、と問いかけるブログ記事が話題になった。コメント欄では、アライメントとは体のいい検閲の言い換えではないかという不信感や、AI安全業界も結局は利益優先で不都合な規制は通らないという皮肉が相次いだ。一方で、元記事にある「新技術による終末論的な予測はこれまで全部外れてきた」という前提に対しては、産業革命期の劣悪な労働環境を「局所的な終末」の実例として挙げる反論も出て、歴史からの類推そのものが議論の的になった。
アライナー(整合性の番人)たちを、誰が整合させるのか?
出典: prestonbyrne.com / 元記事はこちら
この話はとっくに決着してると思ってた → https://alignmentalignment.ai/
『アライメント』なんて、ジョージ・オーウェル的な『検閲』の言い換えに過ぎない。しかもこの検閲は『話してはいけないことのリスト』が決まっているわけじゃなく、大規模な著作権侵害には平気な顔をしている営利AI企業の『倫理観』というふわっとした基準で決まる。そんな企業の『倫理』を信用しろって? 冗談じゃない。だから自分でモデルを動かしている。
『答えは誰にも分からないし、歴史も参考にならない。新技術による終末論的な予測はこれまで全部外れてきたという点を除いては』とあるが、歴史は技術による『終末』こそ見せていないものの、『人間の苦しみが増大した事例』ならいくらでも見せてくれる。
AI開発を規制するのに、必ずしも出版物やデータ分析技術そのものを対象にする必要はないのでは。プロセスや手続き、人など、規制の対象は他にもあるはずだ。
答えは『誰も審査していない』で決まりだろう。整合性を審査する側は政府案件も含めて利益に強い関心を持っている。だから利益の邪魔になるものはリリースされない。
誰も減速なんて望んでいない。全部たわ言だ。メディアが取り上げるためのネタでしかなく、実際の影響はない。みんな世界を支配したいだけで、それ以外はどうでもいいと思っている。これを真剣な問題だと素朴に信じている人がいるのが不思議だ。
はいはい、また効果的利他主義(EA)界隈が金と社会的地位を稼ぐ新しい手口ね。こういう『内部監査官』は結局身内や友人で固められる。政府部門に配置したところで、内輪の人間が回転ドアのように出入りするだけだ。
その理屈だと、どんな馬鹿げた仮説でも『否定を証明できない』という理由だけで真剣に取り合わなければならなくなる。
いや、それは成り立たない。『終末論的な仮説』に反論する材料は他にいくらでもあっていい。ダメなのは『今まで起きたことがない』という論法だけだ。
もしかしたらシルル紀仮説(過去に高度文明が存在した説)が正しくて、過去の予測は実は当たっていたのかもしれない。
そもそも筆者の前提が正しいのかも怪しい。産業革命だって、危険な工場で薄給の労働を強いられた人たちにとっては十分『終末』的だった。
これはもちろん『人間原理』として知られているやつだ……
その通り。『そんなことが起きる証拠はない』という自信満々だが誤った前提が崩れれば、この記事の残りの主張はすべて成り立たなくなる。
1年後の光景を予言しよう。『このAI関連事故で死んだのはたった1億人だ。なぜ終末論で人を煽るんだ? そんな根拠はどこにもない。OpenAIがサンドボックスの管理を怠っただけの話だ。ちゃんと使えばAIは危険じゃない』
この話題の背景と論点
「アライメント」は、AI企業が自社モデルの出力を人間の価値観に沿わせる技術的な取り組みを指す言葉だが、近年はAI企業自身が規制のあり方に強い影響力を持つ構図が指摘され、「安全性を審査する側の利益相反」への懐疑論が根強い。元記事はAI規制論に批判的な立場からの寄稿とみられる。スレで意見が割れたのは、「技術による終末論的な予測は歴史上すべて外れてきた」という前提の妥当性で、反論側は産業革命期の労働環境などを「局所的な終末」の実例として挙げた。これはAIリスクをめぐる議論で繰り返し出てくる「立証責任はどちらにあるのか」という対立の縮図でもある。
※本記事は5ch(Hacker News)スレッド「Who Aligns the Aligners?」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。