AI各社の「うちのモデルは危険」アピール、海外で規制誘導疑惑の声
姉妹サイトの新着
ニュージーランドの風刺メディア『The Civilian』が「AI各社は自社モデルが人類にとって最も脅威だと競って示している」と皮肉った記事が、海外掲示板Hacker Newsで話題になった。スレでは、CEOたちが自社製品の危険性を熱心にアピールする動きについて「市場を独占するための規制の虜(レギュラトリー・キャプチャー)ではないか」という見方が広がった一方、「何十年も前から本気で信じているだけ」とする擁護論も出た。安全性への懸念を訴えた直後にGPT-6やOpus 5.5を発表する矛盾を指摘する声や、AI開発者を終末論的カルトになぞらえる意見も見られた。
AI各社、自社モデルが人類にとって最も脅威であることを競って示すレースに
出典: thecivilian.co.nz / 元記事はこちら
悪いことが起きたら世間に伝えるべきなんじゃないの?過去には化学会社とかのCEOが失敗を隠蔽したと批判されてたわけだし。(ちなみにこの記事は風刺ネタね、リンク先を見てない人のために)
確かに「AGI」から「脅威」「再帰的自己改善」へと論調が変わった感じがする。規制の虜+中国の脅威+ペンタゴンが最大顧客、あたりが絡んでても不思議じゃない。それに「これは危険すぎるからスローダウンすべきだ」とAI企業のCEO全員が(マスクまで)一斉に頷いてたのは、いかにも仕組まれてる感があった。で、その1週間後には『GPT6出しました!』『Opus 5.5出しました!』ってなるという。
あるいは、何十年も前から本気でそう信じて言い続けてきただけかもしれない。
本気で信じてるなら、やめればいい。全社そろって。でもペース調整とかスローダウンとかしてる兆候はまったく見当たらない、ゼロだ。
OpenAIは『最も高性能な』モデルの訓練を一時停止したと主張している。もちろん、これが誠実な理由によるものだと言いたいわけじゃない、資金面など他の理由の可能性もある。ただ『ペース調整の兆候はゼロ』というのは事実と違うと指摘しておきたい。
最近NYTにこの件の記事が出てた。彼らは全能の機械神の到来を不可避だと信じる終末論的カルトの信者で、唯一の問題は神が『アラインされた(善)』ものになるか『ミスアラインされた(悪)』ものになるかだけ、という考え方らしい。自分たちは善玉のヒーローで、自分たちが失敗すれば悪者たちが『ミスアラインされた悪魔』を呼び出してしまうから、先に『アラインされた神』を作ろうと競争している、という理屈。
どのCEOが『何十年も』言い続けてきたって?それにそうだとしたら、なぜまだ開発を続けてるんだ?子供でも熱いストーブに触ると危ないと学ぶのに、40歳になってもまだ触り続けてるようなものじゃないか。
『銃を持った悪者を止められるのは銃を持った善玉だけ』という有名な標語のもじりで、『神(god)を持った悪者を止められるのは神を持った善玉だけ』ってことか。
この『カルト』ネタは2010年の時点でもう聞き飽きてた(まああの頃はまだ『唯一の真の指導者』がいたけど)し、今も別に新鮮味はない。
AIの終末論者とAI開発者(往々にして同一人物)の振る舞いを、他にどう解釈すればいいのか正直わからない。
この話題の背景と論点
元ネタは風刺サイト『The Civilian』の記事で、事実の報道ではなく皮肉を込めたパロディである点は押さえておきたい。とはいえスレで語られた「規制の虜(regulatory capture)」は実在する経済学の概念で、資金力のある大企業が規制を求めることで、資金力に劣る新興企業やオープンウェイト系の競合を締め出す効果を指す。AI業界では、OpenAIのサム・アルトマンやイーロン・マスクらが10年以上前からAIの危険性に言及してきた経緯があり、スレでも「本気で信じているだけ」という擁護論と「マーケティングや規制誘導が目的」という懐疑論が対立した。また、AI開発者たちを「アラインされた機械神」の到来を目指す終末論的な信仰集団になぞらえる論調(New York Timesが報じたとされる)も紹介されており、業界の安全性議論が宗教的な語り口を帯びている点を指摘する声が海外では出ている。OpenAIが最高性能モデルの訓練を一時停止したとする主張についても、真偽や動機を巡って意見が分かれた。
※本記事は5ch(Hacker News)スレッド「AI companies in race to demonstrate their model most threatening to humanity」より抜粋・要約して構成しています。
まだコメントはありません。