Anthropic CEOが「AI開発を減速すべき」海外掲示板で賛否両論に
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP昔2chで逮捕されたわ
- ニュース速報まとめMAP【衝撃】くら寿司「ちいかわ」コラボ中止の原因となったグッズ、メルカリで今も多数出品…対応に疑問の声
- なんJ傑作まとめアンテナMAP【画像あり】お前らが好きそうなコスプレイヤー見つけたｗｗｗｗｗｗｗｗ
- アニメ声優まとめアンテナMAP【動画】最近の日本のアニメ、ペド向けすぎて外国人が困惑するwwww
- VTuberまとめアンテナMAP【にじさんじ】もねちずっと士郎と凛の選択を杞憂してる
- だめぽアンテナ【悲報】ヤニ猫のカンサイねこ、人間ち〇ぽに堕ちてしまうｗｗｗｗｗ
- ヌルポあんてな未開封のFF7、まさかの2840万円ｗｗｗｗｗｗｗｗｗｗｗｗ
- 2chまとめアプリ+【悲報】転売ヤーの言い分 「こちらも相当努力している」「株も不動産も同じ。この行為が悪なら何も売れなくなる」←これｗｗｗｗ
- News人左派のドル箱だった『赤い羽根募金』に破綻の危機、今までは自動的に金が流れ込んでくる状況だったが……他
- ブルーアンテナ女店員ってイケメンにだけ馴れ馴れしく接するよな
- ウマーあんてな超絶コミュ症でチビでオタクでブサイクな兄、一芸で和風美人のお嬢様の心を盗んでしまう……..
- カオスアンテナJR東運転士、車掌との打ち合わせを3分半後に失念したまま乗せずに発車
- 海外反応・海外ニュースまとめ【海外の反応】1300年・52代続いた世界最古の宿→"同じ血筋"の中身は代々の養子だった
- おまとめ【困惑】なぜ江口寿史は炎上して荒木飛呂彦は炎上しないのか？
- 海外の反応ジャーナル「ゼルダの伝説 時のオカリナのスイッチ２版と3DS版を比較してみた」海外の反応
- アニメ・漫画アンテナ初代のガンダムって作中でパワーアップ機体出さなかったのなんでなんや？
- ハゲリシャス速報【ハゲ速報】ハゲさん、落雷に遭った結果ｗｗｗ（動画あり）
- 即まとch原神、周年生放送で限定★5配布とSwitch版発表 5ch「ゼルダの上位互換」
- おまとめアンテナ母親だと思っていた人が実は血縁の全くない他人で、実父母が揃ってクズだと発覚…DV不倫の実父が前妻に押し付けた衝撃の出生の秘密を知り、春からの大学進学を前に心がぐちゃぐちゃになった
- リアルな海外の反応アンテナ【PICK UP】【ワールドサッカーファン 海外の反応】海外「仰せのままに」ムバッペが明かした独裁者ミームの海外大騒ぎ！（海外の反応）
AnthropicのCEOダリオ・アモデイ氏が、自身のブログ『We must pace the frontier』でフロンティアAIの開発ペースを落とすべきだと訴えた件をBBCが報じ、Hacker Newsで大きな話題になった。前日にはOpenAIも先端AI開発の減速を検討中だとBloombergが報じたばかりで、両社の動きが重なったことも議論を呼んだ。スレでは「資金繰りの厳しさやIPOに向けた印象操作では」という懐疑的な見方が目立つ一方、「フロンティア各社がアラインメントで協調するのは良いことだ」という肯定的な声や、「中国・ロシア・北朝鮮が自主規制しない以上、地政学的な事情も考慮すべきだ」という指摘も出ていた。
Anthropicのボス、ダリオ・アモデイ氏がAI開発の減速を呼びかけ
出典: bbc.com / 元記事はこちら
Googleは最先端モデルのリリースを遅らせるという点でOpenAIやAnthropicよりずっと先を行ってたよ(冗談です。自分はGemini Flash 3.8を愛用してます)
半年続いた『Mythos』を巡る煽りキャンペーンのあとでは、この人の話を真剣に受け止めるのは無理だな
どのラボもLLMアーキテクチャでできることの限界に達していて、次の大きなブレイクスルーを探すための10年間に費やす言い訳が欲しいだけ、という感じがする
>>8『LLMアーキテクチャでできることの限界』ってセリフ、もう3年前から言われ続けてるよね。それでも地球は動く(Eppur si muove)…
しかもSamとElonがDarioに同意してリツイートしてる。どっちがより奇妙なのか分からない
>>11 まあ、頭打ちになったことをマーケティングする一つの手ではあるね
>>11 みんな同じ問題を抱えてる。推論では儲かるけど、学習では儲からない
>>11 クラッシュのリスクを分かっていて、逃げ道が必要ってことなんだろうね
『うちの資金燃焼率はヤバい、みんなで一旦落ち着いて、堀を固めて今後50年は規制の虜化とレントシーキングをやろう』――恐怖は今でも、自分が企んだ計画に大衆を同意させる最良の道具だ
数ヶ月前に書いたコメントをもう一度言うけど、今も本当だと思う。頼むよDario、分かったから。IPOのための注目が欲しいんだろ
昨日出てた関連記事:『OpenAI、先端AI開発の減速を検討中とSam Altmanが社員に伝える』(Bloomberg記事とHN投稿へのリンクあり)
彼の安全性への懸念が、こんなにも頻繁に彼のビジネス上の利益と一致するとは、奇妙な偶然だね
一次ソースはこちら:darioamodei.com『we-must-pace-the-frontier』
この手の連中は誰も信用しない。それが自分のルールだ
まるでアントネッリが『飛ばしすぎだ、みんな減速しろ』と言ってるようなものだ!
これは良いことだ。最先端のラボ同士が、アラインメントをちゃんとやり遂げるまで協力すべきだ
>>25『正しい』なんてものは存在しない。アラインメントというのは要するにイデオロギー的な一致の話だ。何が『正しい答え』かを判断する人は常にいて、その答えはシリコンバレーと中国、ヨーロッパでは違うものになる。例えば『フランス革命の原因は何か』という問いを考えてみてほしい。技術的に正しい答えは複数ありえるが、どれが強調されるかはそのイデオロギーが宿る場所次第だ
>>54 自分が言ってるアラインメントはそういう話じゃない。100万体のエージェントを立ち上げたときに、それらが意図的に重罪を犯し始めないかどうか、という話だ
>>54 確かにそれはイデオロギー的な一致を意味する。でも答えを空欄のままにはできない。何らかのイデオロギーを選んで組み込む必要があって、どれを選ぶにしても大きな影響が出る
意訳すると:『うちの堀は再構築できるより速く蒸発している。この技術には現実的な技術面・スケール面の限界があるから、他社を減速させつつ自分たちは値上げして利益を出したい』ってことだ
一つ聞いてほしい。もし本当にAIによる大量殺戮という仮定の話をそんなに心配しているなら、まずは今現実に、自社のモデルが地球上のある戦争地域で人を殺すために使われているという事実に対して、何か具体的な対応をすべきじゃないか
>>28 それは実質的な議論というより、耳当たりのいいフレーズに近い。もし『AIが人類を“全員”殺す』ことを心配しているなら、そこに集中すべきなのは当然では?
>>55 誰も殺さなければ、全人類を殺すこともできない
本人は減速するつもりなのか?それとも他社にだけ減速してほしいだけなのか
GPT-3が『危険すぎてリリースできない』と言われてたの覚えてる人いる?
つまりこういうことだ。『てっぺんにいる男が、もう誰もてっぺんを目指すべきじゃないと言っている』
OpenAIからのプレッシャーを感じてるのか、Dario?
これで2022〜2023年のLLM競争は終わりなのか?一種の休戦みたいなもの?西側以外の勢力がこれに同意するのかどうか気になるところだ
『今後の性能の頭打ちはすべて、あなたの安全のために計画されたものです』
>>3『お金』というものがあってね。彼らは社会や文明にどんな代償を払わせてでも、その“お宝”が欲しいんだよ
他サイトの新着
>>7 AIはアメリカの3社だけの話じゃないからだよ。自分たちが自主規制しても、中国やロシア、北朝鮮は絶対にしない。だから地政学的な状況も考慮に入れないといけない
>>40 正直な話、もしOpenAIとAnthropicが2019年から2024年にかけてLLMのスケーリングと収益化をあそこまで加速させていなかったら、中国やロシア、北朝鮮が自発的にLLM革命を起こすまでには何年もかかっていたはずだ。ほとんどの技術分野で、中国は高速な後追いコピーが非常に得意な一方、まだ誰も問いすら立てていない問題を解くのは相対的に苦手だ
>>11 これは普通、非競争的なカルテル行為と見なされるやつだ。AmodeiとMusk、Altmanより信用できない人物を3人挙げろと言われても、正直かなり困る
>>11 しかもChamathがオープンソースを擁護してるように見える。生きててよかったと思う日だな
>>45 それに輪をかけて悪いことに、学習は蒸留できてしまう
>>66 それに大きなモデルや大量の学習データを投入しても収穫逓減になっているし、そもそもこれ以上の学習データがもう残っていない
この話題の背景と論点
アモデイ氏のブログ記事のタイトル「We must pace the frontier」は、AI開発の「ペース」を業界全体で意図的に管理すべきだという主張だ。背景には、フロンティアモデルの学習コストが膨張する一方で、推論(実際にモデルを使わせるサービス)でしか十分な利益が出ていないという構造的な問題がある。スレで割れたのは主に、この減速論を「純粋な安全性への配慮」と見るか、「資金繰りの厳しさや競合圧力を隠すための建前」と見るかという点だ。GPT-3が「危険すぎる」とされた過去の経緯や、OpenAIが前日に同様の方針を示したタイミングの一致も、懐疑論を後押しした。一方で見落とされがちなのは、業界全体で自主規制しても、規制の枠外にある国や勢力までは止められないという地政学的な制約で、これは業界内の競争論とは別の論点として扱う必要がある。
※本記事は5ch(Hacker News)スレッド「Anthropic boss Dario Amodei calls for AI development to slow down」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。