AmazonがSonnet運用やめ自社小型AIに切替、海外で「宣伝では」の声
姉妹サイトの新着
AWSの開発者向けブログ「Strands Agents」が、社内のタスク振り分け処理をClaude Sonnet 4.6から自社開発の軽量モデル「Strands Decider」に切り替え、コストを大幅に削減したと発表した。これがHacker Newsで話題になり、「わざわざ複雑な仕組みを使わずHaikuに変えるだけで同じ節約ができたのでは」「結局これは自社モデルの宣伝では」といった指摘が相次いだ。一方で、単純な分類作業に巨大なLLMを使う流れ自体への疑問や、小型・専門特化モデルへの回帰を「AIの歴史は一周する」と捉える声も見られ、技術的な妥当性と宣伝臭さの両面で論争になった。
AmazonがSonnet 4.6をStrands Deciderに置き換えて数百万ドルを節約
出典: strandsagents.com / 元記事はこちら
それ言おうと思ってた(ちょっと言い過ぎかもしれないけど)、BERTモデルならもっと速くて、メモリもさらに少なく済むと思う…
ポイントは、その一周が10年じゃなくて数週間で終わることだよね
ヨーロッパのGDP級の投資がこの業界に注ぎ込まれてると、物事がどれだけ速く動くか驚くと思うよ
Strands AgentsはAWSが公開したオープンソースのモデルで、Amazonが外部のスタートアップに金を払ってるわけじゃないってところを見落としてると思う
そこはちょっと混乱してるね。Strands Agentsはエージェント用のSDKで、Strands Deciderが判定モデルの方だよ
そう、要するにこれは自社導入をケーススタディにした広告みたいなものだね
AWS Bedrock上で動かしてるなら、新しいAnthropicモデルがバッチAPIに対応してないのが理由じゃないかな
コメントする前に、せめてこのスレの元記事を数段落読んでくれよ 🙂
おもしろいね!自分もログの行をベクトル化して『ブラックスワン』を探すってアイデアを考えたことがある。ローカルで動く小さいモデルで十分そう。あとはPCAとSVM、昔ながらの手法でうまくいくと思う。誰かがどこかでやってるはずだけど、見たことがないな
テック業界って、ファッション業界とそんなに変わらないよな
これは単なるAIグリフト(便乗商法)で、知識のない煽り屋の話だよ。分類器としてLLMを使う理由なんて本来ゼロなのに、技術知識のないAI信者は、1000倍遅くて1000倍高くついても構わず押し進めようとする
分類にもっと賢いものを使う十分な理由はあるよ。例えばSVM+TF-IDFはすごく速いけど、時々ひどい誤分類をして、そのシステムじゃどうにも直せないことがある(神学の学位を示す略語が何かの分類に紛れ込んだ件を思い出すけど、あれと似た話)
他サイトの新着
そうそう、何にでもチケットが切られるんだよ。何十年も前に退職した人の名前で今もチケットが起票されてたりする
うちの会社も同じで、エンジニアリングへのリクエスト(アラーム、セキュリティ、バグ、カスタマーサポートの昇格対応)は全部チケットになるよ
UFO・ビッグフット・ポルターガイストが好きな連中もいるからな。駐車場の地面にある怪しいシミの理由について彼らの説にちゃんと付き合わないと、問い合わせの列がパンクすることになる。もし上司がそのクラブの会員だったら…もうその部署は察してくれ
AWSが管理するVPNのポイントツーポイント接続を使ってるなら、使わなくなったVPNインスタンスごとに、ゴミ箱に入れろってメールが死ぬまで毎週届くはずだから、彼らの気持ちはわかるよ
『盆栽+安いモデル』が、彼らが実際に使った『Amazon内部で動かせる安価なオープンソースの判定モデル』という解決策より優れてる理由がわからない
これについてもっと詳しく読めるところはある?
数百万の2%…今のところはね。今後の成長の余地も考えると
小規模でオープンソースの、高速な実験・ローカル開発・イノベーションに最適化された判定モデル…でも、ステータスは最高だよな!
自分も最近同じことを考えてた。巨大なインフラが必要な、こういうでかくて汎用的なモデルより、デバイス上で動く小型の専門モデルの方がずっと理にかなってる気がする
『作るか買うか』じゃなくて『買うか買うか』の時代に戻りたいよ
IT部門にノートPCの修理やロッカーの割り当て、デスクの暗号ロック解除を頼むだけでもチケットが切られるからね。オフィスのトイレが詰まった時でさえチケットが起票されるよ
この話題の背景と論点
この件の発端は、AWSの開発者向けブログ「Strands Agents」が投稿したケーススタディで、社内のタスク振り分けを担っていたClaude Sonnet 4.6を、AWSが公開した軽量な判定モデル「Strands Decider」に置き換えてコストを大幅に抑えたという内容だった。スレで意見が割れたのは、この仕組みを「画期的な工夫」と見るか「AWSが自社製品を売り込むための宣伝」と見るかという点で、名前の似た2製品「Strands Agents」(エージェント用SDK)と「Strands Decider」(判定モデル)を混同するコメントも目立った。背景として押さえておきたいのは、単純な分類作業に巨大な汎用LLMを使うべきかどうかは以前から議論の的になっており、SVMやBERTのような従来型の手法の方が速く安く済む場面が多いという技術的な前提がある点だ。新しいSonnetに単純にアップグレードしなかった理由として、Bedrock上でのバッチAPI未対応が挙げられていたが、これは一コメントの推測であり元記事で確認された情報ではない。
※本記事は海外掲示板 Hacker News のスレッド「Amazon saves millions by replacing Sonnet 4.6 with Strands Decider」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。