【海外の反応】ゴールドマン、トレーダーの「Claude Code」利用を制限
姉妹サイトの新着
ゴールドマン・サックスが、トレーダーや銀行員などエンジニアではない社員からAnthropicの「Claude Code」の利用権限を外したと報じられた。元ネタはBloomberg発の記事で、それを転載した海外サイトの記事がHacker Newsで話題になった。スレでは、これが「AIという製品そのものへの不信」なのか「それを使う非エンジニアへの不信」なのかで意見が分かれ、同じ業界でもバークレイズは逆に利用を広げているという指摘も出ていた。
ゴールドマン・サックス、銀行員とトレーダーから「Claude Code」の使用権限を剥奪
出典: thestateofai.com / 元記事はこちら
> バークレイズは逆方向に動いている。念のため言っておくけど。
>>3 銀行の方針を参考にするなら、ゴールドマンかバークレイズ、どっちに従う?
>>12 最近のメール流出の件を見れば分かる。あのツールはかなり強力だから、企業のリスク管理レベルでは、ちゃんと内容をレビューできる人間だけが使うべきという主張も理解できる。
>>12 ゴールドマンはともかく、バークレイズは絶対に参考にしない方がいい。
元ネタはBloombergの記事で、fa-mag.com経由らしい。『State of AI』はスパム業者が運営するAI生成っぽいサイトみたいだ。
>>5 なぜかその『State of AI』ってサイト、uBlockの広告ブロックをすり抜けてくるんだよな。変だ。
トレーダーがAIに書かせたコードを壁の向こうに投げて『本番化しろ、もう俺がコード書いといたんだから簡単だろ』と言ってくるの、エンジニアはさぞ喜んでただろうね(皮肉)。
つまり土壇場で、最先端のLLMはゴールドマン・サックスから信用されなかったわけだ。他の銀行も追随するかもしれないし、他の業界もそうなるかもしれない。そうなるたびに2兆ドルという評価額の説得力は削られていく。金融システム自体がその製品を信用していないというのは、特に痛い。
>>11 製品そのものより、使う人間の方を信用していないんだと思うけどね
>>27 狙っているシェアを取るために十分安全なチェーンソーを作れないなら、それは良いチェーンソーとは言えないよ
>>4 同感。似たような未来を約束しているスタートアップはたくさんあるけど、どこも技術的にそれを実現できる体制にはない。将来的にはほとんどの企業が、社内API群の面白い生態系を持つようになると思う。
>>13 そうだね、銀行員やフロントオフィスとの対話にすべきだと思う。『それをやりたいなら、まずコンピュータの仕組みを大まかに教えるから、それを踏まえて会社全体のポリシーを一緒に考えよう』でもいい。うまくやれば、会社の他の部署もようやく本気になる(かっこいい自分専用ツールを手放したくないから)。バックオフィスITにとって、今ほど面白い時代はない。
>>13 結局みんな社内で同じようなものを育てているんだよな
>>4 業界によってはコンプライアンス違反が重大な結果を招くから、技術者じゃない人がAIを使ったこと自体を罰しているわけじゃなく、そっちの事情が大きいんじゃないかな。例えば、AIモデルが社内の財務情報を学習してしまい、それを誰かが一儲けに使ったら、それはインサイダー取引になる。そういう話。
>>4 『銀行員が自分を傷つけないようにプログラミング環境を設計する』か。Web業界と同じ話だな。
>>6 これは怖い話。Claudeが提供するツールだと、うっかり山ほどのデータをClaudeに送ってしまって、簡単に(医療情報保護の)規制線を越えてしまう。
>>7 結局、AIは専門知識を強化するものであって、誰でも専門家にしたり専門家を置き換えたりするものじゃないってことだね
>>7 『AIが悪いわけじゃない。優秀なエンジニアならそのあたりちゃんと考える』か。この手の言い方は好きじゃない。AIが絶対に批判されない理屈になってしまうから。何が起きても『それは下手なエンジニアだったからだ』で済ませられてしまう。
他サイトの新着
>>7 そうだね、こっちの方がエンジニアの時間を無駄にしないと思う。わけも分からずAIに『ツール』を作らせて、それを本番投入できると言い張る困った人たち相手にされずに済むから。
>>21 幸い自分は、ラフなスケッチや仕様書、プロトタイプ程度のものに気分を害するエンジニアと仕事をしたことがないな。
>>8 自分はそういう立場になったことがないんだけど、本当に聞きたい。トレーダーがプロンプトをそのまま転送してきた場合と比べて、何か状況は良くなってるの?
>>9 もっとひどいのは、内容を見ずにただプロンプトを打ち続けろと指示されて、品質スコアが0.8未満ならソフトウェア工場側にレビューと再生成をやらせるというパターン
>>9 その時点でそれはもうエンジニアリングじゃなくて、バイブコーディングだよ。
>>12 あの銀行はアメリカ建国よりも長く続いている(1690年創業!)から、何かしら正しいことをやっているはずだよ
>>12 本当の論点はこれだと思う。AIを使うこと自体の話なのか、パブリックAIからプライベートAIへの切り替えの話なのか、それともAnthropicが自社の引受先の機密情報にアクセスできてしまうことの話なのか。
>>31 そうだね、2008年に潰れなかった大手銀行の中で、何事においても参考にすべきじゃない銀行を選ぶなら、バークレイズは間違いなくトップ3に入る。
この話題の背景と論点
Claude Codeはコーディング支援を行うAnthropicのツールで、エンジニア以外の社員が業務用のコードを自作する「バイブコーディング」が広がるなか、金融機関では生成されたコードの検証体制やコンプライアンス、インサイダー取引リスクなどが課題になりやすい。スレで出た「チェーンソーを安全に使えないなら良いチェーンソーではない」という比喩は、問題の所在をツールの性能ではなく運用・権限管理に置く見方を示している。一方で元記事はBloombergの報道を別サイトが転載したもので、金融機関ごとに対応は分かれており(バークレイズは逆方向に動いているとの指摘もある)、業界全体で統一された方針があるわけではない点には注意が必要だ。
※本記事は海外掲示板 Hacker News のスレッド「Goldman Sachs Is Pulling Claude Code from Its Bankers and Traders」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
この記事のリアクション
まだコメントはありません。