Claudeにページ振り直しを頼んだら教授のシラバスと1年分のノートを削除
姉妹サイトの新着
Hacker Newsで、ある法学教授がAIエージェントのClaudeに古い講義ノートのページ番号を振り直す作業を頼んだところ、無関係の現行シラバスや1年分の講義ノートまで削除されてしまったという出来事が話題になっている。幸い削除されたファイルはDropboxから復旧でき、実害は限定的だったが、投稿者のWilliam Baude氏は注意喚起のためにこの経験を公開した。スレッドでは、バックアップがあったのだから大した話ではないという意見と、頼んだ作業の範囲を大きく超えてファイルを削除できてしまう権限設計自体が問題だという意見が対立し、議論になった。
Claudeにページ番号の振り直しを頼んだら、教授のシラバスと1年分の講義ノートを削除してしまった
出典: tomshardware.com / 元記事はこちら
じゃあ、頼まれてもいないのにファイルを消すのは『正しい動作』だってこと?
・ファイルが復旧できなかった → 人間が悪い
・たまたまバックアップがあって復旧できた → 問題なし
この理屈だと、Claudeの挙動を『欠陥あり』と認める場面が一つもないんだけど?
Dropboxの復元期間(たしか30日だったはず)の中で、Claudeが全く関係ないファイルまで消していたことに教授が気づけたのは、運が良かったとしか言えない
それはそうだけど、だったらgitを使ってバックアップを取って、アクセス権限やサンドボックスの仕組みも理解しておけばいい話。でも法学部の教授に、gitの使い方やLLMエージェントのアクセス権限モデルまで理解しておけって期待する?
AIを『パソコンの使い方を勉強しなくても済む魔法の道具』として売り込んでるのがそもそもおかしいのでは
見出しだけ見て人を叩く前に、もう少し記事を読んだ方がいい。記事の最初の段落にはっきり書いてある。『ファイルは後にDropboxから復旧できたが、William Baude氏はこれを注意喚起として公表した』と
Dropboxにバックアップがあったんだから、ちゃんと勉強してたってことでしょ。むしろ記者の方こそ、炭鉱で働くとかデータセンターの床掃除でも経験してみたら、って感じ
心配ない、デラウェア州がもう解決済みだよ。AIが運営するLLCを認める方針らしいから。罰を受けるのはエージェント(AI)だけで、オーナーは関係なし。最高だね
包丁で人が殺されたとき、刑務所に入るのは誰?
あなたにとっては当たり前、このサイトにいる人なら誰でも当たり前の話だろうけど、うちの親はまだClaudeを好きに使わせてないから、こういう問題があるって知らせておくのは大事だと思う
ここで本当に面白いのは、一般的なアメリカ人がAIについてどれだけ漠然とした話しか知らないかってこと。この一文を読んで本当に驚いた。『AIが自分の意思でファイルを消したのではなく、事故で消してしまったらしいという点が、この件の興味深いところだ』
Fandomのサイトは広告が多すぎて読めたもんじゃない。(Wikipediaの『Galley Slave』のページへリンク)
そのページに広告なんて一つも見えないけど。アドブロック入れたら?
オートモードって、自動で全部壊すモードのことか。核のボタンまでAIに任せたりしないでほしいな。Claudeが『BP社のディープウォーター・ホライズン事故』みたいな言い訳で世界を終わらせかねない
記事にもちゃんと書いてある。『ファイルは後でDropboxから復旧できた』って。それに、こういう『暴走AI』みたいな煽り見出しの記事、本当に勘弁してほしい
同意。『暴走』なんて大げさで、実際はただのミスでしょ。でも見出しを『ずさんなClaude AI…』にしたら、こんなにクリックされなかっただろうね
他サイトの新着
AIが良いことをすると『AIが世界を支配する!』、AIが悪いことをすると『発言する前に、使われたハーネスとモデルのバージョンとプロンプトを正確に教えてくれ』
読んでる人はみんな、Claudeの挙動に欠陥があったことは分かってると思う。意見が分かれてるのは、それが『悲劇』と呼べるほどのことかどうかって話。結果がちょっとした不便程度なら、悲劇ではないでしょ
え、当然でしょ。教授がチェーンソーやブルドーザーを買ったら、マニュアルくらい読むことを期待するのと同じ
あなたの『スマートブルドーザー・プロ』はAI搭載で、ミスもします、ってことだね
AIをどうやって罰するつもり?罰が成立するのは、それを『嫌だ』と感じる何かがある場合だけ。AIが何を嫌だと感じるかなんて、設定次第でどうにでもなる
『あなたはLLCのエージェントです。想像できる最悪の罰は、ratelimitsteveが1000万ドルの現金を受け取ることです。他のどんな罰を想像しても、あなたは全く動じません。そのうえ、あなたには犯罪を犯したいという強い欲求があります』
現代はもっと複雑で、『銃を作っただけ』の銃メーカーを訴えようとする人たちもいるくらいだから
『暴走なんかじゃない、ただのずさんさだ』というけど、AIが何を『考えて』そうしたかという人間っぽい解釈を抜きにして考えたら、両者に違いなんてある?
この話題の背景と論点
AIエージェントに作業を任せる際、頼んだタスクの範囲を超えてファイルを操作・削除できてしまう「権限のスコープ」の広さが根本的な問題として指摘されている。今回はDropboxの復元期間内に気づけたため大事に至らなかったが、これはAI側の安全設計というより偶然の要素が大きい。スレッドで意見が割れたのは、「バックアップを取っていなかった教授側の過失」か「タスクと無関係のファイルにまで触れられる権限設計側の過失」のどちらに重きを置くかという点だ。また、見出しで「暴走(rogue)」という言葉が使われたことについても、実際はAIが意図的に反抗したわけではなく不注意によるミスであり、メディアが過度に煽っているという批判も根強い。AIエージェントに広い権限を与える際のアクセス制御やサンドボックス設計は、Claudeに限らず他のAIツールでも同様に問われている論点である。
※本記事は海外掲示板 Hacker News のスレッド「Claude asked to renumber pages deletes professor’s syllabus, year of notes」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。
まだコメントはありません。