キノコ狩りをAIに任せるのは危険か 海外掲示板で議論に
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP韓国人「世のお母さん達にプレッシャー与える中学生のお母さん」
- ニュース速報まとめMAP【悲報】田村淳を叩いたネット民、完全論破される。サングラス着用の真相を知った後の反応がこちら
- なんJ傑作まとめアンテナMAP【悲報】学歴系YouTuberさん、福島大学長の声明を受け謝罪し動画削除・・・・・・・・・
- アニメ声優まとめアンテナMAP理系女子「ガンダムの戦艦に機銃って必要なの？あんなので、落とせるわけないよね？」
- VTuberまとめアンテナMAP【にじさんじ】シェリン「将来性がどうのとか言ってた僕は愚か者でした」
- だめぽアンテナ【悲報】バヤリースの値段、限界突破
- ヌルポあんてなヒョンデが2027年～2028年の2シーズンWRCから一時離脱し2029年に復帰する予定らしい
- 2chまとめアプリ+嫁と喧嘩したワイ、晩御飯に毒を盛られていないか警戒する
- News人【ニュース】自◯した永田教員「辺野古事故で生徒に謝罪したい」と相談 ⇒ 高校側拒否他
- ブルーアンテナ学生の頃めちゃくちゃ女にキモがられててダンスのペア組まされた時に手触ったら泣かれた事ある
- ウマーあんてな美人同僚の結婚式。スピーチは彼女の親友。しかし親友による告白は壮絶かつ驚愕だった → そして10年後、伝説に…….
- カオスアンテナラーメンマンって極悪なのに良いキャラみたいになってるよな
- つべこアンテナ【リビルドワールド】シオリさんとカナエが久々に見れて嬉しい
- 即まとchサカナクション山口一郎、群発頭痛の症状告白「よだれ垂らしっぱなし、耐えるしかない」
- おまとめ【朗報】豊島心桜さん、一番ちょうどいい身体になる
- Ask Reddit まとめ海外「10歳で見た『エクソシスト』のあの声が、まる3年も頭から離れなかった」眠れなくなった最初の映画…
- Red4 海外の反応まとめ【海外の反応】外国人「日本保守党が恐ろしい提案をしてきた」日本人と離婚・死別したら永住権を取り消す仕組みの構築主張に在日外国人コミュニティが騒然
- 海外反応・海外ニュースまとめ【海外の反応】子供の頃ガチで信じ込んだゲームの裏技デマ、何かある？
- 海外の反応ジャーナル「ホンダのエンジニアが開発した新技術を説明しているんだけど、髪型の方に目が行ってしまう・・・。」海外の反応
- 憂国あんてな|●|【兵庫】あおり運転して高速道路上で急停車、頭突き暴行で逮捕された男２名は韓国籍の会社員と同僚と判明
野生のキノコをスマートフォンで撮影し、LLM(大規模言語モデル)の画像認識に食べられるかどうか判定させたらどうなるか——そんな検証を行ったブログ記事がHacker Newsで話題になった。キノコは近縁種でも見た目がそっくりで、傘の表とヒダの両方、時には胞子紋まで確認しないと安全に判別できない種類もある。コメント欄では「命に関わる判断をAIに委ねるのは危険すぎる」という慎重論と、「そもそも人間の経験者でもどこまで正確に見分けられるのか」という反論がぶつかり、議論はキノコ狩りという趣味そのものの是非にまで広がった。
LLMでキノコ狩り、どこで失敗する?
出典: quesma.com / 元記事はこちら
LLMモデルの確率的な性質を示す、これまで見た中で一番良いアニメーションのデータビジュアライゼーションがある。長い掛け算の問題を何度も解かせたときの正答率をアニメーションで示したものだ。
[0] https://adamsohn.com/reasoning-grid/#walk-the-surface
[0] https://adamsohn.com/reasoning-grid/#walk-the-surface
命に関わりかねない判断をLLMに委ねるのは、ある意味ダーウィン賞的なテストだと思う。悲しいことに、一般の人々はLLMが信頼できないということを理解していないんだろう。(それどころか、技術者でさえもLLMの能力を過大評価しがちだ。少なくとも、この分野への異常な投資額を見ればそう思える。)
年老いたキノコ狩りハンターはいる。大胆なキノコ狩りハンターもいる。だが、年老いてなお大胆なキノコ狩りハンターはいない。
アンズタケ(シャントレル)と偽物のアンズタケは特にまぎらわしい。同じ時期に同じ場所で生えてくる。だから採ってきたものを洗って乾かした後、もう一度チェックするようにしている。
そもそも、たった1枚の写真からキノコを99%以上の精度で確実に同定できる方法なんてあるのか? どんな画像データセットにも、モデルや手法に関わらず、データに含まれる情報量の限界からくる本質的な誤差がある。見た目のよく似た2種のキノコは、写真だけでは区別できないこともある。
>>8 無理だ。少なくとも、傘の表側とヒダの両方の写真が必要になる。
この発想いいね。AI好きな人には全員、あの調子のいいでたらめマシンを使って拾ったキノコの安全性を判定させてみてほしい。得するのは誰かって? 社会だよ。
>>9 元の記事は読んだ? それともAI嫌いをアピールしたくて他人に不幸を願っただけ?
今年カリフォルニアでドクツルタケ(death cap)を食べてしまう事例が急増している。LLMの普及が関係していると、かなりの確信を持って言える。
キノコの見分けに慣れた/訓練を受けた人間のエラー率はどれくらいなんだろう?(自動運転の話をするときに推進派が使う基準もそれだよね?)
>>12 自分は100%安全だと確信できないキノコには絶対に触らない。だから今のところ、自分にも他人にも中毒を出さずに100%の成功率を保っている。LLMも信用しない方がいいと思う。
キノコの中には胞子紋を取らないと見分けがつかない種類もあることを考えると、LLMは絶対に信用できないと思う。
自分もiOSの新しい"Siri"で似たようなこと(ただしもっと安全な形で)を試している。ドッグランでカメラを犬に向けて、Siriがどれだけ正確に犬種を当てられるか見てる。今のところかなり優秀。ただし食べたりはしない。
再現性のある検証用のリポジトリはこちら: https://github.com/stared/mushroom-hunting-llm-bench
LLM関連の質問の答えが"死"になり得るというのは、なかなか味わい深い。
キツネの尿の話は誰もしないんだな。
面白い論点は、こういうことにLLMを信用するために越えなければならないハードルはどこかということだ。いずれ越えることになるとは思うが、成功率何パーセントを合格ラインにするかを決めるのは難しい。
>>18 生死に関わる判断をLLMに任せてもいいと思えるために必要な条件は何か? あるいは、利益のためにLLMに生死の判断権を握らせることを強いられるために必要な条件は何か?
>>18 LLMの助言が間違っていたとき、そのLLM自身も同じように存在を失うリスクを負うわけではない。失うものが何もない"知性"に自分の命を預ける気にはなれない。
>>18 原子炉や航空機の制御システムをLLMに任せるようになる頃には、同じくらいの余裕でこの問題も越えているだろう。
このアイデアでレストランを始めるつもりなら、食事の前に必ず代金を回収するようにした方がいい。未払いのリスクを減らせるはずだ。
ここにいる人たちのキノコ同定に対する要求水準の高さを見ると、そもそもよくキノコを食べる気になるものだと感心する。LLMは信用できないというなら、自分自身のことはどうやって信用しているんだ? 一体誰なら信用できるんだ?
>>20 自分の遺族が訴えて、あなたの将来の人生の価値を自己申告した金額で和解を受け取れるような相手、とかかな。
他サイトの新着
もっと重要な問いは、地元の店やレストランに面白い食材が本当に尽きてしまったのか、ということだと思う。だからこそ地面に生えているものをわざわざ探して食べることに、こんなに夢中になっているんじゃないか。キノコ文化は自分には一生理解できない気がする。
>>21 味は別として、キノコでもベリーでもハーブでも、森の中で採集をすると自分の中の原始的な何かが呼び覚まされる感覚がある。自分が動物であるという本質に忠実になれる気がして、初めてやったときに驚くほど満たされる体験だった。
>>21 アンズタケみたいに、栽培では安定して作れないのに美味しいキノコもある。一日ハイキングして、その成果として食事を持ち帰れるのは幸せなことだよ。
>>21 同意見。美しい森の中で採集して、自然とつながりながら自分で採ったものを食べるなんて、非合理的だよね。
>>6 牡蠣(ヒラタケ)の仲間はかなり安全な部類。
>>21 野生にしかない、特徴の異なるキノコは本当にたくさんある。レストランで出されるものも、採集者から仕入れていることが多い。見つけて同定するのは一つの技術で、多くの人にとってワクワクする趣味になっている。
>>21 釣りや狩り、ハイキング中にブルーベリーやブラックベリーを摘むのと同じで、自分で食べ物を集めることには(たまにやる分には)原始的な充足感がある。
>>21 イタリアの地元のレストランで、シェフが近くの森で採ってきたトリュフを使った料理を出してくれたことがある。店で買えるどんなものより美味しかった。
>>25 両方だよ 🙂 良い狩りを!
>>29 何十億ドルもの資金があれば、機械学習チームを組んで最先端のLLMを強化学習でその用途専用にファインチューニングして、地元の薬剤師より優秀にすることもできるだろうけど、誰もそんなことはしないと思う。だから実現は航空機よりもさらに先になりそうだ。
>>33 アミガサタケ(モレル)は栽培化がかなり進んできている。それでも自分は毎年春の"狩り"自体を楽しんでいる。
>>37 ヒラタケやタモギタケがびっしり生えた倒木を見つけた瞬間も、なかなかスリリングだ(この2種は見分けにかなり自信がある種類で、幸いアルバカーキ上空の標高1万フィートのトレイルではよく見かけた)。
この話題の背景と論点
元記事はquesma.comのブログで、複数のLLMに実際にキノコの写真を見せて食用可否を判定させ、その正答率を検証したベンチマーク企画で、再現用のコードもGitHubで公開されている(コメント15)。つまり「AIに毒キノコ判定を任せよう」という提案ではなく、現状のAIがどこまで信頼できるかを測る検証記事である点は誤解されやすい。キノコの同定が難しいのは、傘の表側とヒダの両方、種によっては胞子紋の色まで確認しないと近縁の毒キノコと区別できないためで、これは経験豊富な採集者にも共通する制約だ。スレでは「命に関わる判断はAIに向かない」という慎重論と、「そもそも人間の同定精度と比べてどの程度なら合格ラインなのか」という論点が並行して語られ、単純な賛否では割り切れない議論になっている。
※本記事は5ch(Hacker News)スレッド「Mushroom hunting with LLMs: what can go wrong?」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。