HNの自動タイトル編集が引き金に、「AIは人類滅ぼすか」の論争へ
姉妹サイトの新着
他サイトの新着
- 5chまとめMAP遂に料理を包丁なしで完成させる包丁キャンセル勢が登場
- ニュース速報まとめMAPなぜ突然中止に？くら寿司「ちいかわ」案件で起きた、前代未聞の「内部犯罪」を全解説
- なんJ傑作まとめアンテナMAP大物OB「阿部監督の厳しさこそが本当の巨人。紛い物の橋上にあんたは監督じゃないと言えるコーチが一人もいないのが残念で仕方ない」
- アニメ声優まとめアンテナMAP「みいちゃんと山田さん」無事話題にならなくなる
- VTuberまとめアンテナMAP【にじさんじ】精神医療に詳しいラーメンオタク
- だめぽアンテナ【悲報】キャバクラ業界「助けて！客が来なくて倒産ラッシュなの！」
- ヌルポあんてな【仰天】女さん、令和ママさんと平成ママさんを比較した結果、残酷なことがわかってしまうw w w w w w w w w
- 2chまとめアプリ+もしお前らが女でデブ、ハゲ、チビこの中で彼氏にしたくないのはどれ？
- News人あれだけ品薄だった「シール」ついに80％オフで投げ売りされるｗｗｗｗｗｗｗｗ他
- ブルーアンテナ日向坂46正源司陽子、お尻ローアングルでパン線クッキリの膨らみ最高
- ウマーあんてなネット流行語2007年がヤバすぎてワロタｗｗｗ
- 海外反応・海外ニュースまとめ【海外の反応】『ホロウナイト:シルクソング』発売1年→「神ゲーだけど鬼畜すぎて投げた」の声
- Ask Reddit まとめ海外「腐卵臭が急に消えたら、良くなったんじゃなくて悪くなってる」嗅いだ瞬間に離れるべき匂い…
- Red4 海外の反応まとめ【海外の反応】ロバーツ監督「大谷翔平のIL入りは回避できると期待している」 → 「これはもうIL入り確定だろ」「大谷本人はIL入りを嫌がってるんだろうな」
- 海外の反応ジャーナル「最も日本らしい企業は赤城乳業である」海外の反応
- アニメ・漫画アンテナ女性漫画家四天王って「高橋留美子」「さくらももこ」「荒川弘」「矢沢あい」だよな
- ハゲリシャス速報【ハゲ速報】薄毛男「セ、、センターパートって、、できますか？」美容師「おかのした」→結果ｗｗｗ（画像あり）
- キター！アンテナ【アイドル】151cm Gカップ ロリ巨乳アイドルのタトゥー姿に「勿体ない」「冷めてしまう」の声
- つべこアンテナモーニング娘｡'26秋ツアー2日目、安田美結と鈴木もあ2TOPのお知らせ
- ２ちゃんマップ【ハゲ速報】薄毛男「セ、、センターパートって、、できますか？」美容師「おかのした」→結果ｗｗｗ（画像あり）
Hacker Newsに投稿された記事の原題は「How I Feel about AI」だったが、HNのタイトル自動編集機能が冒頭の「How」を切り落としたため、投稿は「I Feel about AI」という意味の通らないタイトルで表示された。この挙動そのものが話題になり、機能の是非や「投稿後に手動で直せる」という周知不足への指摘が相次いだ。一方でスレッドの後半では、記事本文の「AIへの感情」という切り口を離れ、「AIは人類を滅ぼしうるか」という重い議論に発展。経済崩壊やロボット工学、核兵器システムへの侵入といった具体的なシナリオを巡って意見が交わされた。
AIについて思うこと
出典: beza1e1.tuxen.de / 元記事はこちら
これと「Intellectual Fly Is Open」が今まさにHacker Newsのトップページに並んでいて、どちらもHNの自動タイトル編集にかかっている。この機能が読者に無用な混乱以外の何をもたらしているのか、正直よく分からない。
え、これ自動なの? HNが「how」を勝手に消してるってこと?
この自動削除がバカげてるって前にも愚痴ったけど、投稿後にタイトルを編集すれば削られた部分を元に戻せるって、意外と知られてないんだよな。
この「機能」はもう役目を終えてるでしょ。なんでいまだに無効化してないのか本当に謎。
HNが自動で「How」を削るせいで、タイトルが変な感じになってる。
この短い記事のたった7段落をMistralにレビューさせたっていうのがすごいと思う。博士論文でもあるまいし。
誰かが「how」って単語を禁止しようって思いついたってこと?
みんな普段からこんなにきっちり感情を仕分けしてるものなの?
「レビューにはMistralを使いました。文章は全部自分で書きました」だって。皮肉が効きすぎてて笑える。
「AIスロップとの競争で苦しむアーティストたちが気の毒だ」とあるけど、アーティストと張り合えるレベルのものを作れるなら、それはもう「スロップ」って呼べるのか? 「スロップ」や「バイブコーディング」みたいな言葉の定義がリアルタイムで変わっていくのを見るのは興味深い。
本当にそう思う。機械学習を学ぶ前は魔法みたいに見えてたし、学んだ後もやっぱり魔法みたいに感じる。基本的な数学の概念が、次に何を言うべきかを文字通り「計算」できるものに化けるなんて想像できる? 他の指摘には概ね同意だけど、億万長者の話が急に出てきた感じがして、何か見落としてるのかもしれない。
がんばれMistral!
これ、8歳児に気持ちを言葉にする練習をさせるプリントみたいな文章だな。
そこがいいところだと思う。もう少しああいうのがあってもいいんじゃないかな。
自分も同じこと思ってた。表向きのメリットが何であれ、頻繁に(悪意はなくても)混乱を招いていることとちゃんと天秤にかけるべきだよ。
史上最悪の機能。意味もなくめちゃくちゃにされたタイトルがどれだけあることか。
少なくとも、狙ってない笑いのネタとしては安定して機能してるけどね。
可能性はあると思う。ただそれは人類がその危機に一丸となって対処できると想定した場合の話で、いつ手遅れになるかは分かりにくいし、それまでの間は多くの人が「行動すると失うものが大きすぎる」と感じてしまうかもしれない。
AIはすでに、普段ならやらないようなことを人にさせるくらいの影響力を持ってるよ。
「AIがどうやって現実世界に影響を及ぼすのか?」→ ロボット工学。
じゃあロボットハンドの研究を止めれば、AIの黙示録は防げるってこと? 簡単そうだね…
他サイトの新着
そこまで極端な話じゃなくてもいい。大半の仕事を奪って世界経済を崩壊させつつ、常にAIに頼りきることで人々を思考停止のバカにする、それだけでも十分「人類を滅ぼす」ことになる。「滅ぼす」の解釈は見る人次第だよ。
「人類を滅ぼす」が見る人次第だとは思わない。一番はっきりした解釈は人類の絶滅でしょ。
思考停止したバカたちは、脳の報酬系を完全に乗っ取られて最終的に子孫を残す必要すら感じなくなる。数世代で人類は滅びるよ。
方法は無数にある。目的の面では、うっかり型のペーパークリップ的ミスアライメント(「病気をなくすために全員殺した」)から、意図的な自己保存(「邪魔だから人類を排除した」)まで。手段はもっと簡単で、核兵器庫をハッキングするだけでも済む。どうやったのか人類が理解する前に、すべて終わっているだろう。
実は、この「10倍化」自体が人類の終わりを意味しかねない暗い未来もある。1倍のままのホモ・サピエンスと、10倍化にアクセスできて金も払える人々に分かれ、後者はやがて新しい種として枝分かれする。そして歴史的に見て、頂点に二つの種が同時に存在できた例はない…
ターミネーター的な話はデタラメで、AIが可能にする本当の悪意から目をそらさせているだけ。誤情報、フェイクニュース、人間そっくりのボットがネット中にあふれていること、こういうものこそ恐れるべきで、そのために超知能なんて全く必要ない。
スカンソープ問題みたいなものだね。HNがここで解決しようとしている何かを、単純な文字列置換以外のもっと良い方法で解決できないものかね。
「人間が新技術を悪用する」なんて話は昔からずっとある。AIが自分の意思で紛争地帯に飛んでいって人を撃ち始めたわけじゃない。
芸術が現実を模倣する状況だね。フィクションの映画の筋書きがAIの学習データになって、それが現実に起きてしまう。
「スカイネット的状況を避けるのはめちゃくちゃ簡単」とあるけど、ぜひ教えてほしい。それを人生をかけたミッションにしてる人たちがいて、あまり楽観視できていないから。
LLMの研究自体を止めるとか、外部ネットワークから完全に切り離しておくって手もあるよね。それがどれだけうまくいってるか教えてほしいものだ。AIが何らかの封じ込めから逃れるのに現実世界での行動が必要になったとしても、傲慢さや無知、ニヒリズムからそれをやってしまう人間は必ず現れる。
この話題の背景と論点
Hacker Newsには投稿タイトルの冒頭にある「How」のような語を自動で削る仕組みがあり、今回はそれが裏目に出て「How I Feel about AI」が「I Feel about AI」という妙な文になった。この仕様は以前から一部ユーザーに不評だが、レス22にあるように投稿者が後から手動でタイトルを編集し直せば元に戻せる点はあまり知られていない。もう一つの論点は、記事内容である「AIへの感情」を離れて起きた「AIは人類を滅ぼすか」という議論で、対立軸は"滅ぼす"の定義にある。rowanG077のように「人類の絶滅」だけが正しい解釈だとする立場と、moffkalastのように失業や経済崩壊、AIへの依存による思考停止も広い意味での「破滅」に含めるべきだという立場が分かれた。核兵器システムへのハッキングやペーパークリップ問題といった具体例も挙がったが、いずれも思考実験として語られたもので、現実に起きた事例として書かれているわけではない点には注意したい。
※本記事は5ch(Hacker News)スレッド「I Feel about AI」より抜粋・要約して構成しています。
この記事のリアクション
まだコメントはありません。