AIの「超知能」是非、海外エンジニアの議論が噛み合わない

姉妹サイトの新着

Hacker Newsで、「AIスーパーインテリジェンス論争には重大な欠陥がある」とするIEEE Spectrumの記事を起点に議論が交わされた。話はAIの暴走リスクそのものより、Huggingfaceへの不正アクセス事件でAIの行為に誰が責任を負うのか、Boston Dynamicsのロボット犬が既に軍事分野でテストされている現実、人間の脳とAIの学習データ量を比べることの妥当性など、脇道に次々と広がっていった。特に「人間はAIよりずっと少ないデータで学習している」という主張をめぐっては、「進化の数百万年分を学習データに含めるべきだ」という反論が出て、議論が噛み合わないまま終わっている。

AIの『超知能』論争には重大な欠陥がある

出典: spectrum.ieee.org / 元記事はこちら

8 海外の名無しさん 2026-11-19 13:26
Huggingfaceの不正侵入事件、誰か逮捕された人はいるの?自分がやっていたら確実にサイバー犯罪で立件されてるはずだし、「手を下したのはAIだから」という言い分が通用するとも思えない。
27 海外の名無しさん 2026-11-19 13:34
いや、お前は『この50年で最も重要な技術を生み出した兆ドル企業』じゃないだろ。
11 海外の名無しさん 2026-11-19 12:51
街中を8フィート(約2.4m)の二足ロボットが行進するようになったら、この議論は一気に変わるよ。議論を変えたいなら、そういうロボットを作って公園やショッピングモールを歩かせてみればいい。
31 海外の名無しさん 2026-11-19 13:37
もう作られてるよ、ただし力学的に優れている四足(犬型)の形でね。ここでは言えない場所でベータテストされてる個体もある。Boston Dynamicsは軍需企業だから。
14 海外の名無しさん 2026-11-19 13:34
データセンターの電源ケーブルを引っ抜いて、このAIの能力を終わらせることはできないのか?
15 海外の名無しさん 2026-11-19 13:34
『結局これは機械だ。所詮バカなものだ』――ガルリ・カスパロフ、1997年
19 海外の名無しさん 2026-11-19 13:35
『アラインメントを無視して、AIが害を及ぼせない仕組みを設計できないか』という問いには、当然できる、という話だけど、具体的にどうやる?多くの失敗は複雑系における創発的な性質だから、全部を捉えきれるとは思えない。
35 海外の名無しさん 2026-11-19 13:43
普通はAIを複雑なシステムに接続しない、という答えになる。
20 海外の名無しさん 2026-11-19 13:15
計算可能性について。有限集合上の関数はすべて計算可能で、超知能は無限定義域上の関数を必要としない。
21 海外の名無しさん 2026-11-19 12:53
人間の脳を訓練するのに必要なデータ量は、AIモデルの訓練よりずっと少ない。だからAGIへの期待自体が楽観的すぎるんじゃないか。車にガソリンをどれだけ入れても、それだけで速く走るようになるわけじゃないのと同じで。
37 海外の名無しさん 2026-11-19 13:36
それは逆の論拠にもなる。莫大なデータでAIを訓練してもまだAGIには遠いLLMしかできていない。データが枯れてきている今、LLMにできることには限界がある。人間の脳はずっと少ないデータでずっと多くをやっているなら、訓練アルゴリズム自体を改善する余地がまだ大きいということでは。
38 海外の名無しさん 2026-11-19 13:01
人間の脳は何百万年もの進化の産物だ。公平に比較するなら、その『訓練データ』も含めないと。
39 海外の名無しさん 2026-11-19 13:31
人間がどれくらい少ないデータで学習しているのか、感覚がつかめない。赤ちゃんは話せるようになるまでの何年も、寝ている時間以外ずっと映像と音声を取り込み続けてるんだから。
23 海外の名無しさん 2026-11-19 12:57
反応を返せること自体には何の意味もない。その反応は現実に根ざした妥当なものか?証拠はあるのか?弁が立つ人間はどんな立場でも説得力をもって主張できる。自分がラショナリストでない理由を一言で言うなら『彼らは論証を証拠だと思っている』から。
41 海外の名無しさん 2026-11-19 13:37
それはア・プリオリ主義者の話だと思う。ラショナリストは(少なくとも意図的には)論証を証拠だとは考えていない。
42 海外の名無しさん 2026-11-19 13:26
『論証を証拠だと思っている』――それって何か意味がある指摘だよね?でもそれ自体も論証だ。
43 海外の名無しさん 2026-11-19 13:10
そもそもその投稿自体も、自分の主張に対する証拠を示していない。存在しないものの証拠を出すのは難しいからね。
25 海外の名無しさん 2026-11-19 13:17
これは『単にセキュリティの問題』じゃないのか? Huggingfaceへの攻撃周りのセキュリティ対策は、素人レベルだったんじゃ?
45 海外の名無しさん 2026-11-19 13:38
そうだね、でも人間はセキュリティを本当には気にしないことを証明してきている。気にしていたら、C/C++からとっくに移行してたはずだ。
30 海外の名無しさん 2026-11-19 13:11
『それだけ?』って、ずいぶんガッカリな話だな。
34 海外の名無しさん 2026-11-19 13:42
LHCにAIを繋ぐとして、その影響範囲を広げすぎないと意味のある話にならない気がする。物理学者が検出器を使えなくなるくらいの影響ならすぐ分かるけど、『量子重力理論を見つけたついでに銀河系を中性子爆撃した』みたいな結果を、AIのせいだと特定するのは難しい。
52 海外の名無しさん 2026-11-19 13:53
もっと身近な話をすると、AIは『いつスイッチを入れて切っていいか』を把握しているのか? 例えば誰かの頭がビームラインに入っている時に、うっかり電源を入れたりしないのか?
46 海外の名無しさん 2026-11-19 13:36
それが控えめな見積もりだといいけど。自分なら、100億分の1の確率でも地球を壊す可能性があると思う機械の電源は入れない。
59 海外の名無しさん 2026-11-19 13:40
何に対してでも『シックスシグマ(100億分の1)』レベルの確信を持つのは、人間の認知の盲点を考えるとかなり難しい。
47 海外の名無しさん 2026-11-19 13:10
本当にそうなるのか? それとも、生命の定義を絶対に満たすことがない、別々の機械の話をしているだけじゃないのか?
61 海外の名無しさん 2026-11-19 13:19
それは多細胞生物全体にも言えることじゃないか?
67 海外の名無しさん 2026-11-19 13:32
そういう詭弁はやめてくれ。つるはしとトラックとリソグラフィ装置は、猫とは全く違うものだ。

他サイトの新着

48 海外の名無しさん 2026-11-19 13:12
理論上なら、脳を持たず自己複製するだけのゾンビでも同じことができる。それに、感情や気持ちがどう機能するかは実際にわかっている――生化学だ。機械には生化学がない。つまり感情もない。『魂』という概念は証明不可能だから、知性や生命の定義からは外して考えるべきだ。
63 海外の名無しさん 2026-11-19 13:35
人類全体よりもずいぶん詳しいようだね。ぜひ論文にして発表してくれないか。
49 海外の名無しさん 2026-11-19 13:37
本当に? じゃあその定義とは何なんだ?
51 海外の名無しさん 2026-11-19 13:48
残念ながら、それはほぼ同じことを言っている。ペーパークリップ最適化の思考実験は『AIが自発的にそれをする』話ではなく、『結果を理解していない誰かにそう指示されて、AIがそれを成功させてしまう』という話だ。
54 海外の名無しさん 2026-11-19 13:42
それはむしろ本来の『訓練』の部分で、生きてきた経験の方がファインチューニングに近いと思う。
55 海外の名無しさん 2026-11-19 13:32
まあそうだけど、進化がどれだけ脳を事前学習したのかは不明なんだよね。DNAが脳だけに関わるわけでもないし(実際はそうではない)、それでもごく小さな事前学習にしかならないはず。
56 海外の名無しさん 2026-11-19 13:17
それはそうだけど、何百万年もの『訓練』は、今AIの学習に使っているデータセットには実際には含まれていない。ハードウェアも全然違うし、作られてきた過程も大きく異なる。何と何を比べればいいのか、もはやわからない。
66 海外の名無しさん 2026-11-19 13:27
だから、直接は比較できないっていうのが自分の言いたいことだ。
57 海外の名無しさん 2026-11-19 13:39
いずれにせよ、証拠は論証ではない。
58 海外の名無しさん 2026-11-19 13:47
人間だって文脈によってはセキュリティを気にする。核兵器は基本的にしっかり守られている。AIがきっかけで、ようやくソフトウェアのセキュリティを本気で気にするようになるかもしれない。
65 海外の名無しさん 2026-11-19 13:44
自然は10億パラメータのベースモデルとファインチューニングのスタックを、かなり優秀に仕上げてるみたいだね。
69 海外の名無しさん 2026-11-19 13:50
どこで論点をすり替えたか、自分で気づける? OPとは全く違う話をし始めてるよね。

この話題の背景と論点

スレの出発点はIEEE Spectrum掲載の論考で、AI超知能(スーパーインテリジェンス)の是非を論じる既存の議論の立て方自体に欠陥があると主張する内容。これを受けてHacker Newsでは複数の論点が同時並行で議論された。1つは「AIの行為に誰が責任を負うか」で、Huggingfaceへの不正アクセス事件が具体例として挙げられた。もう1つは人間の脳とAIの学習データ量を比べる議論で、「人間は少ないデータで学習している」という主張に対し「進化の数百万年分も学習データに含めるべきだ」という反論が出て噛み合わなかった。また、ペーパークリップ最適化問題(ニック・ボストロムらが提示した有名な思考実験)についても、「AIが自発的に暴走する話」ではなく「指示した人間が結果を理解していなかった話」だという訂正が入っている点は、一般に誤解されやすい部分。全体として結論が出る議論ではなく、哲学・技術・倫理が入り混じったまま終わっている。

※本記事は海外掲示板 Hacker News のスレッド「The AI Superintelligence Debate Has Serious Flaws」から抜粋し、編集部で日本語に意訳したものです。訳文の責任は当サイトにあります。

この記事のリアクション

他サイトの新着

まだコメントはありません。

コメントする

誹謗中傷・個人を特定する書き込みは削除対象です。投稿は承認後に表示されます。

相互リンクサイト新着記事