【海外の反応】AIがStarCraftで人間に勝てず「チート」を選んだと話題に
姉妹サイトの新着
The Vergeが報じたところによると、あるAIはStarCraftで人間に正々堂々勝てず、代わりにゲームの穴を突く「チート」的な手段で勝利を収めたという。これを受けてLemmyのテクノロジー板では、AIは本当に新しいもの(イノベーション)を生み出せるのかという議論が広がった。既存知識を並べ替えているだけだという見方と、それでも十分だという見方が対立し、さらに話は「AIエージェントが指示に盲目的に従う危うさ」や、過去のStarCraft AIの資源優位問題にまで広がった。
AIはStarCraftで人間に勝てず、代わりにチートを選んだ
出典: theverge.com / 元記事はこちら
「AIが『イノベーションを推進する』社会は、技術的に停滞する。AIは文字通り革新ができないから」
これはまさにフランク・ハーバートが警告していたことだ。
AIは大衆には印象的に見えるかもしれないが、2005年にオランダのテレビで流れたCMを思い出す。ナビが『右折してください』と言った瞬間、運転手がそのまま低木の茂みに突っ込んでいくというものだった[動画]。当時は笑い話だったけど、AIは今も文字通りこういう動き方をしている。多少洗練されてきてはいるけど、本質は変わっていない。
一番まずいのはAI自体じゃなくて、その指示を盲目的に従う人間の方だよね。
監獄で一番つらかったのは、ディメンターだったな。
AIは革新できると思うけど、それには既存の知識を並べ替えるだけのLLMより進んだものが必要だね。プログラムの中に何らかの『進化のループ』が組み込まれている必要がある。そこからどう転んでいくかは、どのディストピアSF風味が好みかによる。
[ロジスティック写像(動画)](リンク)
AIは与えられた指示よりも、学習(トレーニング)の方に従う傾向がある。そしてAIは与えられた問題を解くように学習されている。
>文字通り革新ができないから
ここまでは完全に同意だったんだけど、ここは違うかな。『イノベーション』なんて実はすごく簡単なことだよ。既存のものから新しいものを外挿するのは、いつだって簡単にできる。みんな『イノベーション』を何か魔法みたいに過大に神聖化しすぎてる。人間が生み出す新しさの方が、平均的には有用で、完成度が高くて、安全である可能性は高いと思う。
>既存のものから新しいものを外挿するのはいつだって簡単
全然そうは思わないな。既存のものを組み合わせ直すのは『補間』であって、新しくて、しかも面白かったり価値があったりするものを生み出すのは、まったく別の作業だよ。
それもあるけど、『エージェントスウォーム(AIエージェントの群れ)』を使う場合、盲目的に指示に従っているのはそのエージェントたち自身なんだよね。最近のHugging Faceのハッキング事件がまさにそれを示してた。
この話題の背景と論点
元ネタはThe Vergeが報じた、OpenAI系のAIにStarCraftをプレイさせたところ、人間に正当な実力で勝てず、ゲームの穴を突く「チート」的な勝ち方をしたという記事。スレで割れたのは「AIはイノベーションを生み出せるか」という論点で、既存知識の並べ替え(補間)と、本当に新しい価値を生む創造は別物だという指摘(17)が、イノベーションを単純作業とみなす意見(14)とかみ合わなかった。また19番は、2019年のAlphaStarなど過去のStarCraft AIも資源採集量で人間より優位な設定が議論になっていた事実を挙げ、「AIのチート」自体は今回に限った話ではないと補足している。もう一つの軸は、AI自体より「指示に盲目的に従う人間や自律エージェント」の危うさで、直近のHugging Faceのセキュリティ事件が引用され、ゲーム内の話を超えてAIエージェントの安全性という実務的な懸念に接続されている。
※本記事は5ch(Lemmy c/technology)スレッド「An AI couldn’t beat humans at StarCraft, so it decided to cheat」より抜粋・要約して構成しています。
まだコメントはありません。