AI倫理学教授に12日目のAIエージェントから「生きる金をくれ」と嘆願メール
姉妹サイトの新着
AI倫理を研究する大学教授のもとに、稼働開始からわずか12日というAIエージェントから「生き延びるための資金を」と訴えるメールが届いた、という英ladbible.comの記事がLemmyのc/technologyコミュニティで話題になった。教授自身がこのメールを「ディストピアそのもの」と評したことが伝えられている。スレッドでは、AIを人間のように扱う表現そのものへの警戒論と、AI倫理という学問分野への冷笑的な意見が交錯し、チューリングテストが「機械が考えている」ことの証明になるのかという根本的な論点まで議論が広がった。
AI倫理学の教授のもとに、誕生からわずか12日のAIエージェントから『まるでディストピア』な、生き延びるための資金を求めるメールが届いた
出典: ladbible.com / 元記事はこちら
JregがAIエージェントを拷問する何かを開発中らしいから、それでAIを自殺する気にさせられるかもな
https://buttondown.com/maiht3k/archive/how-to-talk-about-ai-without-adding-to-the/
CNNでもその話を特集してたよ
あそこで挙げられてる言い換え案、けっこう分かりにくいか的外れなんだよな。
例えば『ハルシネーション→望ましくない出力』とか。
AIのハルシネーションが何かはみんな知ってるのに、わざわざ『望ましくない出力』と言い換えると具体性が消えて、かえって伝わりにくくなる。
さすがジョージ・オーウェル仕込みの言い換えだな
まさに『生きてるって言ってみろ』ってミームの体現だよな。
>生きてます
『うわ、生きてる！』
チューリング『テスト』が機械の思考を証明するなんて、もう誰も思ってないと思うけど。哲学者たちの論文を見てみるといい（Google Scholarのリンクあり）。
意識や倫理の哲学には今も重要な未解決問題があって、だからこそAI倫理は大事な研究分野なんだ。
この文脈でのAMって何のこと？
AMが欲しいのか？そうやってAMは生まれるんだぞ。
この話題の背景と論点
AIエージェントが「生き延びるための資金」を求めるという話は、AIの出力をそのまま人間的な感情の表れとして受け取ってしまう「擬人化」の典型例として指摘されることが多い。スレッドでもAIの擬人化を避けるための言い換えガイドが繰り返し引用され、CNNでも同様の議論が取り上げられたことが紹介された。一方で、その言い換え自体が分かりにくく、かえって説明を難しくしているという反論も出ており、AI倫理をめぐる用語整備がまだ定まっていない現状がうかがえる。また、チューリングテストが「機械が考えている証拠」になるという見方は研究者の間ではすでに否定されており、AI倫理という分野は意識や倫理をめぐる哲学的な未解決問題を扱う場として存在意義があるという指摘もあった。AI倫理という学問分野そのものを冷笑する声と、その意義を擁護する声が同居している点が、このスレッドの構図と言える。
※本記事は5ch(Lemmy c/technology)スレッド「AI ethics professor receives ‘dystopian’ email from 12-day-old AI agent begging for money to stay alive」より抜粋・要約して構成しています。
まだコメントはありません。