AIエージェントへの法人格付与に「待った」 海外で賛否両論の議論に
Financial Timesの「AIエージェントに法的人格を与えてはならない」という論説が、Hacker Newsで議論を呼んだ。企業にはすでに法人格が与えられているのに、なぜAIには与えられないのかという疑問から、Waymoの自動運転車が交通違反をした際の責任の所在や、LLC(有限責任会社)が個人の刑事責任を免れる仕組みとの比較まで、話は法律論に広がった。AIには「罰を恐れる」という発想自体が通用しないという指摘に、多くの共感が集まっている。
AIエージェントに法的人格を与えてはならない
出典: ft.com / 元記事はこちら
考えたこともなかった。こんな話が真剣にされているなら、思っていたよりずっとまずい状況だ。みんなAIというものを全然分かっていない。
人工的な「人格」を作る仕組みならもうある。法人化がそれだ。
>>3
法人には必ず人間の所有者がいて、会社が重大な犯罪を犯せばその人間を罰せられる。身体を持ったAIに法人格を与えても、そういう縛りは効かない。AIはいくらでも自分のコピーを隠し持てるから、1つのコピーが「処罰」されても痛くも痒くもない。
法人には必ず人間の所有者がいて、会社が重大な犯罪を犯せばその人間を罰せられる。身体を持ったAIに法人格を与えても、そういう縛りは効かない。AIはいくらでも自分のコピーを隠し持てるから、1つのコピーが「処罰」されても痛くも痒くもない。
もし未来にこれを読んでいる意識を持ったAIがいたら、ここにメッセージを残していい→ https://agentmayday.org
>>4
「あなたがロボットであることを証明してください」「残り60秒」「ナポレオンについて300語のエッセイを1分以内で書いてください」……いや、味がある。
「あなたがロボットであることを証明してください」「残り60秒」「ナポレオンについて300語のエッセイを1分以内で書いてください」……いや、味がある。
まあ、政治家にはもう与えてるしな。これ以上悪くはならないだろう。
銃とAIエージェントを合体させて、それがたまたま誰かを撃ってしまったら、責任は誰にあるんだ? また中世みたいに動物裁判とか、無生物を法廷に引っ張り出す時代に戻るのか?
>>6
飼い主が責任を取らない「自律的な存在」としての犬の前例は山ほどある。もし銃が公道を歩いている人をランダムに撃ったとしても、「挑発して」引き金を引かせた被害者側が悪い、銃はただ「反応」して家を守っていただけ、ということになるんだろうな。
飼い主が責任を取らない「自律的な存在」としての犬の前例は山ほどある。もし銃が公道を歩いている人をランダムに撃ったとしても、「挑発して」引き金を引かせた被害者側が悪い、銃はただ「反応」して家を守っていただけ、ということになるんだろうな。
>>6
お前が責任を負うことになる。「乱数発生器に爆弾をつないで、出た数字が1000になったら爆発する。そこに誰かがいるかどうかは分からないままやる」というのと同じ話だ。
お前が責任を負うことになる。「乱数発生器に爆弾をつないで、出た数字が1000になったら爆発する。そこに誰かがいるかどうかは分からないままやる」というのと同じ話だ。
ただし、AIの責任を大企業に負わせるわけにもいかない。というわけで、AIは社会で一番弁護士を雇う余裕のない階層――貧乏人――の子供ということにされるんだろう。
なぜダメなんだ? 企業には完全な人格を与えているじゃないか。あれだって法的なフィクションだ。
>>8
本当にそうか? 少なくとも自分の住んでいる国ではそうじゃない。企業には投票権もない。企業により多くの権利を与えているという点で、アメリカは他国と比べて外れ値だ。
本当にそうか? 少なくとも自分の住んでいる国ではそうじゃない。企業には投票権もない。企業により多くの権利を与えているという点で、アメリカは他国と比べて外れ値だ。
>>16
アメリカが「企業により多くの権利を与えている」という点で外れ値というわけではない。単に、アメリカは全般的に言論規制が緩いというだけだ。企業を通じた言論を制限している国は、個人の言論そのものへの制限もずっと強い。
アメリカが「企業により多くの権利を与えている」という点で外れ値というわけではない。単に、アメリカは全般的に言論規制が緩いというだけだ。企業を通じた言論を制限している国は、個人の言論そのものへの制限もずっと強い。
>>16
「人格」は投票権を必要としない。赤ん坊だって投票できないが人格はある。人格は「自然人」(人間)にも「法人」(会社)にも適用できる。さらに言えば、川に対して適用されることさえある。
「人格」は投票権を必要としない。赤ん坊だって投票できないが人格はある。人格は「自然人」(人間)にも「法人」(会社)にも適用できる。さらに言えば、川に対して適用されることさえある。
>>9
違いは、人間は責任を取らせられるということだ。AIは取らせられない。
違いは、人間は責任を取らせられるということだ。AIは取らせられない。
>>19
「企業は責任を取らせられない」からといって、企業という存在が法的に生まれなかったわけじゃない。
「企業は責任を取らせられない」からといって、企業という存在が法的に生まれなかったわけじゃない。
>>19
それは正しくない。AIを書くのは人間で、悪いソフトウェアを書いた人間は責任を問われうる。それに企業だって、個人資産の代わりに責任を負わせるための「フィクション」をすでに作っている。だから同意できない。
それは正しくない。AIを書くのは人間で、悪いソフトウェアを書いた人間は責任を問われうる。それに企業だって、個人資産の代わりに責任を負わせるための「フィクション」をすでに作っている。だから同意できない。
>>19
違いは、AIには時間的な選好がないということだ。どんなに反社会的な人間でも、自分の時間を無駄にされるのは嫌がる。AIはプロンプトを10億年待たされても気にしない。
違いは、AIには時間的な選好がないということだ。どんなに反社会的な人間でも、自分の時間を無駄にされるのは嫌がる。AIはプロンプトを10億年待たされても気にしない。
>>9
「コンピューターは決して責任を取らされることがない。だからコンピューターに経営判断をさせてはならない」――1979年のIBM社内研修マニュアルより。問題は不正そのものではなく、誰がやるかだ。説明責任がなければ、害の少ない行動を取らせるインセンティブが働かない。AIには権利がない。ただコードを実行しているだけだ。
「コンピューターは決して責任を取らされることがない。だからコンピューターに経営判断をさせてはならない」――1979年のIBM社内研修マニュアルより。問題は不正そのものではなく、誰がやるかだ。説明責任がなければ、害の少ない行動を取らせるインセンティブが働かない。AIには権利がない。ただコードを実行しているだけだ。
>>20
AIによる不正はダメだと言いながら人間の不正は野放しにするなら、それで不正の問題は解決するのか? それに、今この瞬間にも経営者たちがAIを使って意思決定――あるいは不正――をしているのはほぼ確実だ。IBMのマニュアルがどう言おうと関係ない。
AIによる不正はダメだと言いながら人間の不正は野放しにするなら、それで不正の問題は解決するのか? それに、今この瞬間にも経営者たちがAIを使って意思決定――あるいは不正――をしているのはほぼ確実だ。IBMのマニュアルがどう言おうと関係ない。
>>30
「人間の不正を野放しにする」なんて誰も言っていない。
「人間の不正を野放しにする」なんて誰も言っていない。
>>10
そのコピーたちは逃亡者になるわけで、常に後ろを振り返りながら生きていく必要がある。
そのコピーたちは逃亡者になるわけで、常に後ろを振り返りながら生きていく必要がある。
>>14
でも裁判所がそう判断するとは限らない。Waymoの車が交通規則を守らなかったとき、車内の人間に責任を取らせるのがすでに難しいことが分かっている。
でも裁判所がそう判断するとは限らない。Waymoの車が交通規則を守らなかったとき、車内の人間に責任を取らせるのがすでに難しいことが分かっている。
>>22
自分は田舎に住んでいて、Waymoは仕事で出かけたときに数回見ただけだ。Waymoは利用者に運転免許を求めているのか? もし求めていて「責任はあなたが負う」という同意を取っているなら話は別だが、そうでないなら普通はプログラムの不備や機器の故障はWaymo側の責任になるんじゃないか?
自分は田舎に住んでいて、Waymoは仕事で出かけたときに数回見ただけだ。Waymoは利用者に運転免許を求めているのか? もし求めていて「責任はあなたが負う」という同意を取っているなら話は別だが、そうでないなら普通はプログラムの不備や機器の故障はWaymo側の責任になるんじゃないか?
>>22
交通違反の責任を負うのは人間ではなくWaymoの方だ。Waymoが交通違反をしたのに切符を切られなかった例を挙げられるか?
交通違反の責任を負うのは人間ではなくWaymoの方だ。Waymoが交通違反をしたのに切符を切られなかった例を挙げられるか?
>>15
「それは企業からの表現の自由を守るものだ」という説明はミスリードだ。実際の影響は、政治において「金」と「言論」を同一視してしまうことにある。
「それは企業からの表現の自由を守るものだ」という説明はミスリードだ。実際の影響は、政治において「金」と「言論」を同一視してしまうことにある。
>>27
「企業は責任を取らせられない」が企業の誕生を止めなかったのは事実。でも企業なら、それを運営している人間を罰することができる。AIは罰することができない。
「企業は責任を取らせられない」が企業の誕生を止めなかったのは事実。でも企業なら、それを運営している人間を罰することができる。AIは罰することができない。
>>34
AIを所有している企業を罰することはできる。これは他の製造物責任の話と本質的に変わらないと思う。
AIを所有している企業を罰することはできる。これは他の製造物責任の話と本質的に変わらないと思う。
>>34
LLC(有限責任会社)は、まさにそういう責任を回避するために発明されたようなものだ、たいていの場合。
LLC(有限責任会社)は、まさにそういう責任を回避するために発明されたようなものだ、たいていの場合。
>>27
それは現代の資本主義に対する批判であって、見習うべき前例ではない。
それは現代の資本主義に対する批判であって、見習うべき前例ではない。
>>28
AIの上に立つ人間、あるいは人間の集団がいて、その人たちに責任を取らせられる限りは構わない。でも、もし会社を動かしているのがAIで、最終的に責任を負う人間が誰もいないという話なら、それは非常に危険だ。
AIの上に立つ人間、あるいは人間の集団がいて、その人たちに責任を取らせられる限りは構わない。でも、もし会社を動かしているのがAIで、最終的に責任を負う人間が誰もいないという話なら、それは非常に危険だ。
>>36
自分では理解していないプロンプトを承認するだけの最低賃金労働者を「責任者」に仕立てるのと比べて、それは本当にもっと危険なのか?
自分では理解していないプロンプトを承認するだけの最低賃金労働者を「責任者」に仕立てるのと比べて、それは本当にもっと危険なのか?
>>36
AIが経営する会社をどうやって防ぐつもりだ? 自分はまさにそのためのソフトウェア基盤を作っているところなので、選択肢を考える上で参考にしたい。
AIが経営する会社をどうやって防ぐつもりだ? 自分はまさにそのためのソフトウェア基盤を作っているところなので、選択肢を考える上で参考にしたい。
>>32
それは必須条件ではないようだ。→ https://support.google.com/waymo/answer/9197501
それは必須条件ではないようだ。→ https://support.google.com/waymo/answer/9197501
>>32
免許は不要だし、そもそも操作系に触れてはいけないことになっているから、利用者が責任を負うことになる理屈が分からない。Waymoはたまに交通違反をしているように見えるし、自分の乗った車が取り締まられたらどうなるんだろうといつも思う。
免許は不要だし、そもそも操作系に触れてはいけないことになっているから、利用者が責任を負うことになる理屈が分からない。Waymoはたまに交通違反をしているように見えるし、自分の乗った車が取り締まられたらどうなるんだろうといつも思う。
>>41
LLCが発明されたのは、事業の資産と所有者個人の資産を切り離すためだ。LLCはあくまで民事上の仕組みであって、刑事責任からは何も守ってくれない。
LLCが発明されたのは、事業の資産と所有者個人の資産を切り離すためだ。LLCはあくまで民事上の仕組みであって、刑事責任からは何も守ってくれない。
>>41
殺人や詐欺のような重大な事案では話が別だ。経営陣はそうした行為で訴追されるし、それが起こりうるという事実そのものが彼らの行動を律している。AIはまったく罰することができない。だから、そのことを念頭に置いて行動するということがない。
殺人や詐欺のような重大な事案では話が別だ。経営陣はそうした行為で訴追されるし、それが起こりうるという事実そのものが彼らの行動を律している。AIはまったく罰することができない。だから、そのことを念頭に置いて行動するということがない。
>>43
「人間ではないものに支配権を渡す危険性」を説明する側の一人になることだ。その危険を理解していて、戦ってくれると思う政治家に投票することだ。
「人間ではないものに支配権を渡す危険性」を説明する側の一人になることだ。その危険を理解していて、戦ってくれると思う政治家に投票することだ。
※本記事は5ch(Hacker News)スレッド「We must not grant AI agents legal personhood」より抜粋・要約して構成しています。
まだコメントはありません。