哲学者ニック・ボストロム 同氏は最近、高度な人工知能が人類を「普遍的死刑宣告」から解放する可能性があるため、AIが全人類を滅ぼす可能性がわずかにあるとしてもリスクを冒す価値があるかもしれないと主張する記事を発表した。この楽観的な賭けは、彼を破滅のゴッドファーザーにした、AIに関する以前の暗い思索からの飛躍である。 2014 年の彼の本 インテリジェンスに関する AI の実存的リスクについては初期の段階から検討が行われていました。記憶に残る思考実験の 1 つは、リソースを必要とするすべての人々がペーパー クリップの作成の障害となるため、ペーパー クリップを作成する任務を負った AI が最終的に人類を滅ぼすというものです。彼の最後の本、 深いユートピア焦点の変化を反映します。オックスフォード大学の人類未来研究所を率いるボストロム氏は、人工知能を正しく使えば訪れるであろう「解決された世界」について詳しく語る。
スティーブン・レヴィ： 深いユートピア あなたの前の本よりも楽観的です。あなたにとって何が変わりましたか?
ニック・ボストロム： 私は自分のことを神経質な楽観主義者だと呼んでいます。私は、人間の生活を根本的に改善し、文明の可能性を開く可能性に非常に興奮しています。これは、物事がうまくいかない可能性が非常に現実的であることに相当します。
あなたは、私たちはいずれにせよいつか死ぬのだから、AI によって起こり得る最悪の事態は、私たちがより早く死ぬことであるという、印象的な主張を含む記事を書きました。しかし、もしAIが成功すれば、私たちの寿命はおそらく無限に延びるかもしれません。
この記事では、このうち 1 つの側面のみを具体的に検討します。どのような学術論文でも、生命、宇宙、すべての意味について言及することはできません。それでは、この小さな問題を見て修正してみましょう。
これは小さな問題ではありません。
人工知能を開発したら、私と私の子供たちを殺すことになる、よくもそんなことをする、というような議論に私は腹を立てたことがあると思います。最後の本のように 誰かが建てたら全員死ぬ。もしそうなる可能性はさらに高くなります 誰でもない 建てろよ、みんな死ぬよ！これは過去10万年間の経験です。
しかし、ドーマーのシナリオでは誰もが死に、それ以上人は生まれません。大きな違い
私は明らかにそれをとても気にかけていました。しかし、この記事では、私は別の質問に注目します。つまり、あなたや私のような既存の人類、そして私たちの家族、そしてバングラデシュの人々にとって何が最善なのでしょうか？かなり危険ではありますが、人工知能を開発すれば寿命は延びるそうです。
の上 深いユートピア あなたは、AI が信じられないほどの豊かさを生み出す可能性があるため、人類が目的を見つけるのに大きな問題を抱えているのではないかと推測しています。私は米国に住んでいます。私たちは非常に裕福な国ですが、私たちの政府は、一見国民の支持を得て、貧しい人々へのサービスを拒否し、富裕層に報いる政策をとっています。たとえAIがすべての人に豊かさを提供できたとしても、それをすべての人に提供することはできないと思います。
あなたは正しいかもしれません。 深いユートピア すべてが非常に順調に進んでいるという前提を出発点とします。私たちがガバナンスを適切に果たせば、誰もが分け前を得ることができます。このような理想的な状況下での人間の良い生活とはどのようなものであるかという、かなり深い哲学的な問題があります。
人生の意味は、ウディ・アレンの映画やおそらく哲学者のコミュニティでよく耳にするものです。私は自分自身をサポートし、この豊かさを共有する手段にもっと関心があります。
この本は意味だけを論じているわけではありません。それは彼が考えるさまざまな価値観の 1 つです。これは人類が受けてきた単調な労働からの素晴らしい解放となるでしょう。大人になってから、ただ生きていくためだけに、楽しくない、自分が信じていない仕事をするために、たとえば起きている時間の半分を犠牲にしなければならないとしたら、それは悲しい状況です。社会はそれに慣れすぎているため、私たちはそれを中心にあらゆる種類の合理化を発明してきました。それは奴隷制の部分的な形態のようなものです。
