哲学者ニック・ボストロム 同氏は最近、高度な人工知能が人類を「普遍的死刑宣告」から解放する可能性があるため、AIが全人類を滅ぼす可能性がわずかにあるとしてもリスクを冒す価値があるかもしれないと主張する記事を発表した。この楽観的な賭けは、彼を破滅のゴッドファーザーにした、AIに関する以前の暗い思索からの飛躍である。 2014 年の彼の本 インテリジェンスに関する AI の実存的リスクについては初期の段階から検討が行われていました。記憶に残る思考実験の 1 つは、リソースを必要とするすべての人々がペーパー クリップの作成の障害となるため、ペーパー クリップを作成する任務を負った AI が最終的に人類を滅ぼすというものです。彼の最後の本、 深いユートピア焦点の変化を反映します。オックスフォード大学の人類未来研究所を率いるボストロム氏は、人工知能を正しく使えば訪れるであろう「解決された世界」について詳しく語る。 スティーブン・レヴィ： 深いユートピア あなたの前の本よりも楽観的です。あなたにとって何が変わりましたか? ニック・ボストロム： 私は自分のことを神経質な楽観主義者だと呼んでいます。私は、人間の生活を根本的に改善し、文明の可能性を開く可能性に非常に興奮しています。これは、物事がうまくいかない可能性が非常に現実的であることに相当します。 あなたは、私たちはいずれにせよいつか死ぬのだから、AI によって起こり得る最悪の事態は、私たちがより早く死ぬことであるという、印象的な主張を含む記事を書きました。しかし、もしAIが成功すれば、私たちの寿命はおそらく無限に延びるかもしれません。 この記事では、このうち 1 つの側面のみを具体的に検討します。どのような学術論文でも、生命、宇宙、すべての意味について言及することはできません。それでは、この小さな問題を見て修正してみましょう。 これは小さな問題ではありません。 […]