電力を大量に消費するロボット、宇宙での植民地化、サイボーグ: 「長期主義」の奇妙な世界の内部テクノロジー

私たちのほとんどは、特に貧困と気候危機がすでに地球を荒廃させているとき、電力を大量に消費する殺人ロボットが人類に対する差し迫った脅威とは考えていません.

これは、「長期主義」と呼ばれる効果的な利他主義運動の中で考え方を取り入れてきた強力な俳優であるサム・バンクマン・フリードと彼の支持者には当てはまりませんでした。

2 月には、今では不名誉な仮想通貨起業家によって寄付された慈善団体である Future Fund が、 発表した 今年は、「人類の長期的な見通しを改善する」プロジェクトに1億ドル以上、場合によっては最大10億ドルを支出する予定です。

発展途上国のホームレスの慈善団体や医療 NGO に資金を提供することを慈善活動と考える人にとっては、やや不可解な言及が少し不可解だったかもしれません。 実際、未来基金の特定の関心分野には、人工知能、生物兵器、および「宇宙ガバナンス」が含まれます。これは、潜在的な「人類の歴史の分水嶺の瞬間」として宇宙に人類を定住させることを指す不思議な用語です。

Bankman-Fried 氏にとって、制御不能な人工知能はもう 1 つの懸念事項でした。そのため、9 月に Future Fund は、抑制されていない AI がもたらす脅威について説得力のある推定を行うことができる人に、最大 150 万ドルの賞金を授与すると発表しました。人類にポーズをとってください。

SpaceX のイーロン マスクが、同社の火星ロケット スターシップに関する最新情報を提供します。 マスク氏は長期主義の支持者だ。 写真: Callaghan O’Hare/Reuters

未来基金は、「人工知能」は「今世紀の人類の軌跡を劇的に変える可能性が最も高い開発である」と考えています。 「高度な AI の助けを借りて、世界の貧困、動物の苦しみ、早期死亡、衰弱性疾患の撲滅に向けて、私たちは大きな進歩を遂げることができました。」 しかし、AIは「望ましくない目的を獲得し、意図しない方法で権力を追求し、人間が将来への影響力のすべてまたはほとんどを失う」可能性もあります.

コンテストが発表されてから 2 か月も経たないうちに、Bankman-Fried の 320 億ドル規模の仮想通貨帝国は崩壊し、Future Fund の上級幹部の多くが辞任し、AI の賞金は決して報われないかもしれません。

Bankman-Fried が約束した数百万ドルのほとんどは、効果的な利他主義に関連する一連の慈善団体やシンクタンク、シリコン バレーや国際的なビジネスや政治の世界で影響力を持つようになった、かつては目立たなかった倫理的運動である。


L長期主義者は、将来の人間の福祉は現在の人間の生活と同じくらい、またはそれ以上に道徳的に重要であり、慈善活動のリソースは、人類に対する絶滅レベルの脅威を予測し、防御するために割り当てられるべきであると主張しています.

しかし長期主義者は、マラリア対策ネットを配布したり、井戸を掘ったりするよりも、実存的リスク、つまり「x-リスク」の研究に資金を割り当てることを好みます。

オックスフォード大学の 35 歳の道徳哲学者であり、効果的な利他主義の公的な知的な顔となった William MacAskill は、彼の最近の著書 What We Owe the Future で、長期主義の主張を、ハイカーが誤って自転車を壊してしまったという思考実験で説明しています。トレイル上のガラス瓶。 良心的な人は、次のハイカーが怪我をするのを避けるために、グラスをすぐにきれいにするだろうと彼は考えています。

同様に、MacAskill は、種の存続期間中の何世代にもわたる潜在的な将来の人間の数は、現在生きている数をはるかに上回っていると主張しています。 すべての人間が平等であると真に信じているなら、未来の人間を守ることは、今日の人間の命を守ることよりも重要です。

核不拡散やワクチン開発など、長期主義者の資金提供の関心の一部は、かなり議論の余地がありません。 宇宙植民地化への投資、電力を大量に消費する AI の台頭の阻止、「延命」技術による死の欺瞞など、もっと風変わりなものもあります。 「トランスヒューマニズム」として知られる一連のアイデアは、人間のデジタル版を作成したり、人間と機械のサイボーグを「バイオエンジニアリング」したりして、人類をアップグレードしようとしています。

未来派のレイ・カーツワイルと彼の支持者のような人々は、バイオテクノロジーが間もなく「人間と真にインテリジェントなコンピューターと AI システムとの結合を可能にする」と信じている、とロビン・マッキーは 2018 年にガーディアン紙で説明した。独自に創造された宇宙であり、「適切に強力な計算基盤」に自由にアップロードされ、それによって一種の不死性が生み出されます。


T彼の熱狂的なテクノ・ユートピア主義は、地球上にすでに存在する差し迫った問題から資金提供者をそらします、とケンブリッジ大学の実存リスク研究センターの研究員であるルーク・ケンプは言いました。 . 残されたのは、気候危機、自然感染症、経済的不平等など、現在起こっている重大かつ確実な脅威だと彼は言います。

「彼らがプッシュするものは、シリコンバレーが好むものである傾向があります」とケンプは言いました。 それらは、ハイテクの億万長者が知的に刺激的であると感じる、一種の投機的で未来的なアイデアです。 そして、ほとんどの場合、政治的または社会的な問題ではなく、人間の問題に対する技術的な解決策に焦点を当てています。

他にも反論があります。 まず第一に、非常に高価な実験的な生物工学は、特に最初のうちは「人類のほんの一部」しか利用できないだろうとケンプ氏は述べた。 それは、不平等が経済的なものだけでなく、生物学的なものになる未来のカースト制度をもたらす可能性があります。

この考え方は危険なほど非民主的でもある、と彼は主張した。 人類の未来に関するこれらの大きな決定は、人類によって決定されるべきです。 億万長者に資金提供されたオックスフォード大学の数人の白人男性哲学者だけによるものではありません。 それは文字通り、社会の中で最も強力で、代表性が最も低い層であり、彼らに適した未来の特定のビジョンを課しています。」

ロングターミズムの支持者の中には、テクノロジーが私たちの寿命を延ばすことができるという考えである「トランスヒューマニズム」に関心を持っている人もいます。
ロングターミズムの支持者の中には、テクノロジーが私たちの寿命を延ばすことができるという考えである「トランスヒューマニズム」に関心を持っている人もいます。 コンポジット:リンジー・アーバイン/ゲッティ

Kemp 氏は次のように付け加えています。 より独断的な変種において、長期主義は「合理性、筋金入りの功利主義、定量化と新自由主義経済学への病的な強迫観念」にとらわれている.

キャリアの浅い専門家向けのプログラムである 80,000 Hours などの組織は、有能な利他主義者になることを 4 つの主な分野で奨励する傾向があると Kemp 氏は述べています。 .」 」、つまり、資金をどのように配分すべきかという問題です。

ケンプ氏によると、最初の 2 つの領域は研究に値するものの、「非常に投機的」であり、2 番目の 2 つは資金とエネルギーを運動に戻すため、「利己的」です。

今年、Future Fund は、「電磁放射によるウイルス不活化の実現可能性」に関する研究 (140,000 ドル) など、価値があると思われるプロジェクトへの助成金を推奨したと報告しています。 インドの子供たちを科学、技術、工学、数学のオンライン教育につなげるプロジェクト (200,000 ドル)。 「疾患を中和する治療用抗体」に関する研究 (155 万ドル)。 小児期の鉛曝露に関する研究 ($400,000)。

しかし、未来基金の多額の資金の多くは、長期主義そのものに投資されたようです。 Global Priorities Institute に 120 万ドルを推薦しました。 長期未来基金に 390 万ドル。 「ロンドンの長期コワーキング オフィス」の作成に 290 万ドル。 「バークレーに長期コワーキングスペース」を作るために390万ドル。 700,000 ドルは、「長期的な法律研究およびフィールド構築組織」である Legal Priorities Project に寄付されます。 効果的利他主義センターに 1,390 万ドル。 ロングビュー フィランソロピーに 1,500 万ドルを提供して、「世界的な優先事項の研究、核兵器政策、およびその他の長期主義者の問題に関する独立した助成金」を実行します。

ケンプは、効果的な利他主義と長期主義は、しばしば一種の規制上の捕獲に向けて働いているように見えると主張した. 「長期的な戦略は、公共政策に影響を与えるために、EA と EA のアイデアをペンタゴン、ホワイトハウス、英国政府、国連などの場所に持ち込むことです」と彼は言いました。

ワシントンDCでの上院農業、栄養、林業委員会の公聴会でのサム・バンクマン・フリード。
ワシントンDCでの上院農業、栄養、林業委員会の公聴会でのサム・バンクマン・フリード。 写真:ブルームバーグ/ゲッティイメージズ

Bankman-Fried の失脚のタイミングには明るい兆しがあるかもしれません。 「ある意味では、後でではなく、今起こったことは良いことです」とケンプは言いました. 「彼は選挙に多額のお金を使うことを計画していました。 ある段階では、彼は、米国の政治史上最大の寄付者になるであろう最大10億ドルを費やすことを計画していたと述べた. その金額が民主党の勝利に貢献し、その後詐欺に基づいていたことが判明したと想像できますか? 米国のようなすでに脆弱で二極化した社会では? それは恐ろしいことだったでしょう。」


「T慈善活動の歴史家でアーバン・インスティテュートのシニア・リサーチ・アソシエイトであるベンジャミン・ソスキースは、次のように述べています。 「主に一般の人々、そして彼らの情熱、興味、さまざまな種類の起源によって支えられた運動は、多くの非常に裕福な資金提供者を引き付け」、「資金提供の決定、そして時には公的なアイデンティティだけによって推進されるようになりました. 」 、SBF やイーロン マスク、その他数人のような人々のことです。 (Soskis 氏は、EA 関連の財団である Open Philanthropy から資金提供を受けていると述べています。)

効果的な利他主義により、バハマの高級住宅地に住んでいた Bankman-Fried は、「このカローラを運転し、お手玉で寝て、お金を稼ぐ修道士として台座に置かれましたが、これは明らかに誤りでした」と Kemp は言いました。

Soskis は、効果的な利他主義は、問題について分析的かつ計算的な考え方をする傾向がある技術者や金融業界の人々にとって自然な魅力を持っていると考えており、EA はすべての運動と同様に、社会的および仕事上のネットワークを通じて広がっています。

効果的な利他主義は裕福な人々にとっても魅力的である、と Soskis は信じています。それは、特に「理解に反する可能性のある速い金額」について話すときに、「追加のドルの限界価値を理解する方法」を提供するからです。 この運動が数字に焦点を当てていること (「黙って増やそう」) は、超裕福な人々が、たとえば 50 万ドルや 50,000 ドルに対して、5 億ドルで慈善活動に何ができるかをより具体的に理解するのに役立ちます。

彼が考える肯定的な結果の 1 つは、EA の影響を受けた寄付者が、慈善活動への取り組みについて公に話し合い、他の人にそれを行うよう奨励することです。 歴史的に、アメリカ人は慈善活動を個人的な問題と見なす傾向がありました。

しかし、「逃れられないと思う」何かがある、とソスキスは言った。 効果的な利他主義は、「金儲けの方法に対する強い批判に基づいているわけではない」。 そしてその要素は、資本主義をポジティブな力としてより一般的に理解し、一種の帰結主義的な計算を通して解釈されました。 特定の産業の正当性や金儲けの方法に関するより広範な政治的議論から、慈善活動の決定を隔離したい人々にとって、ある程度、それはより安全な着陸地点です.

ケンプ氏は、EA、特に長期主義者が民主主義や不平等などの問題について話し合うのを聞くことはめったにないと述べた。 「正直なところ、それは寄付者が私たちに話してほしくないことだからだと思います。」 たとえば、租税回避を取り締まると、主要な寄付者は「権力と富の両方を失う」ことになります。

フューチャーファンドや無数の他の長期主義者組織を危険にさらしたバンクマンフリードの暗号帝国の崩壊は、明らかになるかもしれません. 長期主義者は、人類に対する将来の実存リスクは正確に計算できると信じていますが、経済学者のタイラー・コーウェンは最近 指摘した、彼らは自分たちの旗艦慈善団体に対する実存的な脅威を予測することさえできませんでした.

Soskis 氏は、「魂の探求」が必要であると述べた。 「長期主義には汚れがあり、それがいつ完全に取り除かれるかどうかはわかりません。」

「億万長者は億万長者だ」ジャーナリストのアナンド・ギリダラダス 書きました 最近ツイッターで。 彼の 2018 年の著書 Winners Take All は、個人的な慈善活動が人間の問題を解決するという考えを鋭く批判しました。 善良な億万長者を信じるのをやめましょう。 良い社会に向けて組織化を始めましょう。」

Leave a Comment

Your email address will not be published. Required fields are marked *