ربات های تشنه قدرت، استعمار فضایی، سایبورگ ها: درون دنیای عجیب و غریب «طولان گرایی» | فن آوری

به گزارش سرویس اخبار فناوری پایگاه خبری عصر فناوری ،

بسیاری از ما ربات‌های قاتل تشنه قدرت را تهدیدی قریب‌الوقوع برای بشریت نمی‌دانیم، به‌ویژه وقتی که فقر و بحران آب‌وهوایی زمین را درگیر کرده است.

این در مورد سام بنکمن-فرید و پیروانش صدق نمی‌کند، بازیگران قدرتمندی که مکتبی را در جنبش نوع‌دوستی مؤثر به نام «طولان‌گرایی» پذیرفته‌اند.

در ماه فوریه، صندوق آینده، یک سازمان بشردوستانه که توسط این کارآفرین که اکنون رسوا شده است، اعطا شده است. اعلام کرد که امسال بیش از 100 میلیون دلار – و احتمالاً تا 1 میلیارد دلار – برای پروژه هایی برای “بهبود چشم انداز بلندمدت بشریت” پرداخت خواهد کرد.

این مرجع کمی مرموز ممکن است برای کسانی که به بشردوستی به عنوان تامین مالی خیریه های بی خانمان ها و سازمان های غیر دولتی پزشکی در جهان در حال توسعه فکر می کنند کمی گیج کننده باشد. در واقع، حوزه‌های خاص مورد علاقه صندوق آینده شامل هوش مصنوعی، سلاح‌های بیولوژیکی و «حکومت فضایی» است، اصطلاحی مرموز که به اسکان انسان‌ها در فضا به‌عنوان یک «لحظه آبخیز بالقوه در تاریخ بشر» اشاره دارد.

هوش مصنوعی خارج از کنترل یکی دیگر از موضوعات مورد توجه بانکمن-فرید بود – به طوری که در ماه سپتامبر، صندوق آینده جوایز تا سقف 1.5 میلیون دلار را برای هر کسی که بتواند تخمین قانع‌کننده‌ای از تهدیدی که هوش مصنوعی نامحدود ممکن است ایجاد کند، اعلام کرد. بشریت.

ایلان ماسک از اسپیس ایکس به روز رسانی در مورد موشک مریخ استارشیپ این شرکت ارائه می دهد.  ماسک از طرفداران بلندمدت گرایی است
ایلان ماسک از اسپیس ایکس به روز رسانی در مورد موشک مریخ استارشیپ این شرکت ارائه می دهد. ماسک از طرفداران بلندمدت گرایی است. عکس: کالاگان اوهر/ رویترز

صندوق آینده گفت: “ما فکر می کنیم هوش مصنوعی” توسعه ای است که به احتمال زیاد مسیر بشریت را در این قرن تغییر می دهد. با کمک هوش مصنوعی پیشرفته، ما می‌توانیم پیشرفت عظیمی در جهت پایان دادن به فقر جهانی، رنج حیوانات، مرگ زودهنگام و بیماری‌های ناتوان کننده داشته باشیم.» اما هوش مصنوعی همچنین می‌تواند «اهداف نامطلوب را به دست آورد و قدرت را به روش‌های ناخواسته دنبال کند و باعث شود انسان‌ها تمام یا بیشتر نفوذ خود را بر آینده از دست بدهند».

کمتر از دو ماه پس از اعلام مسابقه، امپراتوری ارزهای رمزنگاری شده بانکمن-فرید 32 میلیارد دلار فروپاشید، بسیاری از مدیران ارشد صندوق آینده استعفا داده بودند و جوایز هوش مصنوعی آن ممکن است هرگز جایزه نگیرند.

همچنین بسیاری از میلیون‌ها دلاری که بانکمن-فرید وعده داده بود، مجموعه‌ای از خیریه‌ها و اندیشکده‌های وابسته به نوع‌دوستی مؤثر، جنبشی اخلاقی که زمانی مبهم بود و در سیلیکون ولی و بالاترین رده‌های تجارت بین‌المللی و جهان سیاسی تأثیرگذار شده است، نخواهد بود.


Lانگترمیست‌ها استدلال می‌کنند که رفاه انسان‌های آینده از نظر اخلاقی – یا مهم‌تر – از زندگی انسان‌های کنونی مهم است و منابع بشردوستانه باید به پیش‌بینی و دفاع در برابر تهدیدات در سطح انقراض برای بشریت اختصاص داده شود.

اما به جای دادن تورهای مالاریا یا حفر چاه، بلندمدت‌ها ترجیح می‌دهند که پول را به تحقیق در مورد خطر وجودی یا “خطر x” اختصاص دهند.

ویلیام مک اسکیل – فیلسوف اخلاق 35 ساله در آکسفورد که به چهره روشنفکر عمومی نوع دوستی مؤثر تبدیل شده است – در کتاب اخیر خود “ما به آینده چه بدهکاریم” با یک آزمایش فکری در مورد کوهنوردی که به طور تصادفی یک کوهنورد را در هم می شکند، موردی برای دراز مدت گرایی مطرح می کند. بطری شیشه ای در مسیر. او معتقد است که یک فرد وظیفه شناس، بلافاصله شیشه را تمیز می کند تا از آسیب رساندن به کوهنورد بعدی جلوگیری کند – چه آن شخص یک هفته یا یک قرن دیگر بیاید.

به طور مشابه، مک‌آسکیل استدلال می‌کند که تعداد انسان‌های بالقوه آینده، در طول نسل‌های زیادی در طول مدت گونه، بسیار بیشتر از تعداد موجودات فعلی است. اگر واقعاً باور داشته باشیم که همه انسانها برابرند، حفاظت از انسانهای آینده مهمتر از حفاظت از جان انسانهای امروزی است.

برخی از منافع مالی بلندمدت گرایان، مانند منع گسترش تسلیحات هسته ای و توسعه واکسن، نسبتاً بحث برانگیز است. برخی دیگر عجیب‌تر هستند: سرمایه‌گذاری در استعمار فضا، جلوگیری از ظهور هوش مصنوعی تشنه قدرت، فریب دادن مرگ از طریق فناوری «توسعه زندگی». مجموعه‌ای از ایده‌ها به نام «فرات‌انسان‌گرایی» به دنبال ارتقای بشریت با ایجاد نسخه‌های دیجیتالی انسان، «مهندسی زیستی» سایبورگ‌های انسان-ماشین و مواردی از این دست است.

رابین مک کی در گاردین در سال 2018 توضیح داد که افرادی مانند ری کورزویل آینده نگر و طرفدارانش معتقدند که بیوتکنولوژی به زودی “اتحادی بین انسان ها و کامپیوترهای واقعاً هوشمند و سیستم های هوش مصنوعی را امکان پذیر می کند.” جهانی از خلقت خود، خود را به میل خود بر روی یک زیرلایه محاسباتی قدرتمند بارگذاری می کند، و در نتیجه نوعی جاودانگی ایجاد می کند.


تیلوک کمپ، همکار پژوهشی در مرکز مطالعات خطر وجودی دانشگاه کمبریج که خود را منتقد نوع‌دوستی مؤثر توصیف می‌کند، می‌گوید: «تکنو اتوپیانیسم تب‌بار او حواس سرمایه‌گذاران را از مشکلات مبرمی که در حال حاضر در زمین وجود دارد منحرف می‌کند. . او می‌گوید، تهدیدهای حیاتی و معتبری مانند بحران آب و هوا، همه‌گیری‌های طبیعی و نابرابری اقتصادی روی میز باقی مانده‌اند.

کمپ گفت: “چیزهایی که آنها فشار می آورند معمولا چیزهایی هستند که سیلیکون ولی دوست دارد.” آنها از انواع ایده های آینده نگر و سوداگرانه هستند که میلیاردرهای فناوری از نظر فکری هیجان انگیز می یابند. «و آنها تقریباً همیشه بر راه‌حل‌های فنی» برای مشکلات انسانی «به جای مسائل سیاسی یا اجتماعی» تمرکز می‌کنند.

ایرادات دیگری نیز وجود دارد. کمپ گفت، برای یک چیز، مهندسی زیستی بسیار پرهزینه و تجربی، به ویژه در ابتدا، در دسترس خواهد بود. این می تواند یک سیستم کاست آینده را ایجاد کند که در آن نابرابری نه تنها اقتصادی، بلکه بیولوژیکی است.

او استدلال کرد که این تفکر به طرز خطرناکی غیردموکراتیک است. این تصمیمات بزرگ در مورد آینده بشریت باید توسط بشریت تصمیم گیری شود. نه فقط توسط چند فیلسوف مرد سفیدپوست در آکسفورد که توسط میلیاردرها تأمین مالی می شوند. این به معنای واقعی کلمه قدرتمندترین و کم نماینده ترین قشر جامعه است که چشم انداز خاصی از آینده را که مناسب آنهاست تحمیل می کند.

برخی از طرفداران بلندمدت گرایی به
برخی از طرفداران بلندمدت گرایی به “فرات انسانی” علاقه دارند، این ایده که فناوری می تواند طول عمر ما را افزایش دهد. کامپوزیت: لینزی اروین/گتی

کمپ افزود: “من فکر نمی کنم EA – یا حداقل رهبری EA – به دموکراسی اهمیت زیادی بدهد.” او گفت که در انواع جزمی‌ترش، درازمدت‌گرایی با «عقلانیت، سودگرایی سخت‌گیر، وسواس آسیب‌شناختی به کمی‌سازی و اقتصاد نئولیبرال» سرگرم است.

کمپ گفت: سازمان‌هایی مانند 80000 Hours، برنامه‌ای برای حرفه‌ای‌های اولیه، تمایل دارند نوع‌دوستان مؤثر را در چهار حوزه اصلی تشویق کنند: تحقیقات هوش مصنوعی، تحقیقات آماده‌سازی برای بیماری‌های همه‌گیر انسان‌ساز، جامعه‌سازی EA و «تحقیق اولویت‌های جهانی». ” یعنی این سوال که بودجه چگونه باید تخصیص داده شود.

کمپ گفت، دو حوزه اول، اگرچه ارزش مطالعه دارند، اما “بسیار حدس و گمان” هستند، و دو حوزه دوم “خود خدمتی” هستند، زیرا پول و انرژی را به جنبش هدایت می کنند.

در سال جاری، صندوق آینده گزارش می دهد که کمک های مالی را برای پروژه های ارزشمند به نظر می رسد، مانند تحقیقات در مورد “امکان سنجی غیرفعال کردن ویروس ها از طریق تشعشعات الکترومغناطیسی” (140,000 دلار). پروژه ای که کودکان در هند را با آموزش آنلاین علوم، فناوری، مهندسی و ریاضیات مرتبط می کند (200000 دلار). تحقیق در مورد “آنتی بادی های درمانی خنثی کننده بیماری” (1.55 میلیون دلار). و تحقیق در مورد مواجهه با سرب دوران کودکی (400000 دلار).

اما به نظر می رسد که بسیاری از سرمایه های کلان صندوق آینده در خود بلندمدت سرمایه گذاری شده است. 1.2 میلیون دلار به موسسه اولویت های جهانی توصیه کرد. 3.9 میلیون دلار به صندوق آتی بلند مدت؛ 2.9 میلیون دلار برای ایجاد «دفتر همکاری طولانی مدت در لندن»؛ 3.9 میلیون دلار برای ایجاد “فضای همکاری طولانی مدت در برکلی”؛ 700000 دلار به پروژه اولویت های حقوقی، “سازمان تحقیقات حقوقی طولانی مدت و میدان سازی”؛ 13.9 میلیون دلار به مرکز نوع دوستی مؤثر. و 15 میلیون دلار به Longview Philanthropy برای اجرای «اعطای کمک مالی مستقل در زمینه تحقیقات اولویت‌های جهانی، سیاست تسلیحات هسته‌ای، و سایر موضوعات بلندمدت».

کمپ استدلال می‌کرد که نوع‌دوستی و بلندمدت‌گرایی مؤثر اغلب به‌نظر می‌رسد در جهت نوعی تسخیر نظارتی کار می‌کنند. او گفت: «استراتژی بلندمدت این است که ایده‌های EA و EA را به مکان‌هایی مانند پنتاگون، کاخ سفید، دولت بریتانیا و سازمان ملل منتقل کند تا بر سیاست‌های عمومی تأثیر بگذارد.

سم بنکمن-فرید در جلسه استماع کمیته کشاورزی، تغذیه و جنگلداری سنا در واشنگتن دی سی.
سم بنکمن-فرید در جلسه استماع کمیته کشاورزی، تغذیه و جنگلداری سنا در واشنگتن دی سی. عکس: بلومبرگ/گتی ایماژ

ممکن است در زمان سقوط Bankman-Fried یک خط نقره ای وجود داشته باشد. کمپ گفت: «از یک جهت، خوب است که این اتفاق اکنون رخ داد تا بعداً. او در حال برنامه ریزی برای خرج کردن مبالغ هنگفتی برای انتخابات بود. در یک مرحله، او گفت که قصد دارد تا یک میلیارد دلار هزینه کند، که او را به بزرگترین کمک کننده در تاریخ سیاسی ایالات متحده تبدیل می کرد. آیا می توانید تصور کنید که این مقدار پول به پیروزی دموکرات ها کمک کند – و سپس معلوم شود که مبتنی بر تقلب بوده است؟ در جامعه ای شکننده و قطبی شده مانند ایالات متحده؟ این وحشتناک بود.»


«تیبنجامین سوسکیس، مورخ بشردوستی و پژوهشگر ارشد مؤسسه ی اوربان، گفت: تنش اصلی جنبش، آن طور که من می بینم، یکی از جنبش ها است که با آن سروکار دارند. «جنبشی که اساساً توسط مردم عادی – و علایق، و علایق و انواع منشأ آنها – تغذیه می‌شد، تعدادی از سرمایه‌گذاران بسیار ثروتمند را به خود جذب کرد، و توسط «تصمیم‌های تأمین مالی، و گاهی اوقات فقط هویت‌های عمومی» هدایت شد. ، از افرادی مانند SBF و ایلان ماسک و چند نفر دیگر. (سوسکیس اشاره کرد که از Open Philanthropy، یک بنیاد وابسته به EA، بودجه دریافت کرده است.)

کمپ گفت، نوع‌دوستی مؤثر، بنکمن-فرید را که در یک مجتمع مجلل در باهاما زندگی می‌کرد، «به‌عنوان یک راهب کرولا، لوبیا‌خواب، پول‌دار، روی یک پایه قرار داد، که آشکارا نادرست بود».

سوسکیس فکر می‌کند که نوع‌دوستی مؤثر برای افراد فناوری و مالی جذابیت طبیعی دارد – که تمایل به تفکر تحلیلی و محاسباتی در مورد مشکلات دارند – و EA، مانند همه جنبش‌ها، از طریق شبکه‌های اجتماعی و کاری گسترش می‌یابد.

سوسکیس معتقد است نوع‌دوستی مؤثر برای افراد ثروتمند نیز جذاب است، زیرا “راهی برای درک ارزش نهایی دلارهای اضافی” ارائه می‌کند، به‌ویژه وقتی صحبت از “مبلغ هنگفتی است که می‌تواند درک را به چالش بکشد”. تمرکز جنبش بر اعداد (“ساکت و ضرب”) به افراد بیش از حد ثروتمند کمک می کند تا درک دقیق تری داشته باشند که 500 میلیون دلار در مقابل مثلاً 500000 دلار یا 50000 دلار چه کارهایی را می توانند به صورت بشردوستانه انجام دهند.

او فکر می کند که یک نتیجه مثبت این است که اهداکنندگان تحت تأثیر EA به طور عمومی تعهدات بشردوستانه خود را مورد بحث قرار می دهند و دیگران را تشویق می کنند تا آنها را انجام دهند. از لحاظ تاریخی، آمریکایی ها تمایل داشته اند که بشردوستی را یک امر خصوصی بدانند.

سوسکیس گفت، اما چیزی وجود دارد که “من فکر می کنم شما نمی توانید از آن فرار کنید”. نوع‌دوستی مؤثر «بر نقد قوی روش پول‌آوری نیست. و عناصر آن به عنوان درک سرمایه داری به طور کلی به عنوان یک نیروی مثبت و از طریق نوعی محاسبات نتیجه گرایانه تعبیر شد. تا حدودی، این مکان امن‌تری برای افرادی است که می‌خواهند تصمیمات بشردوستانه خود را از یک بحث سیاسی گسترده‌تر درباره مشروعیت برخی صنایع یا راه‌های کسب درآمد جدا کنند.»

کمپ گفت که به ندرت شنیده می‌شود که EA، به‌ویژه بلندمدت‌ها، درباره موضوعاتی مانند دموکراسی و نابرابری بحث کنند. صادقانه بگویم، من فکر می‌کنم این به این دلیل است که اهداکنندگان نمی‌خواهند در مورد آن صحبت کنیم.» برای مثال، سرکوب اجتناب مالیاتی منجر به «از دست دادن قدرت و ثروت» توسط اهداکنندگان بزرگ می‌شود.

سقوط امپراتوری رمزنگاری بانکمن-فرید، که صندوق آینده و سازمان‌های طولانی مدت بی‌شماری دیگر را به خطر انداخته است، ممکن است آشکار باشد. درازمدت‌ها معتقدند که خطرات وجودی آینده برای بشریت را می‌توان به دقت محاسبه کرد – با این حال، همانطور که تایلر کاون، اقتصاددان اخیرا با اشاره به، آنها حتی نمی توانستند تهدید وجودی برای سازمان خیریه شاخص خود را پیش بینی کنند.

سوسکیس گفت: باید «جستجوی روح» وجود داشته باشد. “لنگ ترمیسم لکه ای روی آن است و من مطمئن نیستم که چه زمانی یا به طور کامل از بین خواهد رفت.”

آناند گیرداراداس، روزنامه نگار، «میلیاردر یک میلیاردر است». نوشت اخیرا در توییتر کتاب برندگان همه را در سال 2018 او به شدت از این ایده انتقاد کرد که بشردوستی خصوصی مشکلات انسانی را حل می کند. «باور به میلیاردرهای خوب دست بردارید. سازماندهی را به سوی یک جامعه خوب شروع کنید.»

این محتوا از سایت های خبری خارجی بطور اتوماتیک دانلود شده است و عصر فناوری فقط نمایش دهنده است. اگر این خبر با قوانین و مقررات جمهوری اسلامی مناقات دارد لطفا به ما گزارش کنید.

منبع

درباره ی asrf_admin

مطلب پیشنهادی

اشتراک گذاری به ویژگی کلیدی ماشین دیجیتال اندروید می آید

به گزارش سرویس اخبار فناوری پایگاه خبری عصر فناوری ، گوگل سال گذشته قابلیت Digital …