عصر فناوری
شاید این مطالب برایتان مفید باشد
به گزارش سرویس اخبار فناوری پایگاه خبری عصر فناوری ،
یکی از اساتید پیشرو در هوش مصنوعی گفته است که وزیران به اندازه کافی برای محافظت در برابر خطرات ماشین های فوق هوشمند در آینده تلاش نمی کنند.
پروفسور استوارت راسل در جدیدترین مشارکت در بحث در مورد ایمنی توسعه فزاینده هوش مصنوعی به تایمز گفت که دولت تمایلی به تنظیم این صنعت ندارد علیرغم نگرانی‌هایی که ممکن است این فناوری از کنترل خارج شود و آینده صنعت را تهدید کند. بشریت.
راسل، مدرس دانشگاه کالیفرنیا در برکلی و مشاور سابق دولت‌های ایالات متحده و بریتانیا، به تایمز گفت که نگران است ChatGPT که در نوامبر منتشر شد، به بخشی از یک ماشین فوق‌هوشمند تبدیل شود که نمی‌توان آن را محدود کرد. .
چگونه می‌توانید قدرت را بر نهادهای قدرتمندتر از خود – برای همیشه حفظ کنید؟ او درخواست کرد. اگر پاسخی ندارید، تحقیق را متوقف کنید. به همین سادگی.
خطرات نمی تواند بالاتر باشد: اگر تمدن خود را کنترل نکنیم، در مورد ادامه حیات خود هیچ حرفی نداریم.
پس از انتشار ChatGPT برای عموم در سال گذشته، که برای نوشتن نثر استفاده شده است و قبلاً اساتید و معلمان را در مورد استفاده از آن در دانشگاه ها و مدارس نگران کرده است، بحث در مورد ایمنی آن در دراز مدت تشدید شده است.
ایلان ماسک، بنیانگذار تسلا و مالک توییتر، و استیو وزنیاک، بنیانگذار اپل، به همراه 1000 کارشناس هوش مصنوعی، نامه ای نوشتند و هشدار دادند که “مسابقه ای خارج از کنترل” در آزمایشگاه های هوش مصنوعی در جریان است و خواستار آن شدند. مکث در ایجاد هوش مصنوعی در مقیاس غول پیکر.
این نامه هشدار می‌دهد که آزمایشگاه‌ها در حال توسعه ذهن‌های دیجیتالی قدرتمندتری هستند که هیچ‌کس، حتی سازندگان آنها، نمی‌توانند آنها را درک، پیش‌بینی یا به‌طور قابل اعتماد کنترل کنند.
همچنین نگرانی در مورد کاربرد گسترده تر آن وجود دارد. کمیته ای از مجلس اعیان این هفته شواهدی را از سر لارنس فریدمن، استاد مطالعات جنگ شنید که در مورد نگرانی ها در مورد چگونگی استفاده از هوش مصنوعی در جنگ های آینده صحبت کرد.
رقیب گوگل، بارد، قرار است اواخر امسال در اتحادیه اروپا عرضه شود.
خود راسل قبلاً برای سازمان ملل در مورد نحوه نظارت بر معاهده ممنوعیت آزمایش هسته‌ای کار می‌کرد و اوایل امسال از او خواسته شد با وایت هال همکاری کند. او گفت: “وزارت خارجه … با افراد زیادی صحبت کرد و آنها به این نتیجه رسیدند که از دست دادن کنترل یک نتیجه قابل قبول و بسیار مهم است.”
پس از ارتقاء خبرنامه
و سپس دولت با یک رویکرد نظارتی ظاهر شد که می‌گوید: «اینجا چیزی برای دیدن نیست… ما از صنعت هوش مصنوعی استقبال خواهیم کرد، گویی در مورد ساخت خودرو یا چیزی شبیه به آن صحبت می‌کنیم».
او گفت: «فکر می‌کنم در همان ابتدا اشتباه کردیم، جایی که ما آنقدر مجذوب مفهوم درک و ایجاد هوش بودیم که فکر نمی‌کردیم این هوش برای چه چیزی باشد.»
“مگر اینکه تنها هدف آن سودمندی برای انسان ها نباشد، در واقع در حال ایجاد یک رقیب هستید – و این کار بدیهی احمقانه خواهد بود.
ما سیستم‌هایی را نمی‌خواهیم که رفتار انسان را تقلید کنند… شما اساساً به آنها آموزش می‌دهید تا اهدافی شبیه انسان داشته باشند و آن اهداف را دنبال کنند.
“شما فقط می توانید تصور کنید که چقدر فاجعه بار است که سیستم های واقعاً توانمندی داشته باشیم که این نوع اهداف را دنبال می کنند.”
این محتوا از سایت های خبری خارجی بطور اتوماتیک دانلود شده است و عصر فناوری فقط نمایش دهنده است. اگر این خبر با قوانین و مقررات جمهوری اسلامی مناقات دارد لطفا به ما گزارش کنید.
