هوش مصنوعی؛ تهدیدی برای بشریت
تاریخ انتشار: ۲۹ شهریور ۱۴۰۱ | کد خبر: ۳۶۰۵۱۸۷۱
پژوهشگران دانشگاه آکسفورد و بخش هوش مصنوعی «دیپمایند» (DeepMind) گوگل ادعا کردهاند احتمال زیادی وجود دارد که صورتهای پیشرفته هوش مصنوعی «برای وجود حیات روی زمین مخاطرهآمیز باشند».
به نقل از ایندیپندنت، محققان در مقالهای که بهتازگی در مجله داوریشده «هوش مصنوعی» (AI Magazine) منتشر شد، هشدار دادند که ادامه توسعه برخی از عوامل هوش مصنوعی، «عواقب فاجعهبار» درپی خواهد داشت.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
فیلسوفان برجستهای، ازجمله نیک باستروم از دانشگاه آکسفورد، پیش از این در مورد تهدید ناشی از شکلهای پیشرفته هوش مصنوعی صحبت کردهاند، در همین حال، یکی از نویسندگان مقاله جدید ادعا میکند که چنین هشدارهایی چندان هم بعید نیست.
مایکل کوهن در یک رشته توییت که با این مقاله ضمیمه شده است، نوشت: «باستروم، [دانشمند کامپیوتر] استوارت راسل، و دیگران استدلال کردهاند که هوش مصنوعی پیشرفته، تهدیدی برای بشریت است.»
«تحت شرایطی که ما بررسی و شناسایی کردهایم، نتیجهگیری ما بسیار قویتر از هر مقاله منتشرشده قبلی است - [وقوع] یک فاجعه وجودی نه تنها ممکن است، بلکه محتمل است.»
این مقاله سناریویی را پیشنهاد میکند که براساس آن، یک عامل هوش مصنوعی، استراتژی تقلب را برای دریافت پاداشی که از قبل برای جستوجوی آن برنامهریزی شده است، میفهمد و از آن سر درمیآورد.
این [عامل هوش مصنوعی] برای به حداکثر رساندن ظرفیت پاداش خود، به فراهم کردن میزان هرچه بیشتری انرژی نیاز دارد. این آزمایش فکری پیشبینی میکند که بشر در نهایت برای [به دست آوردن] منابع انرژی با هوش مصنوعی رقابت میکند.
آقای کوهن نوشت: «برندهشدن در رقابت «استفاده از آخرین ذره انرژی موجود» در شرایطی که در مقابل چیزی بسیار هوشمندتر از خودمان بازی میکنیم، احتمالا بسیار سخت خواهد بود. باخت [در این بازی]، مرگبار خواهد بود.»
«این احتمالات، هرچند که نظری [و تئوریکاند]، اما به این معنی است که ما باید بهآرامی – اگر اینگونه باشد – به سمت هدف هوش مصنوعی قدرتمندتر پیش برویم.»
«دیپمایند» پیش از این، یک تضمین حفاظتی در برابر چنین احتمالی پیشنهاد داده و آن را «دکمه بزرگ قرمز» نامیده است. در مقالهای در سال ۲۰۱۶ با عنوان «عوامل [هوش مصنوعی] ایمن با قابلیت قطع شدن»، این شرکت هوش مصنوعی چارچوبی برای جلوگیری از نادیدهگرفتن دستورات خاموش کردن از طرف ماشینهای پیشرفته و [مانع شدن از] تبدیل آنها به یک عامل سرکش خارج از کنترل، ترسیم کرد.
پروفسور باستروم پیشتر «دیپمایند» را که دستاوردهای هوش مصنوعی آن از جمله شامل شکست دادن قهرمانان انسان در بازی رومیزی «گو» (Go) و تحت کنترل درآوردن همجوشی هستهای است - بهعنوان نزدیکترین [گروه] به ایجاد هوش مصنوعی در سطح انسانی توصیف کرد.
این فیلسوف سوئدی همچنین گفت که اگر پیشرفت هوش مصنوعی ادامه پیدا نکند، «تراژدی بزرگی» خواهد بود، زیرا هوش مصنوعی، ظرفیت درمان بیماریها و پیشرفت تمدن را دارد و در غیر اینصورت [رسیدن به این موارد] با این سرعت غیرممکن است.
باشگاه خبرنگاران جوان فضای مجازی دريچه فناوریمنبع: باشگاه خبرنگاران
کلیدواژه: هوش مصنوعی هوشمند سازی هوش مصنوعی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.yjc.ir دریافت کردهاست، لذا منبع این خبر، وبسایت «باشگاه خبرنگاران» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۶۰۵۱۸۷۱ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
کسب رتبه نخست محقق پژوهشکده سرطان معتمد در جشنواره تحقیقات برتر «سلول درمانی و سلولهای بنیادی خونساز»
عضو هیات علمی پژوهشکده سرطان معتمد موفق به کسب رتبه برتر چهارمین جشنواره تحقیقات برتر در حوزه سلول درمانی و سلولهای بنیادی خونساز شد
به گزارش گروه دانشگاه خبرگزاری دانشجو، چهارمین جشنواره تحقیقات برتر سلولهای بنیادی خونساز و سلول درمانی به همت پژوهشکده سرطان معتمد جهاددانشگاهی و پژوهشکده انکولوژی، هماتولوژی و سل تراپی دانشگاه علوم پزشکی تهران در بیمارستان شریعتی برگزار شد.
در این مراسم سرکار خانم دکتر زهرا سادات هاشمی، عضو هیات علمی پژوهشکده سرطان معتمد جهاددانشگاهی با ارائه مقاله؛ In vivo study for cytotoxicity of murine NK cell-derived exosomes against Triple-Negative mouse mode توانست رتبه نخست را کسب کند، همچنین مرکز رشد فناوریهای پیشرفته درمانی و تشخیصی با ارائه مقاله؛ «تولید گوشت آزمایشگاهی جهت تغذیه حیوانات خانگی برای اولین بار در ایران» حائر رتبه دوم و سرکار خانم فاطمه سلیمیان پژوهشگر پژوهشکده سرطان معتمد با مقاله " Human Placenta Derived Mesenchymal Stem Cells Transplantation in Patients with Acute Respiratory Distress Syndrome (ARDS) Caused by COVID-۱۹ (Phase I Clinical Trial):Safety profile assessment رتبه سوم را در این دوره از جشنواره کسب کردند.