مخاطرات هوش مصنوعی با دور شدن از اخلاقیات

رئیس شورای عالی الگوی اسلامی ایرانی پیشرفت در سخنانی با موضوع «چیرگی هوش مصنوعی بر انسان: امکان یا امتناع» گفت: اگر هوش مصنوعی در چارچوب اخلاقی قرار گیرد پذیرفتنی است و اگر از این چارچوب خارج شود، مخاطره آمیز خواهد بود. 

به گزارش ایسنا، دکتر صادق واعظ زاده در نشست تخصصی هوش مصنوعی و خلاقیت‌های انسانی که صبح امروز در سالن همایش مرکز الگوی اسلامی ایرانی پیشرفت برگزار شد،، ریشه بسیاری از مصیبت ها را تهی شدن انسان از عقلانیت و انسانیت دانست و افزود: «چیرگی هوش مصنوعی بر انسان: امکان یا امتناع؟»، پرسش جدیدی نیست و از سوی دیگر هوش مصنوعی راه درازی برای طی مسیر تکامل در پیش دارد و پرسش‌هایی که برای آن مطرح می‌شود بیشتر در بُعد کاربرد است.

وی با اشاره به ارتباط متقابل هوش مصنوعی با هم افزایی با فناوری‌های دیگر مانند رایانش عقلی، انتقال داده صحیح، اینترنت اشیا و محاسبات کوانتومی، اظهار کرد: از این رو هوش مصنوعی تنها گزینه حل مسائل به شمار می رود و این رویکرد موجب شده تا مخاطرات این حوزه فناوری بیشتر مطرح شود به گونه‌ای که چند ماه قبل گروه بزرگی از محققان و صاحبان کسب و کارهای هوش مصنوعی در سلامت، مجددا این سوال اساسی را مطرح کردند.

واعظ‌زاده خاطرنشان کرد: علاوه بر آن چند روز قبل نشست بین المللی برگزار شد و کلید واژه‌های مطرح شده در مناظره چهره‌های معروف هوش مصنوعی شامل: «هوش مصنوعی بزرگترین تهدید وجودی برای بشریت» و «هوش مصنوعی مخرب‌ترین نیرو در تاریخ بشری» بود.

وی اضافه کرد: در این نشست همجنین اعلام شد که اطمینانی نیست که انسان بر هوش مصنوعی کنترل داشته باشد و این گفته به معنای وجود کلی ابهام و تردید در پاسخ به سوال چیرگی هوش مصنوعی بر انسان است.

رئیس شورای عالی الگوی اسلامی ایرانی پیشرفت با طرح این سوال که اگر پاسخ چیرگی هوش مصنوعی بر انسان قطعی و مثبت باشد، باید دید آیا حکمرانی جدیدی ایجاد خواهد شد، گفت: برای اینکه نقطه پایانی بر این سوال گذاشته شود، نیاز به پاسخ نظری دارد و پاسخ این است که اگر استناد به برتری و تمایز عقل بر هوش مصنوعی نباشد، چیرگی هوش مصنوعی بر انسان ممکن می‌شود این پاسخ هر چند پذیرفتنی است ولی نیاز به مقدماتی دارد که این پاسخ از سوی برخی از محققان مورد تردید قرار گرفته است.

وی اضافه کرد: از این رو برای پاسخ به این سوال راه دیگری باز می‌شود و در آن بیان می شود که هوش مصنوعی مصداق فناوری است و ارائه پاسخ صحیح مستلزم شناسایی فناوری است چون حقیقت هوش مصنوعی، همان حقیقت فناوری است.

وی در ادامه بیان کرد: بر اساس برخی تعاریف ارائه شده، فناوری و تکنولوژی چارچوب ذهنی است که بر اساس آن طبیعت به عنوان یک منبع عظیم انرژی برای استخراج و بهره برداری است و در مسیر بهره برداری از طبیعت خشونت و تعرض به طبیعت اعمال می شود.

رئیس شورای عالی الگوی اسلامی ایرانی پیشرفت با تاکید بر اینکه هوش مصنوعی در سامانه های هوشمند قابل مقایسه با انسان است، اظهار کرد: هوش مصنوعی و انسان یک ترکیب حقیقی و انفکاک ناپذیر هستند ولی به طور کلی هر آنچه که از درون دچار پراکندگی باشد، در چالش با دیگران نابود خواهد شد. 

این استاد دانشگاه تهران با بیان اینکه در خصوص هوش مصنوعی دو چالش نظری و اخلاقی وجود دارد، ادامه داد: اصلی‌ترین شاه بیت چارچوب نظری این است که انسان مسلط بر هوش مصنوعی است و در این زمینه تردیدی نیست و در حوزه اخلاقی نیز اولین اصل این است که انسان مسؤولیت هوش مصنوعی را بپذیرد.

وی تاکید کرد: اگر هوش مصنوعی در چارچوب اخلاقی قرار گرفت پذیرفتنی است و اگر از این چارچوب خارج شود، مخاطره خواهد بود.