تسخیر انسان توسط کامپیوتر؛ خطر آخرالزمانی هوش مصنوعی را جدی بگیرید

به گزارش ایکنا، نشست «هوش مصنوعی و کاربرد آن در علوم انسانی» با سخنرانی عبدالمجید مبلغی؛ عضو هیئت علمی پژوهشگاه علوم انسانی و مطالعات فرهنگی 10 تیرماه در محل پژوهشگاه برگزار شد که گزیده آن را در ادامه می‌خوانید؛

درباره هوش مصنوعی در دانشنامه ایکنا بیشتر بخوانید!

من در ابتدا یک بحث مقدماتی خواهم داشت، سپس تعریفی از هوش مصنوعی ارائه خواهم کرد و بعد از آن درباره تکامل هوش مصنوعی توضیح می‌دهم و جلسه آینده نیز درباره علوم انسانی و نسبتش با هوش مصنوعی صحبت خواهم کرد.

از دیر باز دو شرکت در عرصه هوش مصنوعی پیشرو بودند ولی ظرف دهه اخیر شرکت‌های مختلف دیگری به هوش مصنوعی پرداختند. در این سال‌ها متخصصان از ظرفیت هوش مصنوعی در زندگی روزمره صحبت می‌کردند ولی گویی توافق نانوشته‌ای بود که هوش مصنوعی به لحاظ رقابت‌های موجود کماکان آشکار نشود اما در چند ماه اخیر اتفاقی افتاد که همه را غافلگیر کرد و آن خارج شدن غول چراغ‌ جادو بود که با چت جی پی تی آغاز شد و همه ما دیدیم اساسا آنچه هوش مصنوعی انجام می‌دهد با آنچه در ذهن داریم تفاوت فاحش دارد.

بازگشت این غول به چراغ جادو ناممکن است چون اگر شرکتی تصمیم بگیرد از پژوهش و توسعه در این حوزه کنار بکشد هوش مصنوعی را مهار نمی‌کند بلکه خودش را حذف می‌کند که اتفاقا بسیار پرهزینه است. هوش مصنوعی غولی است که در آمده و ما با خوب و بدش باید با آن زندگی کنیم. الآن ما با وضعیت زمین خیس جنگل پس از باران مواجه شدیم یعنی پس از ظهور چت جی پی تی اپلیکیشن‌های هوش مصنوعی بسیاری سبز شدند که این نشان می‌دهد تحقیقات در این حوزه به جاهای جدی رسیده بود که به دلایل مختلف برملا نشده بود. اکنون چند ماه پس از برملا شدن کارکرد هوش مصنوعی در منظر عموم و خارج شدن غول از چراغ هیچ بازیگری نمی‌تواند خودش را از تحقیقات هوش مصنوعی خارج کند بلکه باید با تمام توان به این عرصه وارد شود چون آینده فناورانه و هرچه به زیست و کیان یک کشور و شرکت مربوط است منوط به هوش مصنوعی است. این ادعا نیست، یک واقعیت است!

آنچه از هوش مصنوعی می‌بینیم تنها قله کوه یخ است یعنی آنچه آشکار شده و در دسترس ما است بسیار کمتر از چیزی است که در تحقیقات هوش مصنوعی به آن دست پیدا کردند هم شواهد فنی وجود دارد و هم شواهد میدانی و جامعه‌شناختی وجود دارد. ایلان ماسک کسی است که مخالف کنترل شناخته شده است و اساسا با قاعده‌گذاری موافق نیست ولی همین شخص در اظهار نظری می‌گوید من بر لبه‌های هوش مصنوعی قرار دارم، بی‌نهایت خطرناک است لطفا قاعده‌گذاری را دنبال کنید. این بحث مقدماتی بنده بود که وضعیت هوش مصنوعی به چه صورتی است.

هوش مصنوعی، ماشینی که مثل انسان فکر می‌کند

هوش مصنوعی شاخه‌ای از علوم رایانه‌ای است که به توسعه برنامه‌هایی توانمند در انجام وظایفی متعهد است که از هوش انسان توقع داریم. اشکال ساده‌ترش از مدت‌ها پیشتر در زندگی ما وجود داشت، مثل ترجمه ماشینی یا تشخیص صدا و امروز با تصمیم‌سازی، فهم پرسش و راه حل‌یابی مواجهیم. این تعریف گسترده در هوش مصنوعی بود. هوش مصنوعی یک زیرشاخه‌هایی دارد از زیرشاخه‌های مهم آن یکی آموزش ماشینی است، یکی آموزش ژرف است.

باز در تعریف هوش مصنوعی باید عرض کنم نوعی شبیه‌سازی هوش انسانی توسط کامپیوتر است. هوش مصنوعی ماشینی است که کدنویسی شده تا مثل انسان فکر کند. هوش مصنوعی کدنویسی‌شده برای یافتن راه حل‌های تازه چه ناشی از مشکلات مستقیم و چه مشکلات غیر مستقیم. بنابراین هوش مصنوعی توانایی تقلید از انسان است. این تعریف می‌تواند به ماشین‌هایی اطلاق شود که حل مسئله و یادگیری را دنبال می‌کنند. در همه انواع هوش مصنوعی سه فرآیند انجام می‌گیرد: یادگیری، استدلال و درک. از اینجا می‌توانیم گریزی بزنیم به نسبت آن با علوم انسانی. هوش مصنوعی برای انجام این سه فرایند به علوم مختلف و دانش‌های متنوع نیاز دارد از جمله دانش‌های علوم انسانی مثل زبان‌شناسی، کتابداری و ... .

نکته جالب این است که هوش مصنوعی فقط از دانش و علوم انسانی تغذیه نمی‌شود بلکه خلاف آمد عادت ظرفیت‌آفرینی غافلگیرانه برای تاثیرگذاری بر علوم انسانی دارد یعنی آرایش کلاسیک بازی را به هم می‌زند، اگر نگوییم قواعد بازی را به هم می‌زند. ما در مورد آینده دور حرف نمی‌زنیم درباره الآن حرف می‌زنیم. پیشرفت و یادگیری ماشین باعث تغییر در الگوهایی از صنعت و فناوری خواهد شد که آینده دانش و علوم انسانی را به صورت انقلابی تغییر خواهد داد.

چرا هوش مصنوعی خطرناک است؟

هوش مصنوعی دارد از تکامل در طبیعت تقلید می‌کند. بر این اساس می‌خواهم به بحث تکامل بپردازم و بگویم چرا هوش مصنوعی خطرناک است. دو نوع نگاه در این زمینه وجود دارد یک نگاه آخرالزمانی و یک نگاه عملیاتی. نگاه عملیاتی اینگونه است که می‌گوید هوش مصنوعی در حوزه نظامی این کار را می‌کند، در حوزه اقتصادی این کار را می‌کند. بحث اصلی ما این است که هوش مصنوعی، خطر آخرالزمانی دارد. برای فهم بهتر مسئله باید به مقوله تکامل بپردازیم. این نکته را هم عرض کنم آنچه در مورد تکامل می‌گویم با مباحث الهیاتی ناسازگاری ندارد. وقتی از انسان حرف می‌زنیم از چه چیزی حرف می‌زنیم؟ در منطق قدیم می‌گفتند انسان حیوان ناطق است. این تعریف منسوخ شده و به جای حیوان ناطق می‌گوییم انسان حیوان خودآگاه است چون برخی حیوانات قابلیت تفکر دارند. خودآگاهی به چه معنا است؟ ما سه مرحله داریم: هوش، آگاهی، خودآگاهی. هوش یعنی کاربرد قوه نطق مثل موشی که کارتن را سوراخ می‌کند تا پنیر را بردارد. سطح بالاتر آن آگاهی است یعنی سنجیدن نسبت‌های مختلف با هم که به آن آگاهی می‌گوییم مثلا سنگ خانگی گرسنه است ولی حمله نمی‌کند غذا را بخورد چون می‌فهمد صاحبش راضی نیست این غذا را بخورد. در واقع این سگ چند نسبت را با هم می‌بیند. رفتار ما انسان‌ها عمدا بر پایه آگاهی است.

مرحله بالاتر از آگاهی، خودآگاهی است. در این مرحله فرد نه تنها چند نسبت را با هم می‌بیند، بلکه همه نسبت‌ها را در ارتباط با خودش و دیگری نیز ملاحظه می‌کند. تنها انسان است که این خودآگاهی را دارد. کامپیوترها ابتدا مرحله هوش را فتح کردند ولی چیزی که ما را غافلگیر کرده این است که به نظر می‌آید مراحل اولیه آگاهی در هوش مصنوعی به وجود آمده است یعنی درست است نمی‌فهمد خودش کیست ولی آگاهانه پاسخ می‌دهد. حالا چرا هوش مصنوعی خطرناک می‌نماید؟ به نظر می‌رسد هوش مصنوعی دارد به سمت خودآگاهی می‌رود.

شاید بگویید خب به سمت خودآگاهی برود مگر چه می‌شود؟ مشکل سرعت تکامل در هوش مصنوعی است. سرعتی که ما را غافلگیر کرده است و ما را پشت سر خواهد گذاشت. می‌توان اینگونه پرسید که آیا ما در حال ساخت چیزی نیستیم که مثل بشر که بر طبیعت سوار شد، بر ما سوار شود؟ ما جهان را با استفاده از ذهن خودمان ابزار کردیم، حیوانات را اهلی کردیم، ماشین را ساختیم، نرم افزار را ساختیم، نهایتا این روند تکامل به سمتی می‌رود که به جایی می‌رسیم که کامپیوتر ما را می‌سازد. پس مشکل سرعت تکامل هوش مصنوعی است. به تعبیر دیگر همچنان که در مسیر تکامل، طبیعت ما را ایجاد کرد ولی پس از مدتی ما به دستکاری طبیعت پرداختیم آیا ما انسان‌ها نیز موضوع اعمال قدرت توسط هوش مصنوعی قرار نمی‌گیریم؟ این خطر آخرالزمانی هوش مصنوعی است.