نيك بوستروم: الحياة فى مدينة التكنولوجيا الفاضلة سؤال المستقبل

التفكير فى مآلات التقدم التكنولوجى والمخاطر الوجودية التى يحملها للبشرية، هو الشاغل الرئيسى للفيلسوف السويدى نيك بوستروم. ففى عام 2014 ومع نشر كتابه «الذكاء الفائق: المسارات والمخاطر والاستراتيجيات»، لفت انتباه الجمهور إلى ما كان آنذاك فكرة هامشية، وهى أن الذكاء الاصطناعى سيتقدم إلى نقطة قد ينقلب فيها ضد البشرية ويمحيها. بالنسبة للكثيرين، بدت الفكرة خيالية، لكن شخصيات مؤثرة، بمن فيهم إيلون ماسك، استشهدوا بكتابات بوستروم. أثار الكتاب سلسلة من المخاوف المروعة بشأن الذكاء الاصطناعى لا سيما بعد التطورات الأخيرة فى روبوت المحادثة «شات جى بى تى». لم يعد القلق بشأن مخاطر الذكاء الاصطناعى أمرًا سائدًا فحسب، بل أيضًا حاضرًا داخل دوائر سياسة الذكاء الاصطناعى الحكومية. يتخذ كتاب بوستروم الجديد مسارًا مختلفًا تمامًا. ففى كتابه الأحدث «اليوتوبيا العميقة ومعنى الحياة فى عالم حُلت مشكلاته» ينظر المؤلف إلى المستقبل الذى نجحت فيه البشرية فى تطوير آلات فائقة الذكاء فتجنبت الكوارث. لقد تم القضاء على جميع الأمراض ويمكن للبشر أن يعيشوا إلى أجل غير مسمى فى وفرة لا نهاية لها. يدرس كتاب بوستروم المعنى الذى سيكون موجودًا فى الحياة داخل المدينة الفاضلة التكنولوجية. حول هذا الكتاب ورؤيته للمستقبل فى ظل الذكاء الاصطناعى، جاء حوار بوستروم مع موقع WIRED. 

من التشاؤم إلى  التفاؤل

تحدث الفيلسوف بوستروم عن أسباب تحوله من الكتابة عن الذكاء الاصطناعى الفائق الذى يهدد البشرية إلى التفكير فى مستقبل يتم استخدامه فيه لفعل ما هو نافع بقوله: إن الأشياء المختلفة التى يمكن أن تضل طريقها مع تطور الذكاء الاصطناعى تحظى الآن بمزيد من الاهتمام، فهذا تحول كبير فى السنوات العشر الماضية. وفى العامين الماضيين أيضًا، بدأ القادة السياسيون فى الاهتمام بالذكاء الاصطناعى، ولكن حتى الآن لم يتطور التفكير من حيث العمق لطرح سؤال: إلى أين ستؤول الأمور إذا لم نقع فى إحدى هذه المزالق؟ فما زال التفكير فى هذا الموضوع سطحيًا. 

وبسؤاله: هل سيكون المستقبل الذى نجح فيه الذكاء الاصطناعى فى حل العديد من المشكلات، مثل تغير المناخ، والمرض، والحاجة إلى العمل، سيئًا إلى هذا الحد؟ يوضح: فى نهاية المطاف، أنا متفائل بشأن النتيجة التى يمكن أن تكون إذا سارت الأمور على ما يرام. لكن هذا إلى جوار مجموعة من عمليات إعادة النظر العميقة إلى حد ما حول ما يمكن أن تكون عليه الحياة البشرية وما له قيمة بها. يمكن أن يكون لدينا هذا الذكاء الفائق ويمكنه أن يفعل كل شىء، ثم هناك الكثير من الأشياء التى لم نعد بحاجة إلى القيام بها، وهو يقوض الكثير مما نعتقد حاليًا أنه نوع من إنهاء الوجود البشرى بالكامل. وربما ستكون هناك أيضًا عقول رقمية تشكل جزءًا من هذا المستقبل.

ردًا على سؤال: سيكون التعايش مع العقول الرقمية بحد ذاته بمثابة تحول كبير. هل سنحتاج إلى التفكير مليًا فى كيفية تعاملنا مع هذه الكيانات؟ يجيب المؤلف: وجهة نظرى هى أن الإحساس، أو القدرة على المعاناة، سيكون شرطًا كافيًا، لكى يكون لنظام الذكاء الاصطناعى وضع أخلاقى. أن تمتلك أنظمة الذكاء الاصطناعى تفكيرًا متطورًا وتصورًا عن الذات على أنها موجودة عبر الزمن، وتفضيلات مستقرة، وربما أهداف وتطلعات الحياة التى تريد تحقيقها، وربما يمكنها تكوين علاقات متبادلة مع البشر. 

فوائد هائلة

يرى المؤلف أن هناك دوافع قوية جدًا لتطوير الذكاء الاصطناعى فى هذه المرحلة، فالفوائد الاقتصادية هائلة وستصبح واضحة بشكل متزايد، كما أن ثمة تقدمًا علميًا وأدوية جديدة ومصادر طاقة نظيفة وما إلى ذلك. وفوق ذلك، يعتقد أن الذكاء الاصطناعى سيصبح عاملًا متزايد الأهمية فى الأمن القومى، وأنه ستكون هناك حوافز عسكرية لدفع هذه التكنولوجيا إلى الأمام.

ويتابع: سيكون من المرغوب فيه أن يكون كل من هو فى طليعة تطوير أنظمة الذكاء الاصطناعى من الجيل القادم، ولا سيما الأنظمة التحويلية فائقة الذكاء، قادرًا على التوقف والتأنى خلال المراحل الرئيسية، سيكون ذلك مهمًا لتحقيق الأمن. 

مخاطر وجودية

يشير بوستروم إلى أن المناقشات بخصوص المخاطر الوجودية للذكاء الاصطناعى لا تتوقف، ومع ذلك فهناك أيضًا مجموعة من القضايا الأكثر إلحاحًا التى تستحق الاهتمام، مثل التمييز والخصوصية والملكية الفكرية وما إلى ذلك، متابعًا: الشركات المهتمة بالعواقب طويلة المدى لما تفعله كانت تستثمر فى سلامة الذكاء الاصطناعى وفى محاولة إشراك صناع السياسات. أعتقد أن العواقب ستحتاج إلى المناقشة كلما تقدمنا.

ويرى بوستروم أن الناس فيما يتعلق بالحياة فى ظل التطور التقنى الهائل باتوا يقسمون أنفسهم إلى جماعات مختلفة يمكنها بعد ذلك خوض معارك ضارية. بينما هو لا يزال يرى الأمر معقدًا جدًا ويصعب معرفة ما الذى يجعل الأمور أفضل أو أسوأ فى محاور معينة، موضحًا: لقد أمضيت ثلاثة عقود أفكر مليًا فى هذه الأشياء ولدى بعض الآراء حول نقاط محددة، ولكن الرسالة العامة هى أننى ما زلت أشعر بالجهل الشديد.