في أواخر أكتوبر/تشرين الأول الماضي، قررت مجموعة استثنائية من مئات الشخصيات العامة – بينهم علماء بارزون في مجال الكمبيوتر والذكاء الاصطناعي وعدد من الحاصلين على جوائز نوبل وشخصيات سياسية ودينية وأحد أفراد العائلة الملكية البريطانية – التوقيع على خطاب مفتوح يحمل مطلباً عاجلاً واحداً: حظر تطوير “الذكاء الفائق”.
التحذير الذي حمله الخطاب كان واضحاً: البشر يقتربون بخطى متسارعة من تطوير كيان أكثر منهم ذكاءً ومهارةً لن يكونوا قادرين على التحكم فيه، وربما سيصبح هو المهيمن عليهم، بل وقد يكون السبب في فنائهم.
من بين الأسماء الموقعة جيفري هينتون الحاصل على جائزة نوبل في الفيزياء وعالم الكمبيوتر يوشوا بنجيو اللذان يوصفان بأنهما من بين “الآباء الروحيين” للذكاء الاصطناعي، وستيف وزنياك المؤسس المشارك لشركة أبل، والأمير هاري وزوجته ميغان دوقة ساسيكس، وستيف بانون المستشار السابق للرئيس ترامب، والقس باولو بنانتي مستشار بابا الفاتيكان للذكاء الاصطناعي.
فما هو هذا “الذكاء الفائق” بالضبط؟ ولماذا يثير هذا المفهوم مخاوف علماء ومفكرين كثر حول العالم؟ وكيف يمكن حظره؟
“الذكاء الفائق”: ماذا يعني؟
فكرة وجود كيان اصطناعي أو آلة تشبه الإنسان أو تتفوق عليه تعود جذورها إلى الأساطير اليونانية القديمة. لكن إذا ما تحدثنا عن الآلة بمفهومها الأحدث خلال الثورة الصناعية، يشير الكثير من المراجع إلى أن المفكر البريطاني ساميويل باتلر هو أول من تحدث عن فكرة تطور ذكاء الآلات ليتخطى الذكاء البشري، في مقال بعنوان “دارون بين الآلآت” نشر عام 1863.
تكررت التحذيرات في القرن العشرين. ففي عام 1965 على سبيل المثال، استخدم عالم الرياضيات البريطاني إيرفينغ جون غود مصطلح “آلة فائقة الذكاء” “ultra intelligent machine” لوصف ماكينة ذات قدرات أفضل من قدرات العقل البشري، تستطيع تصمم آلات أخرى، وهو ما سيؤدي إلى ما وصفه غود بـ”انفجار الذكاء”.
لكن أول من استخدم مصطلح “الذكاء الفائق” “superintelligence” ووضع تعريفاً له كان الفيلسوف السويدي نيك بوستروم ضمن ورقة علمية نشرت عام 1997 بعنوان “?How Long Before Superintelligence” (“كم تبقى من الوقت قبل ظهور الذكاء الفائق؟”).
يعرّف بوستروم الذكاء الفائق بأنه “ذكاء يفوق بكثير أفضل العقول البشرية في كافة المجالات تقريباً، بما في ذلك الابتكار العلمي والحكمة العامة والمهارات الاجتماعية… قد يأتي في صورة كمبيوتر رقمي أو مجموعة من أجهزة الكمبيوتر المترابطة ضمن شبكة واحدة، أو نسيج قشرة دماغية زُرع في مختبر، أو أي شيء آخر. ويترك هذا التعريف الأمر مفتوحاً في ما يتعلق بما إذا كان هذا الذكاء الفائق واعياً ويمتلك تجارب ذاتية أم لا”.
حالياً، يُستخدم المصطلح للإشارة إلى نظام ذكاء اصطناعي افتراضي يتفوق على البشر في كافة المهام المعرفية – على سبيل المثال معالجة كمية هائلة من البيانات على الفور، والتعلم من الأخطاء، والتفكير بشكل منطقي، وتطوير نظريات علمية، أو اتخاذ قرارات أخلاقية.
في كتابه “الذكاء الفائق: المسارات والمخاطر والاستراتيجيات” Superintelligence: Paths, Dangers and Strategies” (2014)، يحذر بوستروم من سيناريو يصبح فيه روبوت الذكاء الاصطناعي أذكى من الإنسان ويطور نفسه بسرعة حتى يخرج عن سيطرة البشر.