يرى كتاب «اختراعنا الأخير: الذكاء الاصطناعي ونهاية العصر البشري» لجيمس بارات، الصادر عام 2013، أن تجاوز الآلات للذكاء البشري في المستقبل القريب سيعني أن البشر لن يعودوا قادرين على التحكم بها، فتلك الآلات ستعطي الأولوية لمبدأ الحفاظ على الذات على حساب سلامة الإنسان الذي صنعها.
كان الكتاب بمثابة تحذير ودعوة للعمل عبر حث الباحثين وصناع السياسات والجمهور على أخذ المخاطر المحتملة للذكاء الصنعي غير الخاضع للرقابة على محمل الجد مقترحا سيناريو مستقبليا كان الكثيرون يعتبرونه خيالا علميا.
قام جون لينوكس، أستاذ الرياضيات وفلسفة العلوم، بعنونة كتابه بـ»2084: الذكاء الصنعي ومستقبل البشرية» (في إشارة إلى الرواية الشهيرة «1984» لجورج أورويل). يستكشف الكتاب، الذي نُشر في عام 2020، مستقبل الذكاء الاصطناعي وتأثيره المحتمل على المجتمع والأخلاق والدين وما يعنيه أن تكون إنسانًا.
يفحص لينوكس المسار الحالي لتطور الذكاء الاصطناعي وآثاره الفلسفية، لا سيما فيما يتعلق بالوعي البشري والإرادة الحرة والأخلاق، وبالاعتماد على مزيج من الفهم العلمي واللاهوت المسيحي، يتعامل مع بعض الأسئلة الكبرى حول مكانة البشرية في الكون.
يستخدم لينوكس الإحالة لأورويل لإثارة التفكير في المستقبل حيث يمكن للذكاء الاصطناعي أن يهيمن على جميع جوانب الحياة مفتشا في وعود ومخاطر الذكاء الاصطناعي، مع الأخذ في الاعتبار كل من الاحتمالات الطوباوية والديستوبية.
ينتقد لينوكس بعض التوقعات الأكثر تطرفًا حول إمكانات الذكاء الاصطناعي، ويجادل في الرأي القائل بأن الآلات ستصبح واعية أو أن البشر سوف يندمجون مع الآلات داعيا إلى منظور متوازن يعترف بكل من الفوائد الهائلة والمخاطر الكامنة في الذكاء الاصطناعي.

الشخص الأخير الذي سيروي الحكاية

من بين الكتب الكثيرة الأخرى التي صدرت، يمكن اعتبار كتاب مو جودت Mo Gawdat «ذكاء مخيف: مستقبل الذكاء الصنعي وكيف يمكن أن نحافظ على عالمنا» المقاربة الأكثر عمقا، كونه قادما من داخل «الصناعة» حيث كان كبير مدراء الأعمال في «غوغل» X (مختبر الاختراعات في الشركة).
يعود وجدت بنا إلى بدايات تاريخ الذكاء الصنعي، ماسحا مجمل الأعمال الإبداعية التي تنبأت به، قائلا إن عشرات آلاف التطبيقات التكنولوجية التي نتعامل معها اليوم والتي كانت قبلها خيالا علميا صارت الآن حقائق علمية. وفيما يتعلق بالذكاء الصنعي، الذي استغرق الجنس البشري عشرات السنوات لإنضاجه، فقد دخل طورا متسارعا بشدة بحيث لن نستغرق وقتا طويلا قبل أن تصبح الآلات أذكى منا، ولديها أحاسيس وآراء ورغبة بالحفاظ على الذات، وسيكون ترك المجال لها لتتصرف حتميا.
تناول الخيال العلمي هذا الموضوع في الكثير من الأعمال، مثل أفلام «الماتريكس» و»إكس ماشينا» و «2001: اوديسة فضائية». يمثل الفيلم الأخير الذي أخرجه ستانلي كوبريك حاسوبا خارق الذكاء يقتل أفراد السفينة الفضائية التي يوجد فيها ويتبقى قائدها ليروي الحكاية، وفي رواية «بيدين مبسوطتين» لجاك وليامسون (1947) تعطى الروبوتات أمرا بالخضوع للبشر وحمايتهم من الأذى لينتهي الأمر بسيطرتها على كل تفاصيل الحياة البشرية.
أحد السيناريوهات الواقعية التي تناولها الكتاب هي الحالة التي تعمل فيها الروبوتات لصالح أنظمة قمعية، حيث تقوم هذه الآلات الخارقة بمساعدتها على المزيد من السيطرة والهيمنة والقمع (هذا كان موضوع مقالة سابقة لي بعنوان: الذكاء الاصطناعي والغباء الطبيعي).
يتنبأ وجدت بثلاث أمور حتمية تخص الذكاء الصنعي، الأولى أنه سيحصل، والثانية أن هذه الآلات ستصبح أذكى منا، والثالث هو أن أخطاء ستحصل، وبما أن السلطة مفسدة، وأن السلطة المطلقة هي مفسدة مطلقة، فهناك احتمال كبير جدا أن الآلات لن تخدم مصالح البشر العامة، مع احتمال كبير لحصول سيناريو مخيف.

المسافة نحو الفناء هي بضعة خوارزميات؟

على عكس القوة النووية التي تحتاج إلى بنية تحتية ضخمة، ويمكن مراقبتها والتعامل معها، فإن الذكاء الصنعي لا يحتاج غير كمبيوتر ومعرفة بالبرمجة، وبذلك فإن الأمر فإن المسافة، بين بعض النظم السياسية المتوحشة، وكبار عصابات الإجرام، نحو اختراع روبوتات القتل، والأسلحة البيولوجية التي يمكن أن تبيد أمما بأكملها، والتجسس الصناعي، وكل حقل يؤدي كسر القوانين فيه إلى السلطة والثروة، لا تحتاج غير بضعة خوارزميات وبرمجيات!
حين تنشب حرب بين دولتين تستخدمان الماكينات القاتلة خارقة الذكاء لن يكون باستطاعة الإنسان مجاراة قرارات تلك الآلات التي تتخذ بسرعة هائلة، ولن يكون قادرا على التنبؤ بها، كما أنه لن يعلم، بنتيجة الحرب إلا بعد فترة من نهايتها.
للتدليل على آلية العمل هذه، يعطينا وجدت أمثلة عديدة من الواقع الحالي، فانتشار كبير لأحد فيديوهات يوتيوب في المنطقة العربية يؤدي إلى قرار خاص بخوارزميات الموقع ينقل فيه موقع بث الفيديو من وادي السيليكون إلى دبي دون تدخل بشري.
تقوم آليات الذكاء الصنعي، في الوقت الحالي، بتعديل خوارزمياتها حسب الظروف التي تطرأ عليها، وقد اضطرت مؤسسات عديدة لوقف تجارب روبوتات، كما فعلت شركة تويتر، بعد أن أصبح روبوت محادثة ميّالا للآراء النازية والمعادية للمرأة بعد فيض من الآراء التي تلقاها في هذا الاتجاه، وكذلك فعلت شركة فيسبوك، التي أوقفت تجربة روبوتي المحادثة أليس وبوب بعد إنشائهما لغة خاصة بهما للتخاطب!
يقدّم جودت حلا طوباويا للمشكلة الوجودية الآنفة يقوم على تعليم الروبوتات القيم العليا الأخلاقية للجنس البشريّ: الحياة والوفرة، ويضع القرار بأيدي البشر أنفسهم، الذين يقررون اتجاه الذكاء الصنعي عبر خياراتهم. يذكر هذا الطرح بكتاب «الحياة 3.0» لماكس تيغمارك، الذي تخيّل فيه أيضا سيناريو طوباوي لكنه أصبح، في السنوات اللاحقة، متشائما.
في معادلة مثيرة يقارن جودت الفارق الذي سيحصل بين الذكاء الصنعي والإنسان، بالفارق بين ذكاء أينشتاين وذكاء الذبابة، ويتساءل جودت ماذا سيحصل عندما يطلب من الذكاء الصنعيّ، في طوره الأعلى ذاك، أن يحلّ أزمة المناخ، فيقوم ببساطة، بإبادة الجنس البشري!
من المؤسف، بعد قراءتي للكتاب، أن أجد أنني لا أتقاطع مع أحلام جودت الطوباوية رغم كونها تبدو حلا « لإلغاء السيناريوهات الكارثية الأخرى، فالمارد قد خرج فعلا من الزجاجة، ودوافع القوى المتصارعة في العالم، للسيطرة، والسلطة، والثروة، هي التي تتحكم في قراراته.

كاتب من أسرة «القدس العربي»