العام هو 2027. أصبحت أنظمة الذكاء الاصطناعي القوية أكثر ذكاءً من البشر ، وهي تعزز الفوضى على النظام العالمي. لقد سرق الجواسيس الصينيون أسرار الذكاء الاصطناعى في أمريكا ، والبيت الأبيض يهرع للانتقام. داخل مختبر منظمة العفو الدولية الرائدة ، يشعر المهندسون بالتعرض لاكتشاف أن نماذجهم بدأت في خداعهم ، مما يثير احتمال أن يذهبون إلى المارقة.
هذه ليست مشاهد من سيناريو الخيال العلمي. إنها سيناريوهات تصورها مؤسسة غير ربحية في بيركلي ، كاليفورنيا ، تسمى مشروع العواصف الآجلة للنيابة ، والذي أمضى العام الماضي في محاولة للتنبؤ بما سيبدو عليه العالم خلال السنوات القليلة المقبلة ، حيث يتم تطوير أنظمة الذكاء الاصطناعى المتزايدة بشكل متزايد.
يرأس المشروع دانييل كوكوتاجلو ، باحث سابق في Openai الذي ترك الشركة العام الماضي بسبب مخاوفه من أنها كانت تتصرف بتهور.
أثناء وجوده في Openai ، حيث كان في فريق الحوكمة ، كتب السيد Kokotajlo تقارير داخلية مفصلة حول كيفية تكشف سباق الذكاء العام المصطنعة ، أو Agi-وهو مصطلح غامض للذكاء الآلي على مستوى الإنسان-. بعد مغادرته ، تعاون مع Eli Lifland ، باحث من الذكاء الاصطناعي الذي كان لديه سجل حافل في التنبؤ بدقة الأحداث العالمية. حصلوا على العمل في محاولة للتنبؤ بالموجة القادمة من الذكاء الاصطناعي.
والنتيجة هي “AI 2027” ، وهو تقرير وموقع ويب صدر هذا الأسبوع يصف ، في سيناريو خيالي مفصل ، ما الذي يمكن أن يحدث إذا تجاوزت أنظمة الذكاء الاصطناعى الذكاء على مستوى الإنسان-والتي يتوقع المؤلفون أن تحدث في العامين أو الثلاث سنوات المقبلة.
وقال السيد كوكوتولو في مقابلة أجريت معه مؤخراً: “نتوقع أن تستمر AIS في التحسن إلى الحد الذي يكونون فيه عوامل مستقلة تمامًا أفضل من البشر في كل شيء بحلول نهاية عام 2027 أو نحو ذلك”.
لا يوجد نقص في التكهنات حول الذكاء الاصطناعي هذه الأيام. تم إمساك San Francisco بواسطة AI Froffor ، وأصبح المشهد التقني في منطقة الخليج مجموعة من القبائل المتحاربة والطوائف المنتشرة ، كل واحد مقتنع بأنه يعرف كيف سيتكشف المستقبل.
اتخذت بعض تنبؤات الذكاء الاصطناعى شكل بيان ، مثل “آلات Loving Grace” ، وهو مقال 14000 كلمة كتبه العام الماضي من قبل داريو Amodei ، الرئيس التنفيذي للأنثروبور ، أو “الوعي الظرفي” ، وهو تقرير صادر عن الباحث السابق Openai Leopold Aschenbrenner الذي تم قراءة وسائل السياسة على نطاق واسع.
صمم الأشخاص في مشروع AI Futures لسيناريو التوقع – بشكل أساسي ، وهو عبارة عن خيال علمي تم بحثه بشكل صارم والذي يستخدم أفضل تخميناتهم حول المستقبل كنقاط مؤامرة. أمضت المجموعة ما يقرب من عام في شحذ المئات من التنبؤات حول الذكاء الاصطناعى بعد ذلك ، جلبوا كاتبًا – سكوت ألكساندر ، الذي يكتب مدونة Astral Codex Ten – للمساعدة في تحويل توقعاتهم إلى سرد.
قال السيد ليفلاند: “أخذنا ما اعتقدنا أنه سيحدث وحاولنا أن نجعله جذابًا”.
قد يجادل منتقدو هذا النهج أن قصص الذكاء الاصطناعى الخياليين أفضل في التمسك بالناس من تثقيفهم. ولا شك أن بعض خبراء الذكاء الاصطناعي سيعترضون على ادعاء المجموعة المركزي بأن الذكاء الاصطناعي سوف يتفوق على الذكاء البشري.
استعرض علي فرحدي ، الرئيس التنفيذي لمعهد ألين للذكاء الاصطناعي ، وهو مختبر الذكاء الاصطناعي في سياتل ، تقرير “AI 2027” وقال إنه لم يعجب.
وقال: “أنا جميعًا من أجل التوقعات والتنبؤات ، لكن لا يبدو أن هذا التوقعات ترتكز على أدلة علمية ، أو حقيقة كيف تتطور الأمور في الذكاء الاصطناعي”.
ليس هناك شك في أن بعض آراء المجموعة متطرفة. (أخبرني السيد كوكوتولو ، على سبيل المثال ، العام الماضي أنه يعتقد أن هناك فرصة بنسبة 70 في المائة أن تدمر الذكاء الاصطناعى الإنسانية أو تضرها بشكل كارثي.) والسيد كوكوتولو والسيد ليفلاند يرتبطان بالياستونات الفعالة ، وهي حركة فلسفية أخرى شائعة بين عمال التكنولوجيا لقد تم صنع تحذيرات رهيبة حول الذكاء الاصطناعي لسنوات.
ولكن تجدر الإشارة أيضًا إلى أن بعض الشركات الأكبر في وادي السيليكون تخطط لعالم خارج AGI ، وأن العديد من التنبؤات المجنونة التي تم إجراؤها حول الذكاء الاصطناعى في الماضي-مثل الرأي القائل بأن الآلات ستجتاز اختبار Turing ، وهي تجربة فكرية تحدد ما إذا كان يمكن أن يبدو الجهاز يتواصل مثل الإنسان.
في عام 2021 ، في العام الذي سبق إطلاق Chatgpt ، كتب السيد Kokotajlo منشورًا في المدونة بعنوان “What 2026 يبدو” ، وهو يحدد وجهة نظره حول كيفية تقدم أنظمة الذكاء الاصطناعى. أثبت عدد من تنبؤاته مسجلاً ، وأصبح مقتنعًا بأن هذا النوع من التنبؤ كان ذا قيمة ، وأنه كان جيدًا في ذلك.
وقال “إنها طريقة أنيقة ومريحة لتوصيل وجهة نظرك إلى الآخرين”.
في الأسبوع الماضي ، دعاني السيد Kokotajlo و Mr. Lifland إلى مكتبهما-غرفة صغيرة في مساحة عمل مشتركة في بيركلي تسمى Constellation ، حيث تعلق عدد من منظمات سلامة الذكاء الاصطناعي-لتريني كيف تعمل.
السيد Kokotajlo ، الذي كان يرتدي سترة على الطراز العسكري تان ، أمسك علامة وكتب أربع اختصارات على لوحة بيضاء كبيرة: sc> sar> siar> asi. وأوضح أن كل واحد يمثل علامة فارقة في تطوير الذكاء الاصطناعي.
أولاً ، قال ، في وقت ما في أوائل عام 2027 ، إذا كانت الاتجاهات الحالية محتملة ، فإن الذكاء الاصطناعى سيكون مشفرًا خارقًا. بعد ذلك ، بحلول منتصف عام 2017 ، سيكون باحثًا من الذكاء الاصطناعي خارقًا-وكيلًا مستقلاً يمكنه الإشراف على فرق من المبرمجين من الذكاء الاصطناعى واكتشاف اكتشافات جديدة. ثم ، في أواخر عام 2027 أو أوائل عام 2028 ، ستصبح سوبرذكي باحث من الذكاء الاصطناعي – ذكاء الآلة الذي يعرف أكثر مما نعرفه حول بناء الذكاء الاصطناعي المتقدم ، ويمكنه أتمتة البحث والتطوير الخاص به ، وبناء نسخ أكثر ذكاءً من نفسه. من هناك ، قال ، إنه قفزة قصيرة إلى الإلغاء الاصطناعي ، أو ASI ، وفي هذه النقطة تكون جميع الرهانات متوقفة.
إذا كان كل هذا يبدو خياليًا … حسنًا ، فهذا كذلك. لا شيء مثل ما يتوقعه السيد Kokotajlo و Mr. Lifland هو أمر ممكن مع أدوات AI اليوم ، والتي بالكاد يمكن أن تأمر بوريتو على Doordash دون أن تتعثر.
لكنهم واثقون من أن هذه البقع العمياء ستتقلص بسرعة ، حيث تصبح أنظمة الذكاء الاصطناعى جيدة بما يكفي في الترميز لتسريع أبحاث الذكاء الاصطناعي والتطوير.
يركز تقريرهم على OpenBrain ، وهي شركة منظمة العفو الدولية الخيالية التي تبني نظامًا قويًا من الذكاء الاصطناعي المعروف باسم Agent-1. (قرروا عدم تمييز شركة AI معينة ، بدلاً من ذلك إنشاء مركب من مختبرات AI American American.)
نظرًا لأن Agent-1 يتحسن في الترميز ، فإنه يبدأ في أتمتة الكثير من الأعمال الهندسية في OpenBrain ، مما يسمح للشركة بالتحرك بشكل أسرع ويساعد في بناء Agent-2 ، وهو باحث أكثر قدرة على الذكاء الاصطناعي. بحلول أواخر عام 2027 ، عندما ينتهي السيناريو ، يقوم الوكيل 4 بإجراء اختراقات بحثية من الذكاء الاصطناعي لمدة عام كل أسبوع ، ويهدد بالذهاب إلى المارقة.
سألت السيد Kokotajlo ما يعتقد أنه سيحدث بعد ذلك. هل اعتقد ، على سبيل المثال ، أن الحياة في عام 2030 ستظل معروفة؟ هل ستملأ شوارع بيركلي بالروبوتات البشرية؟ الناس يراسلون صديقاتهم من الذكاء الاصطناعي؟ هل سيحصل أي منا على وظائف؟
لقد حدق من النافذة ، واعترف أنه لم يكن متأكداً. وقال إنه إذا سارت السنوات القليلة المقبلة بشكل جيد وحافظنا على منظمة العفو الدولية ، فيمكنه أن يتصور مستقبلًا لا تزال فيه حياة معظم الناس هي نفسها إلى حد كبير ، ولكن حيث “المناطق الاقتصادية الخاصة” القريبة المليئة بمصانع روبوت شديدة الكفاءة ، فإن كل ما نحتاجه.
وإذا كانت السنوات القليلة المقبلة لم تسير على ما يرام؟
“ربما تمتلئ السماء بالتلوث ، وسوف يموت الناس؟” قال بلا مبالاة. “شيء من هذا القبيل.”
أحد خطرات تنبؤات الذكاء الاصطناعى الخاص بك بهذه الطريقة هو أنه إذا لم تكن حذراً ، فإن السيناريوهات المقاسة يمكن أن تنحرف إلى تخيلات مروع. آخر هو أنه من خلال محاولة سرد قصة درامية تجسد انتباه الناس ، فإنك تخاطر بفقد المزيد من النتائج المملة ، مثل السيناريو الذي تتصرف فيه الذكاء الاصطناعى بشكل جيد ولا يسبب الكثير من المتاعب لأي شخص.
على الرغم من أنني أتفق مع مؤلفي “AI 2027” على أن أنظمة الذكاء الاصطناعى القوية ستأتي قريبًا ، إلا أنني لست مقتنعًا بأن المبرمجين الذكاء الاصطناعيين الذين سيقومون تلقائيًا بالتقاط المهارات الأخرى اللازمة لدعم طريقهم إلى الذكاء العام. وأنا حذرة من التنبؤات التي تفترض أن تقدم الذكاء الاصطناعي سيكون سلسًا ومتسابقًا ، مع عدم وجود اختناقات كبيرة أو حواجز الطرق على طول الطريق.
لكنني أعتقد أن هذا النوع من التنبؤ يستحق القيام به ، حتى لو كنت لا أوافق على بعض التنبؤات المحددة. إذا كانت الذكاء الاصطناعي القوي قاب قوسين أو أدنى ، فسوف نحتاج جميعًا إلى البدء في تخيل بعض العقود المستقبلية الغريبة للغاية.
