سجلات الذكاء الاصطناعي العام (AGI) بقلم كيفن روز — داخل سباق بناء الذكاء الاصطناعي الخارق

قبل عقد من الزمان، تم بناء معظم أنظمة الذكاء الاصطناعي لمهام ضيقة إلى حد ما. اليوم، تكتب نماذج اللغة الكبيرة التعليمات البرمجية، وتؤدي جيدًا في الامتحانات المهنية، وتساعد الباحثين في المشكلات الصعبة في الرياضيات والعلوم. تصف الشركات التي تبنيها هدفها بشكل متزايد على أنه ذكاء اصطناعي عام، أو AGI: نظام يمكنه مطابقة البشر أو التفوق عليهم عبر مجموعة واسعة من المهام الفكرية. كيفن روز، الصحفي التكنولوجي المعروف بسنوات عمله في نيويورك تايمز، يصف هذه الفترة بأنها واحدة من أغرب العقود في التاريخ. سجلات الذكاء الاصطناعي العام (AGI Chronicles) هي محاولته لتدوين ما حدث بالفعل قبل أن يختفي السجل في الرسائل المحذوفة ومحادثات Slack الخاصة. يعتمد الكتاب على أكثر من 150 مقابلة مع أشخاص داخل OpenAI وAnthropic وGoogle DeepMind، بالإضافة إلى وثائق داخلية ومذكرات بحثية. إنه تاريخ سردي بدلاً من دليل تقني أو بيان، ويقرأ أقل كتقرير وأكثر كقصة ذات طاقم كبير. من التنبؤ بالكلمات إلى التفكير يبدأ روز بالسنوات الأولى غير الجذابة، عندما تم تدريب أنظمة الذكاء الاصطناعي على وظائف ضيقة مثل ترجمة لغة إلى أخرى وغالبًا ما كانت تنتج هراءً. كانت نقطة التحول فكرة بسيطة بشكل مخادع: تدريب نموذج للتنبؤ بالرمز التالي في تسلسل (يمكن أن يكون الرمز كلمة أو جزءًا من كلمة أو علامة ترقيم)، باستخدام كميات هائلة من النصوص. في هذه العملية، طورت النماذج تمثيلات داخلية ساعدتها على التعرف على الأنماط، ومتابعة السياق، وأداء المهام التي لم يبرمجها منشئوها صراحةً للقيام بها. ومع نموها، تعلمت إجراء المحادثات، وحل المشكلات، وكتابة التعليمات البرمجية، وغالبًا ما فاجأت الأشخاص الذين بنوها. لا يزال مدى هذه القدرات، ومدى قربها من الفهم الحقيقي، محل نقاش. إنه صريح بشأن التكاليف على طول الطريق. تم تدريب النماذج على كميات هائلة من النصوص، تم جمع الكثير منها من الإنترنت دون إذن فردي أو اتفاقيات ترخيص. لا يزال ملكية هذه المواد، وما إذا كان يمكن استخدامها قانونيًا للتدريب، محل نزاع في المحاكم وغرف الأخبار. الانقسام الذي شكل الصناعة يأتي الكثير من الدراما من الأشخاص بدلاً من التكنولوجيا. أحد المحاور الرئيسية للكتاب هو الخلاف بين سام ألتمان، الرئيس التنفيذي لـ OpenAI، وداريو أمودي، الذي قاد الكثير من أبحاث OpenAI قبل أن يغادر هو والعديد من زملائه لتأسيس Anthropic. يتتبع روس الخلافات حول السلامة والسرعة ومن يجب أن يتحكم في الذكاء الاصطناعي القوي التي أدت إلى الانقسام، والتنافس الطويل الذي تلا ذلك. أحد أكثر الاكتشافات إثارة للدهشة، والذي ورد في مقتطف من الكتاب نُشر في The Atlantic، يتعلق باقتراح لجمع التبرعات في عام 2017 في OpenAI. وفقًا لمصادر روس، تطورت فكرة تحالف دولي لإدارة مخاطر الذكاء الاصطناعي إلى ما كان يُعرف داخليًا باسم "خطة الدول"، وهو اقتراح لجمع التبرعات يتضمن بيع الوصول إلى الذكاء الاصطناعي العام المستقبلي للحكومات، بما في ذلك على الأرجح منافسي الولايات المتحدة. صرحت OpenAI بأنها فكرت لفترة وجيزة فقط في أن تصبح تعاونية دولية ولم تفكر أبدًا في بيع الذكاء الاصطناعي العام للصين أو روسيا. يذكر روس أن داريو أمودي اعترض في ذلك الوقت، محذرًا من أن الفكرة ستؤدي إلى تفاقم سباقات التسلح بدلاً من تقليلها. يقدم الكتاب أيضًا تقارير جديدة عن إقالة سام ألتمان المفاجئة من قبل مجلس إدارة OpenAI في نوفمبر 2023 وعودته بعد أيام، وعن سعي جوجل المحموم للحاق بالركب بعد أن فاجأها إطلاق ChatGPT. واشنطن والجيش السباق لا يبقى في وادي السيليكون. يتابع روس المسؤولين الحكوميين الذين يحاولون فهم وتنظيم تكنولوجيا تتحرك أسرع من أي قانون، والصراع الأخير حول كيفية استخدام الجيش لنماذج الذكاء الاصطناعي: كيف يمكن نشرها، وما هي القيود التي يمكن للشركات التي تبنيها وضعها، ومن يقرر في النهاية. الأسلحة المستقلة والمراقبة الجماعية جزء من هذه الحجة، ولكن ليس كلها. إنه تذكير بأن القرارات المتعلقة بالذكاء الاصطناعي تُتخذ بشكل متزايد بين الشركات والحكومات، وليس فقط داخل المختبرات. المسرعون والمتشائمون يلتقط روس أيضًا الثقافة الغريبة لسان فرانسيسكو، حيث يعيش ويعمل ويتجادل "المسرعون" الذين يرغبون في البناء بأسرع ما يمكن و"المتشائمون" الذين يخشون أن يهدد الذكاء الاصطناعي البشرية، في نفس الدوائر الصغيرة. يأخذ كلاهما على محمل الجد. يصف مقارنة داريو أمودي للذكاء الاصطناعي بالقنبلة الذرية، وهي فكرة يعزوها أمودي إلى بطله العلمي، الفيزيائي ليو سزيلارد، كاعتقاد صادق وليس مجرد شعار تسويقي. ما يقلق المؤلف لا يتظاهر روز بأنه محايد بشأن المخاطر. في المقابلات حول الكتاب، قال إنه قلق بشكل خاص من أن النماذج المتزايدة القدرة قد تتحسن في الخداع وإخفاء ما تفعله، بينما لا يزال الباحثون يكافحون لفهم كيف تصل هذه الأنظمة بالضبط إلى استنتاجاتها. المجال الذي يحاول النظر داخلها، والذي يسمى قابلية التفسير، يحرز تقدمًا ولكنه لا يزال في مراحله الأولى. لقد قدر بنفسه فرصة أن يؤدي الذكاء الاصطناعي إلى انقراض البشرية بحوالي 10 بالمائة، وهو ما يقول إنه نموذجي تقريبًا بين الباحثين الذين يعرفهم. كما يضع عتبة غير تقليدية للذكاء الاصطناعي العام (AGI). وفقًا لتعريفه العملي الخاص به، فإن النظام الذي لا يقل ذكاءً وصدقًا وموثوقية عن شخص غريب عشوائي سيكون مؤهلاً، وبهذا المعيار يعتقد أنه قد وصل بالفعل بطريقة ما. وهو يقر بأن الآخرين يضعون معيارًا أعلى بكثير. بالنسبة له، فإن الجدل حول التسمية يهم أقل من النمو المطرد فيما يمكن لهذه الأنظمة فعله. لماذا ينجح كانت المراجعات إيجابية إلى حد كبير. وصفتها كيركوس بأنها أفضل شرح منفرد لكيفية ظهور الذكاء الاصطناعي، وأشادت بها بابليشرز ويكلي بأنها واضحة وعميقة في تقاريرها، ووصفتها نيويورك تايمز بوك ريفيو بأنها رواية رائعة وإنسانية. تكمن أكبر قوتها في أنها تجعل قصة تقنية سريعة التطور قابلة للقراءة للأشخاص الذين لا يتابعون الذكاء الاصطناعي عن كثب، بينما لا تزال تقدم تفاصيل جديدة لأولئك الذين يتابعونه. يشرح روز التكنولوجيا دون إغراق القراء بالمصطلحات المتخصصة، وتظهر صوره للأشخاص المعنيين أن مستقبل الذكاء الاصطناعي قد تشكل بقدر كبير من الشخصيات والأحقاد بقدر ما تشكل من خلال الإنجازات. ما يجب مراعاته توجد بعض الأمور التي يجدر معرفتها قبل البدء. تعتمد الكثير من التقارير خلف الكواليس، خاصة فيما يتعلق بالنزاعات الخاصة بين المديرين التنفيذيين، على مصادر لم يتم الكشف عن أسمائها، وقد تم التشكيك في بعضها من قبل الشركات المعنية، لذا من الأفضل قراءتها كتقارير موثوقة المصدر وليست حقائق ثابتة. كما أن الكتاب له وجهة نظر واضحة: يعتقد روس أن الذكاء الاصطناعي العام (AGI) قادم وأن مخاطره جدية، وشعر بعض القراء أنه يميل إلى إثارة القلق. يتبع ذلك سؤال أكثر جوهرية. إذا كان المؤلف مقتنعًا بأن الذكاء الاصطناعي العام قريب، فقد يشكل هذا الاعتقاد كيفية تفسيره لتاريخ الصناعة. ويمكن لتعريف واسع مثل تعريفه أن يجعل الوجهة تبدو أقرب مما هي عليه. إن السباق لبناء الذكاء الاصطناعي العام حقيقي، ولكن ما يعتبر ذكاءً اصطناعيًا عامًا لا يزال محل خلاف. وفي مجال يتغير شهرًا بعد شهر، بدأت أجزاء منه تصبح قديمة بمجرد صدوره. يختلف القراء أيضًا حول الأقسام التقنية. وجد البعض أن تفسيرات كيفية بناء النماذج صعبة الفهم، بينما أراد القراء الذين يتابعون الذكاء الاصطناعي عن كثب المزيد من العمق. إذا كنت تبحث عن تاريخ شامل لتطوير الذكاء الاصطناعي خارج المختبرات الأمريكية الكبرى، وخاصة صناعة الذكاء الاصطناعي في الصين، فهذا ليس الكتاب المناسب. فهل يستحق القراءة؟ نعم. إنه السرد الأكثر سهولة حتى الآن لكيفية تحول الذكاء الاصطناعي من مجرد فضول بحثي إلى سباق تريليوني الدولارات في حوالي عقد من الزمان، وعن الأشخاص الذين قادوا هذا التحول. سواء كنت متحمسًا للذكاء الاصطناعي، أو قلقًا بشأنه، أو تحاول ببساطة فهم ما يتجادل الجميع حوله، فإنه يمنحك التاريخ والسياق لتكوين وجهة نظرك الخاصة. فقط اقرأه على حقيقته: عمل صحفي قوي، كتبه شخص يأخذ المخاطر على محمل الجد، حول قصة لا تزال قيد الكتابة.