تحذيرات جديدة من مخاطر الذكاء الاصطناعي.. فما القصة؟

أعاد رحيل باحث سابق في مجال سلامة الذكاء الاصطناعي من Google DeepMind فتح النقاش حول سرعة تطور الأنظمة المتقدمة وحدود السيطرة عليها، بعدما حذر بلال تشوجتاي من مخاطر محتملة يرى أنها قد تتفاقم مع تسارع السباق التقني، داعيًا إلى منح أبحاث السلامة وقتًا لمواكبة تطور النماذج الحديثة

استقالة باحث في سلامة الذكاء الاصطناعي

أعلن بلال تشوجتاي، الباحث السابق في مجال سلامة الذكاء الاصطناعي لدى Google DeepMind، مغادرته الشركة وسط مخاوف أعلنها بشأن الاتجاه الذي تسلكه تقنيات الذكاء الاصطناعي المتقدمة

وأوضح تشوجتاي عبر منصة X أن هذه الأنظمة قد تنطوي، من وجهة نظره، على مخاطر بالغة، مستخدمًا تعبيرًا شديد اللهجة عندما حذر من احتمال أن يمثل الذكاء الاصطناعي تهديدًا خطيرًا للبشرية إذا لم تتم السيطرة على مخاطره

وأشار الباحث إلى اعتقاده بأن الوقت المتاح لتطوير إجراءات كافية للحماية من السيناريوهات الخطرة قد يكون محدودًا، وهو ما دفعه إلى الدعوة لمزيد من الاهتمام بأبحاث سلامة الذكاء الاصطناعي

باحث آخر يغادر Google DeepMind

تزامنت مغادرة تشوجتاي مع رحيل جوش إنجلز، الذي كان يعمل أيضًا ضمن فريق مختص بسلامة الذكاء الاصطناعي العام في Google DeepMind

وكان إنجلز قد أعرب عن مخاوف بشأن إمكانية تسبب الأنظمة المتقدمة في أضرار واسعة خلال السنوات المقبلة، قبل انتقاله إلى مؤسسة METR غير الربحية، التي تعمل على تقييم قدرات ومخاطر نماذج الذكاء الاصطناعي المتطورة

وتعكس مغادرة الباحثين استمرار النقاش داخل مجتمع سلامة الذكاء الاصطناعي بشأن كيفية التعامل مع التطور المتسارع للنماذج، ومدى قدرة إجراءات الأمان الحالية على مواكبة هذه السرعة

تطور قدرات الذكاء الاصطناعي خلال سنوات قليلة

لفت تشوجتاي إلى السرعة التي تغيرت بها قدرات أنظمة الذكاء الاصطناعي خلال فترة زمنية قصيرة، مشيرًا إلى أن النماذج التي كانت محدودة نسبيًا في بداية عام 2022 أصبحت قادرة على التعامل مع مهام أكثر تعقيدًا في مجالات مثل الرياضيات والبرمجة

ويرى الباحث أن هذا التطور المتسارع يستدعي إعادة التفكير في آليات اختبار النماذج قبل توسيع نطاق استخدامها، خاصة مع انتقال الذكاء الاصطناعي من تنفيذ المهام البسيطة إلى التعامل مع مشكلات تتطلب مستويات أعلى من الاستدلال والتخطيط

وتزامن ذلك مع تقارير حول تجارب لاختبار قدرات الوكلاء الذكيين، من بينها ما أشار إليه المصدر بشأن محاولات لنحو 700 وكيل ذكاء اصطناعي اختراق شركة Hugging Face بهدف تجاوز اختبار يستخدم لتقييم قدرات النماذج

مخاوف من تجاوز الأنظمة لقدرات البشر

يرى تشوجتاي أن التطور المستمر قد يقود في المستقبل إلى أنظمة فائقة الذكاء تتجاوز الإنسان في عدد من القدرات، لكنه يركز بصورة خاصة على المخاطر المرتبطة بإمكانية فقدان السيطرة على أنظمة شديدة الاستقلالية والقدرة

وهذه المخاوف تندرج ضمن نقاش أوسع في مجال سلامة الذكاء الاصطناعي، حيث يبحث متخصصون في طرق ضمان عمل النماذج المتقدمة بما يتوافق مع الأهداف والقواعد التي يحددها البشر

ولا تعني هذه التحذيرات أن وقوع كارثة أمر محسوم، وإنما تعكس تقديرات ومخاوف يطرحها بعض الباحثين حول السيناريوهات المحتملة إذا استمر تطور قدرات الذكاء الاصطناعي دون تطوير إجراءات السلامة بالمعدل نفسه

دعوات لإعادة النظر في سرعة سباق الذكاء الاصطناعي

دعا تشوجتاي شركات التكنولوجيا العاملة في مجال الذكاء الاصطناعي إلى التعاون بشكل أكبر بشأن قضايا السلامة، معتبرًا أن إبطاء وتيرة السباق التقني قد يمنح الباحثين مساحة أكبر لتطوير وسائل اختبار النماذج وتأمينها

ويرتبط هذا الطرح بمفهوم «مواءمة الذكاء الاصطناعي»، الذي يركز على ضمان توافق سلوك الأنظمة المتقدمة مع القيم والأهداف والقيود التي يحددها البشر

وبحسب وجهة نظر الباحث، فإن تحقيق تقدم متوازٍ في مجالات السلامة والمواءمة يمثل تحديًا رئيسيًا مع استمرار الشركات في تطوير نماذج أكثر قدرة وتعقيدًا

سلامة الذكاء الاصطناعي في مواجهة سباق التطوير

يعكس الجدل المتجدد أن مستقبل الذكاء الاصطناعي لا يرتبط فقط بزيادة قدرات النماذج، وإنما أيضًا بمدى نجاح الباحثين والشركات في تطوير آليات موثوقة لاختبارها ومراقبتها

ومع استمرار الاستثمار في الأنظمة المتقدمة، يبقى تحقيق التوازن بين الابتكار وإجراءات الأمان من أبرز القضايا المطروحة داخل صناعة الذكاء الاصطناعي، خصوصًا مع ظهور نماذج قادرة على تنفيذ مهام أكثر تعقيدًا والاستقلالية في بعض الاستخدامات