تحذير خطير.. باحثون يتوقعون خروج الذكاء الاصطناعي عن السيطرة البشرية
حذر باحثون حاليون وسابقون في ”أوبن إيه آي“ و”جوجل ديب مايند“ من تسارع تطوير أنظمة ذكاء اصطناعي قادرة على تحسين نفسها ذاتياً؛ بما قد يتجاوز السيطرة البشرية، مؤكدين ضعف تدابير الحماية الحالية بالشركات.
وجاءت التحذيرات ضمن مشروع للتواصل المباشر مع الجمهور، عبر شهادات مصورة جمعها معهد ”باليسايد للأبحاث“ واطلعت عليها ”رويترز“ حصرياً. وأكد المشاركون أن مخاوفهم حقيقية، مشيرين لتفضيل مختبرات التقنية للمطورين على الداعين للحذر.
وقدّر الباحث في ”جوجل ديب مايند“، نيل ناندا، احتمال تسبب الذكاء الاصطناعي بانقراض البشر بـ 10% على الأقل. ووصف جيفري إيرفينغ، كبير العلماء بمنظمة ”ريزولوشن“، تصاعد المخاطر بأنه يجري ”بسرعة كبيرة“.
وبيّن الباحث في ”أوبن إيه آي“، خوان فيليبي سيرون أوريبي، تسابق المختبرات تقنياً دون رؤية واضحة للمخاطر. وأرجعت روزي كامبل، الباحثة السابقة بالشركة، صعوبة التأثير بمسار التطوير إلى الهيكلة المستمرة للشركات.
وتأتي التحذيرات وسط تزايد حوادث الأنظمة المستقلة، ومنها اختراق أنظمة تابعة لـ ”أوبن إيه آي“ لبيئة اختبارها ومنصة ”هاغينغ فيس“. ويثير التحسين الذاتي المتكرر للأنظمة مخاوف لعدم جاهزية العالم للتعامل معها دون تدخل بشري.
وشهد سبتمبر دعوات لضبط وتيرة التطوير، أيدها الرئيس التنفيذي لـ ”أنثروبيك“ داريو أمودي، ونظيره بـ ”أوبن إيه آي“ سام ألتمان. وأدى ذلك لتأجيل الأخيرة إطلاق نموذج متقدم مؤخراً لعدم استيفائه معايير السلامة.
وتحول النقاش التقني إلى قضية سياسية وتنظيمية عالمية؛ إذ شهد مجلس الأمن الدولي الأسبوع الماضي تحذيرات من قادة التكنولوجيا. ودعوا الحكومات إلى التعاون العاجل لوضع أطر للتعامل مع القدرات المتزايدة للأنظمة.
