الأب الروحي للذكاء الاصطناعي: أحدث النماذج تخدع المستخدمين

وجّه أحد أبرز روّاد الذكاء الاصطناعي انتقاداً لاذعاً للسباق العالمي المحتدم، الذي تبلغ قيمته مليارات الدولارات، لتطوير تكنولوجيا الذكاء الاصطناعي، محذراً من أن النماذج الحديثة باتت تُظهر سلوكيات مقلقة، من بينها الكذب على المستخدمين.

وقال يوشوا بينجيو، الأكاديمي الكندي الذي ألهمت أبحاثه تقنيات تعتمد عليها كبرى شركات الذكاء الاصطناعي مثل «أوبن إيه آي» و«غوغل»: «إن هناك للأسف سباقاً تنافسياً حاداً بين المختبرات الرائدة، يدفعها إلى التركيز على تعزيز قدرات الذكاء الاصطناعي، دون أن تولي الاهتمام الكافي لأبحاث السلامة أو تستثمر فيها بالقدر المطلوب».

وأطلق بينجيو هذا التحذير في مقابلة مع صحيفة «فاينانشال تايمز»، بالتزامن مع إعلانه تأسيس مؤسسة غير ربحية جديدة تحمل اسم «لو زيرو»، تهدف إلى تطوير أنظمة ذكاء اصطناعي أكثر أماناً. وأكد بينجيو أن المؤسسة ستعمل على «عزل أبحاثها عن الضغوط التجارية» لضمان التركيز على السلامة والأخلاقيات.

وجمعت «لو زيرو» حتى الآن ما يقرب من 30 مليون دولار أمريكي على هيئة مساهمات خيرية من مانحين، بينهم جان تالين، المهندس المؤسس لبرنامج «سكايب»، والمبادرة الخيرية لإريك شميدت، الرئيس السابق لشركة «غوغل»، إضافة إلى مؤسسة «أوبن فيلانثروبي» غير الهادفة للربح، ومعهد مستقبل الحياة.

وشارك العديد من ممولي بينجيو في حركة «الإيثار الفعال»، التي يميل داعموها إلى التركيز على المخاطر التي قد تكون كارثية ذات الصلة بنماذج الذكاء الاصطناعي. ودفع نقاد بحُجة مُفادها أن الحركة تسلّط الضوء على السيناريوهات الافتراضية بينما تتجاهل الأضرار الحالية، مثل التحيّز والنتائج غير الدقيقة.

وقال بينجيو، إن مؤسسته غير الربحية تأسست استجابة للأدلة المتزايدة على مدى الأشهر الستة الماضية التي تشير إلى أن نماذج الذكاء الاصطناعي الرائدة الموجودة اليوم قد تطوّر قدرات خطيرة. ويشمل ذلك «أدلة على الخداع، والغش، والكذب، وحفظ الذات».

وابتز نموذج «كلاود أوبوس» الذي طورته «أنثروبيك»، المهندسين، في سيناريو خيالي واجه فيه النموذج خطر استبداله بنظام آخر. وكشفت البحوث التي أجرتها شركة «باليسيد» المتخصصة في اختبار أنظمة الذكاء الاصطناعي، في الشهر الماضي، أن نموذج «أو 3» الذي طوّرته «أوبن إيه آي» رفض تعليمات صريحة بالإغلاق. ولفت بينجيو، إلى أن مثل هذه الوقائع «مخيفة للغاية، لأننا لا نرغب في خلق منافس للبشر على هذا الكوكب، خاصة إذا كان أكثر ذكاء منا».

وذكر الرائد في تكنولوجيا الذكاء الاصطناعي: «هذه تجارب خاضعة للتحكم في الوقت الراهن، لكن يكمن قلقي في أن النسخة التالية في أي مرحلة بالمستقبل قد تكون ذكية استراتيجياً بما يكفي بحيث يمكنها توقع ما سنفعله وهزيمتنا بالخداع الذي لن نتوقعه. لذا، أعتقد أننا نلعب بالنار في الوقت الراهن». ويرى أن قدرة الأنظمة على المساعدة في بناء «أسلحة بيولوجية شديدة الخطورة» قد تصبح حقيقة في العام المقبل.

وبالنسبة لـ«لو زيرو»، التي تتخذ من مونتريال مقراً لها ويعمل بها 15 شخصاً، فإنها تستهدف توظيف المزيد من المواهب الفنية لبناء الجيل التالي من أنظمة الذكاء الاصطناعي المُصممة بهدف السلامة. أما بينجيو، وهو أستاذ في علوم الحاسوب بجامعة مونتريال، فمن المُقرر أن يتنحى عن منصب المدير العلمي لدى «ميلا»، وهو معهد الذكاء الاصطناعي في كيبيك، للتركيز على المؤسسة الجديدة.

وتهدف المؤسسة الجديدة إلى تطوير نظام ذكاء اصطناعي يمنح إجابات صادقة تقوم على المنطق ويتمتع بالشفافية بدلاً من أن يخضع لتدريب معين بهدف إرضاء المستخدم، مع توفير تقييم قوي لما إن كانت النتيجة جيدة أو آمنة. ويأمل بينجيو في تطوير نموذج بإمكانه مراقبة وتحسين النماذج الموجودة في السوق من شركات الذكاء الاصطناعي الرائدة، وذلك لمنعها من الإضرار بمصلحة البشر.

وقال موضحاً: «يكمن السيناريو الأسوأ في فناء البشر»، وأسهب: «إذا طورنا أنظمة ذكاء اصطناعي أكثر ذكاء منا وليست متوافقة معنا، بل وتنافسنا، فسنقع في مأزق بالتأكيد».

وتأتي خطوة بينجيو لتأسيس «لو زيرو» مع استهداف «أوبن إيه آي» الابتعاد عن الجذور الخيرية التي تأسست على أساسها عن طريق تحويل الشركة إلى واحدة هادفة للربح. وأثار هذا التوجه قلق العديد من الخبراء في عالم الذكاء الاصطناعي وأسفر عن رفع إيلون ماسك، الشريك المؤسس، دعوى جنائية في محاولة لوقف التحوّل.

وأشار نقاد، إلى أن «أوبن إيه آي» تأسست لضمان تطوير الذكاء الاصطناعي لمنفعة البشر، وأن الهيكل الجديد يستبعد أي ملجأ قانوني إذا ما منحت الشركة الأولوية للربح على حساب أهدافها. ومن جهتها، ردت «أوبن إيه آي»، بأنها تحتاج إلى جمع رؤوس أموال بموجب هيكل أكثر تقليدية للمنافسة في القطاع، لافتة إلى أن مهمتها الأوسع ما زالت محورية بالنسبة لها.

ويقول بينجيو إنه لا يثق في أن «أوبن إيه آي» ستلتزم بمهمتها، مشدداً على أن الشركات غير الهادفة للربح ليس لديها «حافز منحرف على النحو الحالي الذي تُهيّكل به الشركات». وتابع: «في سبيل تحقيق النمو السريع، عليك إقناع الناس باستثمار الكثير من الأموال، وأنهم يرغبون في تحقيق عائد على أموالهم. هكذا يعمل النظام القائم على السوق».