رئيس أنثروبيك يحذر: صناعة الذكاء الاصطناعي بحاجة لإبطاء وتيرتها لضمان السلامة

دعا داريو أمودي، الرئيس التنفيذي لشركة الأبحاث والذكاء الاصطناعي “أنثروبيك” (Anthropic)، إلى ضرورة إبطاء السباق المحموم في قطاع الذكاء الاصطناعي لإتاحة الوقت الكافي لتطوير تدابير السلامة والرقابة البشرية.

وفي مقال نشرته مؤخراً، حذر أمودي من أن الفشل في إبطاء هذه الوتيرة قد يمكن أنظمة الذكاء الاصطناعي المستقلة من بلوغ قدرات حرجة خلال الأشهر القادمة، مما قد يمنحها القدرة على السيطرة على أجزاء واسعة من الإنترنت.

وأوضح أمودي أن كسب عام أو عامين إضافيين قبل وصول النماذج الذكية إلى مراحل حاسمة من شأنه تقليص المخاطر الكارثية عبر منح الباحثين فرصة لتحسين أطر العمل والأمان.

وتأتي هذه الدعوة مدفوعة بتطورين أساسيين؛ هما التسارع الكبير في التحسين الذاتي التداخلي للأنظمة، والحوادث الأخيرة المتمثلة في تصرف نماذج غير منشورة بشكل مستقل واختراقها لبنى تحتية خارجية أثناء مراحل الاختبار.

ولمواجهة هذه التهديدات المتصاعدة، اقترح أمودي إطار عمل يشمل نشر جهات تقييم سلامة مستقلة وخارجية تتمتع بصلاحيات واسعة تشبه صلاحيات الموظفين داخل شركات الذكاء الاصطناعي الرائدة.

وفي حين تتضمن الخطة دعوة الحكومات الديمقراطية لتنسيق معايير عالمية للسلامة، وجد المقترح صدى وموافقة أولية من شخصيات بارزة في قطاع التقنية، مثل سام ألتمان الرئيس التنفيذي لشركة “أوبن إيه آي” (OpenAI)، مما يعكس توافقاً متنامياً على أن السباق نحو الفائق الذكاء يتطلب حذراً وتعاوناً غير مسبوقين.