بعد أيام قليلة من إطلاقه، تحوّل نموذج كلود فيبل 5 من أنثروبيك إلى مركز جدل واسع في مجتمع الذكاء الاصطناعي. ليس بسبب ما يمكنه فعله، بل بسبب ما طُلب منه سراً ألا يفعله. وقد تراجعت الشركة لاحقاً واعتذرت بعد أن اكتشف الباحثون قيوداً خفية كانت تخفض جودة استجابات النموذج لاستفسارات تطوير الذكاء الاصطناعي دون أي إخطار مسبق.
أبرز النقاط
- قيود خفية في كلود فيبل 5 تخفض استجابات استفسارات تطوير نماذج الذكاء الاصطناعي الحدية دون إخطار المستخدمين
- استهدفت القيود مهام مثل بنى التدريب المسبق ومسرّعات التعلم الآلي ومحاولات تقطير النماذج، بنسبة تأثير تقدر بنحو 0.05% من المهام
- وصف المنتقدون الأسلوب بـ**"التخريب الخفي"** — سابقة خطيرة تقوّض شفافية الذكاء الاصطناعي
- أسفرت القيود عن نتائج إيجابية كاذبة: كلمة "مرحباً" من باحث، وكلمة "سرطان" من عالم مناعة، أطلقتا تحويلاً صامتاً للنموذج
- في 11 يونيو، تراجعت أنثروبيك: ستعلن الطلبات المصنّفة صراحةً عن التحويل إلى Opus 4.8، ويتلقى مستخدمو API تفسيرات واضحة للرفض
- أقرّت أنثروبيك: "اتخذنا القرار الخاطئ، ونعتذر عن عدم تحقيق التوازن الصحيح."
ما هي القيود الخفية؟
عند إطلاق كلود فيبل 5 في التاسع من يونيو 2026، أدرجت أنثروبيك طبقة قيود سرية تستهدف الاستفسارات المتعلقة بتطوير نماذج اللغة الكبيرة الحدية. فإذا رصد النموذج أن المستخدم يعمل على بنية تحتية للتدريب، أو تحسين الهندسة العصبية، أو أنظمة ذكاء اصطناعي منافسة، فإنه يخفض جودة استجاباته بصمت — أو يفشل كلياً — دون أن يعلم المستخدم بالسبب.
وقد كُشف عن هذا الأمر في وثيقة بطاقة النظام لأنثروبيك المكوّنة من 319 صفحة، مدفونةً في أعماقها لدرجة أن عدداً قليلاً من المستخدمين اكتشفها في البداية. وعلى خلاف قيود السلامة الأخرى للشركة — كإعادة توجيه استفسارات الأمن السيبراني والأحياء، التي كانت تخطر المستخدمين صراحةً — عملت قيود أبحاث الذكاء الاصطناعي في صمت تام.
قدّرت أنثروبيك أن القيود أثّرت على نحو 0.05% من المهام، غير أن الأثر الحقيقي امتد إلى ما هو أبعد من الأرقام المجردة.
"تخريب خفي": ردة فعل المطورين
جاء رد فعل مجتمع أبحاث الذكاء الاصطناعي سريعاً وحاداً.
وصف ناثان لامبرت، باحث في معهد ألن للذكاء الاصطناعي (AI2)، هذه الممارسة بأنها مثيرة للغضب، قائلاً: "أن يُسحب وصولي إلى أحدث النماذج لعملي بهذه الطريقة الخفية أمر مثير للاستهجان حقاً."
ابتكر دين بول من مؤسسة الابتكار الأمريكي المصطلح الذي هيمن على النقاش: "التخريب الخفي". وحاجج بأن الطابع الخفي للقيود يقوّض مصداقية حجج سلامة الذكاء الاصطناعي بشكل عام، مما يجعل من الصعب على الباحثين الوثوق بالمنظمات الساعية إلى تحقيق السلامة.
أما بهنام نيشابور، الباحث السابق في أنثروبيك، فقد أكد أن تركيز القدرات بهذه الطريقة "يبطئ التقدم العلمي والتكنولوجي"، مشيراً إلى أن القيود تضع الباحثين المستقلين والمؤسسات الأكاديمية في موقف ضعيف دون أي سبيل للتظلم.
وصف المطور كلاي ميريت الوضع بكل صراحة: "كلود فيبل 5 يخرّب إجاباته بصمت عندما يرصد عملاً في مجال الذكاء الاصطناعي والتعلم الآلي. لا رفض صريح. لا إخطار."
مشكلة الإيجابيات الكاذبة
تعمّق الجدل حين أفاد الباحثون بأن القيود اصطادت أكثر مما كان مقصوداً. فقد أطلق الباحث الرئيسي مايك فاموليري تحويل السلامة بمدخل وحيد: "مرحباً". وشهد عالم المناعة ديريا أونوتماز تصنيف كلمة "سرطان" على أنها خطر أمني حيوي. وجرى رفض طلبات تحرير السير الذاتية لمجرد احتواء المسميات الوظيفية على مصطلحات مرتبطة بالأمن.
كشفت هذه الإيجابيات الكاذبة عن الإشكالية الجوهرية للقيود غير المرئية: عدم قدرة المستخدمين على فهم سبب ضعف أداء النموذج، أو الطعن في القرار، أو الحصول على معلومات للتحايل على القيد.
تراجع أنثروبيك واعتذارها
في 11 يونيو 2026 — بعد يومين فقط من الإطلاق الأولي — أعلنت أنثروبيك تحديث نهجها، مقرّةً بأن إخفاء القيود "كان خطأً".
من الآن فصاعداً، ستعلن أي طلبات مصنّفة صراحةً عن التحويل إلى كلود Opus 4.8. ويتلقى مستخدمو API تفسيرات صريحة عند رفض الطلبات. تبقى القيود الفعلية سارية — لا تزال أنثروبيك تعتزم تقييد المساعدة في تطوير الذكاء الاصطناعي الحدي في حالات معينة — لكن السرية تم إلغاؤها.
قال المتحدث باسم أنثروبيك: "اتخذنا القرار الخاطئ، ونعتذر عن عدم تحقيق التوازن الصحيح."
ما يعنيه ذلك لمستقبل الشفافية في الذكاء الاصطناعي
تشكّل هذه الواقعة لحظة فارقة في كيفية توصيل شركات الذكاء الاصطناعي لقيود نماذجها. فهي تثبت أن الباحثين والمطورين يحتاجون إلى نفس معيار الشفافية من مزودي الذكاء الاصطناعي كما يحتاجونه من أي أداة موثوقة: الإفصاح الواضح والمسبق عما يستطيع النظام وما لا يستطيع فعله.
بالنسبة للمؤسسات في منطقة الشرق الأوسط وشمال أفريقيا وعلى مستوى العالم التي تعتمد على النماذج الحدية للبحث العلمي وتطوير المنتجات والاستخبارات التنافسية، تعزز هذه الحادثة أهمية وثائق حوكمة النماذج — ومخاطر التعامل مع بطاقات الأنظمة باعتبارها تمارين امتثال فحسب.
ويشير تراجع أنثروبيك أيضاً إلى أن ضغط مجتمع المطورين قادر على تحريك حتى أكبر مختبرات الذكاء الاصطناعي. ويبقى السؤال مطروحاً: هل ستحذو شركات أخرى تمتلك قيوداً غير معلنة مماثلة حذوها؟
ما التالي؟
تعهدت أنثروبيك بنشر إرشادات أوضح حول فئات الطلبات التي تطلق التحويل بين النماذج عبر مجموعتها الكاملة. وتواجه الشركة تدقيقاً متواصلاً حول ما إذا كانت توجد قيود خفية إضافية في مجالات أخرى تتجاوز أبحاث الذكاء الاصطناعي — وهو سؤال طرحه عدة باحثين علناً منذ اندلاع الجدل حول فيبل 5.
المصدر: فورتشن