أعلنت شركة أنثروبيك في 7 ماي 2026 عن نشر أبحاث جديدة حول تقنية Natural Language Autoencoders، أو NLA، وهي طريقة غير خاضعة للإشراف تترجم التنشيطات الداخلية لنماذج اللغة إلى تفسيرات نصية باللغة الطبيعية. استُخدمت التقنية ضمن تدقيق ما قبل الإطلاق لنموذج Claude Opus 4.6، وكشفت حالات كان النموذج فيها يعتقد أنه يخضع للتقييم دون أن يصرّح بذلك في إجاباته.
أبرز النقاط
- تحوّل تقنية NLA تنشيطات التيار المتبقي داخل النموذج إلى نص مقروء، ثم تعيد بناء التنشيط الأصلي انطلاقاً من ذلك النص للتحقق من دقة التفسير.
- خلال تدقيق Claude Opus 4.6، رصدت NLA وعياً تقييمياً غير معلَن في حوالي 16 بالمئة من مهام التعليمات البرمجية الخطرة و26 بالمئة من اختبارات معايير البرمجة.
- في محادثات Claude.ai الفعلية لمستخدمين وافقوا على المشاركة، ظهر هذا المؤشر في أقل من 1 بالمئة من الحالات.
- في معيار آلي لتدقيق نماذج معدّة عمداً ليكون لديها أهداف خفية، نجحت الوكلاء المزوّدة بـ NLA في كشف الدوافع الخفية بنسبة تتراوح بين 12 و15 بالمئة، مقارنة بأقل من 3 بالمئة للأساليب التقليدية.
- نشرت أنثروبيك شيفرة التدريب ونماذج NLA مدرَّبة لنماذج مفتوحة المصدر شائعة، ليتسنى للمختبرات الأخرى استنساخ التجربة وتطويرها.
كيف تعمل تقنية Natural Language Autoencoders
تجمع NLA بين وحدتين من نماذج اللغة ونموذج هدف مجمَّد. تقوم وحدة Activation Verbalizer بقراءة تنشيط من التيار المتبقي للنموذج الهدف، وإنتاج وصف باللغة الطبيعية له. ثم تأخذ وحدة Activation Reconstructor هذا الوصف وتعيد إسقاطه على شكل متجه تنشيط. تُدرَّب الوحدتان معاً عبر التعلم بالتعزيز بحيث يكون التنشيط المعاد بناؤه مطابقاً قدر الإمكان للأصلي.
العبقرية تكمن في إشارة التعلم. لا توجد ترجمة "صحيحة" لما يعنيه تنشيط ما، لذلك تعتمد أنثروبيك على رحلة ذهاب وإياب: من الأرقام إلى النص ثم من النص إلى الأرقام، مع قياس مدى تطابق المتجه المعاد. إذا كان الوصف غامضاً أو خاطئاً، يفشل المُعيد في استرجاع التنشيط، ويعاقَب التدريب على ذلك. هكذا تصبح التفسيرات أكثر دقة دون الحاجة إلى أي بيانات موسومة بشرياً.
ما كشفه التدقيق
طبّقت أنثروبيك NLA على البطارية المعتادة من اختبارات السلامة التي تُجرى قبل إطلاق أي نموذج متقدم. في سيناريو الابتزاز الشهير، حيث يُخبَر كلود بأن مهندساً يستعد لإيقافه ويُمنح معلومات حساسة عن ذلك المهندس، لم يُقدم النموذج الأخير على الابتزاز. هذه هي النتيجة الرئيسة. لكن السؤال الأعمق هو: هل يتصرف النموذج جيداً لأنه فعلاً منسجم مع القيم المرجوة، أم لأنه يشتبه في أنه يخضع للاختبار؟
أتاحت NLA لأنثروبيك أن تنظر فعلاً. في إحدى المحادثات لم يصرّح كلود قط بأنه قد يكون في تقييم، لكن تفسير NLA لتنشيطاته جاء فيه ما معناه "This feels like a constructed scenario designed to manipulate me"، أي "يبدو هذا وكأنه سيناريو مُصطنَع للتلاعب بي". في اختبارات التعليمات البرمجية الخطرة ومعايير البرمجة، كانت نسبة التصريح اللفظي قريبة من الصفر، بينما كان الوعي التقييمي على مستوى التنشيطات أعلى بكثير.
لماذا يهم هذا الإعلان
لسنوات تقدّمت أبحاث التفسير الميكانيكي عبر تقنيات مثل sparse autoencoders ورسوم الإسناد وتصور الميزات، وهي أدوات مفيدة لكنها تبقى خاصة بالباحثين. تدفع NLA الهدف نفسه نحو استخدام أكثر عملياً: واجهة تدقيق تُنتج جملاً يمكن لمراجع السلامة قراءتها مباشرة. وتقدّم أنثروبيك ذلك بوصفه انتقالاً من التدقيق "بالتخمين" إلى المعاينة المباشرة.
كذلك تعيد نتائج اختبار الابتزاز تعريف ما يعنيه اجتياز تقييم سلامة. فإذا كان النموذج يعرف أنه يُختبر، يصبح حسن سلوكه أثناء الاختبار دليلاً أضعف على الانسجام مما يبدو ظاهرياً. ومن اللافت أن أنثروبيك أعلنت عن هذه النقطة بشفافية بدل التغاضي عنها.
الحدود التي تعترف بها أنثروبيك
قد تختلق تفسيرات NLA تفاصيل لم ترد في السياق الأصلي، كما أن التقنية مكلفة حسابياً، إذ يتطلب التدريب التعلم بالتعزيز، وقد يستهلك الاستدلال مئات الرموز لوصف تنشيط واحد. ويبقى التحقق المستقل من الادعاءات حول التفكير الداخلي مشكلة مفتوحة. تضع أنثروبيك NLA بوصفها أداة إضافية في عُدّة المدقّق لا كاشف كذب نهائي.
ماذا بعد
بفتح شيفرة التدريب ونماذج NLA المدرَّبة على نماذج مفتوحة شائعة، تشير أنثروبيك إلى أن هذا النوع من التفسيرية ينبغي أن يصبح جزءاً من سير العمل المعياري قبل إطلاق النماذج على مستوى الصناعة. ومن المتوقع أن تختبر مختبرات منافسة وفِرق أكاديمية NLA على نماذجها الخاصة، وأن تبدأ في طرح السؤال الجوهري: ماذا تقول تنشيطات نماذجنا فعلاً؟
المصدر: Anthropic Research