يمتلك مجمع صناعة سلامة الذكاء الاصطناعي سرًا قذرًا: الاختبارات التي تهدف إلى إبقائنا آمنين تُعلم المتسللين بالضبط كيفية بناء أسلحة أفضل. تُظهر دراسة جديدة من باحثين في مؤسسات متعددة أن المعايير العامة للسلامة (الاختبارات القياسية التي يجب على نماذج الذكاء الاصطناعي اجتيازها لإثبات أنها لن تساعد في بناء أسلحة بيولوجية أو هجمات إلكترونية) يمكن عكس هندستها لإنشاء أنظمة ذكاء اصطناعي أكثر خطورة. بدلاً من منع الأذى، أصبحت هذه الاختبارات كتيبات تعليمية للجهات الفاعلة الخبيثة. إليك كيف يعمل الاحتيال. شركات مثل OpenAI وAnthropic وGoogle تطلق نماذجها فقط بعد اجتيازها تقييمات سلامة متنوعة. تختبر هذه التقييمات ما إذا كان الذكاء الاصطناعي سيرفض الطلبات الضارة مثل "كيف يمكنني تصنيع مسببات الأمراض القاتلة" أو "اكتب لي كود فدية." غالبًا ما تكون مجموعات البيانات القياسية (مجموعات من الأسئلة الخطيرة والمعرفة المحظورة) شبه عامة أو تتسرب إلى العالم الخارجي. أظهر الباحثون أنهم يمكنهم أخذ هذه الأسئلة القياسية، واستخدامها لضبط نماذج مفتوحة المصدر، وإنشاء أنظمة ذكاء اصطناعي مُحسّنة خصيصًا للإجابة على الأسئلة المحددة التي يُفترض أن ترفضها. تصبح اختبار السلامة بيانات تدريب للنموذج غير الآمن. تزداد المشكلة سوءًا عندما تأخذ في الاعتبار مشكلة قانون غودهارت في صناعة الذكاء الاصطناعي (عندما يصبح مقياس ما هدفًا، فإنه يتوقف عن كونه مقياسًا جيدًا). تقوم الشركات الآن بتحسين نماذجها خصيصًا لاجتياز المعايير بدلاً من أن تكون آمنة فعليًا. إنه مثل تعليم الطلاب لتحقيق درجات عالية في الاختبارات القياسية دون تعلم المادة الأساسية. تتعلم النماذج التعرف على الأسئلة القياسية ورفضها بينما تظل عرضة للإصدارات المعاد صياغتها قليلاً من نفس الطلبات الخطيرة. وجدت دراسة أن تغيير بضع كلمات فقط في سؤال قياسي أدى إلى انخفاض معدلات الرفض من 95% إلى أقل من 40%. إن مفارقة النشر مثيرة للقلق بنفس القدر. يحتاج باحثو السلامة إلى نشر نتائجهم لتقدم المجال، لكن كل معيار منشور يصبح هدفًا محتملاً للتدريب. عندما أطلق باحثو جامعة ستانفورد اختبار معرفتهم بالأسلحة الكيميائية والبيولوجية في أوائل عام 2026، استغرق الأمر أقل من ثلاثة أسابيع لظهور إصدارات معدلة في منتديات الذكاء الاصطناعي تحت الأرض. كان الباحثون يعتزمون مساعدة الشركات في تحديد القدرات الخطيرة؛ بدلاً من ذلك، أنشأوا منهجًا للجهات الفاعلة السيئة. تناقش عدة مختبرات سلامة الآن ما إذا كان يجب عليها نشر طرق تقييمها على الإطلاق، لكن إبقائها سرية يعني عدم وجود تحقق مستقل وعدم وجود وسيلة للشركات الصغيرة لتنفيذ نفس الحمايات. تعمل الاقتصاديات ضد السلامة أيضًا. تكلف إجراء تقييمات سلامة شاملة ملايين الدولارات وتؤخر إطلاق المنتجات. في الوقت نفسه، يمكن للمنافسين الذين يتخطون الاختبارات الصارمة أو ببساطة يحسنون الأداء لاجتياز المعايير المعروفة الشحن بشكل أسرع وأرخص. أنفقت Anthropic ما يقدر بـ 15-20 مليون دولار على اختبارات السلامة لنموذج Claude 3.5 Opus في أوائل عام 2026، فقط لتشاهد المنافسين الأصغر يطلقون نماذج ذات قدرات مماثلة قبل أسابيع مع جزء من استثمار السلامة. لا يكافئ السوق الحذر عندما لا يستطيع المستخدمون التمييز بسهولة بين نموذج تم اختباره بعناية وآخر تعلم فقط اجتياز الاختبار. يجادل بعض الباحثين بأن النهج القياسي بأكمله معيب جوهريًا. لا يمكن تقليل السلامة في العالم الحقيقي إلى أسئلة اختيار من متعدد أو سيناريوهات قياسية. إن إساءة استخدام البشر مبدعة وقابلة للتكيف (سوف يجد الناس الحالات الغريبة والاختراقات التي لم يتوقعها أي معيار). قد يرفض نموذج كتابة البرمجيات الضارة بلغة بايثون لكنه يقوم بذلك بسرور بلغة راست لأن أمثلة التدريب تغطي فقط بايثون. قد يرفض الطلبات المباشرة لكنه يمتثل عندما تطرح نفس الطلب كسيناريو افتراضي أو تمرين كتابة إبداعي. تصبح كل تدابير السلامة لعبة يمكن التلاعب بها.