قدم باحث جامعة كامبريدج هكتور زينيل دليلًا رياضيًا لما كان الكثير من علماء الحاسوب يشتبهون فيه منذ فترة طويلة: لا يمكن لنماذج اللغة الكبيرة (LLMs) أن تتحسن ذاتيًا من خلال التدريب على مخرجاتها الخاصة. يحدث الظاهرة، التي تدعى انهيار النموذج، عندما تبدأ هذه النماذج الإحصائية في التغذية على محتواها المولد بدلاً من البيانات الجديدة التي أنشأها البشر. فكر في الأمر كنسخة فكرية من مرض جنون البقر، حيث يتدهور النظام ببطء عن طريق استهلاك نفسه. المشكلة الرئيسية تكمن في ما هي LLMs بالفعل مقابل ما يوحي به الضجيج. رغم كل التسويق المثير للذكاء الاصطناعي والتعلم الآلي، فإن هذه الأنظمة هي في الأساس محركات احتمالية. تحلل مجموعات بيانات ضخمة من النصوص التي أنشأها البشر وتبني نماذج إحصائية تتنبأ بالكلمات التي يجب أن تتبعها كلمات أخرى. عندما تسأل ChatGPT سؤالًا، فإنه لا يفكر أو يستدل بأي معنى مهم. إنه يقوم بحسابات متقدمة لتحديد تسلسل الكلمات الأكثر احتمالية إحصائياً بناءً على المدخلات الخاصة بك. تُظهر ورقة زينيل أنه عندما يدرب LLM على مخرجاته الخاصة أو على محتوى تم إنشاؤه بواسطة LLMs أخرى، فإنه يخضع لما يسميه الديناميكيات التنكسية. النموذج لا يتعلم أو يتحسن؛ إنه يتقارب إلى تفرد إحصائي، ليصبح في الأساس غرفة صدى مشوهة لانحيازاته وأنماطه الخاصة. كل جيل من التدريب الذاتي يعزز الأخطاء والشرود الموجودة بينما يفقد التنوع والغنى في بيانات التدريب الأولية التي أنشأها البشر. خلال عدة دورات، يصبح المخرج متجانسًا ومتكررًا ومنفصلًا عن الواقع بشكل متزايد. هذه ليست مجرد مشكلة نظرية. مع اجتياح المحتوى الذي يولده الذكاء الاصطناعي للإنترنت (تشير بعض التقديرات إلى أن النص الذي أنشأه الذكاء الاصطناعي يشكل بالفعل 10-15% من المحتوى الجديد على الويب في عام 2026)، تواجه LLMs المستقبلية مجموعة بيانات متزايدة التلوث. شركات مثل OpenAI وAnthropic وGoogle تكافح بالفعل للعثور على نصوص عالية الجودة التي أنشأها البشر لتدريب نماذجها من الجيل التالي. الحل السهل لاستخدام البيانات الاصطناعية، وترك الذكاء الاصطناعي يدرب الذكاء الاصطناعي، يظهر أنه طريق مسدود. تقترح الورقة آليات محتملة لمواجهة انحطاط الحرارة داخل هذه النماذج، لكن الاستنتاج الأساسي يبقى: تتطلب النماذج الإحصائية توجيهاً خارجياً مستمراً إلى البيانات التي أنشأها البشر لتجنب الانهيار. لا يوجد حل سحري حيث يدرب الذكاء الاصطناعي نفسه إلى ذكاء فائق. تبدو الفكرة المبالغ فيها حول ظهور الذكاء العام الاصطناعي (AGI) من تكبير نماذج اللغة الكبيرة وكأنها حلم محموم تم بيعه من قبل الرأسماليين المغامرين والمبشرين التقنيين الذين خلطوا بين مطابقة الأنماط والتفكير.