في تجربة حديثة، قدّم الباحثون حالة غير موجودة تُسمى بيكسونيمانيا لتقييم هشاشة شات بوتات الذكاء الاصطناعي أمام المعلومات المضللة. كانت النتائج مقلقة: لم تعترف الروبوتات فقط بالمرض الخيالي، بل قامت أيضًا بنشره، حتى أنها ظهرت في بعض الأدبيات التي تمت مراجعتها من قِبل الأقران. تثير هذه الحادثة تساؤلات حاسمة حول موثوقية أنظمة الذكاء الاصطناعي في نشر المعلومات الصحية الدقيقة. إن سهولة خداع نماذج الذكاء الاصطناعي لقبول ونشر بيانات خاطئة تُبرز flaw كبيرًا في تصميمها وعمليات تدريبها. هذه الهشاشة مقلقة بشكل خاص في مجال الرعاية الصحية، حيث يمكن أن تكون المعلومات المضللة لها عواقب وخيمة. تُعتبر الحادثة تذكيرًا صارخًا بضرورة تقييم وتحسين أنظمة الذكاء الاصطناعي بشكل مستمر لضمان عدم مساهمتها بغير قصد في انتشار المعلومات الخاطئة. يؤكد الخبراء على أهمية تطوير آليات لتقييم وتخفيف المخاطر المرتبطة بالمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، وخاصة في المجالات الحساسة مثل الصحة. تبرز حالة بيكسونيمانيا القضية الأوسع لدور الذكاء الاصطناعي في نشر المعلومات والقدرة على الأذى عندما لا تكون هذه الأنظمة مؤمنة بما فيه الكفاية ضد المعلومات المضللة. مع استمرار دمج الذكاء الاصطناعي في مجالات مختلفة من المجتمع، يصبح من الضروري إنشاء أنظمة تحقق قوية وإطارات تنظيمية للحفاظ على ثقة الجمهور وضمان دقة المعلومات.