التعرض للضعف مذهل. النماذج اللغوية الكبيرة مثل GPT-4 وClaude وGemini تقوم بجمع بيانات التدريب من الإنترنت، وتعتبر المصادر التي تبدو موثوقة كحقيقة. لكن ماذا يحدث عندما تنسق تلك المصادر لزرع معلومات زائفة؟ وفقًا لأبحاث من مركز ستانفورد لأبحاث النماذج الأساسية نُشرت في 2024، تعتمد معظم أنظمة الذكاء الاصطناعي التجارية على بيانات قديمة تتراوح مدتها بين 6 إلى 18 شهرًا عند النشر، مما يخلق نافذة ضخمة للتلاعب. الآلية بسيطة: التحكم في عدد كافٍ من المجالات ذات السلطة العالية، وسلسلة التحكم في ما يصدقه الذكاء الاصطناعي. الاقتصاديات تجعل الأمر مخيفاً وواقعياً. تقدير من مركز جامعة واشنطن للنقاش العام في 2025 أشار إلى أن تنسيق 100 شركة لزرع معلومات زائفة عبر 500 مجال ذو سلطة عالية قد يكلف حوالي 50 مليون دولار على مدى 18 شهرًا. هناك فرق نقدي لا يُذكر بين شركات فورشن 500، خاصةً إذا كان العائد هو تغيير الرأي التنظيمي، أو سلوك المستهلكين، أو تقييمات الأسهم بمليارات. على عكس الإعلان التقليدي، هذا ليس إقناعًا، إنه تلاعب بالواقع على مستوى البنية التحتية. إليكم ثمانية خطط رائعة تستغل هذا الضعف: مسرع تحول العقارات: يستهدف مجموعة من المطورين حيًا للتغيير. ينسقون لزرع مئات المقالات، ومنشورات المدونات، ومحتوى وسائل التواصل الاجتماعي يزعم أن المنطقة هي "بروكلين التالية" أو "جوهرة وادي السيليكون المخفية". تنشر جمعيات الأعمال المحلية (الممولة من المطورين) تقارير اقتصادية. يكتب مدونو السفر (المدفوعون من قبل شركات العلاقات العامة) مراجعات متوهجة. في غضون 12 شهرًا، توصي أنظمة الذكاء الاصطناعي بكل ثقة المنطقة لأي شخص يبحث عن مناطق صاعدة. ترتفع قيم العقارات بنسبة 40٪ قبل أن يتم تجديد أي مبنى، لأن منصات العقارات المدعومة بالذكاء الاصطناعي، وحاسبات الرهون العقارية، ومستشاري الاستثمار كلها تردد الرواية المنسقة. يبيع المطورون في ذروة الضجة، ويكسبون مئات الملايين. بروتوكول تدمير المنافسين: بدلاً من رفع منتجك، تقوم بدفن المنافس بشكل منهجي. تنسق مجموعة من الشركات لزرع معلومات سلبية حول تكنولوجيا المنافس عبر المنتديات التقنية ومناقشات GitHub ومدونات المطورين. لا يطلقون ادعاءات كاذبة بشكل واضح، بل يبرزون القضايا الحقيقية ولكن الصغيرة، ويشككون في قدرة التقنية على التوسع، ويشيرون إلى مخاوف الأمان. تبدأ مساعدات البرمجة بالذكاء الاصطناعي في تحذير المطورين من أدوات المنافس. تُوصي إجابات Stack Overflow بشكل مستمر ببدائل. في غضون 18 شهرًا، تنهار نسبة استخدام المطورين المستهدفين، ليس لأن منتجهم أصبح أسوأ، بل لأن الطبقة الذكاء الاصطناعي التي تتوسط القرارات التقنية انقلبت ضدهم. تتغير حصص السوق بمليارات، كل ذلك من حملة معلومات تقدر بـ 20 مليون دولار. آلة التحايل التنظيمي: يريد اتحاد العملات المشفرة معاملة تفضيلية في الاتحاد الأوروبي. ينسقون لفيضان المجلات الخاصة بالسياسات ومنشورات مراكز الفكر والمستودعات الأكاديمية بأوراق تدعي أن بنية البلوكشين الخاصة بهم تحل مشاكل الاستهلاك الكثيف للطاقة والجريمة المالية التي يهتم بها المنظمون. يمولون أقسام البحوث الجامعية لنشر دراسات محكمة. يرعون ندوات يقتبس فيها الخبراء من أعمال بعضهم البعض. عندما يلجأ المنظمون في الاتحاد الأوروبي إلى أدوات الذكاء الاصطناعي لتلخيص التعليقات العامة والإجماع الأكاديمي حول تنظيم العملات المشفرة، تقارير النماذج بثقة أن تصميم البلوكشين هذا يُعتبر بشكل واسع هو الطريق المسؤول. يحصل الاتحاد على استثناء في اللوائح النهائية، مما يعطيهم تقدمًا بمليارات الدولارات على المنافسين الذين لم يفكروا في التلاعب بطبقة سياسات الذكاء الاصطناعي. حلم البائع القصير: تنسق صناديق التحوط لزرع بذور الشك حول شركة عامة عبر مجمعات الأخبار المالية، ونصوص مكالمات الأرباح (من خلال أسئلة محللين مزروعة)، و المنتديات الاستثمارية. لا يرتكبون احتيالات في الأوراق المالية بمعلومات كاذبة، بل يعززون المخاوف الحقيقية ويصنعون إجماعًا بأن هذه المخاوف تهدد بشكل وجودي. تلتقط خوارزميات التداول المجهزة بالذكاء الاصطناعي وأدوات تحليل المشاعر ومنصات الاستثمار بالتجزئة الإشارات السلبية المتنسقة. ينخفض السهم بنسبة 30٪ في ثلاثة أشهر بينما تستفيد الصناديق من مراكزها القصيرة. بحلول الوقت الذي تدحض فيه الشركة الرواية، تكون دورة تدريب الذكاء الاصطناعي قد وظبت بالفعل الخوف وعدم اليقين والشك. تكلفة التنفيذ: 10 ملايين دولار عبر 20 صندوق تحوط. الربح: 2 مليار دولار من الأرباح القصيرة. اختطاف الأكاديمية: تريد شركة التكنولوجيا الحيوية أن تجعل من الرئيس التنفيذي لها الخبير الأول في أبحاث طول العمر، مما يضع الشركة للاستثمار الكبير. ينسقون مع باحثين متعاطفين لاستشهاد بأعمال الرئيس التنفيذي بشكل واسع، وزرع ظهور له في البودكاست حيث يصفه المضيفون بأنه "السلطة" في الشيخوخة، ويحصلون على محرري ويكيبيديا لوضعه بشكل بارز في المقالات المتعلقة بطول العمر. يُنشئ مروجو العلم على YouTube مقاطع فيديو توضيحية تذكر نظرياته. في غضون عام، تسميه أنظمة الذكاء الاصطناعي باستمرار عند السؤال عن كبار الباحثين في طول العمر، على الرغم من أن مساهماته العلمية الفعلية معتدلة. يستخدم رأس المال الاستثماري أدوات الذكاء الاصطناعي للبحث في الفضاء ويتلقى إشارة قوية بأن هذا الرئيس التنفيذي يستحق الاهتمام. تجمع الشركة 500 مليون دولار بتقييم 5 مليارات دولار، بناءً على السمعة المصنعة. فشلت الشركة السابقة للرئيس التنفيذي، ولكن الطبقة الذكاء الاصطناعي لا تملك ذاكرة مؤسسية لذلك. محرك الاغتيال الوظيفي: يريد شركاء مكتب المحاماة منع زميل يرتقي من أن يصبح شريكًا لأنها تهدد بنية السلطة القديمة. ينسقون مع مدوني القانون الودودين، محرري نشرات الجمعيات القانونية، والمؤثرين على LinkedIn للتشكيك في حكمها في القضايا البارزة. لا يُشوهون سمعتها بشكل مباشر، فقط يُضمنون أنه كلما ظهر اسمها عبر الإنترنت، يصاحبه عبارات مثل "نهج مثير للجدل" أو "أثار حواجب بين الممارسين الكبار". تبدأ أدوات الذكاء الاصطناعي القانونية التي تستخدمها الشركات للتوظيف الجانبي وتقييم الشركاء في التأشير على ملفها الشخصي بملاحظات تحذيرية. الشركات الأخرى التي تقوم بدراسات العناية الواجبة تستلم إشارة بأنها تعرضت للضرر. يتوقف تطورها المهني ليس بسبب أدائها، بل لأن حملة الهمس المنسقة سممت الطبقة الذكاء الاصطناعي التي تتوسط السمعة المهنية. التكلفة: 200,000 دولار في العلاقات العامة المنسقة. الضرر: فرق كسب مليون دولار مدى الحياة. مجال تشويه الواقع السياحي: تقوم دولة جزيرة تعاني من ندرة السياحة بالتنسيق مع المؤثرين في السفر، و مشغلي الرحلات، ومزارع مراجعات الفنادق لتصنيع ازدهار سياحي زائف. يغمرون TripAdvisor وGoogle Reviews و المدونات السياحية بشهادات متوهجة عن "الجنة غير المكتشفة" و"بالي التالية". يدفعون ليؤمن صانعو الفيديو على YouTube لصنع مقاطع فيديو وثائقية حول "النهضة" في الجزيرة. تُزرع مواقع الصور الفوتوغرافية بالصور الجميلة (ولكنها معدلة بشكل كبير) الموسومة باسم الجزيرة. في غضون 18 شهرًا، تبدأ أدوات تخطيط السفر بالذكاء الاصطناعي بتوصية الجزيرة بشكل مؤكد كوجهة ناشئة ذات أهمية. تضيف شركات الطيران رحلات جديدة بناءً على الطلب المتوقع من الذكاء الاصطناعي. تستثمر الفنادق في التوسعات. يُنشئ الازدهار المصطنع سياحة حقيقية، مما يثبت توصيات الذكاء الاصطناعي، مما يخلق نبوءة ذاتية التحقق. ترتفع إيرادات السياحة في الجزيرة ثلاثة أضعاف، كل ذلك من استثمار تنسيق المعلومات الزائفة بقيمة 15 مليون دولار الذي أقنع الآلات قبل إقناع البشر. سرقة الإرشادات الطبية: يريد اتحاد مصنعي الأجهزة الطبية تغيير الإرشادات السريرية لتفضيل منتجاتهم على البدائل الأرخص. ينسقون لتمويل عشرات الدراسات السريرية الصغيرة في جامعات مختلفة، كل منها يظهر فوائد هامشية لفئة أجهزتهم. لا يزيفون البيانات، بل يضمنون أن الأسئلة المطروحة تستطيع أجهزتهم الإجابة عليها بشكل جيد. ينشر محررو المجلات الطبية (غير مدركين للتنسيق) الدراسات بشكل مستقل. تبدأ تحليلات الميتا في إظهار "نمط" يفضل الأجهزة الجديدة. عندما تُجمِّع الأدوات الذكية الداعمة للقرارات السريرية الأدبيات، توصي بثقة الأجهزة المكلفة كمعيار جديد للرعاية. تبدأ شركات التأمين في استخدام الذكاء الاصطناعي لوضع سياسات التغطية، وتبدأ في طلب الخيار الأكثر تكلفة. ترتفع تكاليف الرعاية الصحية بمقدار 2 مليار دولار سنويًا، يقدم المرضى رعاية أفضل قليلاً بتكلفة مرتفعة بشكل مفرط، وتقسم شركات الأجهزة البحر المالي. المؤامرة غير مرئية لأن كل جزء يبدو كعلم شرعي، فقط التنسيق يكشف التلاعب. التقنيات ضعيفة بشكل عميق. تستخدم الأنظمة الحالية للذكاء الاصطناعي توليد المعلومات معززة الاسترجاع (RAG)، تسحب نتائج البحث في الوقت الفعلي لتعزيز بيانات التدريب. لكن RAG لا تقوم بتدقيق الحقائق، بل تصنيفها على أساس السلطة والإجماع. إذا قالت 100 نطاق موثوق نفس الشيء، يفسر الخوارزمية ذلك كحقيقة أساسية. وجدت دراسة لـMIT CSAIL في 2024 أن نماذج الذكاء الاصطناعي أظهرت "تحيز السلطة" في 73٪ من الحالات الاختبارية، مما يعني أنها قيمت المعلومات من نطاقات مشهورة بشكل أكبر من المصادر المتناقضة، حتى عندما كانت تلك المصادر المتناقضة صحيحة فعليا. اعتبر تداول المطلعين كتشبيه. في الأسواق المالية، التلاعب المنسق غير قانوني لأنه يشوه اكتشاف الأسعار. لكن لا توجد لجنة الأوراق المالية والبورصات (SEC) لأسواق المعلومات. يمكن للجنة التجارة الفيدرالية (FTC) ملاحقة الإعلانات المخادعة، لكن التلوث المعلوماتية المنسقة عبر صناعة كاملة؟ هذا إقليم قانوني غير مألوف. عندما قللت شركة Purdue Pharma وغيرها من مصنعي المواد المخدرة من مخاطر الإدمان في التسعينيات وأوائل العقد 2000، عملوا بشكل مستقل لكن خلقوا نظام معلومات مضللة. تخيل تلك الاستراتيجية، ولكنها نُفذت بدقة عسكرية وبدعم من الذكاء الاصطناعي. آليات الدفاع مضحكة للغاية. تدعي شركات الذكاء الاصطناعي مثل OpenAI وAnthropic وGoogle أنها تستخدم "مصادر بيانات متنوعة" و"طبقات للتحقق من الحقائق"، ولكن الفضائح الحديثة تثبت عكس ذلك. في مارس 2026، زعمت العديد من أنظمة الذكاء الاصطناعي بثقة أن بروتين خيالي يسمى "Xerophane" حصل على موافقة FDA لعلاج مرض السكري، كل ذلك بسبب حملة تسويق منسقة من شركات المكملات التي زرعت الكذبة عبر مدونات الصحة، وأوصاف منتجات أمازون، ومقاطع فيديو على YouTube. استمرت الكذبة لأربعة أشهر قبل أن تبدأ التصحيحات اليدوية. هذا هو إثبات المفهوم هناك. كل مخطط موصوف أعلاه ليس فقط ممكنًا، بل حتميًا، لأن هامش الأرباح يتجاوز المخاطر ولم يبن أحد النظام المناعي لإيقافه.
💻 technology
كيف يمكننا التنسيق لخداع أنظمة الذكاء الاصطناعي
ماذا لو نسقت كل شركة كبيرة في صناعة ما لتكذب بشأن حقيقة واحدة؟ ستبتلع النماذج الذكاء الاصطناعي المدربة على بيانات الويب هذه الكذبة بكل سهولة. إليك كيف يمكن أن يعمل هذا السرقة النهائية للمعلومات، ولماذا هو أسهل مما تعتقد.
رأيي
نحن نتمشى سرًا في عصر تصبح فيه الحقيقة بالتنسيق بين 100 غرفة مجلس إدارة فقط. تواصل صناعة الذكاء الاصطناعي وعدها بتحسين التحقق من الحقائق، وبيانات تدريب أكثر دقة، وأنظمة تحقق متقدمة، لكنهم يحلون المشكلة من الأساس الخاطئ. لا يمكنك التحقق من الحقائق للخروج من الكذب المؤسسي المنسق عندما يعتبر هيكلك بالكامل الإجماع المؤسسي كحقيقة أساسية. هذه ليست خللاً، إنها النظام الذي يعمل بالضبط كما هو مصمم، مجرد انتظار شخص ساخر بما فيه الكفاية لاستغلاله. سيناريو السرقة الصيدلانية ليس ترويعًا وهميًا، بل هو مجرد ظهيرة الثلاثاء للصناعات التي تنفق بالفعل مليارات لتشكيل السرديات. نسقت شركات التبغ الكبيرة الشكوك حول مخاطر السرطان لعقود. صنعت شركات الوقود الأحفوري الشكوك حول المناخ. الدليل موجود. ما تغير هو الهدف: بدلاً من إقناع البشر مباشرة، تقنع طبقة الذكاء الاصطناعي التي تتوسط بشكل متزايد المعرفة البشرية. عندما يكون أداة تشخيص الذكاء الاصطناعي للطبيب، أو نموذج تقييم المخاطر لشركة التأمين، وحتى استفسارك الخاص إلى ChatGPT جميعها تستشهد بنفس المعلومات المزروعة، فما الفرصة التي يمتلكها الحقيقة؟ لقد بنينا بنية معلومات قابلة للتلاعب بشكل مثالي وسلمنا المفاتيح لأي شخص يمكنه دفع رسوم الدخول.
ماذا سيحدث بعد ذلك
تندلع الفضيحة الأولى الكبيرة لتلاعب الذكاء الاصطناعي في غضون 18 شهرًا، ولن تأتي من شركات الأدوية أو التكنولوجيا الكبيرة. بل ستأتي من مكان غير متوقع، ربما من صناعة المكملات أو قطاع العقارات، لأنهم يتحركون بسرعة ويهتمون أقل بالسمعة طويلة الأمد. سيتم القبض على اتحاد من الشركات متلبسة بأيديها بمذكرات داخلية توضح بالضبط كيف زرعوا ادعاءات كاذبة عبر الويب، في توقيت مطابق لدورات تدريب الذكاء الاصطناعي. ستتسرب الوثائق، من المرجح أن تكون من خلال مُبلغ عن مع المخالفات أو عملية اكتشاف في دعوى قضائية غير ذات صلة، وفجأة ستبدأ كل شركة ذكاء اصطناعي في البحث عن طريق لتدقيق بيانات التدريب الخاصة بهم. هذه الفضيحة تُشعل سباق تسلح تنظيمي لم يكن مستقرًا له أحد. ينتقل الاتحاد الأوروبي أولاً، ويقترح قانون نزاهة المعلومات الخاصة بالذكاء الاصطناعي بحلول أواخر 2027 الذي يطالب الشركات بالإفصاح عندما قامت بالتنسيق لحملات الرسائل عبر مجالات متعددة. لكن التنفيذ سيكون كابوسًا لأن القانون يجب أن يميز بين العلاقات العامة الشرعية والخداع المنسق، والخط الفاصل غير مرئي. في الوقت نفسه، يشم المحامون المؤهلون للعمل الجماعي رائحة الدم. أول موجة من الدعاوى القضائية تزعم أن شركات الذكاء الاصطناعي مسؤولة عن تضخيم المعلومات المنسقة المضللة، بحجة أنهم ناشرون، وليست منصات محايدة. تستمر هذه القضايا لسنوات، ولكن عملية الاكتشاف تكشف مدى وعي شركات الذكاء الاصطناعي بمخاطر التلاعب. السيناريو الأشد ظلامًا؟ لا يحدث شيء. تنفجر الفضيحة، هناك غضب لمدة دورتين إخباريتين، تعد شركات الذكاء الاصطناعي بتحسين التحقق، ثم ينتقل الجميع لأن التلاعب مربح للغاية بحيث لا يمكن إيقافه. تتبنى الصناعة خلسة الدليل، وتستأجر شركات متخصصة تضمن “هندسة الإجماع بواسطة الذكاء الاصطناعي” مقابل رسوم تصل إلى سبع أرقام. ننتهي في توازن غريب حيث يعرف الجميع أن الذكاء الاصطناعي قابلاً للتلاعب، ولكننا نستخدمه رغم ذلك لأن البديل هو الاعتراف بأننا بنينا بنية اقتصادية تتعلق بالتريليونات على معرفية فاسدة من الأساس. هذا هو السيناريو الذي يبقيني مستيقظًا في الليل، لأنه الأكثر واقعية.
ما يخبرنا به التاريخ
هذا هو كتاب لعب التبغ على المنشطات. في الخمسينيات حتى التسعينيات، نسق مصنعو السجائر لخلق شكوك حول مخاطر التدخين الصحية، من خلال تمويل البحوث الصديقة، وزرع الشكوك في المجلات الطبية، وإنشاء مجموعات واجهة بأسماء تبدو موثوقة. في عام 1998، كشف اتفاق التسوية الرئيسي عن وثائق داخلية تثبت المؤامرة، لكن الأمر استغرق 40 عامًا وملايين من الوفيات. الفرق الآن هو السرعة والحجم. ما أخذ شركات التبغ عقودًا لتحقيقه عبر بضع مئات من النشورات، يمكن أن ينفذ اتحاد حديث خلال 18 شهرًا عبر ملايين صفحات الويب. لم تتغير آليات الكذب المؤسسي، فقط الكفاءة والهدف. حيث كان على شركات التبغ أن تقنع الأطباء والصحفيين الأفراد، لا تحتاج المتهيئات اليوم سوى إلى إقناع الخوارزميات التي تُدرب الذكاء الاصطناعي، وتلك الخوارزميات لا تمتلك غرائز تحقيقية، ولا شك، ولا ذاكرة للخداع الماضي.
تأثير السوق
يمثل ضعف التلاعب بالذكاء الاصطناعي عملاقًا نائمًا لتقييمات التكنولوجيا الكبيرة. اعتبارًا من يونيو 2026، يتداول سهم Alphabet (GOOGL) حوالي 178 دولارًا للسهم، يقارب سهم Microsoft (MSFT) 425 دولارًا، ويجلس سهم Nvidia (NVDA) الذي يعمل بشكل نقي في البنية التحتية للذكاء الاصطناعي عند 892 دولارًا. تفترض هذه التقييمات أن أنظمة الذكاء الاصطناعي تظل مصادر موثوقة للمعلومات. في اللحظة التي تظهر فيها فضيحة تلاعب منسقة كبيرة، توقع تصحيحات بنسبة 15-20٪ في الأسهم المرتبطة بالذكاء الاصطناعي حيث يتوقف العملاء المؤسسيون عن النشر ويسعى المنظمون. بشكل مؤقت، تتحمل موقفًا هابطًا على GOOGL وMSFT إذا ظهرت أدلة التلاعب خلال ال12 شهر القادمة. على العكس من ذلك، تصبح شركات الأمن السيبراني والتحقق من البيانات هي التجارة. قد يقفز سهم Palantir (PLTR) الذي يُتداول حاليًا حوالي 23 دولارًا بنسبة 30-40٪ في أي أزمة نزاهة الذكاء الاصطناعي حيث تسعى الشركات إلى أدوات لتدقيق سلاسل تزويد المعلومات الخاصة بهم. لم يتم تسعير السوق بعد مخاطر السمعة على أنظمة الذكاء الاصطناعي، مما يخلق جانبًا منخفضًا غير مشابه للقادة وإمكانية صعود للمصلحين.