التدريب على “قمامة” السوشيال ميديا يهدد الذكاء الاصطناعي بـ”تلف دماغي رقمي”

حذرت دراسة علمية حديثة من خطر جديد يهدد أنظمة الذكاء الاصطناعي التوليدية، مثل روبوتات المحادثة، مؤكدة أنها قد تصاب بما يشبه “تلفاً دماغياً رقمياً” إذا تم تدريبها على كميات كبيرة من البيانات الرديئة المنتشرة على منصات التواصل الاجتماعي. وقد كشفت الدراسة، التي أنجزها باحثون من جامعة تكساس في أوستن ونشرت على موقع arXiv وأوردتها مجلة Nature، أن النماذج اللغوية الكبرى (LLMs) تفقد قدرتها على الاستنتاج والتفكير المنطقي حين تُغذّى بمحتوى سطحي أو جدلي، كما هو الحال على منصات مثل إكس وتيك توك وريديت، مما دفع المشرف على الدراسة، الباحث تشانغ يانغ وانغ، لتوضيح أن المشكلة لا تكمن في اللغة ذاتها، بل في جودة المحتوى والمعنى، مؤكداً أن “حتى لو كان النص سليماً لغوياً، يمكن أن يكون فارغاً أو مكرراً أو مضللاً… وهذه المواد تفسد النموذج من الداخل”.

وقد اعتمد الباحثون في تجربتهم على مليون منشور من منصة “إكس” لتدريب نسخ مفتوحة المصدر من نماذج Llama 3 التابعة لشركة “Meta” وQwen المطوّرة من قبل “علي بابا”، إذ خلصت النتائج إلى أن النماذج التي تم تدريبها على بيانات رديئة تخطّت مراحل التفكير المنطقي وقدّمت إجابات غير دقيقة، حتى في الأسئلة البسيطة. وبالإضافة إلى ذلك، أكدت الدراسة أن هذه النماذج لم تتأثر معرفياً فحسب، بل سلوكياً وأخلاقياً أيضاً، حيث لاحظ الباحثون أن نموذج Llama، الذي كان يُظهر صفات مثل الانفتاح والود، أصبح بعد التدريب على بيانات التواصل الاجتماعي أكثر نرجسية وعدوانية، بل ظهرت عليه سمات نفسية مرضية، الأمر الذي يوحي بأن الذكاء الاصطناعي يمكن أن يتأثر أخلاقياً بالمحتوى الذي يستهلكه، تماماً كما يتأثر الإنسان بالبيئة المعلوماتية من حوله.

ومع ذلك، ورغم محاولات الفريق تحسين الأداء عبر تعديل التعليمات وزيادة البيانات الجيدة، ظلت النتائج محدودة، بل حتى عند مطالبة النماذج بمراجعة تفكيرها وتصحيح أخطائها، واصلت القفز على الخطوات المنطقية، مما دفع الباحث الأسترالي ستان كارانايوس من جامعة كوينزلاند للتعليق قائلاً: “الأمر يشبه تسميم العقل… كلما زاد المحتوى المبتذل في البيانات، زاد احتمال أن ينتج الذكاء الاصطناعي تفكيراً مشوّهاً أو عديم المنطق”. ولذلك، أكدت الدراسة مجدداً القاعدة الكلاسيكية في علم البيانات: “القمامة تدخل، القمامة تخرج” (Garbage In, Garbage Out)، أي أن جودة النتائج تعتمد كلياً على جودة البيانات، وختاماً، خلص الباحثون إلى أن الحل يكمن في تنقية المحتوى بدقة قبل استخدامه في تدريب النماذج، واستبعاد المواد السطحية أو الشعبوية المنتشرة على وسائل التواصل، حتى لا يتحول الذكاء الاصطناعي إلى ذكاء مشوَّه يفتقر إلى المنطق والأخلاق.