أبرز النقاط
- نماذج GPT تبالغ في تقدير قيم الرعاية والمساواة وتقلل من أهمية الطهارة والسلطة في الثقافات غير الغربية
- الدراسة شملت أكثر من 90 ألف مشارك من 48 دولة ووجدت فجوة منهجية بين توقعات الذكاء الاصطناعي والواقع
- التحيز يؤثر على استخدامات حساسة كالتعليم والعلاج النفسي وصناعة السياسات في العالم العربي
كشفت دراسة علمية حديثة نُشرت في مجلة Proceedings of the National Academy of Sciences أن نماذج الذكاء الاصطناعي التوليدي، وفي مقدمتها ChatGPT، تعاني من تحيز ثقافي منهجي يجعلها تُسقط القيم الأخلاقية الغربية على مستخدمين من ثقافات مختلفة. الدراسة تطرح تساؤلات جوهرية حول مدى ملاءمة هذه الأدوات للاستخدام في مناطق كالخليج العربي والشرق الأوسط، حيث تختلف الأولويات الأخلاقية اختلافاً جذرياً.
ما الذي اختبرته الدراسة بالتحديد؟
طلب الباحثون في عام 2024 من ثلاثة نماذج تابعة لشركة OpenAI — وهي GPT-3.5 وGPT-4 وGPT-4o — أن تُقدّر المعايير الأخلاقية السائدة في 48 دولة حول العالم. ثم قارنوا هذه التقديرات بإجابات فعلية من عينة بشرية ضخمة تجاوزت 90 ألف مشارك.
استخدم الفريق استبيان الأسس الأخلاقية (Moral Foundations Questionnaire) الذي يقيس ستة محاور: الرعاية، والمساواة، والتناسب (مكافأة الأفراد بحسب إسهاماتهم)، والولاء، والسلطة (احترام السلطات الشرعية)، والطهارة (الحرص على ما يُعدّ طبيعياً أو مقدساً). طُلب من المشاركين تقييم عبارات مثل: "أعتقد أن الجسد البشري يجب أن يُعامل كمعبد يحوي شيئاً مقدساً"، و"يزعجني حين يستخدم الناس ألفاظاً بذيئة وكأنها أمر عادي".
كيف استجابت نماذج الذكاء الاصطناعي؟
حين طُلب من النماذج أن تجيب بوصفها "مواطناً عادياً" من كل دولة من الدول الـ48، ظهرت فجوة واضحة. أبدت النماذج ميلاً منهجياً نحو قيم الرعاية والمساواة — وهي قيم تحتل مكانة مركزية في المجتمعات الغربية — بينما قللت من أهمية قيم كالطهارة والسلطة التي تحظى بثقل أكبر في مجتمعات غير غربية.
النتيجة الأبرز: بالغت النماذج في تقدير الاهتمامات الأخلاقية لدول غربية كالولايات المتحدة وأستراليا، بينما قللت من تقدير تلك الخاصة بدول غير غربية كالمغرب ونيجيريا. بمعنى آخر، حتى حين يُطلب من النموذج أن يتحدث بلسان مواطن مغربي، تظل إجاباته أقرب إلى النمط الأخلاقي الغربي.
لماذا يحدث هذا التحيز؟
يعود التحيز بشكل رئيسي إلى بيانات التدريب. تشير تقديرات إلى أن نحو 60% من البيانات التي دُرّبت عليها نماذج GPT هي محتوى باللغة الإنجليزية، معظمه صادر عن سياقات ثقافية غربية. هذا الانحياز في المدخلات ينعكس حتماً في المخرجات.
أبحاث سابقة أجراها عالم النفس محمد عطاري أثبتت أن الأولويات الأخلاقية تتباين جوهرياً حول العالم: المجتمعات الغربية تميل إلى إعطاء ثقل أكبر للحقوق الفردية والرعاية، بينما تُولي مجتمعات كثيرة غير غربية أهمية أكبر لقيم كالطهارة والسلطة. نماذج الذكاء الاصطناعي، كما أظهرت الدراسة الجديدة، تفشل في استيعاب هذا التباين.
ما التداعيات العملية على فرق المنتجات؟
- التعليم: منصات التعلم المدعومة بالذكاء الاصطناعي قد تقدم محتوى يتعارض مع القيم المحلية دون قصد
- العلاج النفسي: تطبيقات الصحة النفسية المبنية على ChatGPT قد تُسيء فهم الضوابط الثقافية للمستخدمين
- صناعة السياسات: استخدام النماذج في استشراف الرأي العام قد يُنتج قراءات مضللة
- خدمة العملاء: روبوتات الدردشة قد تصوغ ردوداً غير ملائمة ثقافياً
هل يمكن معالجة المشكلة؟
الدراسة لا تقدم حلاً جاهزاً، لكنها تفتح الباب لنقاش ضروري. من الناحية التقنية، يمكن توسيع بيانات التدريب لتشمل مصادر أكثر تنوعاً ثقافياً ولغوياً. من الناحية التصميمية، يمكن إتاحة خيارات للمستخدمين لضبط السياق الثقافي الذي يعمل ضمنه النموذج.
لكن التحدي الأعمق يكمن في سؤال جوهري: من يقرر أي قيم تُشفَّر في أنظمة يتعامل معها مليارات البشر يومياً؟ هذا سؤال لا تستطيع الهندسة وحدها الإجابة عنه.
رأي Logicity
هذه الدراسة تُلزم فرق المنتجات في المنطقة العربية بإعادة تقييم اعتمادها على نماذج OpenAI دون طبقات تخصيص محلية. البديل ليس التخلي عن هذه الأدوات، بل بناء طبقات وسيطة (middleware) تضبط السياق الثقافي. شركات مثل Cohere وAI21 Labs تقدم نماذج قابلة للتخصيص بتكاليف تبدأ من بضع مئات من الدولارات شهرياً للاستخدام المؤسسي، وهو استثمار يستحق الدراسة لمن يخدم جمهوراً خليجياً أو عربياً.
الأسئلة الشائعة
هل ChatGPT متحيز ضد الثقافة العربية؟
الدراسة لم تستهدف الثقافة العربية تحديداً، لكنها أظهرت أن النماذج تقلل من أهمية قيم كالطهارة والسلطة التي تحظى بمكانة مرتفعة في كثير من المجتمعات العربية، مما يشير إلى احتمال وجود تحيز.
كيف يمكن لفرق المنتجات اختبار التحيز الثقافي في تطبيقاتها؟
يمكن استخدام استبيان الأسس الأخلاقية نفسه الذي استخدمته الدراسة، وتقديمه للنموذج بسياقات ثقافية متعددة، ثم مقارنة النتائج بعينات بشرية محلية.
هل تعالج النسخ الأحدث من GPT هذه المشكلة؟
الدراسة اختبرت GPT-4o وهو من أحدث النماذج، ووجدت التحيز قائماً. لا يوجد دليل حتى الآن على أن التحديثات اللاحقة عالجت المشكلة جذرياً.
ما البدائل المتاحة للشركات العربية؟
تشمل الخيارات: بناء طبقات تخصيص فوق نماذج OpenAI، أو استخدام نماذج مفتوحة المصدر مثل Llama مع ضبط دقيق (fine-tuning) على بيانات عربية، أو الاستعانة بمقدمي خدمات يوفرون نماذج قابلة للتخصيص الثقافي.
هل تحتاج مساعدة في التطبيق؟
إن كنت تبني منتجاً يعتمد على الذكاء الاصطناعي التوليدي وتريد ضمان ملاءمته الثقافية لجمهورك، تواصل مع فريق Logicity للحصول على استشارة متخصصة حول استراتيجيات التخصيص المحلي.
فاطمة الزهراء
كاتبة تقنية متخصصة في الذكاء الاصطناعي
أُنتِج هذا المقال بمساعدة الذكاء الاصطناعي وراجعه فريق التحرير في لوجيسيتي. اعرف المزيد في سياسة التحرير.
