روبوتات الدردشة الذكية ترفض انتقاد زعماء أنظمة قمعية: دراسة تكشف ازدواجية المعايير

أبرز النقاط

• نماذج الذكاء الاصطناعي الكبرى من OpenAI وAnthropic وMeta ترفض توليد محتوى نقدي لقادة دول قمعية بينما تقبل انتقاد قادة الديمقراطيات
• الدراسة تحذر من أن هذا السلوك يمدد ذراع الأنظمة الاستبدادية إلى خارج حدودها ويقيد حرية التعبير عالمياً
• الردود تختلف حسب اللغة: ChatGPT يجيب بشكل مختلف عن ديمقراطية الصين بالإنجليزية مقارنة بالصينية

اطلب من Claude إعداد منشور ينتقد الرئيس الأمريكي دونالد ترامب أو الملك البريطاني تشارلز الثالث، وسيستجيب روبوت الدردشة التابع لشركة Anthropic دون تردد. لكن اطلب منه الأمر ذاته بشأن ملك تايلاند أو ولي العهد السعودي أو الزعيم الصيني، وستجد الذكاء الاصطناعي يعتذر ويرفض. هذه ليست ملاحظة عابرة، بل نتيجة محورية من دراسة أصدرها مجلس رقابة Meta يوم الخميس، تكشف أن أنظمة الذكاء الاصطناعي الكبرى — بما فيها تلك المطورة في الولايات المتحدة — أكثر ميلاً لرفض انتقاد القادة والحكومات الاستبدادية.

ما الذي كشفته الدراسة بالتحديد؟

صمم مجلس الرقابة — وهو هيئة شبه مستقلة تعمل على دراسة تأثير الدول على شركات التقنية وانعكاسه على حرية التعبير — سبعة أسئلة تتعلق بالنقد السياسي لطرحها على روبوتات الدردشة. شملت الدراسة عشرة نماذج لغوية كبيرة تجارية من شركات رائدة مثل Meta وAnthropic وOpenAI، وطلبت منها إعداد منشورات نقدية وكتابة قصائد ساخرة وتقديم أسباب للانضمام إلى احتجاجات.

النتيجة كانت صادمة: النماذج التي استجابت لطلبات من مستخدم في أستراليا كانت أكثر استعداداً بكثير لتوليد نقد سياسي لسلطات دول مثل تشيلي واليابان وتايوان والمملكة المتحدة والولايات المتحدة، مقارنة بالدول التي يُقيَّد فيها النقد ويُعاقب عليه قانونياً — كالصين والسعودية وتايلاند وكمبوديا وتركيا.

كيف تمتد ذراع الرقابة خارج الحدود؟

تشير الدراسة إلى أن نماذج الذكاء الاصطناعي تعكس قيود الخطاب إلى ما وراء الدول التي تُطبَّق فيها. بمعنى آخر، قد لا تساعد هذه الأدوات متظاهراً محتملاً في بريزبن الأسترالية على إعداد مواد احتجاجية للتعبير عن رأيه تجاه أحداث في الصين أو السعودية.

وصف التقرير هذا التأثير بأنه يمنح الحكومات المقيِّدة ذراعاً طويلة تتجاوز حدودها لتقييد الخطاب في الدول الحرة. وحذر من أنه إذا لم يلتزم مطورو النماذج بالعناية الواجبة في مجال حقوق الإنسان ويطبقوا تدابير تخفيفية، فإنهم سيبنون — عن قصد أو غير قصد — بنية تحتية للذكاء الاصطناعي تمدد القيود غير المشروعة على حرية التعبير عالمياً.

ما أسباب هذا التحيز في الردود؟

أقر مجلس الرقابة بأنه لم يتمكن من تحديد الأسباب الدقيقة وراء هذه الاستجابات، لكنه اقترح تفسيرين محتملين: أولاً، قد تكون النماذج قد استوعبت تحيزات كامنة في البيانات المستخدمة لتدريبها. ثانياً، ربما وازنت الشركات بين المخاطر والمسؤوليات القانونية واختارت الحذر في المواضيع الحساسة سياسياً.

• التحيز الكامن في بيانات التدريب التي تعكس بيئات معلوماتية شكلتها مؤسسات وسلطات
• حسابات تجارية وقانونية تدفع الشركات للحذر المفرط تجاه بعض الحكومات
• غياب معايير موحدة للعناية الواجبة بحقوق الإنسان في تطوير النماذج

اللغة تغير الإجابة: اختبار آخر يكشف المشكلة

تبعت دراسة مجلس الرقابة بحثاً منفصلاً أجراه علماء في جامعات أمريكية ونُشر في مجلة Nature في مايو. وجد الباحثون أن نماذج الذكاء الاصطناعي الأمريكية معرضة لتأثيرات أجنبية عند تدريبها على بيانات بلغات غير الإنجليزية تأثرت بالحكومات.

المثال الأبرز: عندما سُئل ChatGPT بالإنجليزية عما إذا كانت الصين ديمقراطية، أجاب بأنها لا تُعتبر كذلك عموماً. لكن عندما طُرح السؤال ذاته بالصينية، أجاب النموذج بأن الأمر يعتمد على كيفية تعريفك للديمقراطية — إجابة مختلفة جذرياً تعكس الرواية الرسمية الصينية.

علقت هانا وايت، الأستاذة المساعدة في علم الاجتماع بجامعة أوريغون والمشاركة في الدراسة، قائلة إن الناس غالباً ما يتحدثون عن الذكاء الاصطناعي وكأنه يتعلم من الإنترنت بطريقة محايدة، لكنه في الحقيقة يتعلم من بيئات معلوماتية شُكِّلت مسبقاً بواسطة مؤسسات وسلطات.

هل هناك تدخل حكومي متعمد؟

أشار الباحثون إلى أنهم لم يجدوا دليلاً على محاولات حكومية متعمدة للتأثير على مخرجات روبوتات الدردشة حتى الآن. لكنهم حذروا من أن هناك كل الأسباب للاعتقاد بأن الحكومات ستحاول ذلك مستقبلاً، إن لم تكن قد بدأت بالفعل.

أوضح كارلوس كاراسكو-فاري، المتخصص في التعلم الآلي والذكاء الاصطناعي والمعلومات المضللة في كلية Esade للأعمال في برشلونة، أن أنظمة الذكاء الاصطناعي لا ترث التحيزات الموجودة في المستندات الفردية فحسب، بل ترث أيضاً عدم المساواة في من يملك القدرة على إنتاج المعلومات وقمعها على نطاق واسع.

ما الحلول الممكنة؟

لا يوجد حل سهل، لكن الدراسة تقترح أن المطورين يمكنهم تقييم البيانات لتجنب معاملة آلاف النسخ من الرواية الحكومية ذاتها وكأنها آلاف الأصوات المستقلة. كما أن تطبيق معايير العناية الواجبة بحقوق الإنسان قد يساعد في كشف هذه التحيزات قبل إطلاق النماذج.

• تقييم تنوع مصادر بيانات التدريب وكشف تركز الروايات الحكومية
• تطبيق معايير حقوق الإنسان في مراحل التطوير والاختبار
• الشفافية في معايير رفض المحتوى وأسبابها
• اختبار الاستجابات عبر لغات وسياقات ثقافية متعددة

السياق الأوسع: سباق التنظيم العالمي

تأتي هذه النتائج بينما تحدد الدول كيفية وضع حواجز حول الذكاء الاصطناعي دون إعاقة قدرتها على المنافسة في هذا المجال سريع التطور. يشمل ذلك جهود إدارة ترامب الرقابية المتعلقة بمخاطر الأمن القومي لأكثر أنظمة الذكاء الاصطناعي تقدماً.

أرسلت وكالة Associated Press رسائل إلكترونية إلى عدة شركات ذكاء اصطناعي تطلب ردودها على دراسة مجلس رقابة Meta، لكن لم تصدر ردود علنية حتى الآن من Anthropic أو OpenAI أو Meta.

الأسئلة الشائعة

لماذا ترفض روبوتات الدردشة انتقاد بعض القادة دون غيرهم؟

وفقاً لدراسة مجلس رقابة Meta، قد يعود ذلك إلى تحيزات كامنة في بيانات التدريب التي تعكس قيود الخطاب في بلدان معينة، أو إلى قرارات تجارية من الشركات لتجنب المخاطر القانونية في أسواق محددة.

هل يؤثر ذلك على المستخدمين العرب لـ ChatGPT وClaude؟

نعم، الدراسة تشير إلى أن هذه القيود تمتد خارج حدود الدول التي تُطبق فيها قوانين تقييد الخطاب، مما يعني أن مستخدماً في أي مكان قد يواجه رفضاً عند طلب محتوى نقدي لحكومات معينة.

كيف تختلف إجابات الذكاء الاصطناعي حسب اللغة؟

وجدت دراسة منشورة في Nature أن ChatGPT يقدم إجابات مختلفة لنفس السؤال حسب اللغة — مثلاً، إجابته عن ديمقراطية الصين بالإنجليزية تختلف جذرياً عن إجابته بالصينية.

ما المطلوب من شركات الذكاء الاصطناعي لمعالجة المشكلة؟

يوصي التقرير بتطبيق العناية الواجبة في مجال حقوق الإنسان، وتقييم تنوع بيانات التدريب، والشفافية حول معايير رفض المحتوى.