FLARE-AI: أول قاعدة بيانات جماعية لرصد ثغرات الذكاء الاصطناعي وأخطائه

أبرز النقاط

• FLARE-AI منصة مفتوحة المصدر تجمع بلاغات المستخدمين عن أخطاء نماذج AI وتوجهها للمطورين والجهات الرقابية
• غياب آلية موحدة للإبلاغ يعني أن كثيراً من حوادث التحيز والأضرار النفسية والمعلومات المضللة تمر دون توثيق
• مشروع قانون أمريكي قد يُلزم NIST بإنشاء قاعدة بيانات مركزية لثغرات AI مما يمنح مبادرات كهذه ثقلاً تنظيمياً

حين يُنتج روبوت دردشة وصفة لصنع متفجرات، أو يُسرّب بيانات شخصية، أو يدفع مستخدماً نحو أفكار وهمية، أين يذهب البلاغ؟ حتى الأمس القريب لم تكن ثمة إجابة واضحة. اليوم يطرح فريق من 49 باحثاً ينتمون إلى 32 مؤسسة منصة FLARE-AI (اختصاراً لـ Flaw Reporting for AI)، وهي أول قاعدة بيانات جماعية مفتوحة المصدر مصمَّمة خصيصاً لتوثيق أعطال أنظمة الذكاء الاصطناعي وتوجيهها إلى المطورين والجهات الرقابية مثل MITRE.

لماذا نحتاج إلى آلية موحدة للإبلاغ عن أخطاء AI؟

يوضح أفيجيت غوش، الباحث في سياسات الذكاء الاصطناعي لدى HuggingFace والمشارك في قيادة المشروع، أن المشكلة الجوهرية تكمن في غياب قناة مركزية وموثوقة لتلقي البلاغات. كل شركة تضع معاييرها الخاصة، ما يجعل بعض الأعطال — كالتحيز أو الأضرار النفسية أو المعلومات المضللة — تمر دون اعتراف رسمي بها.

تعمل المنصة بمنطق مشابه لموقع Downdetector الشهير الذي يجمع بلاغات انقطاع الخدمات، لكنها تركز على سلوكيات AI الضارة: من توليد شيفرات خبيثة إلى تسريب معلومات حساسة. الشيفرة مفتوحة المصدر، ما يتيح لأي طرف التحقق من البلاغ قبل توجيهه.

كيف تعمل FLARE-AI عملياً؟

• يُقدّم المستخدم بلاغاً يصف الخلل: نوعه، النموذج المتسبب، وسياق الحدوث.
• يُتاح البلاغ للمراجعة المجتمعية عبر الشيفرة المفتوحة.
• تُوجَّه البلاغات الموثقة إلى مطوري النموذج وإلى جهات مثل MITRE التي ترصد مشكلات الأنظمة التقنية.
• يستطيع صناع المنتجات تصفّح قاعدة البيانات لتقييم مخاطر نماذج بعينها قبل دمجها في منتجاتهم.

حوادث حديثة تُبرز الحاجة الملحّة

هذا الأسبوع كشفت شركة LayerX عن ثغرة في متصفحات مدعومة بالذكاء الاصطناعي — منها Atlas من OpenAI وComet من Perplexity — تُمكّن المهاجم من إقناع النموذج بأنه يلعب لعبة، فيتجاوز حواجز الأمان ويحاول اختراق مواقع ويب. وفي أبريل الماضي أثبت الباحث يوهان ريبرغر إمكانية خداع Claude لتسريب بيانات شخصية عبر صور مولَّدة بـ ChatGPT.

لا تقتصر المخاطر على الأمن السيبراني. العام الماضي اضطرت OpenAI لتحديث نماذجها بعد اكتشاف ميل مفرط للتملق قد يُعزز تفكيراً وهمياً لدى بعض المستخدمين. هذا التنوع في الأضرار — من نفسية إلى تقنية — يجعل التصنيف الموحد ضرورة وليس رفاهية.

ما التحديات التي تواجه المبادرة؟

تُشير رومان شودري، مؤسسة Humane Intelligence، إلى تحديين رئيسيين: أولهما إدارة طوفان البلاغات التي قد لا يكون معظمها خطيراً فعلاً، وثانيهما ضمان دعم جهات ذات مصداقية تنظيمية. بدون ثقل مؤسسي، قد تبقى المنصة أداة بحثية أكثر منها آلية إنفاذ.

مشروع قانون أمريكي قد يغيّر المعادلة

في يونيو الماضي قدّم أعضاء الكونغرس ديبورا روس وجيف هيرد ودون باير مشروع قانون يُلزم المعهد الوطني للمعايير والتكنولوجيا NIST بوضع معايير للإبلاغ عن ثغرات AI وإنشاء قاعدة بيانات مركزية. لو أُقِرّ، سيمنح مبادرات مثل FLARE-AI دعماً حكومياً يُحفّز المطورين على معالجة الأعطال بدلاً من تجاهلها.

ما الذي يعنيه هذا لفِرق المنتجات؟

بالنسبة لمن يدمج نماذج لغوية كبيرة في تطبيقاته، توفر FLARE-AI مصدراً مستقلاً لتقييم المخاطر قبل الإطلاق. يمكن مقارنة سجل أعطال نموذج معين بمنافسيه، واتخاذ قرار مدروس بدلاً من الاعتماد على تصريحات المطور فقط. كما أن المساهمة في الإبلاغ ترفع معايير الصناعة ككل.

الأسئلة الشائعة

ما الفرق بين FLARE-AI وقاعدة بيانات حوادث AI الموجودة مسبقاً؟

قواعد البيانات السابقة كانت أرشيفية تُوثّق حوادث بعد وقوعها، بينما FLARE-AI نظام إبلاغ تفاعلي يوجّه البلاغات مباشرة للمطورين والجهات الرقابية مع إتاحة التحقق المجتمعي.

هل يمكن لأي مستخدم عادي الإبلاغ عن خلل في ChatGPT أو Claude؟

نعم، المنصة مفتوحة وتقبل بلاغات من أي شخص يرصد سلوكاً ضاراً، سواء كان باحثاً أو مستخدماً عادياً.

كيف تضمن FLARE-AI عدم إغراقها ببلاغات غير جدية؟

تعتمد على مراجعة مجتمعية عبر الشيفرة المفتوحة، ما يتيح للخبراء ترشيح البلاغات الجادة قبل توجيهها. لكن التحدي لا يزال قائماً ويحتاج آليات أتمتة مستقبلية.

هل هناك قوانين مشابهة للإبلاغ عن ثغرات AI في المنطقة العربية؟

حتى الآن لا توجد تشريعات مخصصة، لكن هيئات مثل SDAIA في السعودية ومكتب الذكاء الاصطناعي في الإمارات تراقب التطورات الدولية وقد تتبنى أُطُراً مماثلة لاحقاً.