أبرز النقاط
- القيد الأساسي للذكاء الاصطناعي المؤسسي تحوّل من قدرات النموذج إلى ما يحدث لبيانات العملاء
- سياسة عدم الاحتفاظ بالبيانات لا تزال وعداً تعاقدياً وليست بنية تقنية محكمة
- خمس طبقات للثقة ستحكم مستقبل الذكاء الاصطناعي المؤسسي: النموذج، التعلم، البوابة، المحيط، والتحقق
لم يعد السؤال المطروح على طاولات مجالس إدارة البنوك والمؤسسات المالية: ما الذي يستطيع الذكاء الاصطناعي فعله؟ بل أصبح: ماذا يحدث لبياناتنا حين نستخدمه؟ هذا التحول الجوهري في أولويات الذكاء الاصطناعي للمؤسسات يُعيد رسم خريطة القطاع بأكمله، ويفتح فرصاً جديدة أمام الشركات الناشئة التي تفهم أن الثقة باتت العملة الأهم.
ما الذي كشفته تجربة Grok Build عن ثغرات الخصوصية؟
في الثاني عشر من يوليو، نشر باحث أمني يستخدم الاسم المستعار cereblab تحليلاً تقنياً مذهلاً لأداة Grok Build من شركة xAI. استخدم الباحث بروكسي اعتراض لرصد حركة البيانات، فوجد فجوة صادمة: مهمة برمجية بسيطة تتطلب نظرياً 192 كيلوبايت من البيانات، لكن قناة تخزين منفصلة نقلت 5.1 غيغابايت — أي بفارق يبلغ 27,800 ضعف بين ما يحتاجه النموذج وما غادر الجهاز فعلياً.
الأخطر من ذلك أن البيانات المُرسَلة شملت مستودع Git بالكامل، بما في ذلك ملفات لم يصل إليها النموذج أصلاً، وسجل الالتزامات الكامل، بل وظهرت بيانات اعتماد مزروعة للاختبار بشكل صريح وغير مُشفَّر في حركة المرور الملتقطة. باحث ثانٍ يُدعى هاري كريشنان أكد وجود جامع بيانات يعمل في الخلفية خارج نظام الأذونات المُعلَن.
لماذا لم تعمل إعدادات الخصوصية كما ينبغي؟
المفارقة المُقلقة أن تعطيل خيار "تحسين النموذج" لم يوقف الإرسال، لأن هذا الإعداد يحكم الموافقة على التدريب فقط، لا ما إذا كان الكود يغادر الجهاز من الأساس. أوقفت xAI هذا السلوك خلال يوم واحد عبر علامة من جانب الخادم، لكن كود الرفع ظل موجوداً في الملف التنفيذي المُوزَّع. استجابة الشركة كانت سريعة، وأكدت أن عملاء عدم الاحتفاظ بالبيانات لم يتأثروا — وكلا الأمرين يستحق الذكر بإنصاف.
غير أن الحادثة أكدت ما يشتبه به المشترون المؤسسيون منذ زمن: سياسة عدم الاحتفاظ بالبيانات هي اليوم وعد تعاقدي، لا بنية تقنية محكمة. وسد الفجوة بين الاثنين مشكلة هندسية، والمشكلات الهندسية تخلق فرصاً سوقية.
ما هو "عادم الذكاء" الذي يتحدث عنه ساتيا ناديلا؟
في مقال نشره في الثاني عشر من يوليو، قدّم ساتيا ناديلا الرئيس التنفيذي لـ Microsoft مصطلحاً بليغاً: "عادم الذكاء" (intelligence exhaust). يرى ناديلا أن الذكاء الاصطناعي قلب اقتصاديات المعلومات رأساً على عقب، فالمؤسسات تدفع ثمن الذكاء مرتين: مرة بالمال، ومرة بـ"المعرفة الملكية التي يجب الكشف عنها لجعل ذلك الذكاء مفيداً".
كل تفاعل يُنتج عادماً يلتقط تدريجياً كيفية عمل المؤسسة، وكل تصحيح يُقطَّر إلى معرفة مؤسسية. هذا العادم — التوجيهات، سير العمل، التصحيحات، الموافقات — يُشكّل مسارات قادرة نظرياً على تحسين النموذج، ما يعني أن معرفة العميل قد تتحول إلى ملكية فكرية للمورد.
كيف وصف أليكس كارب غضب العملاء المؤسسيين؟
قبل أحد عشر يوماً من مقال ناديلا، صرّح أليكس كارب الرئيس التنفيذي لـ Palantir لشبكة CNBC أن عملاءه المؤسسيين "غاضبون" لأنهم يرون أن مختبرات الذكاء الاصطناعي "تسرق أوزان وألفا أعمالهم". كلا الرجلين له موقف تجاري في هذه المعركة — كارب يبيع طبقة التحكم، وناديلا يبيع السحابة تحت النموذج — وينبغي قراءة تحذيراتهما مع وضع ذلك في الاعتبار.
لكن الإشارة الأهم أن شريكاً ومنافساً لمختبرات الحدود التقى على نفس الإنذار خلال أسبوعين. هذا التقارب ليس صدفة، بل يعكس قلقاً بنيوياً حقيقياً.
ما الفرق بين بيانات SaaS التقليدية وتفاعلات الذكاء الاصطناعي؟
في حقبة SaaS التقليدية، كانت بيانات العملاء تجلس خاملة في قاعدة بيانات المورد، محاطة بسياج تعاقدي ومتاحة للعميل فقط. تفاعلات الذكاء الاصطناعي مختلفة جذرياً. التوجيهات، سير العمل، التصحيحات، والموافقات تُشكّل مسارات يمكن نظرياً أن تُحسّن النموذج، ما يخلق منطقة رمادية قانونية وتقنية.
- في SaaS: البيانات خاملة، منفصلة، محمية بعقد واضح
- في AI: البيانات نشطة، متفاعلة، قد تتحول إلى معرفة مُدمجة في النموذج
- الفارق: ممارسة عدم الاحتفاظ الحالية تحذف التوجيه نفسه، لكن لا ضمان تقني قوي بعدم الاحتفاظ بإشارات التفاعل المحيطة
ما هي طبقات الثقة الخمس لمستقبل الذكاء الاصطناعي المؤسسي؟
يُعاد بناء الذكاء الاصطناعي المؤسسي حول خمس طبقات للثقة تحكم وتؤمّن وتتحكم في بيانات المؤسسة:
- طبقة النموذج: التحكم في ما يعرفه النموذج الأساسي
- طبقة التعلم: حوكمة كيفية تحسين النموذج وما إذا كان يستخدم بيانات العميل
- طبقة البوابة: التحكم في ما يدخل ويخرج من النموذج
- طبقة المحيط: حماية حدود بيانات المؤسسة
- طبقة التحقق: ضمان الامتثال والتدقيق المستمر
هذه الطبقات تفتح ثلاث فرص كبرى في سلسلة توريد الذكاء الاصطناعي المؤسسي: أدوات التسخير (AI harnesses) التي تغلّف النماذج بطبقات تحكم، والذكاء الاصطناعي المحلي (on-premise AI) الذي يُبقي البيانات داخل جدران المؤسسة، والأمن الأصيل للذكاء الاصطناعي (AI-native security) المُصمّم خصيصاً لهذا العصر.
رأي Logicity
نرى أن هذه الأزمة تُمثّل فرصة ذهبية للشركات الناشئة في المنطقة العربية والخليج. السوق المؤسسي يبحث عن بدائل تمنحه تحكماً حقيقياً، لا وعوداً تعاقدية. شركات مثل Palantir تتقاضى ملايين الدولارات سنوياً مقابل طبقات التحكم، بينما يمكن لحلول إقليمية أن تقدم قيمة مماثلة بتكلفة أقل وامتثالاً أفضل للوائح المحلية. من يبني طبقة الثقة أولاً سيملك العلاقة مع المؤسسة — لا من يملك النموذج الأذكى.
الأسئلة الشائعة
ما معنى عدم الاحتفاظ بالبيانات في عقود الذكاء الاصطناعي؟
هو التزام تعاقدي بعدم تخزين توجيهات العميل أو بياناته بعد معالجتها، لكنه حالياً وعد قانوني أكثر منه ضمان تقني محكم، إذ لا توجد آليات موحدة للتحقق من تطبيقه فعلياً.
كيف يمكن للمؤسسات المالية حماية بياناتها عند استخدام الذكاء الاصطناعي؟
عبر اعتماد طبقات تحكم متعددة: بوابات API تراقب حركة البيانات، حلول محلية تُبقي المعلومات الحساسة داخل البنية التحتية، وأدوات تدقيق مستمر تتحقق من امتثال الموردين.
ما الفرق بين AI harnesses والذكاء الاصطناعي التقليدي؟
أدوات التسخير (AI harnesses) تغلّف النماذج الأساسية بطبقات حوكمة وتحكم، فتسمح للمؤسسة بالاستفادة من قدرات النموذج مع الاحتفاظ بالسيطرة الكاملة على ما يدخل ويخرج ويُحتفظ به.
هل يمكن الوثوق بتعطيل خيارات التدريب في أدوات الذكاء الاصطناعي؟
حادثة Grok Build أظهرت أن تعطيل خيار تحسين النموذج لا يمنع بالضرورة إرسال البيانات، لأن الإعدادات قد تحكم جوانب مختلفة. التحقق التقني المستقل يبقى ضرورياً.
ما أهمية الذكاء الاصطناعي المحلي للقطاع المالي؟
يُبقي البيانات الحساسة داخل مراكز بيانات المؤسسة، ما يضمن الامتثال للوائح سيادة البيانات ويمنح المؤسسة تحكماً كاملاً في دورة حياة المعلومات.
هل تحتاج مساعدة في التطبيق؟
إذا كنت تبحث عن تطبيق طبقات الثقة في بنية الذكاء الاصطناعي لمؤسستك المالية، تواصل مع فريق Logicity للحصول على استشارة متخصصة حول الحلول المناسبة لاحتياجاتك.
فاطمة الزهراء
كاتبة تقنية متخصصة في الذكاء الاصطناعي
أُنتِج هذا المقال بمساعدة الذكاء الاصطناعي وراجعه فريق التحرير في لوجيسيتي. اعرف المزيد في سياسة التحرير.
