أبرز النقاط
- 78% من المؤسسات أبلغت عن حوادث أمنية أو ثغرات مرتبطة بأنظمة AI
- نصف الشركات فقط تمتلك ميزانيات مخصصة لحوكمة الذكاء الاصطناعي رغم مناقشة 90% منها للموضوع على مستوى مجالس الإدارة
- وكلاء AI غير المصرح بهم أو المهيئين بشكل خاطئ هم السبب الرئيسي للحوادث وليس الكود المولّد بالذكاء الاصطناعي
كشفت دراسة حديثة أجرتها شركة DigiCert المتخصصة في الهوية الرقمية أن 78% من المؤسسات التي نشرت أنظمة ذكاء اصطناعي تعرضت لحوادث أمنية أو اكتشفت ثغرات مرتبطة بهذه الأنظمة. الرقم صادم، لكنه يعكس واقعاً باتت تعيشه الشركات التي تسابق الزمن لتبني تقنيات AI دون بناء أسس حوكمة متينة.
ما طبيعة الحوادث الأمنية التي تواجهها المؤسسات؟
فصّلت الدراسة التي شملت 1,001 من قادة تقنية المعلومات والأمن السيبراني في الولايات المتحدة وبريطانيا وأستراليا توزيع الحوادث على النحو التالي: 27.7% من الشركات تعرضت لحادثة واحدة على الأقل، بينما عانت 21.9% من حوادث متعددة. أما النسبة المتبقية البالغة 28.4% فلم تشهد حوادث فعلية لكنها اكتشفت ثغرات قائمة في أنظمتها.
اللافت أن هذه الحوادث لم تنتج عن عيوب في الكود المولّد بواسطة الذكاء الاصطناعي كما قد يُتوقع، بل كان السبب الرئيسي هو وكلاء AI غير مصرح بهم أو مهيئين بشكل خاطئ داخل البنية التحتية للمؤسسات.
لماذا تتسارع الشركات في النشر قبل تأمين الحوكمة؟
تُظهر البيانات فجوة مقلقة بين الوعي والتنفيذ: 90% من المؤسسات ناقشت حوكمة الذكاء الاصطناعي على مستوى مجالس إداراتها، لكن 50% فقط خصصت ميزانيات فعلية وبرامج حوكمة رسمية. هذا التباين يُبقي نقاطاً عمياء تشغيلية تتسلل منها المخاطر.
أشار أميت سينها، الرئيس التنفيذي لـ DigiCert، إلى أن المؤسسات لا تسمح لموظفيها بالعمل دون هوية موثقة، فلماذا تُعامَل وكلاء AI بشكل مختلف؟ هذا التساؤل يعكس توجهاً متنامياً نحو منح الوكلاء الذكية هويات رقمية قابلة للتتبع والتحقق.
مبادرات عالمية لمنح الوكلاء الذكية هويات رقمية
ثمة عدة مبادرات قيد التطوير لمعالجة هذه الفجوة، منها:
- رموز التحكم بالوصول الخاص (PACTs) لتمييز البوتات عن المستخدمين البشريين
- مشروع إستونيا لمنح الوكلاء الرقميين هويات رسمية
- Microsoft Agent ID لتعريف وكلاء الذكاء الاصطناعي في بيئات Azure
لكن هذه البنية التحتية لا تزال في مراحلها الأولى، مما يترك وكلاء AI يعملون في كثير من المؤسسات دون رقابة كافية.
كيف تؤثر فجوة التتبع على قرارات الأعمال؟
كشفت الدراسة أن 53% فقط من المؤسسات قادرة على تتبع قرارات أنظمة AI وصولاً إلى النماذج ومصادر البيانات التي أنتجتها. هذا الغموض يتحول إلى أزمة حقيقية عندما يُصدر نظام ذكاء اصطناعي قراراً غير متوقع أو مثيراً للجدل.
في هذه اللحظة، سيطرح العملاء والمديرون التنفيذيون والجهات التنظيمية السؤال ذاته: لماذا فعل النظام ذلك؟ وبدون قدرة على التتبع، لن تملك المؤسسة إجابة مقنعة.
هل تؤكد دراسات أخرى هذه النتائج؟
نعم، تتسق نتائج DigiCert مع دراسة أجرتها Spacelift قبل أسبوعين، وجدت أن 93% من المؤسسات شهدت حوادث بنية تحتية سببها الذكاء الاصطناعي، بينما 19% فقط تمتلك خطة حوكمة فعلية. هذا التقارب في النتائج يُشير إلى أن المشكلة منهجية وليست استثنائية.
في المقابل، يُقدم تقرير Nvidia السنوي عن حالة الذكاء الاصطناعي صورة وردية تركز على زيادة الإيرادات وخفض التكاليف. الفرق ليس تناقضاً بالضرورة: يمكن لـ AI أن يحقق مكاسب تجارية بينما يُحدث ثغرات أمنية في الوقت ذاته، والتحدي يكمن في تحقيق الأول دون الثاني.
رأي Logicity
ما تكشفه هذه الدراسة ليس فشلاً تقنياً بقدر ما هو فشل إداري. المؤسسات تُدرك المخاطر لكنها تختار السرعة على الأمان. للمقارنة، تقدم منصات مثل Wiz و Orca Security حلول أمن سحابي تشمل الآن مراقبة أعباء AI بأسعار تبدأ من عشرات الآلاف من الدولارات سنوياً للمؤسسات المتوسطة. السؤال الذي يجب أن تطرحه كل مؤسسة: هل تكلفة الحوكمة أعلى فعلاً من تكلفة الحادثة الأمنية؟
الأسئلة الشائعة
ما نسبة المؤسسات التي تعرضت لحوادث أمنية مرتبطة بالذكاء الاصطناعي؟
وفقاً لدراسة DigiCert، أبلغت 78% من المؤسسات عن تعرضها لحوادث أمنية أو اكتشافها ثغرات مرتبطة بأنظمة AI، منها 49.6% شهدت حوادث فعلية.
ما السبب الرئيسي لحوادث أمن الذكاء الاصطناعي في المؤسسات؟
السبب الرئيسي هو وكلاء AI غير المصرح بهم أو المهيئين بشكل خاطئ، وليس العيوب في الكود المولّد بالذكاء الاصطناعي كما قد يُعتقد.
كم نسبة الشركات التي تمتلك برامج حوكمة AI فعلية؟
رغم أن 90% من المؤسسات ناقشت حوكمة AI على مستوى مجالس إداراتها، فإن 50% فقط خصصت ميزانيات وبرامج حوكمة رسمية.
هل يمكن للمؤسسات تتبع قرارات أنظمة الذكاء الاصطناعي؟
53% فقط من المؤسسات قادرة على تتبع قرارات AI إلى النماذج ومصادر البيانات الأصلية، مما يُصعّب المساءلة عند حدوث نتائج غير متوقعة.
هل تحتاج مساعدة في التطبيق؟
إذا كنت تبحث عن بناء إطار حوكمة لأنظمة الذكاء الاصطناعي في مؤسستك أو تقييم المخاطر الأمنية لوكلاء AI، تواصل مع فريق Logicity للحصول على استشارة متخصصة تناسب احتياجاتك.
عمر حسن
كاتب تقني وابتكار
أُنتِج هذا المقال بمساعدة الذكاء الاصطناعي وراجعه فريق التحرير في لوجيسيتي. اعرف المزيد في سياسة التحرير.
