أبرز النقاط
- اقتراح إنشاء هيئة أمريكية على غرار FINRA لاختبار نماذج AI الحدودية قبل إطلاقها
- التمويل سيأتي أساساً من شركات التقنية لاستقطاب كفاءات عالمية وتوفير موارد حوسبة ضخمة
- الإطار المقترح سيُطبّق على النماذج الحدودية بغض النظر عن بلد المنشأ أو كونها مفتوحة المصدر
طرح ديميس هاسابيس، الرئيس التنفيذي والمؤسس المشارك لـ Google DeepMind، رؤية جديدة لتنظيم نماذج الذكاء الاصطناعي الأكثر تقدماً في العالم، داعياً الولايات المتحدة إلى إنشاء هيئة معايير فيدرالية تجمع بين الرقابة الحكومية والخبرة الصناعية. الاقتراح يأتي في لحظة حرجة تشهد فيها صناعة الذكاء الاصطناعي تسارعاً غير مسبوق، بينما تتخلف أطر الحوكمة عن مواكبة هذا التطور.
ما الذي يقترحه هاسابيس تحديداً؟
يتصور هاسابيس إنشاء كيان جديد يعمل كشراكة بين القطاعين العام والخاص، أو كمنظمة تنظيم ذاتي تخضع لإشراف فيدرالي. هذا الكيان سيضم مجلساً يشمل خبراء تقنيين مستقلين من الطراز الأول، إضافة إلى ممثلين عن مجتمع المصادر المفتوحة. النموذج الذي يستشهد به هو هيئة تنظيم الصناعة المالية الأمريكية FINRA، التي نجحت في الجمع بين المرونة الصناعية والرقابة الحكومية في قطاع الأوراق المالية.
التمويل سيأتي بشكل أساسي من شركات التقنية نفسها، وهو ما يراه هاسابيس ضرورياً لاستقطاب كفاءات تقنية عالمية المستوى وتوفير موارد الحوسبة اللازمة لإجراء اختبارات واسعة النطاق. الهيئة ستتعاون مع الوكالات الفيدرالية والمختبرات الوطنية الأمريكية لإجراء اختبارات في المجالات ذات الصلة بالأمن القومي.
كيف ستُصنّف النماذج على أنها حدودية؟
وفق المقترح، سيتأهل أي نموذج ذكاء اصطناعي لتصنيف «الفئة الحدودية» عند تحقيقه معايير أداء محددة تضعها الهيئة. هذه المعايير ستُحدّث بانتظام لمواكبة تطور القدرات. المؤسسات التي تطور هذه النماذج ستُصنّف بدورها كـ «مختبرات حدودية»، وستُشجّع على تبني أفضل الممارسات.
- نشر بطاقات النماذج التي توثق القدرات والقيود
- الحفاظ على أمن سيبراني داخلي قوي
- فحص الموظفين العاملين على النماذج الحساسة
- تخصيص موارد كافية لأبحاث السلامة
ما نطاق الاختبارات المقترحة؟
التقييمات ستشمل فحوصات علمية صارمة للقدرات في مجالات الأمن السيبراني والتهديدات البيولوجية وغيرها من المجالات عالية المخاطر. اختبارات خاصة ستُجرى على أنظمة الذكاء الاصطناعي الوكيلة للكشف عن محاولات تجاوز حواجز الأمان أو علامات الخداع، مع التأكد من ممارسات مثل العلامات المائية الرقمية وتوليد مخرجات قابلة للقراءة البشرية.
أشار هاسابيس إلى أن التقييمات ستُحدّث كل ثلاثة أشهر في البداية، مع إيقاف المعايير التي تصبح قديمة. الهيئة ستبني تدريجياً قدرات تقنية لإنشاء اختبارات مستقلة محجوبة لمنع التحسين المفرط، مع تعزيز منظومة من المدققين الخارجيين بالتنسيق مع الحكومة الأمريكية.
هل سيكون الامتثال إلزامياً؟
في المرحلة الأولى، ستشارك المختبرات الحدودية نماذجها طوعياً مع الهيئة للمراجعة قبل 30 يوماً من الإطلاق. بمجرد إثبات فعالية بروتوكول التقييم ومتانته، يمكن الانتقال إلى الإلزامية، بحيث يُشترط اجتياز النماذج الحدودية للمراجعة قبل نشرها في السوق الأمريكية. المختبرات ستعمل أيضاً مع الهيئة لمعالجة الثغرات الحرجة التي تُكتشف بعد الإطلاق.
اللافت أن الإطار سيُطبّق على النماذج الحدودية بغض النظر عن بلد المنشأ أو كونها مفتوحة المصدر، بينما ستُعفى النماذج غير الحدودية من الشركات الناشئة أو المؤسسات الأكاديمية. هذا التمييز يهدف إلى عدم خنق الابتكار في المراحل المبكرة.
لماذا الولايات المتحدة تحديداً؟
يرى هاسابيس أن الولايات المتحدة في وضع مثالي لاتخاذ الخطوة الأولى نظراً لمكانتها الاقتصادية والتقنية. وأوضح أن الذكاء الاصطناعي العام لديه القدرة على أن يكون الأداة المثلى لتطوير العلوم والطب، ودفع مكاسب إنتاجية هائلة ونمو اقتصادي. لكن تحقيق ذلك يتطلب وضع الأسس التقنية الصحيحة عبر التنسيق حول إطار عالمي مشترك، باستخدام أكثر المناهج العلمية صرامة، وجمع أفضل العقول للعمل على التحديات المطروحة.
المبادرة تسعى لتوفير نقطة انطلاق لمعايير دولية تُدير المخاطر الجدية مع ضمان وصول عالمي لفوائد الذكاء الاصطناعي. قوة هذا النهج، كما يصفه هاسابيس، أنه سيكون مركّزاً تقنياً بينما يدعم الابتكار ويُحفّز السلوك المسؤول في آن واحد.
ماذا لو تفاقمت المخاطر؟
صُمّم الإطار ليواكب تسارع المجال ويتكيف مع أكبر المخاطر فور تحديدها. أشار هاسابيس إلى إمكانية تصعيد الإجراءات إذا اقتضت خطورة الوضع ذلك، بما في ذلك تنسيق إبطاء التطوير بين المختبرات الحدودية إذا رُئي ذلك ضرورياً. هذه المرونة تُميّز المقترح عن الأطر التنظيمية الجامدة التي قد تصبح عتيقة بسرعة.
رأي Logicity
مقترح هاسابيس يعكس تحولاً لافتاً في موقف شركات التقنية الكبرى من تنظيم الذكاء الاصطناعي: من المقاومة إلى المبادرة بتصميم الإطار التنظيمي بنفسها. النموذج المقترح ذكي سياسياً لأنه يضع الصناعة في مقعد القيادة مع الاحتفاظ بغطاء الشرعية الحكومية. لكن السؤال الجوهري يبقى: هل يمكن لهيئة تموّلها الشركات الخاضعة للتنظيم أن تحافظ على استقلالية حقيقية؟ تجربة FINRA في القطاع المالي ليست خالية من الانتقادات بشأن تضارب المصالح. البدائل القائمة تشمل الأمر التنفيذي الذي أصدره بايدن في أكتوبر 2023، وقانون الذكاء الاصطناعي الأوروبي AI Act الذي يدخل حيز التنفيذ تدريجياً حتى 2026، إضافة إلى مبادرات السلامة الطوعية من Anthropic وMeta.
الأسئلة الشائعة
ما الفرق بين النماذج الحدودية والنماذج العادية للذكاء الاصطناعي؟
النماذج الحدودية هي الأنظمة الأكثر تقدماً التي تُظهر قدرات غير مسبوقة وتُشكّل مخاطر محتملة أعلى. تُحدد الهيئة المقترحة معايير أداء محددة للتأهل لهذا التصنيف، وتُحدّث هذه المعايير دورياً.
هل سيُطبّق هذا الإطار على النماذج مفتوحة المصدر؟
نعم، الإطار المقترح يُطبّق على النماذج الحدودية بغض النظر عن كونها مفتوحة المصدر أو مملوكة، وبغض النظر عن بلد المنشأ. لكن النماذج غير الحدودية من الشركات الناشئة والمؤسسات الأكاديمية ستُعفى.
من سيموّل هيئة المعايير المقترحة؟
التمويل سيأتي أساساً من شركات التقنية التي تطور النماذج الحدودية، على غرار نموذج FINRA في القطاع المالي. هذا ضروري لاستقطاب كفاءات تقنية عالمية وتوفير موارد الحوسبة للاختبارات.
متى قد يصبح الامتثال إلزامياً؟
المرحلة الأولى طوعية، حيث تُشارك المختبرات نماذجها للمراجعة قبل 30 يوماً من الإطلاق. الانتقال للإلزامية سيحدث بعد إثبات فعالية بروتوكول التقييم ومتانته.
ما علاقة هذا المقترح بقانون الذكاء الاصطناعي الأوروبي؟
المقترح يُكمّل الجهود الدولية الأخرى مثل قانون AI Act الأوروبي، ويسعى لتوفير نقطة انطلاق لمعايير دولية مشتركة تُدير المخاطر مع ضمان الوصول العالمي لفوائد الذكاء الاصطناعي.
هل تحتاج مساعدة في التطبيق؟
إذا كنت تعمل على تطوير أنظمة ذكاء اصطناعي وتحتاج إلى فهم أعمق لأطر الحوكمة والامتثال الناشئة، تواصل مع فريق Logicity للحصول على استشارات متخصصة حول أفضل الممارسات في هذا المجال سريع التطور.
عمر حسن
كاتب تقني وابتكار
أُنتِج هذا المقال بمساعدة الذكاء الاصطناعي وراجعه فريق التحرير في لوجيسيتي. اعرف المزيد في سياسة التحرير.
