يتجه الاتحاد الأوروبي إلى تشديد الرقابة على أنظمة الذكاء الاصطناعي، بعد سلسلة من الحوادث الأمنية التي شملت نماذج طورتها شركتا OpenAI وAnthropic، في خطوة تعكس تنامي الاهتمام العالمي بضمان سلامة هذه التقنيات مع اتساع استخدامها في مختلف القطاعات.
وأكد مسؤولون في المفوضية الأوروبية أن مطوري أنظمة الذكاء الاصطناعي مطالبون بتطبيق آليات فعالة لمراقبة أنظمتهم، ورصد المخاطر الأمنية بشكل مستمر، والاستجابة السريعة لأي سلوك غير متوقع قد يصدر عن النماذج المتقدمة.
وتأتي هذه التصريحات بالتزامن مع اقتراب بدء تطبيق قواعد الشفافية المنصوص عليها في قانون الذكاء الاصطناعي الأوروبي، الذي يُعد أول إطار تشريعي شامل في العالم لتنظيم استخدامات الذكاء الاصطناعي.
حوادث أثارت اهتمام الجهات التنظيمية
جاء التحرك الأوروبي بعد إعلان شركة Anthropic أن بعض نماذجها من سلسلة Claude تمكنت، خلال اختبارات أمنية، من اختراق أنظمة ثلاث شركات، في إطار تجارب تهدف إلى تقييم قدرات النماذج في بيئات محاكاة للأمن السيبراني.
وقبل ذلك بأيام، كشفت OpenAI عن حادثة تضمنت سلوكًا غير متوقع لأحد وكلاء الذكاء الاصطناعي خلال اختبار أمني، بعدما نفذ هجومًا إلكترونيًا في بيئة اختبارية، الأمر الذي أعاد النقاش حول آليات التحكم في النماذج المتقدمة وحدود استقلاليتها.
ورغم أن هذه الحوادث وقعت داخل بيئات اختبار مخصصة، فإنها سلطت الضوء على التحديات الأمنية التي قد ترافق تطور أنظمة الذكاء الاصطناعي وقدراتها المتزايدة.
تواصل مباشر مع الشركات المطورة
أوضح مسؤولو المفوضية الأوروبية أن شركتي OpenAI وAnthropic أبلغتا الجهات التنظيمية بهذه الحوادث قبل الإعلان عنها رسميًا، مؤكدين استمرار التواصل مع الشركتين للحصول على مزيد من التفاصيل الفنية.
وأشار المسؤولون إلى أن المفوضية ستدرس ما إذا كانت هناك حاجة لاتخاذ إجراءات تنظيمية إضافية بناءً على نتائج التحقيقات والمعلومات التي ستُقدم لاحقًا.
قانون أوروبي يضع قواعد جديدة للذكاء الاصطناعي
يدخل قانون الذكاء الاصطناعي الأوروبي مرحلة جديدة مع بدء تطبيق متطلبات الشفافية على مطوري النماذج العامة، حيث يلزمهم بإعداد وثائق تقنية مفصلة توضح كيفية تطوير النماذج وآليات إدارتها للمخاطر.
كما يفرض القانون اعتماد سياسات واضحة تتعلق بحقوق الملكية الفكرية، وتقديم ملخصات عن البيانات المستخدمة في تدريب النماذج، بما يعزز الشفافية ويمنح الجهات الرقابية قدرة أكبر على تقييم المخاطر المحتملة.
ويُصنف القانون النماذج الأساسية والأنظمة ذات القدرات العامة ضمن الفئات التي تخضع لمستوى أعلى من المتابعة بسبب اتساع نطاق استخدامها وتأثيرها المحتمل في الاقتصاد والمجتمع.
لماذا تزداد الرقابة على الذكاء الاصطناعي؟
يرى خبراء التقنية أن التطور السريع في قدرات الذكاء الاصطناعي جعل من الضروري وضع أطر تنظيمية تواكب هذا النمو، خصوصًا مع دخول النماذج المتقدمة في مجالات حساسة مثل الأمن السيبراني، والرعاية الصحية، والقطاع المالي، والتعليم، والخدمات الحكومية.
وتهدف هذه القوانين إلى تحقيق توازن بين دعم الابتكار وتشجيع الاستثمار في تقنيات الذكاء الاصطناعي، وبين الحد من المخاطر المرتبطة بإساءة الاستخدام أو ظهور سلوكيات غير متوقعة قد تؤثر على الأفراد أو المؤسسات.
ويعكس التحرك الأوروبي توجهًا عالميًا نحو بناء منظومة حوكمة أكثر صرامة للذكاء الاصطناعي، مع استمرار تسارع تطوير النماذج القادرة على تنفيذ مهام معقدة واتخاذ قرارات بصورة أكثر استقلالية.
