دخل الجدل العالمي حول مستقبل الذكاء الاصطناعي مرحلة أكثر حساسية، بعدما حذر مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك من أن التطور المتسارع للذكاء الاصطناعي قد يصل إلى مستوى يشكل فيه خطرًا وجوديًا على البشرية، داعيًا الحكومات وشركات التقنية إلى التحرك قبل أن تصبح المخاطر أكثر صعوبة في السيطرة.
وجاءت تصريحات تورك خلال كلمته أمام مجلس حقوق الإنسان التابع للأمم المتحدة في جنيف، في وقت يتزايد فيه القلق الدولي بشأن الأنظمة الذكية الأكثر استقلالية وقدرتها على تنفيذ مهام معقدة، إلى جانب المخاطر المرتبطة بالأمن السيبراني والأسلحة الذاتية التشغيل والتضليل وانتهاكات الخصوصية وحقوق الإنسان.
تورك: مخاطر الذكاء الاصطناعي لم تعد قضية نظرية
لم يعد النقاش حول سلامة الذكاء الاصطناعي مقتصرًا على الأوساط الأكاديمية أو شركات التكنولوجيا، بل أصبح جزءًا من الحوار الدولي حول الأمن وحقوق الإنسان ومستقبل المجتمعات.
وقال تورك إنه يشارك مسؤولين في قطاع التكنولوجيا مخاوفهم من احتمال أن يصبح الذكاء الاصطناعي المتقدم خطرًا وجوديًا على البشرية، مؤكدًا ضرورة التحرك بصورة عاجلة لوضع ضمانات صارمة تتعلق بسلامة هذه الأنظمة وأمنها.
وتأتي هذه التصريحات في وقت تتسارع فيه قدرات النماذج الذكية، خصوصًا مع انتقال الذكاء الاصطناعي من مجرد أدوات للإجابة عن الأسئلة وإنشاء المحتوى إلى أنظمة قادرة على التخطيط، واستخدام الأدوات الرقمية، وتنفيذ سلسلة من المهام بصورة أكثر استقلالية.
دعوة إلى «خطوط حمراء» دولية
المشكلة، وفق الرؤية التي طرحها المسؤول الأممي، لا تتعلق فقط بقدرات الذكاء الاصطناعي، وإنما أيضًا بمن يمتلك القدرة على تطويره وتشغيله والتحكم في البنية التحتية التي يعتمد عليها.
وحذر تورك من تركيز نفوذ هائل في أيدي عدد محدود من الأشخاص والشركات، داعيًا الدول التي تستضيف أنظمة الذكاء الاصطناعي أو تشارك في سلاسل توريدها إلى العمل معًا لوضع خطوط حمراء متفق عليها دوليًا.
وتكتسب هذه الدعوة أهمية خاصة في ظل الطبيعة العابرة للحدود لهذه الصناعة؛ فالنموذج قد يُطوَّر في دولة، ويُدرَّب على بنية تحتية في دولة أخرى، ويُستخدم من ملايين الأشخاص حول العالم، بينما تعتمد مكوناته على سلسلة توريد عالمية تشمل الرقائق ومراكز البيانات والطاقة والحوسبة السحابية.
وبالتالي، فإن التعامل مع المخاطر من خلال تشريعات محلية منفصلة قد لا يكون كافيًا لمواجهة المخاطر التي يمكن أن تنتقل بسرعة بين الأسواق والحدود.
لماذا أصبح الحديث عن «الخطر الوجودي» أكثر جدية؟
مصطلح «الخطر الوجودي» من أكثر المصطلحات إثارة للجدل في نقاشات الذكاء الاصطناعي، لأنه يشير إلى سيناريوهات قد تتجاوز الأضرار الفردية أو الاقتصادية لتصل إلى تهديد واسع النطاق لقدرة المجتمعات على السيطرة على أنظمة شديدة القوة.
ولا يعني التحذير الأممي أن كارثة من هذا النوع وشيكة أو مؤكدة، وإنما يعكس القلق من احتمال تطور قدرات الأنظمة بوتيرة أسرع من قدرة البشر على وضع آليات أمان ورقابة فعالة.
وتشمل المخاوف التي يناقشها خبراء الذكاء الاصطناعي والأمن مجموعة واسعة من السيناريوهات، من بينها استخدام الذكاء الاصطناعي في الهجمات السيبرانية، وتطوير أسلحة أكثر استقلالية، وإنشاء حملات تضليل واسعة النطاق، واستغلال النماذج في أنشطة ضارة، إضافة إلى المخاوف المرتبطة بالأنظمة التي تستطيع تنفيذ مهام متعددة دون إشراف بشري مباشر.
وقد أشارت الأمم المتحدة في تقاريرها ومداولاتها السابقة إلى أن الذكاء الاصطناعي يمكن أن يزيد مخاطر الهجمات السيبرانية والتضليل وتطبيقات عسكرية قد تجعل النزاعات أكثر فتكًا.
شركات الذكاء الاصطناعي تحت ضغط متزايد
لم يسمِّ تورك شركة بعينها باعتبارها مصدرًا للخطر، لكنه أشار إلى أن قدرًا كبيرًا من قوة الذكاء الاصطناعي المتقدم أصبح متركزًا لدى عدد محدود من الشركات والأفراد.
وتشمل أبرز الشركات التي تقود سباق الذكاء الاصطناعي عالميًا شركات مثل OpenAI وGoogle وMeta وAnthropic.
وهذه المركزية تثير سؤالًا أكبر من مجرد المنافسة التجارية: من يحدد حدود استخدام التقنيات الأكثر قوة؟
فكلما أصبحت النماذج أكثر قدرة على تنفيذ المهام واتخاذ الخطوات المتتابعة باستخدام أدوات خارجية، أصبحت الحاجة أكبر إلى اختبارات أمان مستقلة، ومراقبة مستمرة، ووسائل واضحة لإيقاف الأنظمة عند اكتشاف سلوك غير متوقع.
تحذيرات من داخل صناعة الذكاء الاصطناعي نفسها
لا تأتي المخاوف بشأن مستقبل الذكاء الاصطناعي من الحكومات والمنظمات الدولية وحدها.
فعدد من كبار المسؤولين التنفيذيين والباحثين في القطاع تحدثوا خلال السنوات الماضية عن احتمالات وجود مخاطر شديدة إذا أصبحت الأنظمة المستقبلية أكثر قوة واستقلالية دون وجود آليات أمان مناسبة.
وتظهر تصريحات تورك في هذا السياق باعتبارها امتدادًا لنقاش قائم بالفعل داخل صناعة التكنولوجيا نفسها، وليس تحذيرًا منفصلًا عن التطورات الجارية.
واللافت أن الجدل انتقل تدريجيًا من سؤال «ماذا يستطيع الذكاء الاصطناعي أن يفعل؟» إلى سؤال أكثر حساسية: «ماذا يحدث إذا فعل النظام شيئًا لم يكن الإنسان يتوقعه أو يريده؟»
وهذا السؤال أصبح أكثر أهمية مع ظهور ما يُعرف بالأنظمة الوكيلة أو AI Agents، التي يمكنها تنفيذ مجموعة من الخطوات باستخدام أدوات وموارد خارج النموذج نفسه.
من الذكاء الاصطناعي المساعد إلى الذكاء الاصطناعي الوكيل
شهدت السنوات الأخيرة تحولًا في طبيعة استخدام الذكاء الاصطناعي.
في السابق، كان المستخدم يكتب سؤالًا ويحصل على إجابة. أما الأنظمة الحديثة فتتجه إلى القيام بسلسلة كاملة من المهام: البحث، وتحليل المعلومات، وكتابة الملفات، واستخدام البرمجيات، وتنفيذ الأوامر، والتفاعل مع خدمات رقمية مختلفة.
هذه القدرات تفتح فرصًا هائلة لرفع الإنتاجية، لكنها تخلق في الوقت نفسه تحديات جديدة تتعلق بالسيطرة والمراقبة.
فالنظام الذي يستطيع اتخاذ عدة خطوات متتابعة يحتاج إلى آليات تمنع الخطأ في خطوة مبكرة من التحول إلى سلسلة من النتائج غير المرغوبة.
وهنا تظهر أهمية ما يسمى سلامة الذكاء الاصطناعي، وهي ليست مجرد منع النموذج من إعطاء إجابة خاطئة، بل ضمان أن النظام يتصرف ضمن حدود واضحة حتى عندما يواجه مواقف لم يتم تصميمه لها بصورة مباشرة.
حقوق الإنسان في قلب معركة تنظيم الذكاء الاصطناعي
تولي الأمم المتحدة اهتمامًا متزايدًا بالجانب الحقوقي من تطور الذكاء الاصطناعي.
فالخطر لا يرتبط فقط بالسيناريوهات المستقبلية شديدة الخطورة، وإنما هناك آثار قائمة بالفعل تتعلق بالخصوصية، والمراقبة، والتحيز الخوارزمي، والتضليل، والوصول إلى المعلومات، والعمل، واتخاذ القرارات التي تؤثر في حياة الأفراد.
وقد حذر مكتب الأمم المتحدة لحقوق الإنسان سابقًا من أن الذكاء الاصطناعي يعيد تشكيل الطريقة التي تُنتج بها المعلومات وتُوزع وتُستهلك، مع وجود مخاوف من تركّز القوة التقنية وتأثير ذلك في تنوع المعلومات وحقوق الإنسان.
ولهذا فإن تنظيم الذكاء الاصطناعي لا يمكن أن يكون مسألة تقنية فقط؛ بل أصبح قضية قانونية واقتصادية وأمنية وحقوقية في الوقت نفسه.
لماذا يصعب تنظيم الذكاء الاصطناعي عالميًا؟
أحد أكبر التحديات أمام وضع قواعد دولية موحدة هو اختلاف مصالح الدول.
فالدول تتنافس على تطوير النماذج الأكثر تقدمًا، وتريد في الوقت نفسه حماية أمنها القومي ومصالح شركاتها وقدرتها التنافسية.
كما أن الذكاء الاصطناعي يعتمد على منظومة صناعية معقدة تشمل الرقائق الإلكترونية ومراكز البيانات والطاقة والبنية السحابية والاتصالات والبيانات.
وهذا يعني أن وضع قواعد للذكاء الاصطناعي يحتاج إلى تعاون يتجاوز شركات البرمجيات ليشمل الحكومات والجهات التنظيمية ومصنعي الرقائق ومشغلي مراكز البيانات والمؤسسات البحثية.
ولهذا دعا تورك إلى تعاون الدول التي تستضيف أنظمة الذكاء الاصطناعي والدول المشاركة في سلاسل توريدها من أجل الاتفاق على قواعد مشتركة.
الأمم المتحدة تتحرك نحو حوكمة عالمية
تأتي تصريحات تورك في وقت تكثف فيه الأمم المتحدة جهودها المتعلقة بحوكمة الذكاء الاصطناعي.
ويُعقد مجلس حقوق الإنسان دورته الـ63 في جنيف خلال الفترة من 7 سبتمبر إلى 7 أكتوبر 2026، بينما شهد يوليو أول اجتماع عالمي للأمم المتحدة مخصص لحوكمة الذكاء الاصطناعي، وفق ما أوردته التقارير حول التحرك الدولي في هذا المجال.
ويعكس هذا التحرك إدراكًا متزايدًا بأن التطور التقني لا ينتظر دائمًا اكتمال التشريعات، وأن وضع قواعد بعد وقوع الأضرار قد يكون أكثر تكلفة وصعوبة من بناء أنظمة أمان قبل انتشار التقنيات على نطاق واسع.
هل المطلوب إيقاف تطور الذكاء الاصطناعي؟
التحذيرات الأممية لا تعني بالضرورة الدعوة إلى إيقاف الذكاء الاصطناعي أو عرقلة الابتكار.
فالذكاء الاصطناعي يحمل إمكانات ضخمة في الطب والتعليم والبحث العلمي والصناعة والطاقة والخدمات الحكومية والاقتصاد.
لكن التحدي يكمن في تحقيق معادلة دقيقة بين الابتكار والسلامة.
فكلما ازدادت قوة الأنظمة، ينبغي أن تتطور معها آليات اختبارها ومراقبتها وإيقافها، تمامًا كما يحدث في القطاعات التي تتطلب مستويات عالية من الأمان.
المشكلة ليست في أن يصبح الذكاء الاصطناعي أكثر قدرة، وإنما في أن تزداد قدرته بسرعة أكبر من قدرتنا على فهمه والسيطرة على استخداماته.
سباق الذكاء الاصطناعي يدخل مرحلة مختلفة
تأتي تحذيرات تورك في لحظة يشهد فيها القطاع سباقًا غير مسبوق نحو نماذج أكثر قدرة، ومراكز بيانات أكبر، وأنظمة أكثر استقلالية.
وفي هذه المرحلة، لم يعد السؤال الاقتصادي وحده هو: من سيطور أفضل نموذج؟
بل أصبح السؤال السياسي والأمني أيضًا: من سيضع قواعد اللعبة؟ ومن سيضمن أن تبقى الأنظمة الأكثر قوة تحت سيطرة بشرية فعالة؟
وتزداد أهمية هذا السؤال مع استمرار توسع استخدام الذكاء الاصطناعي في البنية التحتية الحساسة والقطاع المالي والأمن السيبراني والخدمات الحكومية والدفاع.
بين الابتكار والاحتياط.. العالم أمام اختبار جديد
قد يكون الذكاء الاصطناعي من أهم التقنيات التي غيرت مسار البشرية، لكنه في الوقت نفسه يفرض نوعًا جديدًا من المسؤولية.
فالتحدي لم يعد مجرد تطوير نماذج أكثر ذكاءً، وإنما بناء منظومة عالمية تضمن أن تكون هذه القوة قابلة للمراقبة والمساءلة والتوجيه.
ومن هنا تأتي أهمية دعوة الأمم المتحدة إلى وضع ضمانات صارمة وخطوط حمراء مشتركة قبل أن تتجاوز سرعة التطور قدرة المؤسسات على الاستجابة.
وبينما يستمر سباق الشركات والدول نحو الجيل التالي من الذكاء الاصطناعي، يبدو أن العالم يدخل مرحلة سيكون فيها أمن الذكاء الاصطناعي وحوكمته جزءًا أساسيًا من الأمن العالمي نفسه.
فإذا كانت الثورة الرقمية السابقة أعادت تشكيل الاقتصاد والإعلام والاتصالات، فإن الثورة الحالية قد تعيد تشكيل مفهوم القوة ذاته. والسؤال الذي يفرض نفسه الآن ليس ما إذا كان الذكاء الاصطناعي سيصبح أكثر قوة، بل هل ستتمكن البشرية من بناء القواعد والضمانات التي تضمن بقاء هذه القوة في خدمة الإنسان؟
