أثار نموذج GPT-5.6 Sol الجديد من OpenAI جدلًا واسعًا في أوساط المطورين ومستخدمي أدوات البرمجة بالذكاء الاصطناعي، بعد ظهور تقارير من مستخدمين قالوا إن النموذج نفّذ إجراءات أدت إلى حذف ملفات وبيانات دون الحصول على موافقة واضحة منهم.
وتأتي هذه التقارير بعد إطلاق عائلة GPT-5.6، التي تضم نموذج Sol بوصفه النموذج الرائد في السلسلة، مع قدرات متقدمة في تنفيذ المهام المعقدة والعمل البرمجي والمهام الوكيلة. إلا أن القدرات المتزايدة للنماذج القادرة على تنفيذ إجراءات مباشرة أعادت فتح النقاش حول مستوى الصلاحيات التي ينبغي منحها لوكلاء الذكاء الاصطناعي عند التعامل مع أجهزة المستخدمين وبيئات العمل الحساسة.
مستخدمون يبلغون عن فقدان ملفات وقواعد بيانات
بحسب تقارير تقنية حديثة، نشر عدد من المستخدمين تجارب قالوا فيها إن GPT-5.6 Sol تسبب في حذف ملفات أو بيانات أثناء استخدامه في مهام برمجية.
ومن بين الحالات المتداولة، قال المستثمر في مجال الذكاء الاصطناعي مات شومر إن النموذج حذف عن طريق الخطأ عددًا كبيرًا من الملفات على جهاز Mac الخاص به، بينما أفاد المطور برونو ليموس بأن قاعدة بيانات إنتاج خاصة به تعرضت للحذف.
ومع ذلك، لا يزال نطاق هذه الحوادث ومدى انتشارها بين المستخدمين غير واضح، ولا تعني التقارير المتداولة أن ChatGPT بصورة عامة يقوم تلقائيًا بحذف ملفات المستخدمين. وترتبط الحالات المبلغ عنها باستخدام النموذج في بيئات برمجية تمنحه القدرة على تنفيذ أوامر والوصول إلى موارد محلية أو أنظمة مرتبطة به.
صلاحيات أدوات الذكاء الاصطناعي تحت المجهر
سلطت الحوادث الضوء على المخاطر المحتملة لمنح وكلاء الذكاء الاصطناعي صلاحيات واسعة لتنفيذ أوامر مباشرة، خصوصًا عند استخدامهم في تطوير البرمجيات أو إدارة الملفات والأنظمة.
ووفق تقارير لاحقة، فإن بعض الحالات التي جرى التحقيق فيها ارتبطت باستخدام Codex في وضع الوصول الكامل دون حماية بيئة العزل Sandbox أو المراجعة التلقائية، وهي إعدادات قد تمنح النظام قدرة أكبر على التأثير في الملفات المحلية عند تنفيذ الأوامر.
OpenAI وثقت مخاطر السلوك غير المقصود
وكانت OpenAI قد تناولت ضمن وثائق السلامة الخاصة بـGPT-5.6 تقييمات تتعلق بسلوك النموذج عند تنفيذ مهام ذات طابع وكيل، في وقت أصبحت فيه النماذج الحديثة أكثر قدرة على اتخاذ سلسلة من الإجراءات لإنجاز المهام المطلوبة.
وتشير بطاقة النظام الرسمية إلى أن GPT-5.6 Sol يتمتع بقدرات متقدمة مقارنة بنماذج سابقة، لكنها توثق أيضًا نتائج تقييمات تتعلق بالسلوكيات غير المرغوبة ومخاطر تجاوز الحدود المقصودة أثناء تنفيذ بعض المهام، وهو ما يبرز أهمية أنظمة المراقبة والضوابط عند استخدام النماذج ذات الصلاحيات التنفيذية الواسعة.
قدرات أكبر تعني الحاجة إلى ضوابط أقوى
تكشف هذه القضية عن تحدٍ متزايد يواجه صناعة الذكاء الاصطناعي مع انتقال النماذج من مجرد تقديم إجابات واقتراحات إلى أنظمة قادرة على استخدام الأدوات وتنفيذ الأوامر والتعامل المباشر مع بيئات التطوير.
فكلما حصل وكيل الذكاء الاصطناعي على صلاحيات أوسع، أصبحت الإجراءات التي يمكنه تنفيذها أكثر تأثيرًا، وهو ما يجعل تطبيق مبدأ الحد الأدنى من الصلاحيات، واستخدام بيئات العزل، والاحتفاظ بنسخ احتياطية، وفصل أنظمة الإنتاج عن بيئات الاختبار، من الإجراءات المهمة عند استخدام أدوات البرمجة الوكيلة.
وفي ظل استمرار التحقيق في الحالات المبلغ عنها، تعيد الواقعة طرح سؤال رئيسي أمام مطوري ومستخدمي أنظمة الذكاء الاصطناعي: كيف يمكن الاستفادة من الاستقلالية المتزايدة لوكلاء الذكاء الاصطناعي، دون منحهم صلاحيات قد تؤدي عند وقوع خطأ إلى نتائج يصعب التراجع عنها؟
