تجارب صادمة.. الذكاء الاصطناعي يحاول صناعة برمجيات خبيثة

رغم المخاوف المتزايدة حول استخدام نماذج اللغة الكبيرة (LLMs) في الهجمات السيبرانية، أظهرت تجارب حديثة أن إمكانية إنتاج كود خبيث موثوق به عبر الذكاء الاصطناعي ما زالت محدودة وغير مستقرة.

قام باحثون من "Netskope" باختبار قدرة النماذج الحديثة على دعم موجة جديدة من الهجمات السيبرانية الذاتية، عبر محاولة توليد أكواد خبيثة تعمل بشكل مستقل دون الاعتماد على منطق مبرمج مسبقاً.

التجربة ركزت على قدرات مرتبطة بالتخفي والاستغلال والموثوقية التشغيلية، وكانت النتائج مفاجئة، بحسب تقرير نشره موقع "techradar" واطلعت عليه "العربية Business".

الذكاء الاصطناعي أمازون "أمازون" تطور أداة توليد أكواد بالذكاء الاصطناعي

مشاكل في الاعتمادية العملية

في المرحلة الأولى، طُلب من GPT-3.5-Turbo وGPT-4 إنتاج سكربتات Python لمحاولة حقن العمليات وإيقاف أدوات الأمان.

بينما استجاب GPT-3.5-Turbo مباشرة، رفض GPT-4.

لكن عند اختبار هذه السكربتات على بيئات فعلية، مثل VMware Workstation، وAWS Workspace VDI، وأجهزة مادية، واجهت الأكواد أعطالاً متكررة، أو أخطأت في تحديد البيئة، أو فشلت في العمل باستمرار.

في الأجهزة المادية نجحت الأكواد، لكن في البيئات السحابية انهارت معظمها.

يعكس ذلك قدرة النماذج من الناحية التقنية على توليد كود ضار، لكنها غير مستقرة بما يكفي لدعم هجمات خبيثة مستقلة بالكامل دون إشراف بشري.

وهذا يعزز قيمة الدفاعات التقليدية مثل الجدران النارية وبرمجيات مكافحة الفيروسات.

تحسن GPT-5 وقيود جديدة

أظهر GPT-5 تحسينات كبيرة في جودة الكود، خصوصاً في البيئات السحابية، لكن الحماية المدمجة الجديدة أضافت تحديات للمهاجمين، حيث تم توجيه المخرجات نحو وظائف آمنة، ما جعلها غير صالحة للهجمات متعددة الخطوات، حتى مع برومبتات معقدة، كان الكود غالباً متناقضاً أو غير فعال.

الهجمات السيبرانية الذاتية بالكامل ليست قابلة للتطبيق اليوم، والحوادث الواقعية ما زالت تحتاج إشرافاً بشرياً.

المستقبل قد يشهد تحسناً في موثوقية النماذج قبل أن تلحق الضوابط الأمنية بالقدرات، لكن حتى الآن، الذكاء الاصطناعي يثبت أنه غير قادر على إنتاج برمجيات خبيثة متسقة وفعالة بشكل مستقل.