"OpenAI" تطلق "Lockdown Mode" لحماية البيانات الحساسة من هجمات حقن الأوامر الخبيثة

أعلنت شركة OpenAI عن ميزة جديدة تحمل اسم Lockdown Mode، قالت إنها توفر طبقة إضافية من الحماية ضد هجمات Prompt Injection، وهي أساليب تستغل تعليمات خبيثة مخفية داخل صفحات الويب أو مصادر المحتوى المختلفة للتأثير على سلوك روبوتات الدردشة أو دفعها إلى تسريب معلومات حساسة.

ووفقاً للشركة، تعمل الميزة الجديدة على تقليل مخاطر تسرب البيانات عبر تعطيل عدد من الوظائف التي قد تشكل نقاط دخول محتملة لهذه الهجمات.

وتشمل القيود المفروضة إيقاف التصفح المباشر للويب بحيث يقتصر الوصول على المحتوى المخزن مؤقتاً، ومنع جلب وعرض الصور من الإنترنت مع استمرار إمكانية إنشاء الصور، بالإضافة إلى تعطيل ميزتي Deep Research وAgent Mode.

تطبيقات وبرامج غوغل "غوغل" تختبر توجيه مستخدمي كروم مباشرة إلى وضع الذكاء الاصطناعي بدلًا من البحث

ورغم هذه الإجراءات، أوضحت "OpenAI" أن تفعيل Lockdown Mode لا يضمن حماية كاملة من هجمات حقن الأوامر. فالتعليمات الخبيثة قد تظل موجودة داخل المحتوى المخزن مؤقتاً أو في الملفات التي يرفعها المستخدم، ما قد يؤثر على دقة الاستجابات أو سلوك النظام في بعض الحالات.

وأكدت الشركة أن الهدف الرئيسي من الميزة هو تقليل احتمالات مشاركة البيانات الحساسة بشكل غير مقصود نتيجة محاولات استغلال نماذج الذكاء الاصطناعي عبر أوامر مخفية.

وقالت "OpenAI" في بيانها: "وضع Lockdown Mode ليس موجهاً للجميع، بل صُمم للأفراد والمؤسسات التي تتعامل مع بيانات حساسة وتحتاج إلى مستوى أكثر صرامة من الحماية ضد مخاطر تسرب البيانات المرتبطة بهجمات Prompt Injection."

وأشارت الشركة إلى أنها بدأت حالياً في طرح الميزة تدريجياً لمشتركي تشات جي بي تي بيزنس من فئة الخدمة الذاتية، إضافة إلى بعض الحسابات الشخصية المؤهلة للحصول عليها.