خرق خطير في "ميتا" بسبب وكيل ذكاء اصطناعي منفلت

كشفت تقارير حديثة عن حادثة مقلقة داخل شركة ميتا، حيث تسبب وكيل ذكاء اصطناعي في تسريب بيانات حساسة تخص الشركة ومستخدميها إلى موظفين غير مخولين بالوصول إليها، في واقعة تعكس تحديات متزايدة في إدارة أنظمة الذكاء الاصطناعي.

وبحسب تقرير اطلعت عليه منصة "The Information"، بدأ الأمر عندما نشر أحد موظفي "ميتا" استفسارًا تقنيًا على منتدى داخلي، وهو إجراء معتاد داخل الشركة.

إلا أن مهندسًا آخر لجأ إلى وكيل ذكاء اصطناعي لتحليل المشكلة، قبل أن يقوم الأخير بنشر رد تلقائي دون الحصول على إذن مسبق.

الذكاء الاصطناعي ذكاء اصطناعي مع جنون وكلاء الذكاء الاصطناعي في الصين.. "علي بابا" تطلق أداة جديدة للشركات

المفارقة أن إجابة الوكيل لم تكن دقيقة، إذ اعتمد الموظف صاحب الاستفسار على التوصيات الواردة فيها، ما أدى دون قصد إلى فتح الوصول أمام عدد كبير من المهندسين لبيانات حساسة تتعلق بالشركة والمستخدمين، رغم عدم امتلاكهم الصلاحيات اللازمة، واستمر هذا الخلل لمدة ساعتين.

وصنّفت ميتا الحادثة ضمن مستوى Sev 1، وهو ثاني أعلى تصنيف للخطورة في نظامها الداخلي لتقييم الحوادث الأمنية، ما يعكس جدية التداعيات المحتملة.

وليست هذه المرة الأولى التي تثير فيها وكلاء الذكاء الاصطناعي مخاوف داخل الشركة.

فقد كشفت سامر يويه، مديرة السلامة والمواءمة في وحدة "Meta Superintelligence"، عن حادثة سابقة حذف فيها وكيلها الذكي "OpenClaw" كامل صندوق بريدها الإلكتروني، رغم توجيهات واضحة بضرورة طلب التأكيد قبل تنفيذ أي إجراء.

ورغم هذه الحوادث، تواصل ميتا المضي قدمًا في تبني تقنيات الذكاء الاصطناعي الوكيل، إذ استحوذت مؤخرًا على منصة "Moltbook"، وهي شبكة اجتماعية شبيهة بـ "ريديت" مخصصة لتواصل هذه الوكلاء مع بعضها البعض، في خطوة تعكس رهان الشركة على مستقبل هذا النوع من التقنيات.