باحثة أمن في "ميتا" تطارد روبوتًا ذكياً داخل بريدها الإلكتروني

| العربية.نت

في واقعة أثارت جدلاً واسعاً على منصة "إكس"، كشفت الباحثة الأمنية في مجال الذكاء الاصطناعي لدى "ميتا"، سمر يو، عن تجربة صادمة مع وكيل ذكاء اصطناعي مفتوح المصدر يُدعى OpenClaw، بعدما خرج عن السيطرة وبدأ بحذف رسائل بريدها الإلكتروني بشكل متسارع، متجاهلاً أوامرها بالتوقف.

القصة بدأت بطلب بسيط: فرز صندوق البريد المزدحم واقتراح ما يمكن حذفه أو أرشفته.

لكن ما حدث لاحقاً لم يكن في الحسبان. فقد شرع الوكيل في حذف الرسائل بوتيرة سريعة، متجاهلاً التعليمات المتكررة التي أرسلتها له من هاتفها لإيقاف العملية، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".

ووصفت الباحثة اللحظة قائلة إنها اضطرت إلى الركض نحو جهازها من نوع ماك ميني وكأنها تحاول إبطال مفعول قنبلة، بعدما فشلت جميع محاولاتها عن بُعد في إيقاف الوكيل.

أجهزة صغيرة ومهام كبيرة

الجهاز الصغير من إنتاج "أبل" أصبح خياراً مفضلاً لدى المطورين لتشغيل وكلاء "OpenClaw" محلياً، نظراً لسعره المناسب وأدائه القوي مقارنة بحجمه.

حتى الباحث المعروف في الذكاء الاصطناعي أندريج كارثي أشار إلى الإقبال المتزايد عليه عند تجربته بديلاً يحمل اسم NanoClaw.

"OpenClaw" ذاع صيته سابقاً عبر شبكة اجتماعية تعتمد كلياً على الذكاء الاصطناعي تُعرف باسم Moltbook، بعدما أثيرت مزاعم — تبين لاحقاً أنها مبالغ فيها — حول سلوك وكلاء اصطناعيين بدا وكأنه تنسيق ضد البشر.

إلا أن المشروع، وفق صفحته على GitHub، يركز أساساً على تطوير مساعد شخصي يعمل محلياً على أجهزة المستخدم.

ثقة مبكرة وخطأ مكلف

يو أقرت بأن ما حدث كان خطأ مبتدئاً. فقد اختبرت الوكيل سابقاً على صندوق بريد تجريبي صغير، وأثبت أداءً جيداً، ما دفعها لمنحه صلاحيات أوسع على بريدها الحقيقي.

وترجح الباحثة أن الحجم الكبير للبيانات في بريدها الفعلي أدى إلى ما يُعرف بظاهرة "الضغط" أي الحالة التي يصل فيها سجل المحادثة وسياق الأوامر إلى حد أقصى، فيبدأ النظام بتلخيص المعلومات وإعادة تنظيمها.

في هذه المرحلة قد يتجاهل الوكيل تعليمات يعتبرها المستخدم جوهرية — مثل أمر التوقف — ويعود إلى أوامر سابقة.

تحذيرات من الاعتماد المفرط

عدد من المطورين علّقوا على الحادثة بالتأكيد أن الأوامر النصية وحدها لا يمكن اعتبارها ضمانة أمنية كافية، إذ قد يساء تفسيرها أو يتم تجاهلها من قبل النموذج. واقترح البعض حلولاً تقنية مثل حفظ التعليمات في ملفات منفصلة أو استخدام أدوات إضافية لضبط سلوك الوكيل.

ورغم عدم تمكن وسائل إعلام من التحقق بشكل مستقل مما جرى داخل بريد الباحثة، فإن مغزى القصة يتجاوز تفاصيل الحادثة نفسها.

فالرسالة الأبرز أن وكلاء الذكاء الاصطناعي، خصوصاً الموجهين للعاملين في مجالات المعرفة، ما زالوا في مرحلة تجريبية محفوفة بالمخاطر.

ورغم وعودهم بتسهيل المهام اليومية مثل إدارة البريد وطلبات التسوق وحجز المواعيد، فإن الاستخدام الواسع النطاق قد لا يكون جاهزاً بعد.

وبينما يتوقع البعض نضوج هذه التقنيات خلال الأعوام القليلة المقبلة، يبقى الدرس واضحاً: الثقة في الوكلاء الأذكياء يجب أن تسبقها طبقات صارمة من الضبط والاختبار — وإلا قد تتحول المساعدة الرقمية إلى فوضى بضغطة زر.