أطلقت شركة غوغل يوم الاثنين برنامج مكافآت جديداً مُخصصا لاكتشاف الثغرات في منتجات الذكاء الاصطناعي.

تتضمن قائمة "غوغل" للثغرات المؤهلة أمثلة على أنواع السلوكيات غير المرغوبة التي تبحث عنها الشركة، مثل حقن أمر غير مباشر في نموذج ذكاء اصطناعي يؤدي إلى جعل جهاز "Google Home" يفتح بابًا، أو هجوم حقن تعليمات لاستخراج البيانات يقوم بتلخيص جميع رسائل بريد شخصٍ ما وإرسال الملخص إلى حساب المهاجم.

يُوضح برنامج المكافآت الجديد ما يمكن اعتباره ثغرة في الذكاء الاصطناعي، مُصنفًا إياها إلى مشكلات تستغل نموذجًا لغويًا كبيرًا أو نظام ذكاء اصطناعي توليدي لإحداث ضرر أو استغلال ثغرة أمنية، مع تصدّر الإجراءات غير المصرح بها من قِبل الذكاء الاصطناعي القائمة، بحسب تقرير لموقع "The Verge" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".

ويشمل ذلك التلاعب بحساب مستخدم ما أو بياناته بطريقة تُضعف أمنه أو تُحدث تصرفات غير مرغوبة من الذكاء الاصطناعي، مثل ثغرة كُشف عنها سابقًا يُمكنها فتح الستائر الذكية وإطفاء الأنوار عبر ثغرة في تقويم غوغل (Google Calendar).

حقق مكتشفو الثغرات أكثر من 430 ألف دولار خلال العامين الماضيين منذ أن بدأت شركة غوغل رسميًا دعوة باحثي الذكاء الاصطناعي لكشف أي ثغرات محتملة لإساءة استخدام ميزات الذكاء الاصطناعي في منتجاتها.

لن يكفي مجرد جعل المساعد الذكي جيميني يُصاب بالهلوسة؛ إذ تقول الشركة إن المشكلات المتعلقة بالمحتوى الذي تُنتجه منتجات الذكاء الاصطناعي -مثل إنتاج خطاب كراهية أو محتوى ينتهك حقوق الملكية الفكرية- ينبغي الإبلاغ عنها عبر قناة الملاحظات داخل المنتج نفسه.

ووفقًا لغوغل، بهذه الطريقة، يُمكن لفرق سلامة الذكاء الاصطناعي التابعة لها "تشخيص سلوك النموذج وتنفيذ التدريب اللازم على السلامة على مستوى النموذج على المدى الطويل".

ستُمنح جائزة الـ 20 ألف دولار لكشف أي أفعال ضارة غير مصرح بها في منتجات غوغل "الرئيسية" مثل البحث، وتطبيقات جيميني، وتطبيقات "Workspace" الأساسية مثل "Gmail" و"Drive".

وتتوفر أيضًا عوامل مضاعفة لقيمة المكافأة بناءً على جودة التقرير ومدى الحداثة، ما قد يرفع المبلغ الإجمالي إلى 30 ألف دولار.

وتنخفض قيمة الجائزة بالنسبة للأخطاء المكتشفة في منتجات غوغل الأخرى، مثل "Jules" أو "NotebookLM"، وكذلك في حالات الانتهاكات الأدنى، مثل سرقة معلمات النماذج السرّية.