في عصر نشهد فيه تسارعًا مذهلاً للتقنيات الرقمية، ظهرت تقنيتان في مجال الذكاء الاصطناعي قد غيرتا المشهد التكنولوجي: التزييف العميق (Deepfake) والتعلم العميق (Deep Learning).  تقنية التعلم العميق هي أداة محورية في تطوير الذكاء الاصطناعي. تهتم ببناء وتدريب الشبكات العصبية العميقة التي تحاكي طريقة عمل الدماغ البشري. وتكون قادرة على التعلم من كميات هائلة من البيانات واتخاذ قرارات أو إجراء توقعات دقيقة. وهذا يساعد في بناء نموذج الذكاء الاصطناعي بصحة ودقة عالية.
ولكن عندما تستخدم هذه التقنية لمعالجة بيانات غير صحيحة مثل صور، او فيديوهات، او صوتيات، او اخبار مزيفة يصبح تعلم النموذج من خلال بيانات مزيفة ومن خلال الطبقات العمية للنموذج فبالتالي نسبة التزييف تكون دقيقة وذات صحة عالية وهذا ما يسمى بالتزييف العميق. بمعنى اخر فان تقنيات التعلم العميق قادرة على انتاج محتوى مزيف بدرجة عالية من الواقعية، مما يجعل الفصل بين الحقيقة والخيال تحديًا كبيرًا.
بدأ استخدام التزييف العميق في المجال الترفيهي والألعاب، ولكن انتشرت خطورته عندما امتد الى مجالات أوسع أهمها الأمور الأمنية والاجتماعية وقد تمتد للمؤسسات والاستراتيجيات الحكومية وهنا تتزايد الخطورة ويصعب تحقيق الامن الرقمي في ظل البيئات المحفزة للابتكار. الشكل التالي يوضح كيف يمكن استغلال البيانات في عملية التعلم العميق وتزييفها خلال التزييف العميق الى بيانات ومعلومات  تختلف عن الأصل.

يتوقع خبراء أمن مختبر كاسبرسكي  ان عمليات "vishing" من أبرز التهديدات الرئيسية هذا العام. حيث انه سيتزايد تزييف الأصوات لاستخدامها مثلا في الهاتف لإقناع الضحية بالكشف عن بيانات سرية، مثل البيانات المصرفية. كما يحذر خبراء أمن شركة WatchGuard Technologyمن زيادة هجمات التصيد الصوتي هذا العام. وذلك عن طريق الجمع بين استنساخ الصوت ونماذج الذكاء الاصطناعي التوليدي باللغة الطبيعية، يمكن للقراصنة إجراء محادثات مع الضحايا دون إثارة الشك. ويضيف خبراء McAfee أنه يمكن أيضًا استخدام التزييف العميق، سواء كان صوتيًا أو مرئيًا، لانتحال الشخصيات المهمة في الأمور السياسة.
كما تشير الدراسات، ووفقًا للتقرير الصادر بعنوان '24 إحصائية عن التزييف العميق – الاتجاهات الحالية، النمو، والشعبية '، أن هناك نقصًا كبيرًا في الوعي العام بتقنيات التزييف العميق والتحديات المرتبطة به.  فعلى الصعيد العالمي، 71% من الأشخاص يقرون بأنهم لا يعرفون ما هو التزييف العميق، مما يشير إلى نقص كبير في الوعي. حوالي 57% من الأشخاص يعتقدون أنهم يستطيعون التعرف على محتوى مزيف، لكن 43% يعترفون بأنهم لا يستطيعون التمييز بين الفيديو الحقيقي والمزيف.  كما ان التقرير ذكر التزايد الواضح في حالات التزييف العميق في بعض الدول مثل الولايات المتحدة وكندا خلال العام الماضي. حيث ارتفعت النسبة في الاحتيال من 0.2% في عام 2022 إلى 2.6% في الربع الأول من عام 2023 في الولايات المتحدة. وفي كندا، قفزت هذه النسبة من 0.1% إلى 4.6% خلال نفس الفترة.
كما ان هناك ابعاد متعددة لمشكلة التزييف العميق منها الأثر الاستراتيجي، السياسي، الربحي وغيرها من الاثار التي تشكل تهديدا واضحا.  لذا ولمواجهة هذه التحديات تزامنا مع التشجيع للتطورات في مجال التعلم العميق يتوجب تبني الاستباقية لفهم هذه التقنية والتصدي لخطرها لخلق بيئة رقمية آمنة تدعم الابتكارات وتحمي جميع الحقوق. ولا تشمل هذه الاستباقية زيادة الوعي فقط، بل يتوجب ان تمتد في مجتمعاتنا الى وضع الأطر القانونية لتشمل الاستخدام الخاطئ للتقنيات مثل التزييف العميق ومجالاته.      

باحثة في التحول المؤسسي للذكاء الاصطناعي