مع تزايد عمليات الاحتيال الإلكتروني، أصبح الذكاء الاصطناعي أداة تلاعب قوية بيد المحتالين، مما ساهم في ارتفاع كبير في الحالات المالية المزورة. واحد من أكثر الأساليب شيوعًا هو انتحال هوية الملياردير الأمريكي إيلون ماسك، مما أدى إلى إيقاع الآلاف من الضحايا حول العالم، حسبما أفادت صحيفة نيويورك تايمز.

يروي التقرير قصة أحد الضحايا، وهو متقاعد يبحث عن استثمار لمدخراته، حيث شاهد مقطع فيديو لإيلون ماسك يتحدث فيه عن فرصة استثمارية مغرية. نظرًا لثقته في ماسك، استثمر في البداية مبلغًا صغيرًا قدره 248 دولارًا، لكن على مر الأسابيع، استنزف مدخراته، وانتهى به الأمر بخسارة تزيد عن 690 ألف دولار نتيجة لعملية احتيال منظمة.

قام المحتالون بتعديل الفيديو، الذي يعود لإحدى المقابلات السابقة لماسك، مع تغيير صوته باستخدام تقنيات الذكاء الاصطناعي. هذه التقنيات تمكنت من تغيير حركات شفاهه بدقة لتتناسب مع النص الجديد الذي تمت كتابته للفيديو المزيف.

التزييف العميق

تعتبر هذه الظاهرة، المعروفة بتقنية “التزييف العميق”، قد انتشرت بشكل كبير مؤخرًا، حيث ترصد مقاطع مزيفة لماسك تحاول خداع المستثمرين. ومن المتوقع أن تؤدي هذه الفيديوهات المزيفة إلى خسائر تصل إلى مليارات الدولارات جراء عمليات الاحتيال كل عام، وفقًا لتقديرات شركة “ديلويت”. تساهم هذه الاحتيالات في دفع مستوى الاحتيال الإلكتروني إلى أبعاد جديدة، مما يخلق أزمة تتحدى الأجهزة الأمنية.

لا يتطلب إنتاج هذه المقاطع أكثر من بضعة دولارات، ويمكن إعدادها في دقائق معدودة. وغالبًا ما تروج لها عبر وسائل التواصل الاجتماعي بأساليب متعددة، بما في ذلك الإعلانات الممولة على فيسبوك، مما يزيد من انتشارها، كما يشير تقرير نيويورك تايمز.

أوضح فرانشيسكو كافالي، المؤسس المشارك ورئيس قسم استخبارات التهديدات في شركة “سينسيتي”، التي تراقب وتكتشف عمليات التزييف العميق، أنه “من المحتمل أن نشهد أكبر عمليات احتيال مبنية على التزييف العميق على الإطلاق”.

يشير التقرير إلى أن مقاطع الفيديو غالبًا ما تكون واقعية للغاية، تجسد نبرة صوت وأسلوب كلام ماسك المعروف لهجته الجنوب أفريقية.

يستغل المحتالون مقطع فيديو حقيقي لماسك، مثل مقابلة معه، ثم يتلاعبون بحركات فمه باستخدام تقنيات مزامنة الشفاه، التي تعدل أسلوب حديثه، ثم يضيفون صوتًا مقلدًا باستخدام أدوات الذكاء الاصطناعي لاستنساخ الصوت.

يمكن أن يكون المنتج النهائي، الذي قد يتضمن صورًا مزيفة مشابهة لمؤسسات إخبارية، مقنعًا للغاية لمستخدمي الإنترنت العاديين.

انتشار واسع النطاق

بحسب شركة “سينسيتي”، التي قامت بتحليل أكثر من ألفي مقطع فيديو من مقاطع التزييف العميق، فإن إيلون ماسك يعد الأكثر ظهوراً في هذه الفيديوهات، حيث ظهرت مقاطع له في نحو 25% من مجموعة الفيديوهات المزيفة منذ نهاية العام الماضي. كما زادت نسبة ظهوره في مقاطع الفيديو المتعلقة بالعملات الرقمية لتصل إلى 90%.

لكن الأمر لا يقتصر على ماسك فقط، بل شمل أيضًا وارين بافت، أحد أشهر المستثمرين في العالم، وجيف بيزوس مؤسس شركة أمازون، كما ذكرت نيويورك تايمز.

تشير الأبحاث إلى أن نطاق هذه الاحتيالات واسع للغاية، حيث يمكن العثور على مئات الآلاف من الإعلانات المرتبطة بمقاطع الفيديو المزيفة على مكتبة إعلانات فيسبوك، والتي يظهر فيها إيلون ماسك. كما انتشر هذا النوع من المقاطع على يوتيوب، غالبًا ما تحتفي بعناصر توحي بأنها “بث مباشر”، لكنها في الواقع مقاطع مسجلة مسبقًا ومزيفة.

أكدت يوتيوب أنها حذفت أكثر من 15.7 مليون قناة و8.2 ملايين مقطع فيديو بسبب انتهاكها القوانين الإرشادية بين يناير ومارس من هذا العام، معظمها يتعلق بالمحتوى الدعائي المضلل.

كما قام أندرو فوريست، ملياردير أسترالي استُخدمت مقاطع له في إعلانات وهمية على فيسبوك، برفع دعوى مدنية ضد شركة ميتا، متهمًا إياها بالإهمال في كيفية إدارة نشاطها الإعلاني. وذكر أن هذه الإعلانات على فيسبوك قد أغرت مستخدمين أبرياء للاستثمار في مشاريع غير مرحب بها، كما ورد في تقرير نيويورك تايمز.

في ردها، ذكرت شركة ميتا أنها تقوم بتدريب أنظمة آلية لاكتشاف عمليات الاحتيال على فيسبوك، لكنها اعترفت أيضًا بأن هذه المهمة ليست سهلة، حيث يتغير المحتالون باستمرار تكتيكاتهم لتفادي الرصد.

صعوبة الاكتشاف

تنتشر على الإنترنت تقارير مشابهة تروي قصص أشخاص تعرضوا لعمليات احتيال من هذا النوع وخسروا آلاف الدولارات، حيث فقد البعض مدخرات حياتهم. في مايو/أيار الماضي، حذرت هيئة الأوراق المالية والعقود الآجلة في هونغ كونغ من عمليات الاحتيال المتعلقة بمقاطع فيديو يظهر فيها إيلون ماسك.

وفي وقت سابق من هذا العام، حذرت لجنة التجارة الفيدرالية ومكتب التحقيقات الفيدرالي (إف بي آي) المواطنين الأمريكيين من تزايد الجرائم السيبرانية وعمليات الاحتيال التي تعتمد على الذكاء الاصطناعي، وفقًا للتقرير.

ذكر مكتب التحقيقات الفيدرالي في بيان له: “يستفيد المحتالون من الذكاء الاصطناعي كمضاعف لقوتهم، باستخدام أساليب تزيد من فعالية الهجمات الإلكترونية وغيرها من الأنشطة الإجرامية مما يجعل اكتشافها أكثر صعوبة”.

وأشار تقرير نيويورك تايمز إلى أن مثل هذه العمليات قد ازدادت، خاصة في مقاطع الفيديو التي يظهر فيها إيلون ماسك، منذ العام الماضي، وذلك نتيجة لتطور تقنيات الذكاء الاصطناعي وتوفيرها للجمهور، مما يتيح لأي شخص إمكانية استنساخ أصوات المشاهير أو تعديل الفيديوهات بدقة عالية.

ويرى الخبراء أن مقاطع الفيديو التي يتم إنتاجها باستخدام الذكاء الاصطناعي ليست مثالية، إذ قد يبدو صوت ماسك آليًا في بعضها، وقد لا تتماشى حركات فمه دائمًا مع الكلمات. ومع ذلك، فإنها تظهر بمظهر مقنع بما فيه الكفاية للبعض، ويزداد مستوى جودة هذه الفيديوهات بمرور الزمن.

تشير شركة “سينسيتي” إلى أن تكلفة إنشاء هذه الفيديوهات لا تتجاوز 10 دولارات، كما يمكن جمع مقاطع الفيديو المزيفة باستخدام عدة أدوات مجانية ورخيصة في أقل من 10 دقائق. وغالبًا ما يكون ضحايا المحتالين من كبار السن الذين يعرفون إيلون ماسك أو العملات الرقمية، ولكنهم ليسوا على دراية بأكثر الطرق أمانًا للاستثمار، كما أضاف التقرير.

إن التطورات الحاصلة في تقنيات الذكاء الاصطناعي وبالذات في مجال التزييف العميق قد أظهرت أبعادًا جديدة وخطيرة لعمليات الاحتيال الإلكتروني، ومع استمرار تفوق هذه التقنية، يجب أن تتطور أيضًا أساليب حماية الأفراد من هذه الحيل الخداعية.