تقول ميتا إن خداع الذكاء الاصطناعي التوليدي لا يزال قيد الفحص - في الوقت الحالي

تقول شركة ميتا، عملاق وسائل التواصل الاجتماعي، إن محاولتها لإحباط حملات التضليل المنسقة التي تم إنشاؤها من خلال الذكاء الاصطناعي المتطور باستمرار، ناجحة، على الرغم من المخاوف واسعة النطاق.

وتأتي أحدث دراسة أجرتها شركة ميتا حول "السلوك الزائف المنسق" على منصاتها مع تزايد المخاوف من استخدام الذكاء الاصطناعي التوليدي لخداع الناس أو إرباكهم في الانتخابات المقبلة في جميع أنحاء العالم، ولا سيما في الولايات المتحدة.

وقال ديفيد أجرانوفيتش، مدير سياسة تعطيل التهديدات في Meta، في مؤتمر صحفي: "ما رأيناه حتى الآن هو أن الدفاعات الحالية لصناعتنا، بما في ذلك تركيزنا على السلوك بدلاً من المحتوى في مواجهة التهديدات العدائية، تنطبق بالفعل ويبدو أنها فعالة". إحاطة الأربعاء.

"نحن لا نرى استخدام الذكاء الاصطناعي التوليدي بطرق متطورة للغاية، لكننا نعلم أن هذه الشبكات ستستمر في تطوير تكتيكاتها مع تغير هذه التكنولوجيا."

تم اتهام فيسبوك لسنوات باستخدامه كمنصة قوية للتضليل الانتخابي.

استخدم العملاء الروس فيسبوك ووسائل التواصل الاجتماعي الأخرى الموجودة في الولايات المتحدة لإثارة التوترات السياسية في انتخابات عام 2016 التي فاز بها دونالد ترامب. ويجري الاتحاد الأوروبي حاليًا تحقيقًا مع شركتي Meta's Facebook وInstagram بشأن الفشل المزعوم في مواجهة المعلومات المضللة قبل انتخابات الاتحاد الأوروبي في يونيو.

لكن الخبراء يخشون الآن أيضًا حدوث طوفان غير مسبوق من المعلومات المضللة من الجهات الفاعلة السيئة على تطبيقات Meta بسبب سهولة استخدام أدوات الذكاء الاصطناعي التوليدية مثل ChatGPT أو منشئ الصور Dall-E لإنشاء محتوى عند الطلب وفي ثوانٍ.

وقالت شركة ميتا إنها شاهدت "جهات تهديد" تستخدم الذكاء الاصطناعي لإنشاء صور ومقاطع فيديو ونصوص مزيفة، لكن لم تكن هناك صور واقعية للسياسيين، وفقًا للتقرير.

وأشار التقرير إلى أنه تم استخدام الذكاء الاصطناعي التوليدي لإنشاء صور للملفات الشخصية لحسابات مزيفة في مجموعة تطبيقات ميتا، ويبدو أن شبكة خداع من الصين استخدمت التكنولوجيا لإنشاء ملصقات لحركة ناشطة وهمية مؤيدة للسيخ تسمى عملية K.

وفي الوقت نفسه، نشرت شبكة مقرها إسرائيل ما يبدو أنها تعليقات صادرة عن الذكاء الاصطناعي حول سياسات الشرق الأوسط على صفحات فيسبوك الخاصة بمؤسسات إعلامية وشخصيات عامة، حسبما ذكرت ميتا.

وبمقارنتها بالرسائل غير المرغوب فيها، قال ميتا إن تلك التعليقات، التي كان بعضها على صفحات المشرعين الأمريكيين، تعرضت لانتقادات في ردود نشرها مستخدمون حقيقيون، ووصفوها بالدعاية.

وأرجع ميتا الحملة إلى شركة تسويق سياسي مقرها تل أبيب.

وقال مايك دفيليانسكي، رئيس تحقيقات التهديدات في شركة ميتا: "هذه مساحة مثيرة للمشاهدة". "حتى الآن، لم نشهد استخدامًا مدمرًا لأدوات الذكاء الاصطناعي التوليدية من قبل الخصوم."

وأظهر التقرير أيضًا أن الجهود التي تبذلها مجموعة مرتبطة بروسيا تسمى "Doppelganger" لاستخدام تطبيقات Meta لتقويض الدعم لأوكرانيا استمرت ولكن يتم إحباطها على المنصة.

وفقًا لميتا، "لقد انتقل Doppelganger إلى مستوى جديد على مدار العشرين شهرًا الماضية، بينما ظل فجًا وغير فعال إلى حد كبير في بناء جماهير حقيقية على وسائل التواصل الاجتماعي".

وأظهر التقرير أن ميتا قامت أيضًا بإزالة مجموعات صغيرة من حسابات فيسبوك وإنستغرام غير الأصلية التي نشأت في الصين واستهدفت مجتمع السيخ في أستراليا وكندا والهند وباكستان ودول أخرى.

ودعت المنشورات على تلك الحسابات المزيفة إلى احتجاجات مؤيدة للسيخ.