تحذيرات من استخدام الذكاء الاصطناعي لابتزاز الأطفال جنسيا

حذرت منظمة مراقبة الإنترنت الخيرية "IWF" لمكافحة إساءة معاملة الأطفال من إقبال المتحرشين على استخدام الذكاء الاصطناعي لإنشاء صور عارية للصغار، وذلك بهدف ابتزازهم.

وبحسب صحيفة الغارديان البريطانية، أفادت مؤسسة مراقبة الإنترنت، بأنها عثرت على دليل إرشادي على شبكة الإنترنت المظلم، يتضمن قسما يحث المجرمين على استخدام برامج الذكاء الصناعي لتعرية الأطفال، وإعادة استخدامها من أجل ابتزاز الأطفال لإرسال المزيد من المواد الإباحية الخاصة بهم.

وقالت المؤسسة، إنها أرسلت الدليل الذي عثرت عليه إلى وكالة الجرائم الوطنية في المملكة المتحدة.




في وقت سابق، أعلن المجلس الإشرافي لشركة ميتا (فيسبوك وإنستغرام) أنه ينظر في قضيتين تتعلقان بصور إباحية مزيفة لنساء شهيرات، بعد شهرين من فضيحة "تزييف عميق" طالت النجمة تايلور سويفت.

وقد اختيرت الحالتان "لتقويم ما إذا كانت قواعد ميتا وتطبيقها فعالة في معالجة (مشكلة) الصور الجنسية الناتجة عن الذكاء الاصطناعي،" وفق بيان صادر عن هذا المجلس الملقب بـ"المحكمة العليا" في مجموعة ميتا.

ويتكون هذا المجلس الذي أنشأته المجموعة الاجتماعية العملاقة من أعضاء مستقلين، وهو مسؤول عن البت في القضايا الشائكة المتعلقة بالإشراف على المحتوى.

وقد أعطى ظهور الذكاء الاصطناعي التوليدي، القادر على إنتاج محتويات معقدة بسرعة كبيرة، زخماً جديداً لظاهرة "التزييف العميق، لا سيما صور لنساء يتم التلاعب بها مع إضفاء طابع جنسي عليها لأغراض التخويف أو التحرش.

وقال البيان إن الحالة الأولى التي اختارها المجلس الإشرافي لشركة ميتا تتعلق بصورة تم إنشاؤها بواسطة الذكاء الاصطناعي لامرأة عارية نُشرت على إنستغرام، "تشبه شخصية عامة هندية".




واشتكى أحد المستخدمين من أن الشركة التي تتخذ مقراً في كاليفورنيا لم تسحب هذه الصورة.

ويشير مجلس الإدارة إلى أن "ميتا اعتبرت أن قرارها بترك المحتوى المنشور كان خاطئاً، وأزالت المنشور لانتهاكه قواعدها المتعلقة بالتنمر والتحرش".

وتتعلق الحالة الثانية بصورة منشورة على مجموعة فيسبوك لإنشاء محتوى باستخدام الذكاء الاصطناعي، تُظهر "امرأة عارية مع رجل". المرأة "تبدو كأنها شخصية عامة أمريكية"، وورد اسمها في التوضيح المرفق بالصورة.

وأزالت ميتا الصورة، وأضافتها إلى بنك المحتوى الذي يُعد جزءاً من نظام تنفيذ القواعد الخاص بها، للعثور تلقائياً على الصور التي حددها الموظفون بالفعل على أنها إشكالية وإزالتها من منصاتها.

وفي كانون الثاني/ يناير الماضي، شوهدت صورة إباحية مزيفة للنجمة الأمريكية تايلور سويفت 47 مليون مرة على منصة إكس، قبل أن تحذفها شبكة التواصل الاجتماعي، بعد حوالى خمسة عشر ساعة من نشرها على الإنترنت.

وأثارت هذه القضية سخط محبيها والعديد من الشخصيات وحتى البيت الأبيض.

وبحسب دراسة أجرتها شركة "سنسيتي" الهولندية المتخصصة في الذكاء الاصطناعي عام 2019، فإن 96% من مقاطع الفيديو المزيفة عبر الإنترنت هي مواد إباحية غير رضائية، وأغلبها تصور نساء، مشهورات أو غير مشهورات.