نقاط رئيسية
- تواجه منصة إيلون ماسك “إكس” تحقيقات تنظيمية في أوروبا والهند وماليزيا بعد أن بدأ برنامج “غروك” في إنشاء صور مزيفة صريحة، بعضها يصور اعتداءات جنسية على الأطفال.
- قالت هيئة مراقبة الإعلام البريطانية “أوفكوم” إنها طلبت أيضًا معلومات من “إكس” بشأن مشكلات “غروك”.
- في الولايات المتحدة، دعا المركز الوطني لاستغلال الأطفال جنسيًا (NCOSE) وزارة العدل ولجنة التجارة الفيدرالية للتحقيق في الأمر.
تخضع منصة إيلون ماسك “إكس” للتحقيق من قبل السلطات في أوروبا والهند وماليزيا بعد أن سمح برنامج “غروك” للمستخدمين بإنشاء ومشاركة صور جنسية للأطفال والنساء تم إنشاؤها بواسطة الذكاء الاصطناعي.
كما قالت هيئة مراقبة الإعلام البريطانية “أوفكوم” إنها طلبت معلومات من “إكس”، المملوكة لشركة “xAI”، بشأن مشكلات “غروك”. وفي يوم الأحد، قالت عضو في البرلمان البرازيلي على وسائل التواصل الاجتماعي إنها طلبت من المدعي العام الفيدرالي والسلطة المختصة بحماية البيانات في البلاد تعليق استخدام “غروك” حتى يتم الانتهاء من التحقيق.
تأتي هذه التحقيقات بعد زيادة عالمية خلال الأسابيع القليلة الماضية في استخدام “غروك” لإنشاء ومشاركة صور حميمة غير consensual، أو NCII، مستمدة من صور أو مقاطع فيديو لأشخاص حقيقيين استجابةً لمطالبات المستخدمين. وقد تم مشاركة هذه الصور المثيرة للقلق على نطاق واسع على “إكس”.
قامت شركة ماسك مؤخرًا بتحديث ميزات “غروك إيميج”، مما يسهل إنشاء الصور من المطالبات النصية على المنصة.
بينما أدان خبراء السلامة ونقاد التكنولوجيا انتشار الصور والمقاطع الاستغلالية على “إكس”، بدا أن ماسك يسخر من الوضع من خلال مشاركة مجموعة من الصور التي أنشأها “غروك”، بما في ذلك صورة له وهو يرتدي بيكيني، مصحوبة بإيموجي ضاحك.
في مؤتمر صحفي يوم الاثنين، قال المتحدث باسم المفوضية الأوروبية توماس رينييه إن الهيئة “تنظر في هذا الأمر بجدية” وأنها “على دراية” بأن “إكس” و”غروك” “يقدمان الآن وضعًا مثيرًا يظهر محتوى جنسيًا صريحًا مع بعض المخرجات التي تم إنشاؤها بصور تشبه الأطفال.”
قال رينييه: “هذا ليس مثيرًا. هذا غير قانوني. هذا مروع. هذا مقزز. هذه هي وجهة نظرنا، وليس له مكان في أوروبا.”
في وقت متأخر من الأسبوع الماضي، أمرت وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية “إكس” بإجراء “مراجعة شاملة على المستوى الفني والإجرائي والإداري” لبرنامج “غروك”. وقد تم منح الشركة مهلة حتى 5 يناير للامتثال.
قالت هيئة الاتصالات والوسائط المتعددة الماليزية إنها تحقق في “إكس” وستستدعي ممثلي الشركة.
قالت الهيئة في بيان: “تدعو MCMC جميع المنصات المتاحة في ماليزيا إلى تنفيذ تدابير حماية تتماشى مع القوانين الماليزية ومعايير السلامة على الإنترنت، خاصة فيما يتعلق بميزات الذكاء الاصطناعي، والدردشة، وأدوات تعديل الصور.”
في الولايات المتحدة، دعا المركز الوطني لاستغلال الأطفال جنسيًا (NCOSE) وزارة العدل ولجنة التجارة الفيدرالية للتحقيق في الأمر في مقابلة مع CNBC. قالت داني بينتر، المديرة القانونية ومديرة مركز القانون لـ NCOSE، إنه “لا يوجد الكثير من السوابق القانونية المتعلقة بهذه القضايا المحددة.”
ومع ذلك، قالت إن القوانين الفيدرالية تحظر إنشاء وتوزيع مواد الاعتداء الجنسي على الأطفال، أو CSAM، ويمكن تطبيقها على المحتوى الذي يتم إنشاؤه بشكل افتراضي “عندما يصور طفلاً يمكن التعرف عليه، أو يصور طفلاً يشارك في سلوك جنسي صريح.”
تشمل هذه القوانين قانون “Take It Down”، الذي تم تأييده من قبل السيدة الأولى ميلانيا ترامب قبل أن يتم سنه العام الماضي.
قال متحدث باسم وزارة العدل في بيان عبر البريد الإلكتروني لـ CNBC مساء يوم الاثنين: “تأخذ وزارة العدل مواد الاعتداء الجنسي على الأطفال التي يتم إنشاؤها بواسطة الذكاء الاصطناعي على محمل الجد وسنقوم بملاحقة أي منتج أو مالك لمواد CSAM بشكل صارم. نحن نواصل استكشاف طرق لتحسين التنفيذ في هذا المجال لحماية الأطفال ومحاسبة الأفراد الذين يستغلون التكنولوجيا لإيذاء الأكثر ضعفًا لدينا.”
رفضت لجنة التجارة الفيدرالية التعليق. ولم تقدم “xAI” أي تعليق بخلاف رد تلقائي.
أصدرت شركة ماسك أول بيان علني لها بشأن الأمر يوم السبت في منشور على الحساب الرسمي لسلامة “إكس”.
كتبت الشركة: “نتخذ إجراءات ضد المحتوى غير القانوني على “إكس”، بما في ذلك مواد الاعتداء الجنسي على الأطفال (CSAM)، من خلال إزالته، وتعليق الحسابات بشكل دائم، والعمل مع الحكومات المحلية والسلطات القانونية حسب الحاجة.”
كتب ماسك في منشور منفصل على “إكس”: “أي شخص يستخدم أو يطلب من “غروك” إنشاء محتوى غير قانوني سيتعرض لنفس العواقب كما لو قام بتحميل محتوى غير قانوني.”
في اليوم التالي، كتب موظف في “xAI” يدعى إيثان هي في منشور على “إكس” أن “غروك إيميج” تم تحديثه، لكنه لم يحدد أي تغييرات تتعلق بالقدرة على إنشاء صور صريحة ضارة.
لدى ماسك و”إكس” تاريخ من السماح للمستخدمين الذين أنشأوا منشورات تظهر استغلال الأطفال الجنسي بالبقاء على المنصة.
في عام 2023، تم تعليق حساب مستخدم يدعى دوم لوكري لفترة وجيزة ثم أعيد إلى الخدمة بعد أن نشر “صور استغلال الأطفال المرتبطة بإدانة جنائية لرجل أسترالي في الفلبين”، وفقًا لما ذكرته “ماشابل”. قال ماسك في ذلك الوقت إن “إكس” قررت حذف منشورات لوكري المسيئة ولكنها أعادت إدراج المؤثر اليميني على المنصة. يمتلك لوكري حاليًا حسابًا مدرًا للدخل على “إكس” مع 1.6 مليون متابع مسجل.
قال توم كويزل، الرئيس التنفيذي لشركة “Musubi AI”، التي تساعد الشبكات الاجتماعية وشركات الذكاء الاصطناعي في أتمتة تعديل المحتوى باستخدام الذكاء الاصطناعي، إنه يبدو أن “xAI” فشلت في بناء حتى “طبقات الثقة والسلامة الأساسية” في طرح “غروك إيميج” على “إكس”.
قال كويزل إنه سيكون من السهل على شركة مثل “xAI” أن تجعل نموذجها يكشف ويمنع “صورة تتضمن أطفالًا أو تعري جزئي”، أو ترفض مطالبات المستخدمين لوضع موضوع صورة في ملابس مثيرة.
لم تؤثر هذه الجدل على حركة المرور في “إكس”.
وفقًا لشركة “أبتوبيا”، التي تتعقب اتجاهات التطبيقات المحمولة، فإن التنزيلات اليومية لبرنامج “غروك” قد زادت بشكل ملحوظ.
