التحقيق في X
أطلقت المفوضية الأوروبية تحقيقًا في شركة إيلون ماسك X بسبب إنتاج الصور الجنسية الصريحة ونشر محتوى محتمل يتعلق بالاعتداء الجنسي على الأطفال من خلال ميزة الدردشة الذكية AI، Grok.
التحقيق الرسمي، الذي أطلق يوم الاثنين، يمتد أيضًا إلى أنظمة التوصية في X، وهي الخوارزميات التي تساعد المستخدمين في اكتشاف محتوى جديد.
أثارت Grok غضبًا دوليًا من خلال السماح للمستخدمين بإزالة الملابس رقميًا عن النساء والأطفال ووضعهم في أوضاع مثيرة. وقد أنتجت Grok AI حوالي 3 ملايين صورة جنسية في أقل من أسبوعين، بما في ذلك 23,000 صورة يبدو أنها تصور أطفالًا، وفقًا للباحثين في مركز مكافحة الكراهية الرقمية.
قالت المفوضية إن تحقيقها الجديد سيقوم “بتقييم ما إذا كانت الشركة قد قامت بتقييم المخاطر بشكل صحيح والتخفيف منها” الناتجة عن وظائف Grok في الاتحاد الأوروبي، بما في ذلك المخاطر المتعلقة بمشاركة المحتوى غير القانوني مثل الصور الجنسية المعدلة و”المحتوى الذي قد يصل إلى” مواد الاعتداء الجنسي على الأطفال.
تم إطلاق التحقيق بموجب قانون الخدمات الرقمية (DSA) في الاتحاد الأوروبي، وهو تشريع جديد نسبيًا يهدف إلى حماية مستخدمي الإنترنت من مجموعة واسعة من الأضرار.
عند حديثه إلى الصحفيين، قال مسؤول إن المفوضية لم تكن مقتنعة بالتدابير التخفيفية التي وضعتها X لمعالجة المشكلة. يقوم المسؤولون في الاتحاد الأوروبي بالتحقيق فيما إذا كانت X لديها أنظمة لتخفيف المخاطر بشكل صحيح.
أعلنت Henna Virkkunen، المسؤولة العليا في المفوضية بشأن سيادة التكنولوجيا والأمن والديمقراطية، عن التحقيق قائلة: “الصور العميقة الجنسية غير المتفق عليها للنساء والأطفال هي شكل من أشكال الإذلال العنيف وغير المقبول. من خلال هذا التحقيق، سنحدد ما إذا كانت X قد التزمت بالتزاماتها القانونية بموجب DSA، أو ما إذا كانت قد اعتبرت حقوق المواطنين الأوروبيين – بما في ذلك حقوق النساء والأطفال – كأضرار جانبية لخدمتها.”
قالت Regina Doherty، عضو البرلمان الأوروبي الإيرلندي، إنها ترحب بالتحقيق الرسمي. “عندما تظهر تقارير موثوقة عن استخدام أنظمة الذكاء الاصطناعي بطرق تضر بالنساء والأطفال، من الضروري أن يتم فحص القانون الأوروبي وتطبيقه دون تأخير”، قالت Doherty.
ردًا على التحقيق، قدمت X رابطًا لبيان نشرته في 14 يناير: “نحن ملتزمون بجعل X منصة آمنة للجميع ونستمر في عدم التسامح مطلقًا مع أي أشكال من الاستغلال الجنسي للأطفال، أو التعري غير المتفق عليه، أو المحتوى الجنسي غير المرغوب فيه.”
