نقاط رئيسية
- تأتي إجراءات ماليزيا وإندونيسيا وسط مخاوف متزايدة بشأن استخدام Grok لتوليد صور فاحشة وغير متفق عليها، بما في ذلك صور القاصرين.
- لم تفلح ردود xAI والرئيس التنفيذي إيلون ماسك حتى الآن في تلبية مخاوف المنظمين في إندونيسيا وماليزيا، فضلاً عن ولايات أخرى مثل الهند.
حظر الوصول إلى Grok
حظرت ماليزيا وإندونيسيا الوصول إلى تطبيق Grok الخاص بإيلون ماسك خلال عطلة نهاية الأسبوع بسبب مخاوف من أن الأداة تُستخدم لتوليد محتوى فاحش وغير متفق عليه.
أمرت الجهات التنظيمية الماليزية بفرض قيود مؤقتة على تطبيق الدردشة الذكية من xAI يوم الأحد بعد “فشل متكرر من X Corp” في معالجة المخاطر المرتبطة بالمحتوى.
جاءت هذه الخطوة بعد يوم واحد فقط من تدخل إندونيسيا لمنع الوصول مؤقتًا إلى Grok بسبب مخاوف مماثلة وطلبت من مسؤولي X توضيح الأمر، وفقًا لترجمة CNBC للبيان.
تأتي إجراءات الدولتين في جنوب شرق آسيا بعد اكتشاف أن Grok من xAI يمكّن المستخدمين من توليد ومشاركة صور عبر الإنترنت تتضمن صورًا فاحشة غير متفق عليها ومواد استغلال الأطفال الجنسية (CSAM).
قالت مؤسسة المراقبة البريطانية، مؤسسة الإنترنت، لـ NBC News إنها رصدت مستخدمين في الويب المظلم يشاركون “صورًا إجرامية” قالوا إنها تم إنشاؤها باستخدام Grok، وتظهر صورًا لفتيات قاصرات شبه عاريات.
كما أفادت Wired أن Grok قد تم استخدامه لتعرية النساء افتراضيًا في الصور اللواتي يرتدين ملابس دينية محتشمة مثل الحجاب والساري وملابس الراهبات.
قامت شركة ماسك مؤخرًا بتحديث ميزات Grok Imagine، مما يسهل توليد الصور من النصوص على المنصة، التي تتكامل مع منصة ماسك الاجتماعية X، مما يمنحها نطاقًا واسعًا.
وسط المخاوف المتزايدة بشأن سياسة إدارة محتوى Grok، أعلنت xAI أنها ستحد من ميزات توليد وتحرير الصور للمشتركين المدفوعين، في محاولة لسد الثغرات التي سمحت بإنتاج محتوى جنسي.
رد ماسك، على X، وأكد أيضًا أن المستخدمين الذين ينشئون محتوى غير قانوني عبر Grok سيواجهون عواقب تعادل تحميل مثل هذا المحتوى مباشرة على المنصة الاجتماعية.
ردود “غير كافية”
ومع ذلك، فإن ردود X العامة والخاصة وسط الجدل لم تفلح في تلبية مخاوف المنظمين في إندونيسيا وماليزيا، فضلاً عن آخرين أطلقوا تحقيقات.
قالت لجنة الاتصالات والوسائط المتعددة الماليزية إن ردود X “غير كافية” وقد “اعتمدت بشكل أساسي على آليات الإبلاغ التي يبدأها المستخدمون وفشلت في معالجة المخاطر الكامنة التي تطرحها تصميم وتشغيل الأداة الذكية.
“وبناءً عليه، تم فرض القيود كإجراء وقائي ونسبى بينما تستمر العمليات القانونية والتنظيمية،” قالت الهيئة. “سيظل الوصول إلى Grok مقيدًا حتى يتم تنفيذ تدابير حماية فعالة، خاصة لمنع المحتوى الذي يتضمن النساء والأطفال.”
تحافظ كل من إندونيسيا وماليزيا على قوانين صارمة لمكافحة الإباحية، والتي تحظر مشاركة المحتوى الفاحش والجنسي عبر الإنترنت بشكل أوسع.
وفي الوقت نفسه، قالت وزيرة الاتصالات والشؤون الرقمية الإندونيسية ميتويا هافيد إن “الحكومة تعتبر الصور العميقة غير المتفق عليها انتهاكًا خطيرًا لحقوق الإنسان وكرامة المواطنين وأمنهم في الفضاء الرقمي.”
كما صنفت هافيد إساءة استخدام الذكاء الاصطناعي لإنشاء الإباحية المزيفة على أنها شكل من أشكال “العنف الرقمي”، وفقًا للبيانات التي شاركتها وكالة أنباء الدولة أنتارا.
دعت السلطات في ولايات أخرى، بما في ذلك الاتحاد الأوروبي والمملكة المتحدة والبرازيل والهند، أيضًا إلى إجراء تحقيقات في دور Grok في تسهيل الصور العميقة الفاحشة وغير المتفق عليها.
وفي الوقت نفسه، أوصى بعض المشرعين الديمقراطيين في واشنطن بأن تقوم متاجر التطبيقات بتعليق الأداة الذكية، على الأقل حتى يقوم ماسك بتنفيذ تغييرات كبيرة.
في رسالة بريد إلكتروني إلى CNBC الأسبوع الماضي، قالت وزارة العدل في بيان إن “الوزارة تأخذ مواد الاعتداء الجنسي على الأطفال التي يتم إنشاؤها بواسطة الذكاء الاصطناعي على محمل الجد للغاية وستقوم بملاحقة أي منتج أو حائز على CSAM بشكل عدواني.”
“نواصل استكشاف طرق لتحسين التنفيذ في هذا المجال لحماية الأطفال ومحاسبة الأفراد الذين يستغلون التكنولوجيا لإيذاء الأكثر ضعفًا لدينا،” أضافت.
— ساهمت لورا كولودني من CNBC في هذا التقرير.
