تطالب المنظمات بفرض حظر فوري على أداة الذكاء الاصطناعي Grok في الإجراءات الموجزة
أخبار نوس•
يقوم مركز الخبرة في إساءة الاستخدام عبر الإنترنت Offlimits وصندوق دعم الضحايا بتقديم إجراءات موجزة ضد برنامج chatbot Grok van X لأنه يتيح إمكانية “خلع ملابس” الأشخاص دون إذن. ويطالبون بحظر chatbot على الفور.
وفقًا لـ Offlimits وVictim Support، فإن مجموعة ضحايا Chatbot تنمو بسرعة وهناك حاجة إلى اتخاذ إجراءات فورية لمنع وقوع ضحايا جدد.
يمكن لمستخدمي Grok طرح أسئلة على برنامج الدردشة الآلي، ولكن لديهم أيضًا صور عارية وإباحية مزيفة مصنوعة من الصور الموجودة على الإنترنت. تم أيضًا إنشاء صور لقاصرين يرتدون ملابس ضيقة بواسطة Grok بناءً على طلب المستخدمين.
في هولندا، يعد إضفاء الطابع الجنسي على الصور دون إذن الشخص المصور جريمة جنائية. يتضمن ذلك أيضًا إنشاء صور عارية مزيفة.
وفقًا لشركة المحاماة التي تساعد Offlimits وصندوق دعم الضحايا، فإن ما يسمى بأدوات التعري تنتهك الحق في الخصوصية واللائحة العامة لحماية البيانات وقانون الخدمة الرقمية الأوروبي والقانون الجنائي وحقوق الصور.
“حادث بالتصوير البطيء”
تظهر الأبحاث أن الاعتداء الجنسي عبر الإنترنت يمكن أن يكون له نفس العواقب مثل الاعتداء الجنسي في الحياة الطبيعية، كما يقول Offlimits وصندوق دعم الضحايا. فهو يؤدي إلى الشعور بالخجل والتوتر طويل الأمد بين الضحايا، وفي بعض الأحيان إلى الأفكار الانتحارية.
غالبًا ما تُستخدم الصور العارية المزيفة للضغط على الأشخاص. على سبيل المثال، من خلال الابتزاز الجنسي، حيث يتم التهديد بنشر صور مزيفة إذا لم يتم إرسال صور عارية حقيقية أو قام الضحايا بأفعال جنسية.
يقول روبرت هوفينج، مدير Offlimits: “تُستخدم الصور التي تم تحريرها أو إنشاؤها باستخدام أدوات الذكاء الاصطناعي للتنمر على الضحايا أو إذلالهم أو تخويفهم جنسيًا عبر الإنترنت. علاوة على ذلك، فإن إمكانية الوصول إلى هذه الأنواع من الأدوات تضمن إمكانية إنشائها وتوزيعها على نطاق واسع”. “لذلك فهو حادث بالحركة البطيئة الذي نراه يحدث ويتطلب العمل.”
دراسات متعددة
تعرض برنامج chatbot Grok للنيران لبعض الوقت. وقد بدأت العديد من الوكالات والدول بالفعل تحقيقات، مثل المفوضية الأوروبية وهيئات مراقبة وسائل الإعلام الفرنسية والبريطانية.
منصة التواصل الاجتماعي ينطبق التشديد على المناطق التي “يعد فيها هذا غير قانوني”، حسبما أعلنت المنصة في ذلك الوقت.
سيتم عرض القضية المرفوعة ضد Grok وX على المحكمة في أمستردام يوم الخميس 12 مارس.
