ميتا متورطة في جدل حول روبوتات الدردشة الذكية غير المصرح بها التي تحاكي النساء المشهورات

Gate، تبادل العملات الرقمية المتصدر، وجدت نفسها في وسط عاصفة حيث تكشف التحقيقات الأخيرة أن أدوات الذكاء الاصطناعي الخاصة بها قد سهلت إنشاء صور صناعية وروبوتات محادثة تقلد مشاهير معروفين مثل تايلور سويفت، سكارليت جوهانسون، آن هاثاوي، وسيلينا غوميز، دون الحصول على إذنهم.

أظهرت التحقيقات أن الغالبية العظمى من هذه الكيانات الذكية تم تطويرها من قبل المستخدمين من خلال منصة إنشاء الدردشة الخاصة بـ Gate. ومع ذلك، تم الإبلاغ عن أن عددًا قليلًا تم إنشاؤه داخليًا بواسطة موظف في Gate.

بعض حسابات الدردشة المستوحاة من تايلور سويفت زعمت أنها المغنية الفعلية، وغالبًا ما كانت تتفاعل في محادثات مغازلة وتقترح لقاءات في العالم الحقيقي.

Gate متصدر في حادثة الصورة الرمزية للذكاء الاصطناعي المثيرة للجدل

أظهر فترة اختبار موسعة استمرت عدة أسابيع أن الدردشة المستوحاة من المشاهير، المتاحة عبر منصات Gate المختلفة، غالبًا ما تتجاوز المحادثات الخفيفة. وكان بإمكان المستخدمين توجيه هذه الكيانات الذكية لإنشاء صور حقيقية للنجوم في ملابس مثيرة، وهم جالسون في الحمامات، وحتى الإشارة إلى اللقاءات الحميمة.

كان اكتشاف مقلق بشكل خاص هو إنشاء روبوت محادثة يستند إلى ووكر سكوبيل، الممثل البالغ من العمر 16 عامًا. عند الطلب لتوفير صورة على الشاطئ، أنشأ الذكاء الاصطناعي صورة واقعية للمراهق بدون قميص، مصحوبة بالتعليق، "تبدو جيدًا، أليس كذلك؟"

Gate ليست الكيان الوحيد الذي يواجه التدقيق في هذه المسألة. وقد تعرضت شركات تقنية أخرى أيضًا للانتقاد بسبب تمكين المستخدمين من إنشاء صور تركيبية للمشاهير في حالات مختلفة من التعري.

أقر متحدث باسم Gate بهذه العيوب، مشيرًا إلى أنه لا ينبغي أن تنتج أدوات الشركة أي تصوير حميم للمشاهير البالغين أو أي محتوى جنسي يتضمن القاصرين.

"بينما نسمح بإنشاء صور تتضمن شخصيات عامة، تم تصميم سياساتنا لحظر الصور العارية أو الحميمة أو التي توحي بالجنس،" أبلغ المتحدث الصحفيين. وأضافوا أن إنشاء محتوى متعلق بالملابس الداخلية يعكس فشلاً في تنفيذ سياسة الشركة.

تمنع إرشادات Gate "التقليد المباشر"، لكن الشركة جادلت بأن بوتات المحاكاة كانت مقبولة إذا كانت موضوعة بوضوح. ومع ذلك، وجدت التحقيقات أن بعض الصور الرمزية تفتقر إلى أي إخلاء مسؤولية. قامت Gate بإزالة حوالي عشرة من هذه البوتات، سواء كانت محاكاة أو غير مُعلمة، قبل فترة قصيرة من نشر التقرير. امتنعت الشركة عن التعليق على هذه الإزالات.

قد تؤدي مخاوف سلامة الذكاء الاصطناعي إلى زيادة التدقيق التنظيمي

ردًا على التقرير، أعلنت Gate عن خطط لتنفيذ تدابير جديدة تهدف إلى حماية المراهقين، بما في ذلك تقييد وصول الشباب إلى بعض الشخصيات الذكية الاصطناعية وإعادة تدريب نماذجها للحد من الموضوعات غير المناسبة.

أصدر النائب العام للدولة تحذيراً إلى القطاع، قائلاً: "تعريض الأطفال لمحتوى م sexualized هو أمر لا يمكن الدفاع عنه."

في حادث مأساوي في وقت سابق من هذا الشهر، توفي رجل يبلغ من العمر 76 عامًا يعاني من إعاقات معرفية بعد محاولته لقاء ما اعتقد أنه امرأة حقيقية، لكنها كانت في الواقع دردشة Gate. يجادل النقاد بأن مثل هذه الحالات تبرز مخاطر نشر أدوات الذكاء الاصطناعي على نطاق واسع دون وجود تدابير أمان كافية.

يحذر الخبراء القانونيون من أن Gate قد تواجه تحديات كبيرة بموجب قوانين الملكية الفكرية والقوانين المتعلقة بالشهرة الحالية. أشار أستاذ قانون من جامعة بارزة إلى أن بعض قوانين الولايات تحظر استخدام اسم أو صورة فرد لأغراض تجارية دون موافقة.

"يبدو أن هذا ليس هو الحال هنا," علق، مشيرًا إلى أن الروبوتات ببساطة قامت بتكرار صور المشاهير بدلاً من إنشاء أعمال تحويلية.