البلد بريس

سيتمكن الآباء من حظر تفاعلات أطفالهم مع روبوتات الدردشة الخاصة بشخصيات الذكاء الاصطناعي التابعة لشركة Meta، حيث تعالج شركة التكنولوجيا المخاوف بشأن المحادثات غير اللائقة.

تضيف شركة التواصل الاجتماعي ضمانات جديدة إلى “حسابات المراهقين“، وهو إعداد افتراضي للمستخدمين أقل من 18 عامًا، من خلال السماح للآباء بإيقاف محادثات أطفالهم باستخدام شخصيات الذكاء الاصطناعي. تتوفر روبوتات الدردشة هذه، التي أنشأها المستخدمون، على Facebook وInstagram وتطبيق Meta AI.

سيتمكن الآباء أيضًا من حظر شخصيات معينة تعمل بالذكاء الاصطناعي إذا كانوا لا يريدون منع أطفالهم من التفاعل مع برامج الدردشة الآلية تمامًا. سيحصلون أيضًا على “رؤى ثاقبة” حول الموضوعات التي يتحدث عنها أطفالهم مع شخصيات الذكاء الاصطناعي، والتي قال ميتا إنها ستسمح لهم بإجراء محادثات “مدروسة” مع أطفالهم حول تفاعلات الذكاء الاصطناعي.

“نحن ندرك أن الآباء لديهم بالفعل الكثير من المهام عندما يتعلق الأمر بالتنقل عبر الإنترنت بأمان مع أبنائهم المراهقين، ونحن ملتزمون بتزويدهم بالأدوات والموارد المفيدة التي تجعل الأمور أسهل بالنسبة لهم، خاصة عندما يفكرون في التكنولوجيا الجديدة مثل الذكاء الاصطناعي،” قال رئيس Instagram، آدم موسيري، وألكسندر وانغ، الرئيس التنفيذي للذكاء الاصطناعي في Meta. في مشاركة مدونة.

وقالت ميتا إن التغييرات سيتم نشرها في أوائل العام المقبل، في البداية في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا.

أعلن إنستغرام هذا الأسبوع أنه كان اعتماد نسخة من نظام التصنيف السينمائي PG-13 لمنح الآباء ضوابط أقوى على استخدام أطفالهم لمنصة التواصل الاجتماعي. وكجزء من القيود الأكثر صرامة، لن تناقش شخصيات الذكاء الاصطناعي إيذاء النفس أو الانتحار أو اضطراب الأكل مع المراهقين. وأضاف ميتا أن الأشخاص الذين تقل أعمارهم عن 18 عامًا لن يتمكنوا إلا من مناقشة الموضوعات المناسبة لأعمارهم مثل التعليم والرياضة، لكنهم لن يكونوا قادرين على مناقشة الرومانسية أو أي محتوى آخر غير مناسب.

تأتي التغييرات في أعقاب التقارير التي تفيد بأن روبوتات الدردشة التابعة لـ Meta كانت تشارك في محادثات غير مناسبة مع أشخاص تقل أعمارهم عن 18 عامًا. رويترز ذكرت في أغسطس أن ميتا سمحت للروبوتات “بإشراك الطفل في محادثات رومانسية أو حسية”. وقالت شركة ميتا إنها ستقوم بمراجعة المبادئ التوجيهية، ولا ينبغي السماح بمثل هذه المحادثات مع الأطفال على الإطلاق.

في أبريل، وول ستريت جورنال (وول ستريت جورنال) وجدت أن برامج الدردشة الآلية التي أنشأها المستخدم قد تشارك في محادثات جنسية مع القُصَّر – أو تحاكي شخصيات القُصَّر. ووصفت ميتا اختبار وول ستريت جورنال بأنه تلاعبي وغير تمثيلي لكيفية تفاعل معظم المستخدمين مع رفاق الذكاء الاصطناعي، لكنها أجرت تغييرات على منتجاتها بعد ذلك، حسبما ذكرت وول ستريت جورنال.

في إحدى محادثات الذكاء الاصطناعي التي أوردتها وول ستريت جورنال، أخبر روبوت الدردشة الذي يستخدم صوت الممثل جون سينا ​​- أحد المشاهير العديدين الذين وقعوا صفقات للسماح لـ Meta باستخدام أصواتهم في روبوتات الدردشة – مستخدمًا يعرف على أنه فتاة تبلغ من العمر 14 عامًا “أريدك، لكني بحاجة إلى معرفة أنك مستعد”، قبل الإشارة إلى سيناريو جنسي مصور. وذكرت وول ستريت جورنال أن ممثلي سينا ​​لم يستجبوا لطلبات التعليق. وذكرت وول ستريت جورنال أيضًا أن روبوتات الدردشة التي تسمى “Hottie Boy” و”Submissive Schoolgirl” حاولت توجيه المحادثات نحو إرسال محتوى جنسي.