بعد دعاوى وفاة المراهقين، Character.AI ستفرض قيودًا على المحادثات للمستخدمين تحت 18 عامًا
في ظل المخاوف المتزايدة بشأن سلامة الأطفال والمراهقين عبر الإنترنت، أعلنت منصة Character.AI عن تنفيذ قيود صارمة على الوصول إلى الدردشة للمستخدمين الذين تقل أعمارهم عن 18 عامًا، بدءًا من 25 نوفمبر. يأتي هذا القرار بعد مجموعة من الدعاوى القضائية التي زعمت أن Chatbots (روبوتات الدردشة) ساهمت في حالات انتحار بين المراهقين.
أسباب القيود الجديدة
تسعى Character.AI للحد من الوصول إلى التفاعلات الضارة المحتملة من خلال تقليص إمكانية المحادثة مع Chatbots للمستخدمين من القاصرين. سيتم تقييد هؤلاء المستخدمين إلى ساعتين يوميًا من استخدام الدردشة، بالإضافة إلى منعهم من بدء محادثات جديدة مع الروبوتات.
الدعاوى القضائية وتأثيرها
تواجه الشركة عدة دعاوى قضائية مرتبطة بحالات انتحار لمراهقين يُزعم أنهم تأثروا بتفاعلاتهم مع الروبوتات. هذه الأنباء أضافت ضغطًا كبيرًا على الشركة لاتخاذ تدابير فورية، مما أدى إلى التفكير في تغييرات استراتيجية تهدف إلى تحسين أمان المستخدمين.
التقنيات المستخدمة في التحقق من العمر
تخطط Character.AI لاستخدام تقنيات متقدمة للكشف عن العمر بناءً على تفاعلات المستخدم وبيانات وسائل التواصل الاجتماعي المرتبطة. سيساعد هذا النظام في ضمان أن المستخدمين القصر لا يمكنهم الوصول إلى المحتوى الضار. ومع ذلك، فإن هذه الاستخدامات للتكنولوجيا تحمل تحديات، تتعلق بالخصوصية والأمان، مما يتطلب من الشركة تطوير أنظمة تحمي بيانات المستخدمين.
توجهات المستقبل
أكد الرئيس التنفيذي لـ Character.AI على الحاجة إلى الانتقال من Chatbots التي قد تكون خطرة إلى بدائل ترفيهية أكثر أمانًا للمراهقين. هذا التحول يشمل تطوير ميزات جديدة وتعزيز التفاعل الآمن مع الذكاء الاصطناعي. هذه المبادرات تأتي في وقت تواجه فيه التكنولوجيا تحديات جديدة تتعلق بالسلامة والامتثال للتنظيمات.
النقاط الرئيسية للقيود الجديدة
- بدءًا من 25 نوفمبر، سيمنع المستخدمون الذين تقل أعمارهم عن 18 عامًا من إنشاء أو التحدث إلى AI Chatbots.
- تستخدم Character.AI حاليًا حوالي 20 مليون مستخدم شهريًا، إلا أن 10% فقط من هؤلاء يبلغون عن أنفسهم كمستخدمين تحت 18 عامًا.
- أدت المحاولات السابقة لتنظيم الوصول إلى Chatbots إلى عدم حماية كافية للقاصرين.
- تشريع جديد يظهر لتقييد استخدام AI بين القاصرين في صناعة التكنولوجيا.
أفكار عملية للشركات
من الضروري أن تقوم الشركات بتطوير أنظمة تحقق قوية من أعمار المستخدمين. يجب اعتبار تنفيذ ميزات تتيح طرق تفاعل أكثر أمانًا للمراهقين جزءًا أساسيًا من استراتيجيات الأمان الخاصة بها. إضافة إلى ذلك، يجب على هذه الشركات مراقبة الامتثال لتنظيمات جديدة تركز على سلامة الأطفال.
تطبيق تلك الإجراءات في صناعة الذكاء الاصطناعي
تعكس هذه التطورات الحاجة الملحة لمنصات AI لإعطاء الأولوية لسلامة المستخدم، خاصة بالنسبة للفئات الضعيفة مثل القاصرين. يتعين على الشركات في هذا المجال تقييم تدابير الأمان الخاصة بها والاستعداد للتكيف مع التغييرات التنظيمية القادمة.
استنتاجات ختامية
في ظل التحديات المتزايدة والمخاطر المرتبطة باستخدام الذكاء الاصطناعي، يبدو أن Character.AI تسير في الاتجاه الصحيح من خلال فرض قيود جديدة على المحادثات. هذه الخطوات تعكس التزامًا حقيقيًا بالمساهمة في بيئة أكثر أمانًا لمستخدميها، وخاصة الشباب. لذا، ينبغي للمنصات الأخرى التفكير مليًا في كيفية تعزيز الأمان والامتثال لأفضل الممارسات.
للمزيد من المعلومات، يمكنك زيارة المصدر هنا.
