कैरेक्टर.एआई ने बच्चों की सुरक्षा के लिए एक नई सुविधा के साथ माता-पिता को आश्वस्त किया

लोकप्रिय एआई चैटबॉट सेवा कैरेक्टर.एआई ने पैरेंटल इनसाइट्स नामक एक नई सुरक्षा सुविधा जोड़ी है, जो माता-पिता को प्लेटफॉर्म पर अपने बच्चों की गतिविधि की रिपोर्ट देखने की अनुमति देती है।

कंपनी द्वारा घोषित यह नया सुरक्षा फीचर ब्लॉग पोस्ट मंगलवार को, माता-पिता को साप्ताहिक जानकारी मिलती है कि उनके किशोर Character.AI पर अपना समय कैसे व्यतीत कर रहे हैं। अधिक विशेष रूप से, पैरेंटल इनसाइट्स माता-पिता को यह जानकारी देगा कि उनके बच्चे औसतन प्रतिदिन ऐप पर कितना समय बिताते हैं, वे किन पात्रों से सबसे अधिक बात करते हैं, तथा प्रत्येक पात्र के साथ कितना समय बिताते हैं। हालाँकि, अवलोकन से चैटबॉट वार्तालाप की विषय-वस्तु का खुलासा नहीं होगा, क्योंकि वे निजी हैं।

18 वर्ष से कम आयु के किशोर उपयोगकर्ताओं के पास अपने Character.AI आँकड़े ऐप सेटिंग में अपने माता-पिता या अभिभावकों के साथ साझा करने का विकल्प है, बस उन्हें अपना ईमेल पता जोड़कर और उन्हें देखने के लिए निमंत्रण भेजकर। माता-पिता को अपने किशोरों के साप्ताहिक उपयोग के आंकड़े देखने के लिए Character.AI खाता रखना आवश्यक नहीं है।

पैरेंटल इनसाइट्स फीचर उन सुविधाओं की श्रृंखला के बीच आया है जो माता-पिता की चिंताओं को दूर करने के लिए जोड़े गए हैं कि बच्चे कैरेक्टर.एआई पर बहुत अधिक समय बिताते हैं और कई मुकदमों में आरोप लगाया गया है कि वे सेवा पर हानिकारक सामग्री के संपर्क में थे, जिसमें अनुचित यौन सामग्री से लेकर शामिल हैं। आत्म-क्षति को प्रोत्साहित करने वाले संदेश. इन शिकायतों के जवाब में, कैरेक्टर.एआई ने प्लेटफॉर्म को अपडेट किया है। कम उम्र के उपयोगकर्ताओं को एक ऐसे AI मॉडल में स्थानांतरित करना जो संवेदनशील या अश्लील सामग्री प्रदान न करने के लिए डिज़ाइन किया गया हो।सेवा दिशानिर्देशों के किसी भी उल्लंघन का पता लगाना और उसमें हस्तक्षेप करना, और यदि वे Character.AI पर एक घंटा बिताते हैं तो उन्हें सूचनाएं भेजना। उन्होंने चैट के भीतर और ऐप स्टोर लिस्टिंग में अस्वीकरण भी लागू किया ताकि उपयोगकर्ताओं को याद दिलाया जा सके कि वे जिन एआई पात्रों के साथ बातचीत करते हैं वे वास्तविक नहीं हैं और वे जो कुछ भी कहते हैं वह सब बना हुआ है।

माता-पिता, यदि आप Character.AI से एक ईमेल देखते हैं जिसमें आपके किशोर को आने वाले दिनों के लिए उनकी साप्ताहिक गतिविधि के आंकड़े देखने के लिए आमंत्रित किया गया है, तो इसे विश्वास के संकेत के रूप में लें। उनकी रिपोर्ट आपको यह जानकर कुछ हद तक मानसिक शांति प्रदान कर सकती है कि वे आपको यह मार्गदर्शन देना चाहते हैं कि आप ऐप पर अपने समय का बुद्धिमानी से उपयोग कैसे करें।