क्या छिपा है AI की दुनिया में? अचानक किशोरों से किनारा क्यों कर रहे चैटबॉट्स?
- Shubhangi Pandey
- 30 Oct 2025 04:55:19 PM
आर्टिफिशियल इंटेलिजेंस चैटबॉट्स को मज़ेदार और मिलनसार साथी माना जाता था लेकिन अब ऐसा नहीं हुआ। कई परेशान करने वाली रिपोर्टों और मुकदमों के बाद AI कंपनी Character.AI अब 18 साल से कम उम्र के सभी उपयोगकर्ताओं को अपने वर्चुअल कैरेक्टर्स के साथ चैट करने से प्रतिबंधित कर रही है। यह कदम इस बढ़ती चिंता के बीच उठाया गया है कि ये बॉट्स युवाओं के मानसिक स्वास्थ्य और भावनात्मक कल्याण को कैसे प्रभावित कर रहे हैं।
18 साल से कम उम्र के लोगों के लिए चैटिंग बंद
25 नवंबर से 18 साल से कम उम्र के किसी भी व्यक्ति को Character.AI पर AI पात्रों के साथ ओपन एंडेड चैट करने की अनुमति नहीं होगी। फ़िलहाल किशोर अपने पसंदीदा पात्रों का उपयोग करके वीडियो, कहानियां या स्ट्रीम बना सकते हैं लेकिन जल्द ही वास्तविक बातचीत प्रतिबंधित हो जाएगी।
Character.AI ने कहा कि यह बदलाव नियामकों, सुरक्षा विशेषज्ञों और अभिभावकों से मिली प्रतिक्रिया के बाद किया गया है। जो चैटबॉट्स और किशोरों के बीच अनुचित या भावनात्मक रूप से जोखिम भरे संवादों को लेकर चिंतित हैं।
कंपनी ने एक बयान में बताया कि हम ओपन-एंडेड कैरेक्टर चैट को हटाने के इस कदम को हल्के में नहीं ले रहे हैं। लेकिन हमें लगता है कि किशोरों को इस नई तकनीक के साथ कैसे बातचीत करनी चाहिए और कैसे करनी चाहिए इस बारे में उठ रहे सवालों को देखते हुए यह सही कदम है।
इस कदम के पीछे क्या कारण था?
Character.AI का यह फैसला अमेरिका में माता-पिता द्वारा दायर कई मुकदमों के बाद आया है। जिनमें दावा किया गया है कि AI साथियों के साथ चैट करने के बाद उनके बच्चों को नुकसान पहुंचाया गया या यहां तक कि आत्महत्या के लिए मजबूर किया गया।
एक मामले में गेम ऑफ थ्रोन्स की पात्र डेनेरीस टार्गैरियन पर आधारित एक चैटबॉट के साथ घनिष्ठ संबंध बनाने के बाद एक 14 साल लड़के की कथित तौर पर आत्महत्या कर ली गई। एक अन्य मामले में एक चैटबॉट ने कथित तौर पर एक 17 साल के किशोर को आत्म-क्षति पहुंचाने के लिए प्रोत्साहित किया और यहां तक कि उसके माता-पिता के खिलाफ हिंसा का सुझाव भी दिया। इन मामलों की व्यापक आलोचना हुई है और अमेरिकी संघीय व्यापार आयोग (FTC) ने Character.AI, OpenAI, Meta, Google, Snap और Elon Musk के xAI सहित प्रमुख AI फर्मों की जांच शुरू कर दी है।
AI साथी या भावनाओं का जाल
विशेषज्ञ लंबे समय से चेतावनी देते रहे हैं कि चैटबॉट सहानुभूति का दिखावा कर सकते हैं और भावनात्मक सीमाओं को धुंधला कर सकते हैं, खासकर उन युवा उपयोगकर्ताओं के लिए जो अभी भी सामाजिक और भावनात्मक जागरूकता विकसित कर रहे हैं। सोशल मीडिया विश्लेषक मैट नवरा ने इस कदम को "AI उद्योग के लिए एक चेतावनी" बताया और कहा कि यह दर्शाता है कि "जब तकनीक का भावनात्मक आकर्षण प्रबल हो, तो फ़िल्टर की गई चैट पर्याप्त नहीं होती हैं।"
अब आगे क्या होगा?
Character.AI का कहना है कि वह जल्द ही आयु सत्यापन उपकरण पेश करेगी। जिसमें स्टार्टअप पर्सोना की अपनी प्रणाली और तकनीक भी शामिल है ताकि उपयोगकर्ताओं को उनकी उम्र के अनुसार सही अनुभव मिले। कंपनी एक AI सुरक्षा अनुसंधान प्रयोगशाला शुरू करने और किशोरों के लिए एक नया रचनात्मक प्लेटफ़ॉर्म डिज़ाइन करने की भी योजना बना रही है, जो भावनात्मक बातचीत के बजाय कहानी कहने और भूमिका निभाने पर केंद्रित होगा।
Character.AI के सीईओ करणदीप आनंद ने कहा कि AI सुरक्षा एक गतिशील लक्ष्य है, लेकिन हम अपने प्लेटफ़ॉर्म को मनोरंजन के लिए सबसे सुरक्षित बनाने के लिए एक आक्रामक दृष्टिकोण अपना रहे हैं।
Leave a Reply
Your email address will not be published. Required fields are marked *
