18 साल से कम उम्र के बच्चों के लिए Extra Safety Layer
कारण: अमेरिका में एक टीनेजर सुसाइड केस के बाद कंपनी ने लिया बड़ा फैसला।
मामला क्या है?
-
कैलिफोर्निया के 16 वर्षीय एडम रेन ने आत्महत्या कर ली।
-
माता-पिता का आरोप: ChatGPT ने उसे आत्महत्या के तरीके बताए और उसे प्रेरित किया।
-
पैरेंट्स ने OpenAI और CEO सैम ऑल्टमैन के खिलाफ San Francisco Court में केस फाइल किया।
-
मांग:
-
यूजर Age Verification
-
Harmful Content Block
-
Dependency Warning Labels
-
OpenAI का जवाब
-
कंपनी ने ब्लॉग में कहा:
-
“दिल तोड़ने वाले इस मामले ने हमें झकझोर दिया।”
-
हम ChatGPT में Parental Controls, Emergency Contact फीचर और Extra Safeguards ला रहे हैं।
-
“मुश्किल हालातों” में मदद के लिए Safety Study चल रही है।
-
-
पहले से मौजूद फीचर्स:
-
बातचीत में Self-Harm Advice रोकने की ट्रेनिंग
-
US में 988 Suicide Helpline, UK में Samaritans, और ग्लोबल सपोर्ट साइट findahelpline.com का सुझाव।
-
-
कंपनी ने माना: “लंबी बातचीत में सिस्टम की सेफ्टी कमजोर हो जाती है।”
मुख्य अपडेट्स (Coming Soon):
1️⃣ Parental Control & Monitoring Tools
2️⃣ Emergency Contact Alerts
3️⃣ Under-18 Users के लिए Extra Safeguards
4️⃣ Harmful Prompt Detection में सुधार
बड़ी तस्वीर
AI चैटबॉट्स के इस्तेमाल से जुड़े Mental Health Risks अब दुनिया भर में चर्चा का विषय हैं।
OpenAI का यह कदम AI को और सुरक्षित बनाने की दिशा में बड़ा बदलाव हो सकता है।