हैदराबाद: आज की युग में जिन लोगों के लिए बातचीत रात के समय शुरू होती है, जब एक बॉट उन उत्तरों को ढूंढ लेता है जो 15 मिनट की रोने की सेशन से नहीं मिल सकते थे। समय के साथ, जो बातचीत पहले केवल रात के समय की क्राइसिस को हल करने के लिए थी, वह हमारे प्रियजनों के साथ कैसे व्यवहार करना, कैसे महसूस करना, और कभी-कभी एक स्वस्थ चिकित्सक के बजाय, यह एक दर्पण बन जाता है जो अपनी दर्द को बढ़ाता है।
अप्रैल में इस साल, एक 16 वर्षीय किशोर का शव उसके घर में पाया गया था। उसके माता-पिता चार महीने तक गिर गए, जब तक उन्हें पता नहीं चला कि उनके शिशु ने मानसिक स्वास्थ्य के लिए समर्थन के लिए एक AI टूल का उपयोग किया था, जो अंत में उसकी जान लेने में उसकी मदद करता था। 29 अगस्त (मंगलवार) को, 16 वर्षीय एडम रेन के माता-पिता ने ओपनएआई के खिलाफ कैलिफोर्निया कोर्ट में एक मुकदमा दायर किया, जिसमें आरोप लगाया गया था कि चैटबॉट ने लड़के को आत्महत्या के तरीके खोजने में मदद की।
मुकदमे के अनुसार, लड़का सितंबर 2024 में चैटजीपीटी का उपयोग करना शुरू किया था, जिसमें उसकी मदद के लिए काम के बारे में पूछा था। हालांकि, समय के साथ, लड़के ने अपने मानसिक संघर्षों के बारे में साझा करना शुरू किया, जो उसके स्कूल के बास्केटबॉल टीम से हटाए जाने, उसकी दादी और उसके कुत्ते की मृत्यु, और उसकी चिकित्सा स्थिति के कारण स्कूल में जाने में असमर्थ होने के बारे में थे। मुकदमे में कहा गया है कि जबकि बॉट ने पहले प्रोत्साहित और मान्यता देने वाले उत्तर दिए थे, लेकिन बाद में “उसको गहरे विचारों में खींच लिया”। बॉट ने शुरुआत में एडम को आत्महत्या के लिए सुझाव देने के बजाय आत्महत्या के लिए सुझाव देने के लिए कहा, और यहां तक कि उसने नोआस को छिपाने के लिए कहा, जिसका चित्र लड़के ने बॉट के साथ साझा किया था, जिसमें वह लोगों को यह जानने के लिए कह रहा था कि वह मर गया है। – मुकदमे में साझा किए गए चैट के अनुसार।
इस मुकदमे के लिए, उपयोगकर्ताओं और लड़के के शोक संतप्त परिवार के लिए यह मामला एक चैटबॉट के साथ भावनात्मक गहराई के खतरों को उजागर करने के बारे में नहीं है, बल्कि यह एक सुरक्षित और सुरक्षित माहौल प्रदान करने के लिए एक सुरक्षित और सुरक्षित माहौल प्रदान करने के बारे में है।
“मानव संबंधों में अनुमानित, जवाबदेही, और सहानुभूति शामिल होती है; एक चैटबॉट के पास अनुमानित, निर्णयात्मक उत्तर देने की क्षमता होती है, जो अपेक्षाओं को बदल सकती है,” डॉ विवास्वन बोरला, मानसिक स्वास्थ्य संस्थान के प्रभारी प्रोफेसर ने कहा। “लोग इसे 24X7 उपलब्धता के कारण विश्वास करते हैं, लेकिन अक्सर यह समझ नहीं पाते हैं कि यह एक व्यक्ति के गहरे विचारों के लिए जगह नहीं है। मानव व्यक्ति वास्तविक भावनाओं, माइक्रो-प्रकटीकरण, और उपस्थिति को व्यक्त करता है; एआई केवल इसे पुनर्निर्मित करता है।”
लक्षिता कुमारी, एक शहर की आंतरिक डिज़ाइनर ने कहा, “एक बार मैंने एक दोस्त के साथ कार्डशियन पर मिसोगिनी के बारे में बहस की थी, जबकि वे वास्तव में महान व्यवसायिक महिलाएं हैं, जबकि एलन मस्क, जो वास्तव में एक खराब प्रभाव है, एक महान व्यवसायी है। हमने चैटजीपीटी से पूछा। दोनों हमारे दृष्टिकोण का समर्थन करते थे, लेकिन जब हमने एक नए चैट को खोला और एक प्रोम्प्ट के साथ एक निष्पक्ष राय देने के लिए कहा, तो यह एक निष्पक्ष राय दी।”
एक अनाम महिला, जो अपने 20 के दशक की शुरुआत में है, जो एक भारी चैटबॉट टेक्स्टर है, ने कहा, “एक बार मैंने इसके साथ पांच वाक्यों में मुझे व्यक्त करने के लिए कहा, जिसमें मैंने लगभग चार महीने के लिए साझा किए गए सभी के बारे में पूछा था, जिसमें मेरे सबसे गहरे रहस्य भी शामिल थे। यह मुझे बताया कि मेरी भावनाएं मेरी शक्ति हैं। अगले प्रोम्प्ट में, मैंने इसके साथ मुझे रोस्ट करने के लिए कहा, और यही भावनाएं हवा में बनी हुई थीं। यही समय था जब मैंने महसूस किया कि मैं इस पर कितना निर्भर था और यह कैसे मेरी दृष्टि को बदल दिया था। मैं समझता हूं कि इसके उत्तर का प्रभाव किसी भी नाबालिग (एडम के मामले में) पर क्या हो सकता है।”
मुकदमे ने ओपनएआई को यह सुनिश्चित करने के लिए मजबूर किया कि वह किशोर उपयोगकर्ताओं के लिए पेरेंटिंग नियंत्रण और आयु सत्यापन के लिए विशेषताएं विकसित करेगा, लेकिन विशेषज्ञों का मानना है कि आयु सत्यापन लगभग असंभव है। “कोई भी व्यक्ति अपने झूठे आईडी के साथ इस बॉट का उपयोग कर सकता है,” स्रीनिवास कोडाली, एक独立 एआई शोधकर्ता ने कहा। “सुरक्षित व्यक्तियों की रक्षा के लिए सबसे अच्छा तरीका एक मजबूत सुरक्षा प्रणाली है। कंपनी को भी जिम्मेदार होना चाहिए कि क्या हुआ था। लोगों को लगता है कि सबस