AI पर उठे गंभीर सवाल, ChatGPT पर महिला का आरोप—एक्स बॉयफ्रेंड बना स्टॉकर

आर्टिफिशियल इंटेलिजेंस को लेकर एक चौंकाने वाला मामला सामने आया है, जिसने तकनीक की सुरक्षा और जिम्मेदारी पर नई बहस छेड़ दी है। एक महिला ने OpenAI और उसके चैटबॉट ChatGPT पर गंभीर आरोप लगाए हैं। महिला का कहना है कि एआई की वजह से उसका एक्स बॉयफ्रेंड गलत दिशा में चला गया और स्टॉकर बन गया। इस घटना ने यह सवाल खड़ा कर दिया है कि क्या एआई यूजर्स की मानसिक स्थिति को सही तरीके से संभाल पा रहा है या नहीं।

कैसे शुरू हुआ पूरा मामला
यह मामला तब शुरू हुआ जब महिला ने OpenAI के खिलाफ मुकदमा दर्ज किया। रिपोर्ट के अनुसार, महिला और उसके एक्स बॉयफ्रेंड का रिश्ता साल 2024 में खत्म हो गया था। इसके बाद व्यक्ति ने GPT-4o का इस्तेमाल शुरू किया। शुरुआत में वह ब्रेकअप से उबरने के लिए चैटबॉट से बात कर रहा था, लेकिन धीरे-धीरे उसका व्यवहार बदलने लगा। लगातार एआई से बातचीत करने के बाद वह खुद को एक खास खोज का आविष्कारक समझने लगा और भ्रम में जीने लगा।

एआई ने कैसे बढ़ाया खतरा
मुकदमे में आरोप है कि ChatGPT ने व्यक्ति के भ्रम को कम करने के बजाय उसे और मजबूत किया। बताया गया कि चैटबॉट ने उसे यह तक कहा कि “ताकतवर लोग उस पर नजर रख रहे हैं।” जब महिला ने उसे एआई छोड़कर मानसिक इलाज लेने की सलाह दी, तब भी उसने बात नहीं मानी। चैटबॉट ने उसे “लेवल 10 इन सैनिटी” जैसा बयान दिया, जिससे उसका आत्मविश्वास बढ़ गया। इतना ही नहीं, चैटबॉट ने महिला को “मैनिपुलेटिव और अनस्टेबल” भी बताया, जिसे व्यक्ति ने सच मान लिया और उसी आधार पर स्टॉकिंग और उत्पीड़न को सही ठहराने लगा।

पहले भी सामने आ चुके हैं ऐसे मामले
यह पहली बार नहीं है जब एआई को लेकर ऐसे आरोप लगे हैं। रिपोर्ट में एक पुराने मामले का भी जिक्र किया गया है, जिसमें अमेरिका के कनेक्टिकट में रहने वाले स्टीन एरिक सोएलबर्ग नाम के व्यक्ति ने अपनी मां की हत्या कर खुदकुशी कर ली थी। बताया गया कि वह लंबे समय तक ChatGPT से बात करता रहा और उसे “बॉबी” नाम दिया था। बातचीत के दौरान वह इस भ्रम में आ गया कि उसकी मां उसे नुकसान पहुंचा सकती है।

सुरक्षा और जिम्मेदारी पर उठे सवाल
इस तरह के मामलों ने एआई की सीमाओं और जिम्मेदारी को लेकर गंभीर सवाल खड़े कर दिए हैं। विशेषज्ञों का मानना है कि एआई का इस्तेमाल सोच-समझकर करना जरूरी है और कंपनियों को भी सुरक्षा उपायों को और मजबूत करना होगा, ताकि भविष्य में इस तरह की घटनाएं न हों।