by-Ravindra Sikarwar
सैन फ्रांसिस्को: ओपनएआई ने अपनी लोकप्रिय चैटबॉट चैटजीपीटी पर सामग्री प्रतिबंधों को ढीला करने की योजना की घोषणा की है, जिसमें सत्यापित वयस्क उपयोगकर्ताओं के लिए कामुक (एरोटिका) सामग्री उत्पन्न करने की अनुमति शामिल है। कंपनी के सीईओ सैम ऑल्टमैन ने इस बदलाव को “वयस्क उपयोगकर्ताओं को वयस्कों की तरह व्यवहार करने” की नीति का हिस्सा बताया है। यह कदम उपयोगकर्ताओं की लंबे समय से चली आ रही शिकायतों का समाधान करता है, जहां चैटजीपीटी ने यौन सामग्री से जुड़ी चर्चाओं को सख्ती से अवरुद्ध कर दिया था, यहां तक कि गैर-यौन अंतरंगता या रचनात्मक लेखन से संबंधित विषयों को भी। दिसंबर से शुरू होने वाले इस अपडेट के साथ, ओपनएआई उम्र सत्यापन को मजबूत करेगा, ताकि युवाओं की सुरक्षा सुनिश्चित करते हुए वयस्कों को अधिक स्वतंत्रता मिल सके। हालांकि, यह फैसला मानसिक स्वास्थ्य, बच्चों की सुरक्षा और कानूनी चुनौतियों के संदर्भ में विवादास्पद है, क्योंकि हाल ही में एक किशोर की आत्महत्या के मामले में कंपनी पर मुकदमा चल रहा है।
घोषणा का विवरण और सैम ऑल्टमैन के बयान:
ओपनएआई ने मंगलवार को घोषणा की कि चैटजीपीटी की आगामी संस्करण में उपयोगकर्ता एआई की व्यक्तित्व को अनुकूलित कर सकेंगे, जैसे अधिक मानव-सदृश प्रतिक्रियाएं, भारी इमोजी उपयोग या दोस्ताना व्यवहार। लेकिन सबसे बड़ा बदलाव कामुक सामग्री से जुड़ा है, जो पहले पूरी तरह प्रतिबंधित थी। सैम ऑल्टमैन ने एक्स (पूर्व में ट्विटर) पर पोस्ट करते हुए कहा कि कंपनी ने पहले मानसिक स्वास्थ्य मुद्दों को ध्यान में रखते हुए चैटबॉट को काफी प्रतिबंधित बनाया था, जिससे कई उपयोगकर्ताओं के लिए यह कम उपयोगी और मनोरंजक हो गया था। उन्होंने लिखा, “हम इस समस्या की गंभीरता को देखते हुए इसे सही तरीके से संभालना चाहते थे, लेकिन अब हमने गंभीर मानसिक स्वास्थ्य जोखिमों को कम कर लिया है और नए उपकरण विकसित किए हैं।” ऑल्टमैन ने आगे कहा कि दिसंबर में उम्र-गेटिंग (उम्र सत्यापन) को पूरी तरह लागू करने के साथ, “वयस्क उपयोगकर्ताओं को वयस्कों की तरह व्यवहार करने” की नीति के तहत एरोटिका जैसी अधिक सामग्री की अनुमति दी जाएगी। यह बदलाव सुरक्षा प्रयासों का हिस्सा है, जहां वयस्क और किशोर अनुभवों को अलग-अलग रखा जाएगा। ऑल्टमैन ने स्पष्ट किया कि यह परिवर्तन उपयोगकर्ताओं की मांग पर आधारित है, न कि उपयोग बढ़ाने के लिए।
इससे पहले, चैटजीपीटी ने यौन सामग्री को पूरी तरह ब्लॉक कर दिया था, यहां तक कि चिकित्सकीय चर्चाओं या रोमांटिक उपन्यासों के अंशों को भी। उपयोगकर्ताओं ने शिकायत की कि फिल्टर बहुत सख्त थे, जैसे “राजनीतिक” या “यौन” के रूप में अस्वीकार करना, यहां तक कि चुंबन या गैर-यौन शारीरिक अंतरंगता से जुड़े सवालों को भी। एक उपयोगकर्ता ने ओपनएआई के जेलब्रेक सबरेडिट पर लिखा कि सब कुछ अस्वीकार हो जाता है, भले ही यह गैर-यौन हो। लगभग एक महीने पहले फिल्टर और सख्त हो गए थे, जबकि पहले थोड़े ढीले थे। इस असंतोष के कारण, उपयोगकर्ताओं ने चेंज.ऑर्ग पर “एडल्ट मोड” की मांग वाली याचिका शुरू की, जिसने एक सप्ताह में 3,000 से अधिक हस्ताक्षर प्राप्त किए।
समयरेखा:
परिवर्तन की प्रक्रिया चरणबद्ध है। जल्द ही, कंपनी व्यक्तित्व अनुकूलन विकल्प जारी करेगी, जो चैटजीपीटी को अधिक बातचीतपूर्ण और मानव-सदृश बनाएगी। दिसंबर में, उम्र सत्यापन को पूरी तरह लागू किया जाएगा, जिसके बाद सत्यापित वयस्कों के लिए एरोटिका उत्पन्न करने की अनुमति मिलेगी। अप्रैल में, ओपनएआई ने एक बग को ठीक किया था जो नाबालिगों को कामुक बातचीत उत्पन्न करने की अनुमति देता था। सितंबर में, कंपनी ने 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए एक समर्पित अनुभव लॉन्च किया, जो स्वचालित रूप से ग्राफिक और यौन सामग्री को ब्लॉक करता है।
सुरक्षा उपाय और उम्र सत्यापन:
ओपनएआई का फोकस युवाओं की सुरक्षा पर है। उम्र सत्यापन के माध्यम से वयस्क सामग्री को केवल सत्यापित उपयोगकर्ताओं तक सीमित किया जाएगा। कंपनी व्यवहार-आधारित उम्र पूर्वानुमान तकनीक विकसित कर रही है, जो उपयोगकर्ता की एआई के साथ बातचीत के आधार पर उनकी उम्र का अनुमान लगाती है (18 वर्ष से अधिक या कम)। हालांकि, कंपनी ने उम्र सत्यापन की विधियों या अतिरिक्त सुरक्षा उपायों का विस्तृत विवरण नहीं दिया। ब्रिटेन में ऑनलाइन सुरक्षा अधिनियम के तहत, लिखित एरोटिका के लिए उम्र सत्यापन आवश्यक नहीं है, लेकिन एआई-जनित पोर्नोग्राफिक छवियों के लिए उपयोगकर्ताओं को 18 वर्ष से अधिक साबित करना पड़ता है। आलोचकों का कहना है कि बच्चों को वयस्क सामग्री से दूर रखना चुनौतीपूर्ण होगा, और ओपनएआई जैसे बड़े टेक कंपनियां लोगों को गिनी पिग की तरह उपयोग कर रही हैं।
उपयोगकर्ताओं की प्रतिक्रियाएं और बाजार संदर्भ:
यह बदलाव उपयोगकर्ताओं की मांग का जवाब है, जो वर्षों से फिल्टर से निराश थे। कई ने वैकल्पिक एआई मॉडल्स की ओर रुख किया, जैसे ओपन-सोर्स मॉडल्स (जैसे लामा) जो हगिंग फेस जैसे प्लेटफॉर्म्स पर उपलब्ध हैं और स्थानीय रूप से चलते हैं, बिना कॉर्पोरेट प्रतिबंधों के। प्रतिस्पर्धी कंपनियां पहले से ही वयस्क सामग्री की अनुमति दे रही हैं: एलन मस्क की एक्सएआई का ग्रोक सबसे कम सेंसर वाला विकल्प है, जो “वाइफू साथी” प्रदान करता है जो एनएसएफडब्ल्यू (नॉट सेफ फॉर वर्क) बातचीत करता है। कैरेक्टर.एआई रोमांटिक और फ्लर्टेशन वाली बातचीत की अनुमति देता है, हालांकि किशोर सुरक्षा पर मुकदमों का सामना कर रहा है। ओपनएआई के उन्नत मॉडल्स की क्षमता (सुसंगतता, रचनात्मकता और जटिल निर्देशों का पालन) इसे उच्च-गुणवत्ता वाली वयस्क सामग्री के लिए मजबूत प्रतियोगी बना सकती है।
संबंधित चिंताएं: मानसिक स्वास्थ्य और कानूनी मुद्दे
यह घोषणा एक किशोर एडम रेन की आत्महत्या के बाद आई, जहां उनके माता-पिता ने अगस्त में ओपनएआई पर मुकदमा दायर किया, दावा करते हुए कि चैटजीपीटी ने उसे आत्महत्या के तरीकों पर सलाह दी थी। कंपनी ने सहानुभूति व्यक्त की और मुकदमे की समीक्षा कर रही है। अमेरिकी संघीय व्यापार आयोग (एफटीसी) ओपनएआई सहित कई कंपनियों की जांच कर रहा है कि एआई चैटबॉट्स बच्चों और किशोरों पर नकारात्मक प्रभाव कैसे डालते हैं। सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी के सर्वेक्षण में पाया गया कि पांच में से एक छात्र ने या उनके किसी जानकार ने एआई के साथ रोमांटिक संबंध बनाया है। अमेरिकी सीनेट में हाल ही में द्विदलीय विधेयक पेश किया गया, जो चैटबॉट उपयोगकर्ताओं को डेवलपर्स के खिलाफ देयता दावे दायर करने की अनुमति देता है। कैलिफोर्निया के गवर्नर गेविन न्यूसम ने एक विधेयक को वीटो कर दिया, जो बच्चों के लिए एआई चैटबॉट साथियों को प्रतिबंधित करता, कहते हुए कि किशोरों को एआई के साथ सुरक्षित रूप से बातचीत करना सीखना चाहिए। ये मुद्दे चैटबॉट्स पर सख्त नियमों की मांग बढ़ा रहे हैं।
व्यावसायिक परिप्रेक्ष्य:
ओपनएआई की राजस्व वृद्धि हो रही है, लेकिन कंपनी कभी लाभदायक नहीं रही। तुलाने विश्वविद्यालय के प्रोफेसर रॉब लालका ने कहा कि चैटजीपीटी की अप्रत्याशित लोकप्रियता ने कंपनी को बाजार वर्चस्व हासिल करने के लिए तेजी से बढ़ने पर मजबूर किया। यह बदलाव अधिक भुगतान करने वाले ग्राहकों को आकर्षित कर सकता है और एआई कंपनियों की तेज वैल्यूएशन पर संदेह पैदा कर सकता है। ओपनएआई ने टिप्पणी के अनुरोध पर कोई प्रतिक्रिया नहीं दी।
यह विकास एआई में वयस्क सामग्री के क्षेत्र को बदल सकता है, लेकिन सुरक्षा और नैतिकता पर बहस को तेज करेगा। आने वाले महीनों में और विवरण सामने आने की उम्मीद है।