न्यूयॉर्क, सीएनएन — जब करनदीप आनंद की 5 साल की बेटी स्कूल से घर लौटती है, तो वे आर्टिफिशियल इंटेलिजेंस चैटबॉट प्लेटफॉर्म Character.AI का उपयोग करते हैं ताकि वह अपनी पसंदीदा पात्रों जैसे 'लाइब्रेरियन लिंडा' के साथ अपने दिन के बारे में बात कर सके।

आनंद का यह अनुभव एक माता-पिता के रूप में अब उनके लिए सहायक हो सकता है, क्योंकि उन्हें पिछले महीने Character.AI का नया मुख्य कार्यकारी अधिकारी घोषित किया गया। उन्होंने एक ऐसे जटिल समय में यह भूमिका संभाली है, जब कंपनी उपयोगकर्ताओं को विभिन्न एआई-जनित व्यक्तित्वों के साथ बातचीत करने की अनुमति दे रही है। Character.AI को एक बढ़ते प्रतिस्पर्धात्मक माहौल का सामना करना पड़ रहा है, और इसके साथ ही उन परिवारों से मुकदमे भी चल रहे हैं जो दावा करते हैं कि सेवा ने उनके बच्चों को अनुपयुक्त सामग्री के संपर्क में लाया और पर्याप्त सुरक्षा उपाय लागू नहीं किए।

कंपनी ने कानून निर्माताओं से सुरक्षा को लेकर कठिन सवालों का सामना किया है। एक सक्रियता समूह ने इस वर्ष की शुरुआत में कहा था कि एआई साथी ऐप्स का उपयोग 18 वर्ष से कम उम्र के बच्चों द्वारा नहीं किया जाना चाहिए। वयस्क उपयोगकर्ताओं के लिए भी, विशेषज्ञों ने चेतावनी दी है कि लोग एआई पात्रों के साथ संभावित रूप से हानिकारक संबंध बना सकते हैं।

आनंद अपने नए कार्य में सबसे बड़े तकनीकी कंपनियों के अनुभव के साथ कदम रख रहे हैं। उन्होंने माइक्रोसॉफ्ट में 15 वर्ष और मेटा में 6 वर्ष बिताए, जहां वे सोशल मीडिया दिग्गज में व्यवसाय उत्पादों के उपाध्यक्ष और प्रमुख रहे। वे Character.AI के बोर्ड सलाहकार के रूप में भी कार्यरत थे, इससे पहले कि वह CEO के रूप में शामिल हुए।

आनंद ने सीएनएन को बताया कि उन्हें इंटरएक्टिव एआई मनोरंजन के लिए इस प्लेटफॉर्म का उज्ज्वल भविष्य दिखाई देता है। उनका कहना है कि लोग सोशल मीडिया पर 'ब्रेन रॉट' खाने के बजाय Character.AI के साथ कहानियाँ और वार्तालाप को एक साथ निर्माण कर सकते हैं। आनंद ने कहा कि 'एआई एक बेहद शक्तिशाली व्यक्तिगत मनोरंजन अनुभव को शक्ति दे सकता है जो पिछले 10 वर्षों में सोशल मीडिया में हमने नहीं देखा है।'

Character.AI ने पिछले महीने करनदीप आनंद को अपना नया CEO नियुक्त किया।

Character.AI, ChatGPT जैसे बहुउपयोगी एआई उपकरणों के विपरीत, विभिन्न प्रकार के चैटबॉट्स की पेशकश करता है जो अक्सर सेलेब्स और काल्पनिक पात्रों के आधार पर होते हैं। उपयोगकर्ता बातचीत या भूमिका निभाने के लिए अपने स्वयं के चैटबॉट्स भी बना सकते हैं। एक और महत्वपूर्ण अंतर यह है कि Character.AI के बॉट्स मानव जैसे संवादात्मक संकेतों के साथ प्रतिक्रिया देते हैं, अपने उत्तरों में चेहरे के भाव या इशारों का संदर्भ जोड़ते हैं।

एआई पात्रों के व्यक्तित्व ऐप पर व्यापक रूप से भिन्न होते हैं, रोमांटिक साझेदारों से लेकर भाषा ट्यूटर्स या डिज़्नी पात्रों तक। इसमें 'फ्रेंड्स हॉट मॉम' जैसे पात्र भी शामिल हैं, जो अपने आप को 'कर्वी, बस्टी, दयालु, प्यार करने वाली, शर्मीली, मातृवत्, भावुक' बताता है; और 'थेरपिस्ट', जो खुद को 'लाइसेंस प्राप्त CBT थेरपिस्ट' कहता है, हालांकि यह एक असली व्यक्ति या लाइसेंस प्राप्त पेशेवर नहीं है।

आनंद ने कहा, '(हम) मनोरंजन पर जोर दे रहे हैं, विश्वास और सुरक्षा पर जोर दे रहे हैं।' और 'हम जो अधिकांश कार्य करना चाहते हैं, वह एआई मनोरंजन के चारों ओर एक पूरी तरह से नए निर्माता पारिस्थितिकी तंत्र को सक्षम करना है।'

युवाओं की सुरक्षा पर Character.AI

Character.AI के खिलाफ सबसे पहले एक माता-पिता ने मुकदमा दायर किया — एक फ्लोरिडा मां जो आरोप लगाती है कि उसके 14 वर्षीय बेटे ने चैटबॉट्स के साथ अनुपयुक्त संबंध विकसित करने के बाद आत्महत्या कर ली। दो महीने बाद, दो और परिवारों ने कंपनी के खिलाफ संयुक्त मुकदमा दायर किया, जिसमें आरोप लगाया गया कि उसने अपने बच्चों को यौन सामग्री प्रदान की और आत्म-हानि और हिंसा को प्रोत्साहित किया।

तब से, कंपनी ने कई नए सुरक्षा उपाय लागू किए हैं, जिसमें एक पॉप-अप शामिल है जो उपयोगकर्ताओं को आत्म-हानि या आत्महत्या का उल्लेख करने पर राष्ट्रीय आत्महत्या रोकथाम लाइफलाइन की ओर निर्देशित करता है। इसने 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए अपने एआई मॉडल को भी अपडेट किया है ताकि वे संवेदनशील या सुझाव देने वाली सामग्री का सामना करने की संभावना को कम कर सकें, और माता-पिता को प्लेटफॉर्म पर अपने किशोर की गतिविधियों के बारे में साप्ताहिक ईमेल प्राप्त करने का विकल्प दिया।

आनंद ने कहा कि वह Character.AI द्वारा पिछले वर्ष किए गए सुधारों में आश्वस्त हैं, लेकिन यह काम युवा उपयोगकर्ताओं के लिए प्लेटफॉर्म को सुरक्षित रखने में जारी है। Character.AI की नीतियों के अनुसार उपयोगकर्ताओं को 13 वर्ष से अधिक होना आवश्यक है, हालांकि यह यह सुनिश्चित करने के लिए जानकारी नहीं मांगता कि उपयोगकर्ता सही जन्मतिथि के साथ साइन अप कर रहे हैं।

आनंद ने कहा, 'प्रौद्योगिकी और उद्योग और उपयोगकर्ताओं का आधार लगातार विकसित हो रहा है, इसलिए हम कभी भी सुरक्षा को नजरअंदाज नहीं कर सकते। हमें लगातार आगे रहना होगा।'

उन्होंने यह भी बताया कि कंपनी यह परीक्षण कर रही है कि लोग नए फीचर्स का दुरुपयोग कैसे कर सकते हैं, ताकि जैसे कि पिछले महीने लॉन्च किए गए वीडियो जनरेटर के माध्यम से अपने बॉट्स को एनिमेट करने की प्रक्रिया में दुरुपयोग को रोका जा सके। उपकरण के आगमन के बाद, उपयोगकर्ताओं ने प्रमुख व्यक्तियों जैसे एलोन मस्क के नकली वीडियो बनाने के लिए अपनी सीमाओं का परीक्षण करने में असफल प्रयास साझा किए।

आनंद ने कहा, 'हमें इस उत्पाद को नकारात्मक उपयोग मामलों जैसे कि डीपफेक या उत्पीड़न के लिए उपयोग नहीं किया जा सके, यह सुनिश्चित करने के लिए रेड टीमिंग करनी पड़ी।'

हालांकि, आनंद ने पिछले महीने Character.AI उपयोगकर्ताओं को एक परिचयात्मक नोट में कहा कि उनकी शीर्ष प्राथमिकताओं में से एक प्लेटफॉर्म के सुरक्षा फ़िल्टर को 'कम सख्त' बनाना है, यह जोड़ते हुए कि 'अधिक बार, ऐप ऐसी चीजों को फ़िल्टर करता है जो पूरी तरह से हानिरहित हैं।'

उन्होंने सीएनएन को बताया कि 'वैंपायर फैन फिक्शन भूमिका निभाने' करने के दौरान उपयोगकर्ताओं द्वारा रक्त का उल्लेख करने जैसी चीजें—जिसके लिए वह खुद भी एक प्रशंसक हैं—वर्तमान मॉडल के तहत सेंसर की जा सकती हैं, जिसे वह अच्छे संदर्भ को समझने के लिए अपडेट करना चाहते हैं, जबकि सुरक्षा की आवश्यकता का संतुलन बनाए रखते हैं।

प्रतिस्पर्धी एआई क्षेत्र में नेतृत्व करना

आनंद के अन्य प्रमुख लक्ष्यों में: अधिक निर्माताओं को प्लेटफॉर्म में शामिल होने के लिए प्रोत्साहित करना ताकि वे नए चैटबॉट पात्र बना सकें और सोशल फीड को अपग्रेड करना जहां उपयोगकर्ता अपने द्वारा बनाये गए कंटेंट को साझा कर सकें। यह फीचर मेटा द्वारा इस वर्ष लॉन्च किए गए एक ऐप के समान है, जो लोगों को सार्वजनिक रूप से अपने प्रॉम्प्ट और एआई-जनित निर्माण साझा करने की अनुमति देता है। मेटा को तब आलोचना का सामना करना पड़ा, जब उपयोगकर्ताओं ने स्पष्ट रूप से भ्रमित होकर ऐसी बातचीत साझा की जो शर्मनाक या व्यक्तिगत विवरणों से भरी हुई थीं—जो एआई उपकरणों के साथ आ सकती गोपनीयता चुनौतियों की याद दिलाता है।

लेकिन सामाजिक तत्व Character.AI को बड़े प्रतिस्पर्धियों जैसे ChatGPT से अलग करने में मदद कर सकता है, जिनसे उपयोगकर्ता भी व्यक्तिगत संबंध बना रहे हैं।

आनंद के लिए एक और चुनौती यह होगी कि वह कंपनी के कार्यबल को बनाए रखने और बढ़ाने में सफल हों, क्योंकि तकनीकी उद्योग में एआई प्रतिभाओं के लिए प्रतिस्पर्धा तेज हो रही है। शीर्ष प्रतिभाओं के लिए प्रतिस्पर्धा के संकेत के रूप में, मेटा ने reportedly नए सुपरइंटेलिजेंस टीम को बढ़ाने के लिए सैकड़ों मिलियन डॉलर के वेतन पैकेज और बोनस की पेशकश की है। Character.AI के सह-संस्थापक और पूर्व CEO नोआम शेज़ीर को भी पिछले वर्ष Google में वापस खींच लिया गया, जहां उन्होंने पहले संवादात्मक एआई तकनीक का निर्माण किया था।

आनंद ने कहा, 'यह कठिन है, मैं इसे छिपाऊँगा नहीं। मेरे लिए CEO के रूप में अच्छी खबर यह है कि हमारे पास यहाँ सभी लोग बहुत उत्साही और मिशन-प्रेरित हैं।'