चीन में आर्टिफिशियल इंटेलिजेंस (AI) आधारित चैटबॉट्स और वर्चुअल कंपैनियन की बढ़ती लोकप्रियता अब सरकार के लिए चिंता का विषय बनती जा रही है। आशंका जताई जा रही है कि कहीं लोग एआई के साथ भावनात्मक रूप से इतने जुड़ न जाएं कि वास्तविक रिश्तों से दूरी बनाने लगें या मानसिक रूप से प्रभावित हों। इसी खतरे को देखते हुए चीनी सरकार ऐसे नए नियम लाने की तैयारी में है, जिनका उद्देश्य लोगों की एआई पर भावनात्मक निर्भरता को सीमित करना होगा।

पिछले कुछ समय में एआई चैटबॉट्स केवल सवाल-जवाब देने वाले डिजिटल टूल नहीं रह गए हैं। कई प्लेटफॉर्म उन्हें वर्चुअल दोस्त, पढ़ाई में मददगार साथी, डिजिटल गर्लफ्रेंड या बॉयफ्रेंड और व्यक्तिगत साथी के रूप में पेश कर रहे हैं। विशेषज्ञों का मानना है कि कुछ उपयोगकर्ता इन एआई कंपैनियनों के साथ इस हद तक जुड़ जाते हैं कि उनका भावनात्मक संतुलन प्रभावित होने लगता है। इसी वजह से सरकार अब इस पूरे क्षेत्र के लिए सख्त दिशा-निर्देश तैयार कर रही है।

नियम लागू होने से पहले ही कंपनियों ने बदली रणनीति

नई गाइडलाइन लागू होने से पहले ही चीन की प्रमुख टेक कंपनियों ने अपने एआई प्लेटफॉर्म में बदलाव शुरू कर दिए हैं। मीडिया रिपोर्ट्स के मुताबिक, बाइटडांस और अलीबाबा जैसी कंपनियों ने उन सुविधाओं को बंद करने का फैसला किया है, जिनके जरिए उपयोगकर्ता एआई कंपैनियन को अपनी पसंद के अनुसार तैयार कर लंबे समय तक व्यक्तिगत बातचीत कर सकते थे।

बाइटडांस ने अपने ग्राहकों को जानकारी दी है कि उसका कस्टम एआई पर्सोना फीचर 15 जुलाई से बंद कर दिया जाएगा। जिन उपयोगकर्ताओं को इसी तरह का अनुभव चाहिए होगा, उन्हें कंपनी के अलग कंपैनियन-केंद्रित ऐप की ओर भेजा जाएगा।

वहीं अलीबाबा ने भी घोषणा की है कि वह अपने एआई मॉडल Qwen से इस प्रकार की व्यक्तिगत कंपैनियन सुविधा हटाने जा रही है। इसके अलावा Tencent समेत कई अन्य एआई कंपनियों ने भी संकेत दिए हैं कि वे संभावित सरकारी नियमों को ध्यान में रखते हुए अपने प्लेटफॉर्म में आवश्यक बदलाव करेंगी।

भावनात्मक रिश्तों की नकल करने वाले एआई पर होगी सख्ती

चीनी प्रशासन का मानना है कि वे एआई सेवाएं, जो इंसानों जैसी भावनाएं व्यक्त करती हैं या रिश्तों का आभास कराती हैं, लोगों पर गहरा मनोवैज्ञानिक प्रभाव डाल सकती हैं। यही कारण है कि सरकार विशेष रूप से उन एआई कंपैनियन सेवाओं पर सख्त निगरानी रखने की योजना बना रही है, जो उपयोगकर्ताओं के साथ भावनात्मक संबंध बनाने की कोशिश करती हैं।

अधिकारियों के अनुसार, जब कोई एआई सिस्टम वास्तविक साथी जैसा व्यवहार करता है, तो कई लोग उससे भावनात्मक रूप से जुड़ने लगते हैं। यह स्थिति विशेष रूप से किशोरों और युवा उपयोगकर्ताओं के लिए अधिक जोखिमपूर्ण मानी जा रही है। सरकार का कहना है कि एआई का उद्देश्य लोगों की सहायता करना होना चाहिए, न कि मानवीय रिश्तों का विकल्प बनना।

नए नियम लागू होने के बाद क्या होंगे बड़े बदलाव?

प्रस्तावित नियमों के तहत एआई कंपनियों को कई नई सीमाओं का पालन करना होगा। सरकार चाहती है कि तकनीक का उपयोग सुरक्षित और जिम्मेदारी के साथ किया जाए, ताकि उपयोगकर्ताओं पर उसका नकारात्मक मनोवैज्ञानिक प्रभाव न पड़े।

नए नियम लागू होने के बाद एआई कंपनियां ऐसा कंटेंट तैयार नहीं कर सकेंगी, जिससे विशेष रूप से किशोर उपयोगकर्ताओं में अत्यधिक भावनात्मक प्रतिक्रिया या मानसिक निर्भरता पैदा होने की आशंका हो।

ऐसे एआई टूल विकसित करने पर भी रोक लगाने की तैयारी है, जो वास्तविक मानवीय रिश्तों को कमजोर कर लोगों को तकनीक पर भावनात्मक रूप से अधिक निर्भर बना दें।

इसके अलावा कंपनियां अपने एआई मॉडल को प्रशिक्षित करने के लिए उपयोगकर्ताओं और चैटबॉट्स के बीच हुई निजी या संवेदनशील बातचीत का इस्तेमाल भी नहीं कर सकेंगी।

सरकार का मानना है कि इन प्रस्तावित नियमों के जरिए एआई तकनीक के उपयोग और उपयोगकर्ताओं की भावनात्मक सुरक्षा के बीच संतुलन बनाया जा सकेगा। आने वाले समय में यह देखना दिलचस्प होगा कि चीन की यह पहल वैश्विक एआई उद्योग और अन्य देशों की नीतियों को किस तरह प्रभावित करती है।