क्या AI वॉइस क्लोनिंग बच्चों के लिए सुरक्षित है? एक ईमानदार जवाब

पिछले दो साल में आपने AI वॉइस क्लोनिंग के बारे में जो भी पढ़ा होगा, वह शायद किसी ठगी की ख़बर रही होगी। फ़ोन पर किसी अपने की नक़ली आवाज़, घबराया हुआ रिश्तेदार, और पैसे ट्रांसफ़र। ये किस्से सच हैं और इनके पीछे की चिंता जायज़ है।

तो जब कोई कहानी सुनाने वाला ऐप आपकी आवाज़ रिकॉर्ड करने को कहे, तो झिझकना बिलकुल सही प्रतिक्रिया है। यह लेख उस सवाल का ढंग से जवाब देने की कोशिश है — उन हिस्सों समेत जो हमारे हक़ में नहीं जाते।

दो अलग सवालों को अलग कीजिए

"क्या वॉइस क्लोनिंग बच्चों के लिए सुरक्षित है" दरअसल एक ही चादर ओढ़े दो सवाल हैं।

क्या बच्चे का इसे सुनना सुरक्षित है? लगभग पूरी तरह हाँ। ऑडियो सुनाना बस ऑडियो सुनाना है। क्लोन की गई आवाज़ में गोल्डीलॉक्स सुनना बच्चे के लिए उससे ज़्यादा ख़तरनाक नहीं जितना आपकी अपनी रिकॉर्डिंग सुनना। न स्क्रीन, न एल्गोरिद्म से चलने वाली फ़ीड, न अपने आप शुरू हो जाने वाली अगली चीज़।

क्या बड़े का अपनी आवाज़ सौंपना सुरक्षित है? असली सवाल यही है, और इसका जवाब ध्यान से देना चाहिए।

असल में क्या ग़लत हो सकता है

गोल-मोल बात के बजाय ठोस बात करते हैं।

आपका वॉइस मॉडल लीक हो जाए या चोरी हो जाए। वॉइस मॉडल रिकॉर्डिंग से कहीं ज़्यादा "उठाकर ले जाने लायक़" चीज़ है — जिसके पास वह है, वह आपकी आवाज़ में नई बातें बनवा सकता है। ठगी वाली ख़बरों के पीछे यही ख़तरा है। यह उन बड़ों के लिए सबसे ज़्यादा मायने रखता है जिनकी आवाज़ से कोई चीज़ मंज़ूर होती है: फ़ोन बैंकिंग, दफ़्तर में वॉइस आईडी।

आपकी आवाज़ से कोई आम मॉडल प्रशिक्षित किया जाए। कुछ प्रदाता डिफ़ॉल्ट रूप से ग्राहकों के डेटा पर प्रशिक्षण करते हैं। इसका मतलब है कि आपकी आवाज़ के गुणों के टुकड़े ऐसे सिस्टम में पहुँच जाते हैं जो अजनबियों के काम आता है। ठगी नहीं, पर वह भी नहीं जिसके लिए आपने हामी भरी थी।

आप उसे वापस न ले पाएँ। जो ऐप "बंद" करने देता है पर सचमुच मिटाने नहीं देता, उसने कहानियों के बदले आपसे कुछ स्थायी ले लिया है।

कोई ऐसी आवाज़ क्लोन कर ले जिसका उसे हक़ नहीं था। बच्चा टीचर की रिकॉर्डिंग कर ले। कोई अपने पूर्व साथी की आवाज़ क्लोन कर ले। यह तकनीकी चूक नहीं है — नियमों की चूक है, और इस क्षेत्र के ऐप्स के पास साफ़ नियम होने चाहिए।

जिनकी चिंता होती है, पर जो होता नहीं

कुछ डर बार-बार सामने आते हैं जो तकनीक के काम करने के तरीक़े के सामने टिकते नहीं।

"AI अपने मन से कुछ भी गढ़कर मेरी आवाज़ में मेरे बच्चे को सुना देगा।" ऐसे ऐप में AI सुधार-सुधारकर बोलता नहीं। वह एक तय कहानी का पाठ सुनाता है। जहाँ कहानी लिखने वाला हिस्सा होता है भी, वह अलग से चलता है और ऐसी कहानी बनाता है जिसे किसी के सुनने से पहले आप पढ़ सकते हैं।

"मेरा बच्चा उलझ जाएगा कि यह सचमुच मैं हूँ या नहीं।" असल में बच्चे इसे बड़ों की उम्मीद से कहीं बेहतर सँभालते हैं। उन्हें पता होता है कि यह ऐप है। वे उस जानी-पहचानी आवाज़ पर प्रतिक्रिया देते हैं, इस विश्वास पर नहीं कि आप फ़ोन के अंदर छिपे हैं। उन्हें बता ज़रूर दीजिए कि यह क्या है — सच्चाई बच्चे के लिए निराशा नहीं, मज़े की बात होती है।

"मेरी आवाज़ के तीस सेकंड से मेरा बैंक खाता खुल जाएगा।" आवाज़ से पहचान वाली व्यवस्था वाक़ई उतनी मज़बूत नहीं जितनी होनी चाहिए, पर ज़्यादातर लोगों के लिए बड़ा जोखिम वह आवाज़ है जो वे खुलेआम सार्वजनिक करते हैं — वॉइसमेल का संदेश, सोशल मीडिया के वीडियो, दफ़्तर के वेबिनार। आपके अपने नियंत्रण में एक ऐप के भीतर पड़ा एक नमूना, एक खुले इंस्टाग्राम अकाउंट से छोटा ख़तरा है।

किसी भी ऐप से पूछने लायक़ सवाल

आप कोई भी प्रोडक्ट चुनें, इन पाँच सवालों के जवाब मिलने चाहिए, और ठोस मिलने चाहिए:

1. रिकॉर्डिंग प्रोसेस कौन करता है? नाम लेकर बताया गया प्रदाता, "हमारे AI साझेदार" नहीं।
2. क्या मेरी आवाज़ से उनके मॉडल प्रशिक्षित होते हैं? जवाब "नहीं" होना चाहिए।
3. क्या मैं इसे मिटा सकता हूँ — रिकॉर्डिंग और उससे बना मॉडल, दोनों? ऐप के भीतर से, सपोर्ट को ईमेल किए बिना।
4. कुछ न करूँ तो यह कब तक रखा जाता है? एक प्रकाशित समय-सीमा, "जब तक ज़रूरी हो" नहीं।
5. किसकी आवाज़ क्लोन करने की इजाज़त है, इसके नियम क्या हैं? यहाँ चुप्पी का मतलब है कि किसी ने इस पर सोचा ही नहीं।

अगर किसी गोपनीयता नीति में AI की बात सिर्फ़ आम शब्दों में हो जबकि पूरा प्रोडक्ट ही वॉइस क्लोनिंग हो, तो वह ख़ालीपन आपको कुछ बता रहा है।

Taletune कहाँ खड़ा है

अपनी ही कसौटी पर:

प्रोसेसिंग। वॉइस क्लोनिंग और आवाज़ बनाने का काम ElevenLabs करता है। आपकी रिकॉर्डिंग इसी काम के लिए उन तक भेजी जाती है। हम अपनी गोपनीयता नीति में उनका नाम लेते हैं, किसी श्रेणी के पीछे नहीं छिपते।

प्रशिक्षण। आपकी आवाज़ से आपकी वॉइस प्रोफ़ाइल बनती है। हम प्रदाताओं को इसकी इजाज़त नहीं देते कि वे अपने मक़सद के लिए इस पर अपने मॉडल प्रशिक्षित करें।

मिटाना। प्रोफ़ाइल स्क्रीन से आप किसी भी वॉइस प्रोफ़ाइल को जब चाहें मिटा सकते हैं। मिटाने पर रिकॉर्डिंग हट जाती है और ElevenLabs को मॉडल हटाने का निर्देश चला जाता है। खाता मिटाने पर सब कुछ हट जाता है, और यह ऐप के अलावा वेबसाइट से भी किया जा सकता है।

कब तक रखा जाता है। कोई भी वॉइस रिकॉर्डिंग या मॉडल आपके आख़िरी इस्तेमाल के तीन साल से ज़्यादा नहीं रखा जाता, और मक़सद पूरा होते ही उससे पहले ही हटा दिया जाता है।

नियम। हमारी शर्तें ख़ुद के अलावा किसी और की आवाज़ से वॉइस प्रोफ़ाइल बनाने से रोकती हैं, सिवाय तब जब वह व्यक्ति बालिग़ हो और उसने साफ़ हामी भरी हो — और बच्चों तथा मशहूर हस्तियों की आवाज़ क्लोन करने पर पूरी तरह रोक है।

बच्चे। बच्चों के खाते नहीं होते। बच्चे के नाम की कहानी वाला फ़ीचर इस्तेमाल करें तो आप एक पहला नाम और उम्र का दायरा लिख सकते हैं; उसका इस्तेमाल सिर्फ़ कहानी बनाने में होता है, और कहीं नहीं। असली नाम लिखना ज़रूरी नहीं है।

जिसका वादा हम नहीं कर सकते

सुरक्षा का कोई दावा पूरी तरह पक्का नहीं होता, और जो कहे कि होता है वह कुछ बेच रहा है। हम आपको बता सकते हैं कि हम क्या करते हैं, डेटा किसे भेजते हैं, और उसे कैसे हटाया जाए। हम यह वादा नहीं कर सकते कि किसी बाहरी प्रदाता के साथ कभी कोई घटना नहीं होगी।

हम इतना ज़रूर कह सकते हैं कि इस सिस्टम में आपका जितना डेटा पड़ा है वह जानबूझकर बहुत कम रखा गया है: एक ईमेल पता, एक वॉइस प्रोफ़ाइल जो आपके नियंत्रण में है, और जो कुछ आपने ख़ुद किसी कहानी में लिखा।

एक व्यावहारिक बीच का रास्ता

अगर आपको फ़ायदा भी चाहिए और जोखिम कम से कम भी रखना है:

• शांत कमरे में रिकॉर्ड कीजिए ताकि एक अच्छा नमूना ही काम कर जाए — बार-बार कोशिशें करके इधर-उधर बिखरी रिकॉर्डिंग न छोड़नी पड़ें।
• बच्चे के नाम की कहानियों में सिर्फ़ पहला नाम या घर का नाम इस्तेमाल कीजिए।
• अगर ठीक लगे तो दौरा ख़त्म होते ही वॉइस प्रोफ़ाइल मिटा दीजिए। दोबारा रिकॉर्ड करने में एक मिनट लगता है।
• रिश्तेदारों की प्रोफ़ाइल उनसे पूछे बिना मत बनाइए।

और एक विकल्प हमेशा मौजूद है: वॉइस प्रोफ़ाइल बनाइए ही मत। कहानियाँ डिफ़ॉल्ट सुनाने वाली आवाज़ में चलती हैं। ऐप की जो चीज़ ख़ास है वह छूट जाती है, पर बाक़ी सब वैसे ही चलता है।

ईमानदार निचोड़

सुनने वाले बच्चे के लिए यह तकनीक सुरक्षित है। बड़े के लिए सवाल यह है कि आप किसी कंपनी पर अपनी बायोमेट्रिक पहचान के मामले में भरोसा करते हैं या नहीं — इस बारे में सावधान रहना वाजिब है, और इसका जवाब मार्केटिंग पेज नहीं, सामने रखी नीति पढ़कर देना चाहिए।

हमने कोशिश की है कि हमारी नीति का जवाब दिया जा सके। उसमें कुछ अस्पष्ट लगे तो हमें लिखिए।

अगर आपको लगे कि यह करने लायक़ है, तो Taletune iOS और Android पर मुफ़्त है।