रिपोर्ट: आशीष

ट्रेंड क्या है और Google Gemini Nano सच में करता क्या है?

पिछले कुछ दिनों में सोशल मीडिया पर AI साड़ी ट्रेंड वायरल है। फीड में ऐसे वीडियो और रील्स भरे पड़े हैं जहां लोग एक वेबसाइट या ऐप पर फोटो अपलोड करते हैं और कुछ मिनट में ‘साड़ी’ पहने अपनी एआई जनरेटेड तस्वीर दिखाते हैं। कई पोस्ट इसे “Google Gemini Nano” या “Banana AI saree” जैसे चर्चित नामों से जोड़कर पेश कर रही हैं, ताकि भरोसा बढ़े और क्लिक मिलें।

यहां वास्तविकता साफ कर लें—Google का Gemini एक एआई मॉडल फैमिली है, लेकिन ‘Gemini Nano’ फोन के भीतर चलने वाला छोटा ऑन-डिवाइस मॉडल है। इसका इस्तेमाल चुनिंदा Pixel फोन में रेकॉर्डर समरी जैसे फीचर्स के लिए होता है। यह कोई पब्लिक इमेज-जनरेशन टूल नहीं है, न ही Google ने “साड़ी फिल्टर” जैसा कोई आधिकारिक फीचर जारी किया है। यानी “Gemini Nano से साड़ी फोटो बनाइए” जैसे दावे भ्रामक हैं।

वायरल साइट्स और ऐप्स ज्यादातर थर्ड-पार्टी एआई मॉडल्स का इस्तेमाल करती हैं। इनके सर्वर कहां हैं, डेटा कितने समय तक रखा जाता है, और फोटो किस मकसद से दोबारा इस्तेमाल होंगे—यह सब अस्पष्ट रहता है। कई प्लेटफॉर्म “फ्री ट्रायल” दिखाते हैं पर हाई-रेज़ोल्यूशन डाउनलोड के लिए भुगतान, लॉगिन या व्यापक परमिशन मांगते हैं। यही जगह जोखिम बढ़ाती है।

खतरे कहां हैं, और सुरक्षित कैसे रहें

साइबर यूनिट्स ने हाल के महीनों में वायरल एआई फिल्टर्स को लेकर बार-बार सावधान किया है—खासतौर पर चेहरे की तस्वीरें अपलोड करने पर। वजहें सीधी हैं: एक बार हाई-रेज़ोल्यूशन फोटो चली गई तो वह ट्रेनिंग डेटा बन सकती है, डीपफेक में इस्तेमाल हो सकती है या किसी ठगी रैकेट का टूल बन सकती है। कई मामलों में यूज़र्स से पेमेंट मांगी जाती है, फिर फाइल “प्रोसेसिंग” के नाम पर रोकी जाती है और चैट या कॉल पर अतिरिक्त रकम तक मांगी जाती है—यह क्लासिक पेड-एड-शेम स्कैम पैटर्न है।

डीपफेक का जोखिम वास्तविक है। आपकी फोटो से नकली वीडियो/चित्र तैयार कर ब्लैकमेल करना, सोशल प्रोफाइल बनाकर प्रताड़ित करना, या पहचान चुराकर दूसरे फ्रॉड करना—ये आम तरीके हैं। अगर आपने ऐप को कैमरा/गैलरी/माइक्रोफोन की परमीशन दे दी है तो उससे मेटाडेटा और अन्य निजी जानकारी भी निकल सकती है।

पहचानने के लिए ये रेड फ्लैग देखें:

• साइट/ऐप Google, Apple या किसी बड़ी कंपनी का नाम लेकर, असल में अनजान डोमेन से चल रही हो।
• लॉगिन अनिवार्य हो, खासकर Google/Apple/Facebook से, बिना स्पष्ट कारण बताए।
• पूरी-रेज़ोल्यूशन सेल्फी मांगे, और स्टोरेज/लोकेशन/माइक्रोफोन जैसी व्यापक परमिशन मांग ले।
• डाउनलोड अनलॉक करने के लिए UPI/QR या गिफ्ट-कोड से पेमेंट दबाव डाले।
• प्राइवेसी पॉलिसी अस्पष्ट हो, या डेटा डिलीट की प्रक्रिया ही न बताई गई हो।

अगर फिर भी किसी क्रिएटिव प्रयोग के लिए कोशिश करनी ही है, तो नुकसान घटाने के तरीके अपनाएं:

• चेहरा पहचान योग्य न रखें—या कोई गैर-जरूरी, कम-रेज़ोल्यूशन फोटो इस्तेमाल करें। बच्चों/परिवार की तस्वीरें कभी अपलोड न करें।
• बिना जरूरत लॉगिन न करें; वेब पर इस्तेमाल करें, ऐप इंस्टॉल से बचें। परमिशन “Allow once” रखें और बाद में सेटिंग्स से रद्द करें।
• ऐप/साइट की प्राइवेसी पॉलिसी पढ़ें; डेटा रिटेंशन/डिलीट/ऑप्ट-आउट का जिक्र स्पष्ट हो।
• पेड फीचर्स/सब्सक्रिप्शन से सावधान रहें; तुरंत ऑटो-रिन्यूअल बंद करें।
• ट्रस्टेड कंपनियों के जनरेटिव टूल भी फोटो के साथ सावधानी से ही इस्तेमाल करें; संवेदनशील सामग्री अपलोड न करें।

पहले ही अपलोड कर दिया? यह करें:

• जिस ऐप/साइट को परमिशन दी थीं, उन्हें रद्द करें। फोन की सेटिंग्स में जाकर कैमरा/स्टोरेज/माइक्रोफोन एक्सेस बंद करें।
• अगर अकाउंट से लॉगिन किया था, पासवर्ड बदलें और 2-फैक्टर ऑथेंटिकेशन ऑन करें।
• प्लेटफॉर्म की डेटा-डिलीट रिक्वेस्ट प्रक्रिया ढूंढें और तस्वीरें हटाने का अनुरोध करें।
• कहीं आपकी फोटो गलत तरीके से पोस्ट हो जाए तो प्लेटफॉर्म पर रिपोर्ट करें और टेकडाउन का आग्रह करें।
• पैसे गए हैं या ब्लैकमेल हो रहा है तो हेल्पलाइन 1930 पर तुरंत कॉल करें और राष्ट्रीय साइबर अपराध पोर्टल (cybercrime.gov.in) पर शिकायत दर्ज करें। स्क्रीनशॉट/ट्रांजेक्शन आईडी सबूत के तौर पर संभालकर रखें।

कानूनी पहलू भी ध्यान रखें। भारत में अश्लील/छेड़छाड़ वाली सामग्री बनाना/बांटना और निजी छवियों का दुरुपयोग आईटी एक्ट और आईपीसी की अलग-अलग धाराओं के तहत दंडनीय है (जैसे 66E, 67/67A, और महिलाओं की गोपनीयता-उत्पीड़न से जुड़ी धाराएं)। यानी डीपफेक बनाना या शेयर करना “मजाक” नहीं, आपराधिक कृत्य हो सकता है।

तकनीकी तथ्य यह है कि Gemini Nano जैसा ऑन-डिवाइस मॉडल यूज़र की मदद के लिए सीमित, प्राइवेसी-फोकस्ड काम करता है; बड़े विज़ुअल जनरेशन मॉडल क्लाउड पर चलते हैं। जब कोई वायरल पोस्ट दोनों बातों को मिलाकर दिखाती है तो समझ लें कि अधिक संभावना मार्केटिंग या क्लिकबेट की है, न कि किसी भरोसेमंद, आधिकारिक टूल की। ट्रेंड दिखने में मजेदार हो सकता है, पर डेटा और साख—दोनों दांव पर लगते हैं। समझदारी यही है कि सोचे-समझे बिना फोटो अपलोड न करें, और किसी बड़े ब्रांड का नाम देखते ही भरोसा न कर लें।