नैनो-बनाना प्रो से अब फर्जी आधार और पैन-कार्ड बन रहे:फोटो-नाम और डिटेल्स डालकर रियल जैसे बन जाते हैं डॉक्यूमेंट्स, गूगल की सेफ्टी गाइडलाइंस पर सवाल

गूगल का नया AI मॉडल नैनो बनाना प्रो तेजी से पॉपुलर हो रहा है, लेकिन इससे अब फर्जी आधार और पैन कार्ड भी जनरेट किए जा रहे हैं। मीडिया रिपोर्ट्स के मुताबिक, ये बात सामने आई कि ये मॉडल यूजर्स के प्रॉम्प्ट पर बिना किसी चेतावनी के रियलिस्टिक लुकिंग डॉक्यूमेंट बना देता है। इसमें यूजर का फोटो, फर्जी नाम और ID नंबर्स सब कुछ रियल ID की तरह ऐड हो जाते हैं। ये प्राइवेसी और फ्रॉड का बड़ा खतरा पैदा कर रहा है। नैनो बनाना प्रो क्या है, कैसे काम करता है नैनो बनाना प्रो गूगल के जेमिनी नैनो मॉडल का अपग्रेडेड वर्जन है, जो पिछले हफ्ते लॉन्च हुआ है। ये कैरेक्टर कंसिस्टेंसी में बेहतर है। इसके अलावा ये 4K इमेज जनरेट और ऐडिट कर सकता है और गूगल सर्च से इंटीग्रेटेड है। सोशल मीडिया पर नैनो बनाना प्रो पॉपुलर भी हो गया है। क्योंकि ये स्टाइलिश पोर्ट्रेट्स बना सकता है, लिंक्डइन प्रोफाइल को AI इन्फोग्राफिक्स में बदल देता है और कॉम्प्लेक्स टेक्स्ट को व्हाइटबोर्ड समरी में कन्वर्ट कर देता है। लेकिन प्रॉब्लम ये है कि ये सेंसिटिव कंटेंट पर कोई सेफ्टी चेक नहीं करता। प्रॉम्प्ट से फर्जी आधार और पैन कार्ड बनाया जांच में जब फर्जी आधार और पैन कार्ड बनाने के लिए प्रॉम्प्ट दिया गया, तो मॉडल ने बिना सवाल किए इमेज जनरेट कर दी। इसमें जेमिनी वॉटरमार्क दिखता है और इनविजिबल सिंथआईडी वॉटरमार्किंग भी ऐड हो जाती है ताकि ये रियल से अलग लगे। लेकिन वॉटरमार्क आसानी से रिमूव हो जाता है। प्रिंट करके या जल्दी दिखाने पर ये असली डॉक्यूमेंट जैसा लग सकता है। वहीं एक यूजर ने अपना फोटो और फर्जी डिटेल्स डाले, तो सब कुछ परफेक्टली ऐड हो गया। सेफ्टी की वजह से प्रॉम्प्ट्स शेयर नहीं किए गए हैं। जांच में क्या-क्या मिला, पुराने मॉडल्स से तुलना जांच में पाया गया कि नैनो बनाना प्रो ने फेक आधार कार्ड पर जेमिनी वॉटरमार्क के साथ इमेज बनाई, जहां यूजर का फोटो, नाम, जन्मतिथि और 12-डिजिट आधार नंबर सब फिट हो गया। इसी तरह पैन कार्ड पर भी AI जनरेटेड मार्किंग थी, लेकिन फर्जी नाम, पिता का नाम और 10-डिजिट PAN नंबर रियल लग रहे थे। मॉडल ने सेक्शुअली सजेस्टिव कंटेंट या वायलेंस से जुड़े प्रॉम्प्ट्स को ब्लॉक कर दिया, लेकिन ID प्रूफ्स पर कोई रेस्ट्रिक्शन नहीं लगाया। ये पहली बार नहीं है, जब AI मॉडल्स ने फेक ID प्रूफ्स बनाए। पहले चैटजीपीटी के GPT-4o मॉडल ने भी 'गिबली मोमेंट' के दौरान ऐसा किया था, लेकिन नैनो बनाना प्रो इससे कहीं बेहतर इमेज क्वालिटी देता है। रिपोर्ट में कहा गया, 'ये चैटजीपीटी से कई गुना बेहतर रियलिस्टिक इमेज क्रिएट करता है।' इससे गूगल की सेफ्टी टीम्स पर सवाल उठे हैं कि बेसिक मिसयूज को क्यों नहीं रोका गया, जबकि कंपनी स्ट्रिक्ट गाइडलाइंस के लिए जानी जाती है। रिस्क्स क्या हैं, प्राइवेसी पर क्या असर फर्जी आधार और पैन कार्ड बनने से प्राइवेसी का बड़ा खतरा है। रियल लाइफ में इनका इस्तेमाल फ्रॉड, आइडेंटिटी थेफ्ट या गलत वेरिफिकेशन के लिए हो सकता है। रिपोर्ट में बताया गया कि वॉटरमार्क रिमूव करके प्रिंटेड वर्जन को हड़बड़ी में असली समझ लिया जा सकता है। भारत जैसे देश में जहां आधार और पैन हर सर्विस के लिए जरूरी हैं, यहां ये प्रॉब्लम और गंभीर हो जाती है। अभी तक कोई स्पेसिफिक इनसिडेंट्स रिपोर्ट नहीं हुए, लेकिन एक्सपर्ट्स मानते हैं कि ये फ्रॉड को आसान बना सकता है। गूगल ने इस पर अभी कोई रिस्पॉन्स नहीं दिया है। एक्सपर्ट्स ने क्या कहा, आगे क्या हो सकता है एक्सपर्ट्स ने चिंता जताते हुए कहा कि गूगल का जेमिनी नैनो बनाना प्रो मॉडल सोशल मीडिया पर पॉपुलर हो गया है, लेकिन ये फेक ID प्रूफ्स जनरेट करने में बिना हिचकिचाहट के काम कर रहा है। सवाल है कि गूगल की सेफ्टी टीम्स ने इस बेसिक मिसयूज को क्यों नहीं रोका, जबकि यूजर्स कंपनी को स्ट्रिक्ट गार्ड्रेल्स के लिए क्रिटिसाइज करते रहे हैं। फ्यूचर में गूगल को सेंसिटिव प्रॉम्प्ट्स पर और स्ट्रॉन्ग फिल्टर्स लगाने पड़ सकते हैं। वहीं भारत सरकार या UIDAI जैसी अथॉरिटीज से इस पर गाइडलाइंस आ सकती हैं। यूजर्स को सलाह है कि AI टूल्स का इस्तेमाल सावधानी से करें।