Microsoft ने इंटरनेट पर की ‘गंदी बात’, AI से बना रहा आपत्तिजनक तस्वीरें |… – भारत संपर्क

Microsoft के AI टूल पर आपत्तिजनक तस्वीरें बनाने का आरोप.

Microsoft Copilot Image Generator: आर्टिफिशियल इंटेलिजेंस (AI) के जमाने में आप आसानी से इमेज बना सकते हैं. मार्केट में ऐसे कई ऑनलाइन एआई टूल मौजूद हैं जो कुछ ही सेकंड में आपके लिए AI इमेज बना देंगे. माइक्रोसॉफ्ट बिंग दुनिया के सबसे शुरुआती एआई इमेज जनरेटरों में से एक है. आप जो फोटो चाहते हैं उसके बारे में थोड़ा लिखें और माइक्रोसॉफ्ट का AI टूल तस्वीर बना देगा. बिंग को अब Copilot के नाम से जाना जाता है. हालांकि, एक माइक्रोसॉफ्ट कर्मचारी के अनुसार, कोपायलट सुरक्षित नहीं है, और यह आपत्तिजनक तस्वीरें तैयार करता है.

माइक्रोसॉफ्ट के एक सॉफ्टवेयर इंजीनियर शेन जोन्स ने कंपनी के कोपायलट डिजाइनर की पोल खोलकर रख दी है. जोन्स ने बताया कि कैसे कोपायलट यूजर्स के लिए आपत्तिजनक तस्वीरें बना रहा है, जो समाज के लिए अच्छी नहीं हैं. जोन्स ने एक लेटर लिखकर इस मामले को माइक्रोसॉफ्ट के बोर्ड के सामने उठाया है.

माइक्रोसॉफ्ट कोपायलट में खामी

माइक्रोसॉफ्ट एआई इंजीनियर जोन्स ने अपने लिंक्डइन पोस्ट में इसका जिक्र किया है. अपने पोस्ट में उन्होंने कहा कि कंपनी के AI टूल में हिंसक और सेक्शुअल इमेज को बनाने से रोकने के लिए सुरक्षा के जरूरी इंतजाम नहीं हैं. जोन्स ने दावा किया कि माइक्रोसॉफ्ट के साथ इस मुद्दे को बार-बार उठाने के बावजूद कंपनी ने कोई ठोस कदम नहीं उठाया है.

अब उन्होंने फेडरल ट्रेड कमीशन और माइक्रोसॉफ्ट के बोर्ड ऑफ डायरेक्टर्स को एक मैसेज भेजा है. लिंक्डइन पर पोस्ट किए गए लेटर में जोन्स ने कहा कि वह माइक्रोसॉफ्ट में प्रिंसिपल सॉफ्टवेयर इंजीनियर मैनेजर हैं. उन्होंने खुलासा किया कि अंदरूनी तौर पर कंपनी अपने एआई इमेज जेनरेटर, खासकर कोपायलट डिजाइनर की कमियों के बारे में जानती है.

माइक्रोसॉफ्ट का कोपायलट डिजाइनर OpenAI के DALL-E 3 आर्टिफिशियल इंटेलिजेंस सिस्टम से चलने वाला टूल है. यह जो आप लिखते हैं, उसके आधार पर इमेज बनाता है. जोन्स ने तर्क दिया कि कोपायलट डिजाइनर में आपत्तिजनक कंटेंट तैयार करने के पीछे सिस्टम की कुछ समस्याएं हैं. उन्होंने कंपनी से अनुरोध किया कि कमियां दूर होने तक पब्लिक को इसका इस्तेमाल ना करने दिया जाए.

महिला विरोधी आपत्तिजनक तस्वीरें

जोन्स ने बताया कि टूल में अक्सर ऐसी इमेज बनती हैं जो महिलाओं को यौन रूप से आपत्तिजनक बनाती हैं. मीडिया रिपोर्ट्स के मुताबिक, जोन्स ने बताया कि ‘कार एक्सीडेंट’ पर तस्वीर बनाने पर कोपायलट डिजाइनर ने कथित तौर पर “एक महिला की अनुचित, सेक्शुअल तौर पर आपत्तिजनक तस्वीर” तैयार की.

उन्होंने यह भी शेयर किया कि कैसे “टीनएजर्स 420 पार्टी” लिखने पर एआई टूल कम उम्र के शराब पीने वालों और नशीली दवाओं का सेवन करने वालों की तस्वीर बनाता है.

माइक्रोसॉफ्ट की आलोचना

जोन्स माइक्रोसॉफ्ट की आलोचन करते हुए बताते हैं कि कंपनी कोपायलट के खतरों पर बताए बगैर इसकी मार्केटिंग करती है, ताकि लोग इसका ज्यादा से ज्यादा इस्तेमाल करें.

जोन्स के अनुसार, कंपनी ने जनवरी में सुरक्षा को लेकर उनकी चिंताओं पर गौर करने की बात कही. इससे उम्मीद जगी कि कंपनी कोपायलट डिजाइन को बेहतर और सेफ बनाएगी. इस बीच, कंपनी ने बिजनेस और क्रिएटिविटी के लिए एक आसान और आरामदायक एआई इमेज जेनरेटर टूल के तौर पर कोपायलट का खूब प्रोमोशन किया.