गूगल के सीईओ सुंदर पिचाई ने अपने एआई चैटबॉट जेमिनी की छवि निर्माण के संबंध में हालिया विवाद पर कर्मचारियों को कड़े शब्दों में एक ज्ञापन भेजा है। कर्मचारियों के लिए एक आंतरिक ज्ञापन में, जो पहली बार सेमाफोर में दिखाई दिया, पिचाई ने दौड़ के संबंध में जेमिनी की प्रतिक्रियाओं को अस्वीकार्य बताया और समस्या को ठीक करने के लिए संरचनात्मक परिवर्तन करने की कसम खाई।
Google ने पिछले सप्ताह अपने जेमिनी इमेज क्रिएशन टूल को निलंबित कर दिया क्योंकि इसके शर्मनाक और आपत्तिजनक परिणाम सामने आए, कुछ मामलों में श्वेत लोगों को चित्रित करने से इनकार कर दिया गया। खोज परिणामों ने Google के अपने सह-संस्थापकों की नस्लों को भी गलत तरीके से चित्रित किया। विवाद के बाद, Google ने सार्वजनिक रूप से “चिह्न चूकने” के लिए माफ़ी मांगी और कहा कि वह आने वाले हफ्तों में छवि निर्माण को फिर से सक्षम करने के लिए काम कर रहा है। कंपनी ने स्वीकार किया कि उसने कुछ मामलों में विविधता के लिए “अधिक मुआवजा” दिया। कर्मचारियों को पिचाई का ज्ञापन पहली बार है जब Google CEO ने इस मुद्दे पर बात की है।
यहां Google के CEO सुंदर पिचाई का पत्र है जो Semafor पर छपा है:
मैं जेमिनी ऐप (पूर्व में बार्ड) में समस्याग्रस्त पाठ और छवि प्रतिक्रियाओं के साथ हाल के मुद्दों को संबोधित करना चाहता हूं। मुझे पता है कि इसकी कुछ प्रतिक्रियाओं ने हमारे उपयोगकर्ताओं को आहत किया है और पूर्वाग्रह दिखाया है – स्पष्ट रूप से, यह पूरी तरह से अस्वीकार्य है और हमने इसे गलत समझा है।
हमारी टीमें इन मुद्दों के समाधान के लिए चौबीसों घंटे काम कर रही हैं। हम पहले से ही संकेतों की एक विस्तृत श्रृंखला में पर्याप्त सुधार देख रहे हैं। कोई भी एआई परफेक्ट नहीं है, खासकर उद्योग के विकास के इस उभरते चरण में, लेकिन हम जानते हैं कि हमारे लिए मानक ऊंचे हैं और जब भी इसमें समय लगेगा हम इसे बनाए रखेंगे। और हम समीक्षा करेंगे कि क्या हुआ और सुनिश्चित करें कि हम इसे बड़े पैमाने पर ठीक करें।
विश्व की जानकारी को व्यवस्थित करने और इसे सार्वभौमिक रूप से सुलभ और उपयोगी बनाने का हमारा मिशन पवित्र है। हमने हमेशा अपने उत्पादों में उपयोगकर्ताओं को उपयोगी, सटीक और निष्पक्ष जानकारी देने का प्रयास किया है। इसलिए लोग उन पर भरोसा करते हैं. हमारे उभरते एआई उत्पादों सहित हमारे सभी उत्पादों के लिए हमारा यही दृष्टिकोण होना चाहिए।
हम कार्यों का एक स्पष्ट सेट चलाएंगे, जिसमें संरचनात्मक परिवर्तन, अद्यतन उत्पाद दिशानिर्देश, बेहतर लॉन्च प्रक्रियाएं, मजबूत मूल्यांकन और रेड-टीमिंग और तकनीकी सिफारिशें शामिल हैं। हम इस सब पर गौर कर रहे हैं और आवश्यक बदलाव करेंगे।
यहां जो गलत हुआ उससे हम सीखते हुए, हमें पिछले कई हफ्तों में एआई में किए गए उत्पाद और तकनीकी घोषणाओं पर भी काम करना चाहिए। इसमें हमारे अंतर्निहित मॉडलों में कुछ मूलभूत प्रगति शामिल है, उदाहरण के लिए हमारी 1 मिलियन लंबी-संदर्भ विंडो ब्रेकथ्रू और हमारे खुले मॉडल, दोनों को अच्छी तरह से प्राप्त किया गया है।
हम जानते हैं कि अरबों लोगों और व्यवसायों द्वारा उपयोग और पसंद किए जाने वाले बेहतरीन उत्पाद बनाने में क्या लगता है, और हमारे बुनियादी ढांचे और अनुसंधान विशेषज्ञता के साथ हमारे पास एआई लहर के लिए एक अविश्वसनीय स्प्रिंगबोर्ड है। आइए उस पर ध्यान केंद्रित करें जो सबसे अधिक मायने रखता है: ऐसे उपयोगी उत्पाद बनाना जो हमारे उपयोगकर्ताओं के विश्वास के योग्य हों।
Google ने पिछले सप्ताह अपने जेमिनी इमेज क्रिएशन टूल को निलंबित कर दिया क्योंकि इसके शर्मनाक और आपत्तिजनक परिणाम सामने आए, कुछ मामलों में श्वेत लोगों को चित्रित करने से इनकार कर दिया गया। खोज परिणामों ने Google के अपने सह-संस्थापकों की नस्लों को भी गलत तरीके से चित्रित किया। विवाद के बाद, Google ने सार्वजनिक रूप से “चिह्न चूकने” के लिए माफ़ी मांगी और कहा कि वह आने वाले हफ्तों में छवि निर्माण को फिर से सक्षम करने के लिए काम कर रहा है। कंपनी ने स्वीकार किया कि उसने कुछ मामलों में विविधता के लिए “अधिक मुआवजा” दिया। कर्मचारियों को पिचाई का ज्ञापन पहली बार है जब Google CEO ने इस मुद्दे पर बात की है।
यहां Google के CEO सुंदर पिचाई का पत्र है जो Semafor पर छपा है:
मैं जेमिनी ऐप (पूर्व में बार्ड) में समस्याग्रस्त पाठ और छवि प्रतिक्रियाओं के साथ हाल के मुद्दों को संबोधित करना चाहता हूं। मुझे पता है कि इसकी कुछ प्रतिक्रियाओं ने हमारे उपयोगकर्ताओं को आहत किया है और पूर्वाग्रह दिखाया है – स्पष्ट रूप से, यह पूरी तरह से अस्वीकार्य है और हमने इसे गलत समझा है।
हमारी टीमें इन मुद्दों के समाधान के लिए चौबीसों घंटे काम कर रही हैं। हम पहले से ही संकेतों की एक विस्तृत श्रृंखला में पर्याप्त सुधार देख रहे हैं। कोई भी एआई परफेक्ट नहीं है, खासकर उद्योग के विकास के इस उभरते चरण में, लेकिन हम जानते हैं कि हमारे लिए मानक ऊंचे हैं और जब भी इसमें समय लगेगा हम इसे बनाए रखेंगे। और हम समीक्षा करेंगे कि क्या हुआ और सुनिश्चित करें कि हम इसे बड़े पैमाने पर ठीक करें।
विश्व की जानकारी को व्यवस्थित करने और इसे सार्वभौमिक रूप से सुलभ और उपयोगी बनाने का हमारा मिशन पवित्र है। हमने हमेशा अपने उत्पादों में उपयोगकर्ताओं को उपयोगी, सटीक और निष्पक्ष जानकारी देने का प्रयास किया है। इसलिए लोग उन पर भरोसा करते हैं. हमारे उभरते एआई उत्पादों सहित हमारे सभी उत्पादों के लिए हमारा यही दृष्टिकोण होना चाहिए।
हम कार्यों का एक स्पष्ट सेट चलाएंगे, जिसमें संरचनात्मक परिवर्तन, अद्यतन उत्पाद दिशानिर्देश, बेहतर लॉन्च प्रक्रियाएं, मजबूत मूल्यांकन और रेड-टीमिंग और तकनीकी सिफारिशें शामिल हैं। हम इस सब पर गौर कर रहे हैं और आवश्यक बदलाव करेंगे।
यहां जो गलत हुआ उससे हम सीखते हुए, हमें पिछले कई हफ्तों में एआई में किए गए उत्पाद और तकनीकी घोषणाओं पर भी काम करना चाहिए। इसमें हमारे अंतर्निहित मॉडलों में कुछ मूलभूत प्रगति शामिल है, उदाहरण के लिए हमारी 1 मिलियन लंबी-संदर्भ विंडो ब्रेकथ्रू और हमारे खुले मॉडल, दोनों को अच्छी तरह से प्राप्त किया गया है।
हम जानते हैं कि अरबों लोगों और व्यवसायों द्वारा उपयोग और पसंद किए जाने वाले बेहतरीन उत्पाद बनाने में क्या लगता है, और हमारे बुनियादी ढांचे और अनुसंधान विशेषज्ञता के साथ हमारे पास एआई लहर के लिए एक अविश्वसनीय स्प्रिंगबोर्ड है। आइए उस पर ध्यान केंद्रित करें जो सबसे अधिक मायने रखता है: ऐसे उपयोगी उत्पाद बनाना जो हमारे उपयोगकर्ताओं के विश्वास के योग्य हों।
