14 मई के शुरुआती घंटों में, XAI के चैटबॉट ग्रोक ने बार -बार एक्स उपयोगकर्ताओं को प्रतिक्रियाएं दीं, जो एक के बारे में दावों का उल्लेख करते हैं "सफेद नरसंहार" दक्षिण अफ्रीका में भले ही उनकी पूछताछ का विषय के बारे में कुछ नहीं करना था। अब, सोशल नेटवर्क पर पोस्ट किए गए एक बयान में, एलोन मस्क की एआई कंपनी ने समझाया है कि "एक अनधिकृत संशोधन" एक्स पर ग्रोक के संकेत के कारण यह हुआ "एक राजनीतिक विषय पर एक विशिष्ट प्रतिक्रिया प्रदान करें।" यह नहीं कहा कि दुष्ट अपडेट को रोल करने में शामिल कर्मियों के साथ क्या हुआ था। लेकिन इसने कहा कि संशोधन ने इसका उल्लंघन किया "आंतरिक नीतियां और मुख्य मूल्य" और इसने घटना के बारे में गहन जांच की है।
वेबसाइट के विभिन्न उपयोगकर्ताओं ने कई उदाहरणों को पोस्ट किया था जिसमें ग्रोक में विवादास्पद दावों के संदर्भ शामिल थे कि सफेद दक्षिण अफ्रीकी किसानों को अपने देश में नस्लीय भेदभाव और भूमि बरामदगी का सामना करना पड़ रहा है। उनके सवाल? खैर, एक ट्वीट में, किसी ने पूछा कि एचबीओ ने अपनी स्ट्रीमिंग सेवा का नाम कितनी बार बदल दिया है। दूसरे में, उपयोगकर्ता ने एक बेसबॉल खिलाड़ी के वेतन इतिहास से पूछा। अभी तक एक और एक में, किसी ने WWE मैच के बारे में अधिक जानकारी मांगी। सीएनबीसी सफेद नरसंहार संदर्भों के साथ चैटबॉट की प्रतिक्रियाओं को दोहराने में सक्षम था। जब समाचार वेबसाइट ने पूछा कि क्या इसे बढ़ावा देने के लिए विशेष रूप से प्रोग्राम किया गया था "सफेद नरसंहार," ग्रोक ने कहा कि यह नहीं था और यह है "उद्देश्य कारण और साक्ष्य के आधार पर तथ्यात्मक, उपयोगी और सुरक्षित प्रतिक्रियाएं प्रदान करना है।"
XAI ने एक प्रतिक्रिया जारी करने से पहले, Openai प्रमुख सैम अल्टमैन ने X पर एक छींक प्रतिक्रिया पोस्ट की। "मुझे यकीन है कि XAI जल्द ही एक पूर्ण और पारदर्शी स्पष्टीकरण प्रदान करेगा," उन्होंने लिखा, और फिर सफेद नरसंहार के बारे में बात करने के लिए ग्रोक की प्रतिक्रियाओं की नकल की। XAI ने कहा कि अब से, यह GitHub पर अपने सिस्टम प्रॉम्प्ट को प्रकाशित करेगा ताकि जनता हर परिवर्तन पर प्रतिक्रिया दे सके। कंपनी ने यह भी कहा कि वह अतिरिक्त चेक और उपायों को सुनिश्चित करने के लिए सुनिश्चित करेगी कि XAI के कर्मचारी समीक्षा के बिना ग्रोक के प्रॉम्प्ट को संशोधित नहीं कर सकते। जिसने भी इसे संपादित किया वह हाल ही में इस मामले में अपनी वर्तमान समीक्षा प्रक्रिया को दरकिनार करने में सक्षम था। इसके अलावा, कंपनी ने कहा कि वह एक टीम को एक साथ रख रही है जो ग्रोक के उत्तरों से संबंधित घटनाओं की निगरानी कर सकती है, जो स्वचालित सिस्टम 24/7 द्वारा पकड़ी गई नहीं है।
जैसा टेकक्रंच नोट किया, यह पहली बार नहीं है जब XAI ने अनधिकृत परिवर्तन के लिए एक विवादास्पद ग्रॉक व्यवहार को दोषी ठहराया था। फरवरी में वापस, चैटबॉट ने संक्षेप में उन स्रोतों को सेंसर कर दिया, जिन्होंने इस बारे में बात की कि कैसे मस्क और राष्ट्रपति डोनाल्ड ट्रम्प गलत सूचना फैला रहे हैं। XAI के सह-संस्थापक इगोर बाबुसकिन ने उस समय कहा था कि एक दुष्ट कर्मचारी ने ग्रोक के प्रॉम्प्ट के लिए एक अप्रकाशित संशोधन को धक्का दिया था।
हम आपको एक ऐसी घटना पर अपडेट करना चाहते हैं जो कल एक्स पर हमारे ग्रोक रिस्पांस बॉट के साथ हुई थी।
क्या हुआ:
14 मई को लगभग 3:15 बजे पीएसटी, एक अनधिकृत संशोधन को एक्स पर ग्रोक रिस्पांस बॉट के प्रॉम्प्ट के लिए किया गया था। यह परिवर्तन, जिसने ग्रोक को प्रदान करने का निर्देश दिया …– xai (@xai) 16 मई, 2025
यह लेख मूल रूप से Engadget पर दिखाई दिया