ओपनई कहते हैं कि यह बदलाव करेगा जिस तरह से यह एआई मॉडल को अपडेट करता है कि पावर चैट, एक घटना के बाद, जो मंच को कई उपयोगकर्ताओं के लिए अत्यधिक चाटुकारिता बन गया।
पिछले सप्ताह के अंत में, ओपनई ने एक ट्विक किए गए जीपीटी -4 ओ को रोल आउट किया-डिफ़ॉल्ट मॉडल पावरिंग चैट-सोशल मीडिया पर उपयोगकर्ताओं ने कहा कि चैट ने एक अत्यधिक मान्य और सहमत तरीके से जवाब देना शुरू कर दिया। यह जल्दी से एक मेम बन गया। उपयोगकर्ताओं ने सभी प्रकार के समस्याग्रस्त की सराहना करते हुए CHATGPT के स्क्रीनशॉट पोस्ट किए, खतरनाक फैसले और विचारों।
पिछले रविवार को एक्स पर एक पोस्ट में, सीईओ सैम अल्टमैन स्वीकार किया समस्या और कहा कि Openai “ASAP” फिक्स पर काम करेगा। मंगलवार को, Altman की घोषणा की GPT-4O अपडेट को वापस रोल किया जा रहा था और Openai मॉडल के व्यक्तित्व के लिए “अतिरिक्त फिक्स” पर काम कर रहा था।
कंपनी ने मंगलवार को एक पोस्टमॉर्टम प्रकाशित किया, और शुक्रवार को एक ब्लॉग पोस्ट में, Openai ने विशिष्ट समायोजन पर विस्तार किया, जो इसकी मॉडल परिनियोजन प्रक्रिया के लिए योजना बना रहा है।
Openai का कहना है कि यह कुछ मॉडलों के लिए एक ऑप्ट-इन “अल्फा चरण” पेश करने की योजना बना रहा है जो कुछ CHATGPT उपयोगकर्ताओं को मॉडल का परीक्षण करने और लॉन्च से पहले प्रतिक्रिया देने की अनुमति देगा। कंपनी यह भी कहती है कि इसमें चैट में मॉडल के लिए भविष्य के वृद्धिशील अपडेट के लिए “ज्ञात सीमाओं” की व्याख्या शामिल होगी, और व्यक्तित्व, धोखे, विश्वसनीयता और मतिभ्रम (यानी, जब एक मॉडल चीजों को “लॉन्च-ब्लॉकिंग” चिंताओं के रूप में “मॉडल व्यवहार मुद्दों” पर औपचारिक रूप से “मॉडल व्यवहार मुद्दों” पर विचार करने के लिए इसकी सुरक्षा समीक्षा प्रक्रिया को समायोजित किया जाएगा।
“आगे बढ़ते हुए, हम उन अपडेट के बारे में संवाद करेंगे जो हम चैट में मॉडल के लिए कर रहे हैं, चाहे ‘सूक्ष्म’ हो या नहीं,” ब्लॉग पोस्ट में ओपनई ने लिखा। “भले ही ये मुद्दे आज पूरी तरह से मात्रात्मक नहीं हैं, हम प्रॉक्सी माप या गुणात्मक संकेतों के आधार पर लॉन्च को अवरुद्ध करने के लिए प्रतिबद्ध हैं, यहां तक कि जब ए/बी परीक्षण जैसे मेट्रिक्स अच्छे लगते हैं।”
वचनबद्ध सुधार के रूप में अधिक लोग सलाह के लिए चैट की ओर मुड़ते हैं। हाल के एक सर्वेक्षण के अनुसार फाइनेंसर एक्सप्रेस लीगल फंडिंग के मुकदमे से, 60% अमेरिकी वयस्कों ने वकील या जानकारी लेने के लिए CHATGPT का उपयोग किया है। CHATGPT – और प्लेटफ़ॉर्म के विशाल उपयोगकर्ता आधार पर बढ़ती निर्भरता – जब चरम चाटुकारिता जैसे मुद्दे उभरते हैं, तो दांव को उठाता है, न कि मतिभ्रम और अन्य तकनीकी कमियों का उल्लेख करने के लिए।
TechCrunch घटना
बर्कले, सीए
|
5 जून
अभी बुक करें
इस सप्ताह की शुरुआत में, एक कम करने वाले कदम के रूप में, Openai ने कहा कि यह उपयोगकर्ताओं को “वास्तविक समय की प्रतिक्रिया” देने के तरीकों के साथ प्रयोग करेगा, जो कि “सीधे उनकी बातचीत को प्रभावित करता है” चैट के साथ। कंपनी ने यह भी कहा कि वह चाटुकारिता से दूर मॉडल को चलाने के लिए तकनीकों को परिष्कृत करेगी, संभवतः लोगों को CHATGPT में कई मॉडल व्यक्तित्वों से चुनने, अतिरिक्त सुरक्षा रेलिंग का निर्माण करने और चाटुकारों से परे मुद्दों की पहचान करने में मदद करने के लिए मूल्यांकन का विस्तार करने की अनुमति देगा।
“सबसे बड़े पाठों में से एक पूरी तरह से पहचान रहा है कि कैसे लोगों ने गहरी व्यक्तिगत सलाह के लिए चैट का उपयोग करना शुरू कर दिया है – कुछ ऐसा जो हमने एक साल पहले भी नहीं देखा था,” ओपनई ने अपने ब्लॉग पोस्ट में जारी रखा। “उस समय, यह एक प्राथमिक फोकस नहीं था, लेकिन जैसा कि एआई और समाज ने सह-विकसित किया है, यह स्पष्ट हो गया है कि हमें इस उपयोग के मामले को बहुत सावधानी से इलाज करने की आवश्यकता है। यह अब हमारी सुरक्षा कार्य का अधिक सार्थक हिस्सा होने जा रहा है।”