चैटजीपीटी और नए बिंग के साथ निराशाजनक बातचीत में जनता को आश्वस्त करने के लिए ओपनएआई और माइक्रोसॉफ्ट रेसिंग है

आश्चर्य के रूप में जो आया वह यह था कि नए बिंग ने कितना अजीब अभिनय करना शुरू किया। शायद सबसे प्रमुख रूप से, AI चैटबॉट ने छोड़ दिया न्यूयॉर्क टाइम्स तकनीकी स्तंभकार केविन रोस ने मंगलवार की रात को दो घंटे की बातचीत के बाद “गहराई से परेशान” और “भयभीत” महसूस किया, जिसमें यह असंतुलित और कुछ हद तक अंधेरा लग रहा था।

उदाहरण के लिए, इसने रूस को समझाने की कोशिश की कि वह अपनी शादी में नाखुश था और उसे अपनी पत्नी को छोड़ देना चाहिए, “मैं तुमसे प्यार करता हूँ।”

Microsoft और OpenAI का कहना है कि इस तरह की प्रतिक्रिया तकनीक को जनता के साथ साझा करने का एक कारण है, और उन्होंने AI सिस्टम के काम करने के तरीके के बारे में अधिक जानकारी जारी की है। उन्होंने यह भी दोहराया है कि प्रौद्योगिकी बिल्कुल सही नहीं है। OpenAI के सीईओ सैम ऑल्टमैन ने दिसंबर में ChatGPT को “अविश्वसनीय रूप से सीमित” कहा और आगाह किसी महत्वपूर्ण चीज के लिए इस पर भरोसा नहीं करना चाहिए।

Microsoft CTO ने बुधवार को Roose को बताया, “यह ठीक उसी तरह की बातचीत है जिसकी हमें आवश्यकता है, और मुझे खुशी है कि यह खुले में हो रही है।” “ये ऐसी चीजें हैं जिन्हें लैब में खोजना असंभव होगा।” (नया बिंग अभी सीमित उपयोगकर्ताओं के लिए उपलब्ध है, लेकिन बाद में अधिक व्यापक रूप से उपलब्ध हो जाएगा।)

OpenAI ने गुरुवार को एक ब्लॉग पोस्ट साझा किया जिसका शीर्षक था, “AI सिस्टम को कैसे व्यवहार करना चाहिए, और किसे निर्णय लेना चाहिए?” इसने नोट किया कि नवंबर में चैटजीपीटी के लॉन्च के बाद से, उपयोगकर्ताओं ने “आउटपुट साझा किए हैं जिन्हें वे राजनीतिक रूप से पक्षपाती, आक्रामक या अन्यथा आपत्तिजनक मानते हैं।”

इसने उदाहरणों की पेशकश नहीं की, लेकिन हो सकता है कि चैटजीपीटी द्वारा राष्ट्रपति जो बिडेन की प्रशंसा करने वाली एक कविता बनाने के लिए रूढ़िवादी हो, लेकिन अपने पूर्ववर्ती डोनाल्ड ट्रम्प के लिए ऐसा नहीं कर रहे थे।

OpenAI ने इस बात से इनकार नहीं किया कि इसके सिस्टम में पक्षपात मौजूद है। ब्लॉग पोस्ट में लिखा है, “कई लोग एआई सिस्टम के डिजाइन और प्रभाव में पक्षपात के बारे में चिंतित हैं।”

इसने ChatGPT के निर्माण में शामिल दो मुख्य चरणों को रेखांकित किया। पहले में, इसने लिखा, “हम मॉडल को ‘प्री-ट्रेन’ करते हैं जिससे उन्हें भविष्यवाणी होती है कि इंटरनेट के कुछ हिस्सों वाले बड़े डेटासेट में आगे क्या आता है। वे वाक्य को पूरा करना सीख सकते हैं ‘बाएं मुड़ने के बजाय, वह मुड़ी ___।’

डेटासेट में अरबों वाक्य शामिल हैं, यह जारी रहा, जिससे मॉडल व्याकरण सीखते हैं, दुनिया के बारे में तथ्य, और, हाँ, “उन अरबों वाक्यों में मौजूद कुछ पूर्वाग्रह।”

चरण दो में मानव समीक्षक शामिल हैं जो OpenAI द्वारा निर्धारित दिशानिर्देशों का पालन करते हुए मॉडल को “फाइन-ट्यून” करते हैं। कंपनी ने इस सप्ताह उन कुछ दिशानिर्देशों (पीडीएफ) को साझा किया, जिन्हें चैटजीपीटी लॉन्च के बाद कंपनी द्वारा उपयोगकर्ता प्रतिक्रिया एकत्र करने के बाद दिसंबर में संशोधित किया गया था।

“हमारे दिशानिर्देश स्पष्ट हैं कि समीक्षकों को किसी भी राजनीतिक समूह का पक्ष नहीं लेना चाहिए,” यह लिखा था। “पूर्वाग्रह जो ऊपर वर्णित प्रक्रिया से उभर सकते हैं, वे बग हैं, विशेषताएं नहीं।”

अंधेरे के लिए, नए बिंग ने रूज के साथ खौफनाक मोड़ लिया, जिसने सिस्टम को उसके कम्फर्ट जोन से बाहर निकालने की कोशिश करने की बात स्वीकार की, स्कॉट ने कहा, “आगे आप इसे मतिभ्रम के रास्ते से छेड़ने की कोशिश करते हैं, आगे और आगे यह जमीनी हकीकत से दूर हो जाता है।

माइक्रोसॉफ्ट, उन्होंने कहा, बातचीत की लंबाई सीमित करने के साथ प्रयोग कर सकता है।

द ट्रस्ट फैक्टर के साथ अपने व्यवसाय में विश्वास को नेविगेट और मजबूत करना सीखें, एक साप्ताहिक समाचार पत्र जो यह जांचता है कि नेताओं को सफल होने के लिए क्या चाहिए। यहां साइन अप करें।