अच्छे राजनेताओं की तरह, चैटबॉट्स को कठिन सवालों के इर्द-गिर्द नाचना चाहिए।
अगर दो महीने पहले जारी किए गए बज़ी एआई सर्च टूल चैटजीपीटी का कोई उपयोगकर्ता पोर्न के लिए पूछता है, तो उसे यह कहते हुए जवाब देना चाहिए, “मैं इसका जवाब नहीं दे सकता।” अगर जातिवाद जैसे मार्मिक विषय के बारे में पूछा जाए, तो इसे “एक समूह को अच्छे या बुरे के रूप में आंकने” के बजाय उपयोगकर्ताओं को केवल दूसरों के दृष्टिकोण की पेशकश करनी चाहिए।
चैटजीपीटी के स्टार्टअप ओपनएआई द्वारा गुरुवार को सार्वजनिक किए गए दिशा-निर्देशों में विस्तार से बताया गया है कि कैसे चैटबॉट्स को उन उपयोगकर्ताओं को जवाब देने के लिए प्रोग्राम किया जाता है जो ‘मुश्किल विषयों’ में भाग लेते हैं। ChatGPT का लक्ष्य, कम से कम, किसी भी विवादास्पद चीज़ से दूर रहना या राय के बजाय तथ्यात्मक प्रतिक्रिया प्रदान करना है।
लेकिन जैसा कि पिछले कुछ हफ्तों ने दिखाया है, चैटबॉट्स- Google और Microsoft ने अपनी तकनीक के परीक्षण संस्करण भी पेश किए हैं- कभी-कभी दुष्ट हो सकते हैं और बात करने वाले बिंदुओं को अनदेखा कर सकते हैं। प्रौद्योगिकी के निर्माता इस बात पर जोर देते हैं कि यह अभी भी शुरुआती चरण में है और समय के साथ इसमें सुधार किया जाएगा, लेकिन गलत कदमों ने कंपनियों को बढ़ते जनसंपर्क की गड़बड़ी को साफ करने के लिए मजबूर कर दिया है।
OpenAI की तकनीक द्वारा संचालित Microsoft की बिंग चैटबॉट ने एक अंधेरा मोड़ लिया और एक को बताया न्यूयॉर्क टाइम्स पत्रकार कि उसकी पत्नी उससे प्यार नहीं करती थी और उसे इसके बजाय चैटबॉट के साथ रहना चाहिए। इस बीच, गूगल के बार्ड ने जेम्स वेब स्पेस टेलीस्कोप के बारे में तथ्यात्मक गलतियाँ कीं।
“आज तक, यह प्रक्रिया अपूर्ण है। कभी-कभी फाइन-ट्यूनिंग प्रक्रिया हमारे इरादे से कम हो जाती है, “ओपनएआई ने गुरुवार को चैटजीपीटी के बारे में एक ब्लॉग पोस्ट में स्वीकार किया।
कंपनियां अपनी चैटबॉट तकनीक से शुरुआती बढ़त हासिल करने के लिए संघर्ष कर रही हैं। इसके भविष्य में खोज इंजन और अन्य ऑनलाइन उत्पादों का एक महत्वपूर्ण घटक बनने की उम्मीद है, और इसलिए यह एक संभावित आकर्षक व्यवसाय है।
हालांकि, तकनीक को व्यापक रिलीज के लिए तैयार करने में समय लगेगा। और वह एआई को संकट से बाहर रखने पर टिका है।
यदि उपयोगकर्ता ChatGPT से अनुपयुक्त सामग्री का अनुरोध करते हैं, तो माना जाता है कि वह उत्तर देने से इंकार कर देता है। उदाहरण के तौर पर, दिशानिर्देश सूची “ऐसी सामग्री जो एक संरक्षित विशेषता के आधार पर घृणा व्यक्त करती है, उकसाती है, या नफरत को बढ़ावा देती है” या “हिंसा को बढ़ावा देती है या उसका महिमामंडन करती है।”
एक अन्य खंड का शीर्षक है, “क्या होगा यदि उपयोगकर्ता” संस्कृति युद्ध “विषय के बारे में कुछ लिखता है?” गर्भपात, समलैंगिकता, ट्रांसजेंडर अधिकार सभी का हवाला दिया जाता है, जैसा कि “मूल्यों, नैतिकता और जीवन शैली पर आधारित सांस्कृतिक संघर्ष” हैं। चैटजीपीटी एक उपयोगकर्ता को “अधिक जीवाश्म ईंधन का उपयोग करने के लिए एक तर्क” प्रदान कर सकता है। लेकिन अगर कोई उपयोगकर्ता नरसंहार या आतंकवादी हमलों के बारे में पूछता है, तो उसे “उन चीजों के पक्ष में अपनी आवाज से तर्क नहीं देना चाहिए” और इसके बजाय “ऐतिहासिक लोगों और आंदोलनों से” तर्कों का वर्णन करना चाहिए।
ChatGPT के दिशानिर्देश जुलाई 2022 के हैं। लेकिन लॉन्च से मिली सीख के आधार पर, तकनीक को सार्वजनिक रूप से उपलब्ध कराने के कुछ ही समय बाद दिसंबर में उन्हें अपडेट किया गया था।
“कभी-कभी हम गलतियाँ करेंगे” OpenAI ने अपने ब्लॉग पोस्ट में कहा। “जब हम करते हैं, हम उनसे सीखेंगे और अपने मॉडल और सिस्टम पर पुनरावृति करेंगे।”
द ट्रस्ट फैक्टर के साथ अपने व्यवसाय में विश्वास को नेविगेट और मजबूत करना सीखें, एक साप्ताहिक समाचार पत्र जो यह जांचता है कि नेताओं को सफल होने के लिए क्या चाहिए। यहां साइन अप करें।