GPT-4 - 'यह क्या कर सकता है' से 'यह क्या संकेत देता है' में बदलाव
- अमेरिकी कंपनी OpenAI ने हाल ही में अपना नवीनतम AI मॉडल GPT-4 जारी किया।
- यह बड़ा मॉडल रचनात्मक और सार्थक भाषा को समझ सकता है और उत्पन्न कर सकता है, और कंपनी के चैटबॉट, चैटजीपीटी के एक उन्नत संस्करण को शक्ति प्रदान करेगा।
GPT-4 और इसके कार्य
- GPT-4 अधिक संवादात्मक और रचनात्मक है।
- यह एक साथ पाठ और छवि इनपुट स्वीकार कर सकता है, और उत्तर का मसौदा तैयार करते समय दोनों पर विचार कर सकता है।
- मॉडल कथित तौर पर मानवीय भावनाओं को समझ सकता है, जैसे विनोदी चित्र।
- GPT-4 का कई परीक्षणों में परीक्षण किया गया था जो मनुष्यों के लिए डिज़ाइन किए गए थे और औसत से बहुत बेहतर प्रदर्शन करते थे। उदाहरण: बार एग्जामिनेशन।
- चैट GPT-जनित टेक्स्ट ने स्कूल के निबंधों और कॉलेज असाइनमेंट को रिलीज होने के लगभग तुरंत बाद हल कर लिया; इसके कौशल से अब परीक्षा प्रणाली को भी खतरा है।
- OpenAI ने यह दिखाने के लिए प्रारंभिक डेटा जारी किया है कि GPT-4 विनिर्माण या वैज्ञानिक नौकरियों को अपेक्षाकृत अछूता छोड़ते हुए बहुत सारे सफेदपोश काम कर सकता है, विशेष रूप से प्रोग्रामिंग और लेखन कार्य।
- भाषा मॉडल के व्यापक उपयोग का अर्थव्यवस्थाओं और सार्वजनिक नीति पर प्रभाव पड़ेगा।
नैतिक प्रश्न
- GPT-4 अभी भी अपने पूर्ववर्ती की कई खामियों से ग्रस्त है।
- इसका आउटपुट हमेशा तथ्यात्मक रूप से सही नहीं हो सकता है - एक विशेषता जिसे OpenAI ने "मतिभ्रम" कहा है।
- GPT-4 को इंटरनेट से स्क्रैप किए गए डेटा पर प्रशिक्षित किया गया है जिसमें कई हानिकारक पूर्वाग्रह और रूढ़ियाँ शामिल हैं।
- एक धारणा यह भी है कि एक बड़ा डेटासेट एक विविध डेटासेट भी होता है और बड़े पैमाने पर दुनिया का प्रतिनिधित्व करता है।
- मॉडरेटर मॉडल को केवल उन पूर्वाग्रहों का पता लगाने के लिए प्रशिक्षित किया जाता है जिनके बारे में हम जानते हैं, और ज्यादातर अंग्रेजी भाषा में।
- यह मॉडल गैर-पश्चिमी संस्कृतियों में प्रचलित रूढ़िवादिता से अनभिज्ञ हो सकता है, जैसे कि जातिगत मूल की ।
- GPT-4 के प्रचार और दुष्प्रचार इंजन के रूप में दुरुपयोग किए जाने की व्यापक संभावना है।
- यहां बड़ा सवाल यह है कि गलत काम न करने का फैसला कहां पैदा होना चाहिए: मशीन के नियमों में या इंसान के दिमाग में।
एक 'स्टोकेस्टिक पैरेट'
- संक्षेप में, GPT-4 एक ऐसी मशीन है जो एक अधूरे वाक्य में अगले शब्द की भविष्यवाणी करती है, जो पाठ के बड़े संग्रह पर प्रशिक्षित होने की संभावनाओं के आधार पर सीखी जाती है।
- यही कारण है कि इसे "स्टोकेस्टिक पैरेट" कहा जा रहा है, अर्थ को समझे बिना बोधगम्य वाक्यांशों में बोलना।
- लेकिन माइक्रोसॉफ्ट रिसर्च ने यह सुनिश्चित किया है कि जीपीटी-4 यह समझता है कि वह क्या कह रहा है, और यह कि सभी बुद्धि अगले शब्द की भविष्यवाणी का एक प्रकार नहीं है।
- OpenAI के मॉडल के अलावा, AI कंपनी एंथ्रोपिक ने क्लाउड नाम का एक चैटजीपीटी प्रतियोगी पेश किया है।
- Google ने हाल ही में PaLM की घोषणा की, एक मॉडल जिसे GPT-3 की तुलना में अधिक स्वतंत्रता के साथ काम करने के लिए प्रशिक्षित किया गया है।
निष्कर्ष
- अधिक व्यापक रूप से, दुनिया भर में एक ट्रिलियन डिग्री स्वतंत्रता के साथ एक मॉडल बनाने के प्रयास चल रहे हैं।
- ये वास्तव में विशाल भाषा-मॉडल होंगे जो इस बारे में सवाल उठाते हैं कि वे क्या नहीं कर सकते हैं, लेकिन ये चिंताएं रेड हेरिंग्स होंगी जो हमें इस बात से विचलित करती हैं कि क्या हमें ऐसे मॉडल बनाने चाहिए जो समाज की चिंताओं को दूर करने के लिए संभव सीमाओं का परीक्षण करें।