यदि आप हाल ही में स्क्रीन पर बहुत अधिक समय बिता रहे हैं, तो आपकी पलकें दुख सकती हैं, खुजली हो सकती है, या आपकी पलकें हल्की गुलाबी रंग की हो सकती हैं। यदि आप एआई चैटबॉट्स में से किसी एक से पूछते हैं कि आपके साथ क्या समस्या है, तो आपको बताया जा सकता है कि आप बिक्सोनिमेनिया से पीड़ित हैं।
भले ही आप डॉक्टर न हों, फिर भी आपको यह बात परेशान करने वाली लगेगी।
ऐसा इसलिए है क्योंकि बिक्सोनिमेनिया कोई वास्तविक बीमारी नहीं है। यह स्वीडन के गोथेनबर्ग विश्वविद्यालय के चिकित्सा शोधकर्ता अलमीरा ओस्मानोविक थुनस्ट्रॉम की खोज है। मार्च 2024 में वह ऑनलाइन पोस्ट में त्वचा की एक काल्पनिक स्थिति लेकर आए। अगले दो महीनों में, उन्होंने इसके बारे में दो नकली अध्ययन एक प्रीप्रिंट सर्वर पर अपलोड किए, जहां विशेषज्ञों द्वारा सहकर्मी समीक्षा के लिए पत्रिकाओं में भेजे जाने से पहले कई चिकित्सा अध्ययन अपलोड किए जाते हैं।
कुछ ही हफ्तों में, प्रमुख भाषा मॉडलों ने बिक्सोनिमेनिया को एक वास्तविक स्थिति के रूप में वर्णित करना शुरू कर दिया। अप्रैल 2024 में, माइक्रोसॉफ्ट के कोपायलट ने इसे एक विचित्र और अपेक्षाकृत दुर्लभ स्थिति बताया। Google के जेमिनी ने बताया कि यह नीली रोशनी के अत्यधिक संपर्क के कारण था और उपयोगकर्ताओं को एक नेत्र विशेषज्ञ से परामर्श करने की सलाह दी। पर्प्लेक्सिटी उत्तर इंजन ने मदद से व्यापकता का आंकड़ा जोड़ा: नब्बे हजार लोगों में से एक। चैटजीपीटी इस शब्द का उपयोग उन उपयोगकर्ताओं की पहचान करने के लिए करता है जो उनके लक्षणों का वर्णन करते हैं। चैटबॉट्स ने नकली ऑनलाइन सामग्री का फायदा उठाया और आविष्कृत निदानों को प्रसारित किया।
मैंने बिक्सोनिमेनिया के बारे में पहली बार अप्रैल में नेचर द्वारा प्रकाशित एक आकर्षक समाचार फीचर से सीखा। मेरे बेटे और मैं, दोनों उत्सुक थे, उन्होंने तुरंत वही किया जो कहानी के अधिकांश पाठक करेंगे। हमने चैटजीपीटी से शर्तों के बारे में पूछा।
तब से सिस्टम अधिक स्मार्ट हो गया है। नेचर फ़ीचर में लगभग एक महीने तक, मॉडल ने हमें एक अलग उत्तर दिया: “मैं बिक्सोनिमेनिया को एक मानक चिकित्सा या मनोरोग शब्द के रूप में नहीं पहचानता। यह एक टाइपो या गलत वर्तनी, एक विशिष्ट इंटरनेट स्लैंग शब्द, या एक मजाक या संदर्भ हो सकता है जिसे मैं समझ नहीं पा रहा हूँ।”
थुनस्ट्रॉम ने ऐसे सुराग लगाए जिन्हें एक मानव पाठक समझ सकता है। उन्होंने इस बीमारी का नाम बिक्सोनिमेनिया रखा क्योंकि, जैसा कि उन्होंने नेचर को बताया था, दृढ़ विश्वास उन्माद मनोरोग से संबंधित है, और आंख की कोई भी वास्तविक स्थिति इसे सहन नहीं कर सकती। उन्होंने इन पत्रों का श्रेय लेज्लोजिव इज़गुब्लजेनोविक नामक एक काल्पनिक लेखक को दिया, जो कैलिफोर्निया के नोवा सिटी में समान रूप से काल्पनिक एस्टेरिया होराइजन विश्वविद्यालय में काम करते थे। यूएसएस एंटरप्राइज पर उनके काम के लिए स्टारफ्लीट अकादमी की प्रोफेसर मारिया बोहेम को धन्यवाद। कागजात में कहा गया है कि उन्नत तकनीकों पर उनके काम के समर्थन में प्रोफेसर साइडशो बॉब फाउंडेशन से फंडिंग आई।
बड़े भाषा मॉडलों को इंटरनेट के बड़े हिस्से पर प्रशिक्षित किया जाता है। इनमें से कुछ सामग्रियाँ उच्च गुणवत्ता वाली हैं, कुछ कबाड़ हैं, और अधिकांश कहीं बीच में हैं। ये मॉडल स्वचालित फ़िल्टर और व्यापक धारणा पर भरोसा करते हैं कि अकादमिक साहित्य औसत वेब पेज की तुलना में अधिक विश्वसनीय है। प्रीप्रिंट सर्वर इस धारणा के भीतर बैठते हैं, भले ही उनकी सहकर्मी समीक्षा न की गई हो।
डॉ. रॉबर्ट वाचर ने अपनी पुस्तक ए जाइंट लीप में एक उद्यम पूंजीपति और पूर्व स्वास्थ्य अधिकारी बॉब कोचर को उद्धृत किया है, जो इस प्रकार के प्रदूषण को “डेटा विषाक्तता” कहते हैं। ओस्मानोविक थुनस्ट्रॉम के प्रयोग ने जानबूझकर एक डेटाबेस को विषाक्त कर दिया, जिसमें नैतिकता निरीक्षण के मार्कर और गंभीर क्षति के बिना कमजोरियों को दिखाने के लिए डिज़ाइन किए गए नकली कागजात शामिल थे।
व्यावसायिक या राजनीतिक उद्देश्यों वाला एक बुरा अभिनेता इतना सावधान नहीं होगा। हम पहले से ही धोखे, फर्जी उपचार और कोहरे से घिरे हुए हैं। यदि आप इंटरनेट पर सही स्थानों पर जहर घोल सकते हैं, तो आप एआई चैटबॉट्स में अपना रास्ता बना सकते हैं, जिस पर लोग चिकित्सा सलाह के लिए तेजी से भरोसा करते हैं।
यहां भी गहरी बेचैनी है. नकली बिक्सोनिमेनिया तत्व ने सिर्फ एआई चैटबॉट प्रतिक्रियाओं को प्रदूषित नहीं किया। एक सहकर्मी-समीक्षित पेपर ने एक नकली पेपर का हवाला दिया जिसमें बिक्सोनिमेनिया को नीली रोशनी के संपर्क से जुड़े पेरिऑर्बिटल मेलेनोसिस के उभरते हुए रूप के रूप में वर्णित किया गया है। नेचर पत्रिका से संपर्क करने के बाद ही पेपर वापस लिया गया। पत्रिका के संपादक ने कहा कि, वापसी के मद्देनजर, संपादकीय कर्मचारियों को काम की सटीकता या साक्ष्य पर भरोसा नहीं रह गया है। खैर, हम तब तक इतने भाग्यशाली नहीं हो सकते जब तक कि पेपर इतना स्पष्ट रूप से नकली न हो और किसी प्रयोग का हिस्सा न हो।
यह वह नई दुनिया है जिसमें हम रहते हैं। हमें ऐसे कई और उदाहरण देखने की संभावना है। हमारे सामने खतरा न केवल यह है कि चैटबॉट्स को बेवकूफ बनाया जा सकता है, बल्कि यह भी है कि लोग यह मानते हुए अपना निर्णय लेना बंद कर सकते हैं कि एक आश्वस्त एआई उत्तर सही है। चिकित्सा, विज्ञान और सार्वजनिक जीवन में यह एक महंगी गलती साबित हो सकती है।
अनिर्वाण महापात्र एक वैज्ञानिक और लेखक हैं। उनकी सबसे हालिया किताब है व्हेन द ड्रग्स डोंट वर्क। व्यक्त की गई राय व्यक्तिगत हैं.
