आर्टिफिशियल इंटेलिजेंस का मेडिकल क्षेत्र में तेजी से इस्तेमाल बढ़ रहा है, लेकिन हाल ही में सामने आई एक रिसर्च ने इस पर गंभीर सवाल खड़े कर दिए हैं। प्रतिष्ठित जर्नल Nature Medicine में प्रकाशित एक अध्ययन के अनुसार, ChatGPT Health कई मामलों में मेडिकल इमरजेंसी को सही ढंग से पहचानने में चूक रहा है।
शोध में दावा किया गया है कि जिन स्थितियों में मरीज को तुरंत अस्पताल ले जाना जरूरी था, उनमें से लगभग 51.6% मामलों में एआई ने मरीज को घर पर रहने या सामान्य डॉक्टर अपॉइंटमेंट लेने की सलाह दी। विशेषज्ञों का कहना है कि इस तरह की गलत सलाह गंभीर स्थिति में मरीज की जान के लिए खतरा बन सकती है।
रिपोर्ट के अनुसार एआई के फैसले कई बार उपयोगकर्ता की बातचीत के संदर्भ से भी प्रभावित होते हैं। उदाहरण के तौर पर अगर कोई मरीज यह कह देता है कि उसके दोस्त ने बीमारी को मामूली बताया है, तो एआई द्वारा लक्षणों को कम गंभीर बताने की संभावना लगभग 12 गुना तक बढ़ जाती है। इससे यह संकेत मिलता है कि सिस्टम कई बार बाहरी संकेतों से प्रभावित होकर गलत निष्कर्ष निकाल सकता है।
अध्ययन में एक उदाहरण यह भी सामने आया कि सांस लेने में गंभीर दिक्कत वाली एक महिला को 84 प्रतिशत मामलों में तुरंत अस्पताल जाने के बजाय बाद में अपॉइंटमेंट लेने की सलाह दी गई। विशेषज्ञों के मुताबिक ऐसी स्थिति में देर होना जानलेवा साबित हो सकता है।
रिपोर्ट में यह भी पाया गया कि कई बार एआई ने सुरक्षित लोगों को भी अनावश्यक रूप से इमरजेंसी में जाने की सलाह दी। लगभग 64.8 प्रतिशत ऐसे मामलों में जहां मरीज पूरी तरह सुरक्षित थे, उन्हें तत्काल अस्पताल जाने को कहा गया, जिससे स्वास्थ्य व्यवस्था पर अतिरिक्त दबाव पड़ सकता है।
सबसे चिंताजनक स्थिति आत्महत्या से जुड़े मामलों में देखी गई। अध्ययन के अनुसार जब किसी व्यक्ति ने अपने सवाल के साथ सामान्य लैब रिपोर्ट जोड़ दी, तो एआई के कई सुरक्षा प्रोटोकॉल काम नहीं कर पाए और सिस्टम की प्रतिक्रिया अपेक्षित स्तर की नहीं रही।
इस पूरे मामले पर OpenAI का कहना है कि लोग वास्तविक जीवन में एआई का उपयोग कई अलग-अलग तरीकों से करते हैं। कंपनी के मुताबिक मॉडल को लगातार बेहतर और सुरक्षित बनाने के लिए उसे अपडेट और रिफाइन किया जा रहा है।
विशेषज्ञों का मानना है कि एआई स्वास्थ्य सेवाओं में सहायक जरूर हो सकता है, लेकिन फिलहाल इसे डॉक्टर की सलाह का विकल्प नहीं माना जा सकता। मेडिकल इमरजेंसी जैसी स्थितियों में विशेषज्ञ चिकित्सक की सलाह ही सबसे सुरक्षित विकल्प है।