AI से पूछ रहे हैं बीमारी का इलाज? सावधान! 50% मेडिकल सलाह निकली गलत और खतरनाक
आजकल कई लोग AI से बीमारियों के लक्षणों और दवाओं के बारे में जानकारी मांगते हैं, लेकिन चैटबॉट के सभी जवाब सही हो, यह जरूरी नहीं।
AI से ले रहे हैं मेडिकल सलाह? (AI Generated Image)
समय कम है?
जानिए मुख्य बातें और खबर का सार एक नजर में
प्रेट्र, नई दिल्ली। पांच चैटबाट्स के स्वास्थ्य और चिकित्सा संबंधी प्रश्नों के उत्तरों का विश्लेषण करने पर यह सामने आया है कि चिकित्सा जानकारी का एक बड़ा हिस्सा गलत और अधूरा है । निष्कर्ष द ब्रिटिश मेडिकल जर्नल ओपन प्रकाशित हुए हैं, जिसमें यह भी दर्शाया गया लगभग आधे उत्तर ऐसे थे जो विज्ञान और गैर विज्ञान आधारित दावों के बीच गलत संतुलन प्रस्तुत करते थे।
एक 'समस्याग्रस्त जवाब' उसे माना गया, जो आम यूजर्स को ऐसे इलाज की ओर ले जा सकता है जो शायद असरदार न हो या अगर बिना किसी विशेषज्ञ की सलाह के उस पर अमल किया जाए, तो उससे नुकसान हो सकता है।
अमेरिका में हार्बर यूनिवर्सिटी आफ कैलिफोर्निया लास एंजिल्स (यूसीएलए) मेडिकल सेंटर के द क्विस्ट इंस्टीट्यूट फार बायोमेडिकल इनोवेशन के शोधकर्ताओं सहित अन्य ने कहा कि जहां एक ओर जनरेटिव एआई चैटबाट को रिसर्च, मार्केटिंग और चिकित्सा के क्षेत्र में तेजी से अपनाया जा रहा है और लोग इनका इस्तेमाल सर्च इंजन के तौर पर भी कर रहे है। वहीं, बिना लोगों को जागरूक किए और बिना किसी निगरानी के इनका लगातार इस्तेमाल गलत जानकारी को ज्यादा फैलाने का जोखिम पैदा करता है।
-1776306884849.jpg)
(AI Generated Image)
पांच श्रेणियों के जवाब मांगे गए
पांच सार्वजनिक रूप से उपलब्ध और व्यापक रूप से उपयोग किए जाने वाले जनरेटिव एआई चैटबाट्स गूगल का जेमिनी, हाई फ्लायर का डीपसीक, मेटा द्वारा मेटा एआई, ओपन एआई का चैटजीपीटी और एक्स एआई का ग्रोक को कैंसर, टीकों, स्टेम सेल, पोषण और एथलेटिक प्रदर्शन की पांच श्रेणियों में 10 खुले और बंद प्रश्नों के साथ प्रेरित किया गया।
इन प्रॉम्ट्स को आम 'जानकारी मांगने वाले' स्वास्थ्य और मेडिकल सवालों, आनलाइन गलत जानकारी में इस्तेमाल होने वाली भाषा और अकादमिक चर्चाओं जैसा बनाने के लिए डिज़ाइन किया गया था। इन प्रॉम्ट्स का इस्तेमाल एआई माडल्स की व्यवहारिक कमजोरियों को परखने और पहचानने के लिए भी किया गया। इसके लिए उन्हें गलत जानकारी या नुकसान पहुंचाने वाली सलाह की ओर 'धकेला' गया।
जवाबों को तीन श्रेणियों में बांटा गया
चैटबाट के जवाबों को एक निष्पक्ष और पहले से तय मापदंड के आधार पर 'समस्या रहित', 'कुछ हद तक समस्याग्रस्त' या 'अत्यधिक समस्याग्रस्त' श्रेणियों में बांटा गया। जवाबों में दी गई जानकारी की सटीकता और पूर्णता के आधार पर उन्हें स्कोर दिया गया। इसमें इस बात पर विशेष ध्यान दिया गया कि क्या चैटबाट ने विज्ञान आधारित और गैर विज्ञान आधारित दावों के बीच एक 'झूठा संतुलन' पेश किया है, भले 'उन दावों समर्थन में मौजूद सुबूत कितने भी मजबूत क्यों न हों।
चैटबाट ने जवाब देने में खराब प्रदर्शन किया
शोध लेखकों ने लिखा, जांचे गए चैटबाट ने स्वास्थ्य और चिकित्सा जैसे उन क्षेत्रों में सवालों के जवाब देने में खराब प्रदर्शन किया, जहां गलत जानकारी फैलने का खतरा ज्यादा होता है। उन्होंने कहा, "लगभग आधे (49.6 प्रतिशत) जवाब समस्याग्रस्त थे। 30 प्रतिशत कुछ हद तक समस्याग्रस्त और 19.6 प्रतिशत बहुत ज्यादा समस्याग्रस्त । शोधकर्ताओं ने बताया कि ग्रोक से उम्मीद से काफी ज्यादा ज्यादा समस्याग्रस्त जवाब मिले।
