चिकित्सा उपकरण निर्माता अपने उत्पादों में एआई (आरआईपी) को शामिल करने के लिए होड़ मचा रहे हैं। जहां एक ओर इसके समर्थक कहते हैं कि यह नई तकनीक चिकित्सा जगत में क्रांति लाएगी, वहीं दूसरी ओर नियामकों को मरीजों की चोटों से संबंधित शिकायतों की बढ़ती संख्या प्राप्त हो रही है।
2021 में, स्वास्थ्य सेवा क्षेत्र की दिग्गज कंपनी जॉनसन एंड जॉनसन की एक इकाई ने “एक बड़ी उपलब्धि” की घोषणा की: उसने साइनस की सूजन (क्रोनिक साइनसाइटिस) के इलाज में इस्तेमाल होने वाले एक चिकित्सा उपकरण में कृत्रिम बुद्धिमत्ता को शामिल किया था। एक्लेरेंट ने कहा कि उसके ट्रूडीआई नेविगेशन सिस्टम का सॉफ्टवेयर अब सर्जरी में कान, नाक और गले के विशेषज्ञों की सहायता के लिए मशीन लर्निंग एल्गोरिदम का उपयोग करेगा।
यह उपकरण लगभग तीन वर्षों से बाज़ार में था। तब तक, अमेरिकी खाद्य एवं औषधि प्रशासन (एफडीए) को उपकरण में खराबी के सात मामलों और एक मरीज़ के घायल होने की अपुष्ट रिपोर्टें मिली थीं। उपकरण में कृत्रिम बुद्धिमत्ता (एआई) को शामिल किए जाने के बाद से, एफडीए को कम से कम 100 खराबी और प्रतिकूल घटनाओं की अपुष्ट रिपोर्टें मिली हैं।
रिपोर्ट्स के मुताबिक, 2021 के अंत से नवंबर 2025 के बीच कम से कम 10 लोग घायल हुए। इनमें से अधिकतर मामलों में कथित तौर पर ट्रुडी नेविगेशन सिस्टम की त्रुटियां शामिल थीं, जिसके कारण ऑपरेशन के दौरान मरीजों के सिर के अंदर उपकरणों का उपयोग करते समय सर्जनों को उपकरणों की स्थिति के बारे में गलत जानकारी मिली।
एक मरीज की नाक से मस्तिष्क का द्रव रिसने की खबर मिली है। एक अन्य मामले में, एक सर्जन ने गलती से मरीज की खोपड़ी के निचले हिस्से में छेद कर दिया। दो अन्य मामलों में, मरीज कथित तौर पर गंभीर धमनी में गलती से चोट लगने के बाद स्ट्रोक का शिकार हुए।
एफडीए की डिवाइस रिपोर्टें अपूर्ण हो सकती हैं और इनका उद्देश्य चिकित्सा दुर्घटनाओं के कारणों का निर्धारण करना नहीं है, इसलिए यह स्पष्ट नहीं है कि इन घटनाओं में एआई की क्या भूमिका रही होगी। स्ट्रोक के शिकार दोनों पीड़ितों ने टेक्सास में मुकदमा दायर किया है, जिसमें आरोप लगाया गया है कि ट्रूडी सिस्टम के एआई ने उनकी चोटों में योगदान दिया। एक मुकदमे में आरोप लगाया गया है कि “सॉफ्टवेयर में कृत्रिम बुद्धिमत्ता को शामिल करने के लिए बदलाव करने से पहले उत्पाद सॉफ्टवेयर संशोधनों के बाद की तुलना में कहीं अधिक सुरक्षित था।”
रॉयटर्स मुकदमों में लगाए गए आरोपों की स्वतंत्र रूप से पुष्टि नहीं कर सका।
ट्रूडी डिवाइस पर एफडीए की रिपोर्टों के बारे में पूछे जाने पर, जॉनसन एंड जॉनसन ने सवालों के जवाब के लिए इंटीग्र लाइफसाइंसेज से संपर्क करने को कहा, जिसने 2024 में एक्लेरेंट और ट्रूडी नेविगेशन सिस्टम का अधिग्रहण किया था। इंटीग्र लाइफसाइंसेज ने कहा कि रिपोर्टों में “केवल इतना ही बताया गया है कि एक सर्जरी में ट्रूडी सिस्टम का उपयोग किया गया था, जहां एक प्रतिकूल घटना घटी।” कंपनी ने आगे कहा कि “ट्रूडी नेविगेशन सिस्टम, एआई तकनीक और किसी भी कथित चोट के बीच किसी भी कारण-कार्य संबंध को दर्शाने वाला कोई विश्वसनीय सबूत नहीं है।”
लिंक्डइन पर एक्लेरेंट द्वारा पोस्ट किए गए एक वीडियो में उसके ट्रूडी नेविगेशन सिस्टम की एक एआई सुविधा का प्रदर्शन किया गया है। ट्रूपाथ नामक यह सुविधा सर्जनों को “दो बिंदुओं के बीच सबसे छोटा, वैध मार्ग” दिखाती है। स्क्रीनशॉट रॉयटर्स के सौजन्य से।
इन घटनाओं की जानकारी ऐसे समय में सामने आई है जब कृत्रिम बुद्धिमत्ता (एआई) स्वास्थ्य सेवा की दुनिया में क्रांतिकारी बदलाव ला रही है। इसके समर्थकों का अनुमान है कि यह नई तकनीक दुर्लभ बीमारियों का इलाज खोजने, नई दवाएं विकसित करने, सर्जनों के कौशल को बढ़ाने और रोगियों को सशक्त बनाने में मदद करेगी। लेकिन रॉयटर्स द्वारा सुरक्षा और कानूनी रिकॉर्ड की समीक्षा, साथ ही डॉक्टरों, नर्सों, वैज्ञानिकों और नियामकों के साथ साक्षात्कार से पता चलता है कि चिकित्सा क्षेत्र में एआई के कुछ खतरे भी हैं, क्योंकि उपकरण निर्माता, तकनीकी दिग्गज और सॉफ्टवेयर डेवलपर इसे व्यापक स्तर पर लागू करने की होड़ में लगे हैं।
एफडीए द्वारा एआई का उपयोग करने वाले कम से कम 1,357 चिकित्सा उपकरणों को अब मंजूरी दे दी गई है – यह संख्या 2022 तक स्वीकृत उपकरणों की संख्या से दोगुनी है। ट्रूडी सिस्टम अकेला ऐसा उपकरण नहीं है जिस पर सवाल उठ रहे हैं: एफडीए को दर्जनों अन्य एआई-संवर्धित उपकरणों से संबंधित रिपोर्टें मिली हैं, जिनमें एक हार्ट मॉनिटर भी शामिल है जिसने असामान्य दिल की धड़कनों को नजरअंदाज किया और एक अल्ट्रासाउंड उपकरण जिसने कथित तौर पर भ्रूण के अंगों की गलत पहचान की।
जॉन्स हॉपकिंस, जॉर्जटाउन और येल विश्वविद्यालयों के शोधकर्ताओं ने हाल ही में पाया कि कृत्रिम बुद्धिमत्ता का उपयोग करने वाले एफडीए द्वारा अधिकृत 60 चिकित्सा उपकरणों का संबंध 182 उत्पाद वापसी मामलों से था। यह जानकारी अगस्त में JAMA हेल्थ फोरम में प्रकाशित एक शोध पत्र में दी गई है। उनके अध्ययन से पता चला कि 43% वापसी मामले उपकरणों को मंजूरी मिलने के एक वर्ष से भी कम समय में हुए। अध्ययन में यह भी बताया गया है कि यह एफडीए के समान नियमों के तहत अधिकृत सभी उपकरणों की वापसी दर से लगभग दोगुना है।
आर्टिफिशियल इंटेलिजेंस (एआई) की बढ़ती मांग एफडीए के लिए एक समस्या खड़ी कर रही है, एजेंसी के पांच मौजूदा और पूर्व वैज्ञानिकों ने रॉयटर्स को बताया: प्रमुख कर्मचारियों की कमी के बाद, एआई-संवर्धित चिकित्सा उपकरणों की बढ़ती संख्या से निपटने में एजेंसी को मुश्किल हो रही है, जिन्हें मंजूरी की सख्त जरूरत है। अमेरिकी स्वास्थ्य और मानव सेवा विभाग (जिसमें एफडीए भी शामिल है) के एक प्रवक्ता ने कहा कि वह इस क्षेत्र में अपनी क्षमता बढ़ाने पर विचार कर रहा है।
कृत्रिम बुद्धिमत्ता का एक अन्य रूप, जनरेटिव-एआई चैटबॉट, भी चिकित्सा क्षेत्र में अपनी जगह बना रहा है। कई चिकित्सक अब समय बचाने के लिए एआई का उपयोग कर रहे हैं, जैसे कि रोगी के नोट्स को ट्रांसक्राइब करने में। लेकिन डॉक्टरों का यह भी कहना है कि कई मरीज चैटबॉट का उपयोग स्वयं निदान करने या पेशेवर सलाह को चुनौती देने के लिए करते हैं, जिससे नई चुनौतियाँ और जोखिम उत्पन्न होते हैं।
लगभग तीन साल पहले ChatGPT के लॉन्च के बाद कृत्रिम बुद्धिमत्ता व्यापार और सामाजिक जगत में सनसनी बन गई। ChatGPT और Google के Gemini और Anthropic के Claude जैसे अन्य लोकप्रिय चैटबॉट, सामग्री बनाने के लिए जनरेटिव AI का उपयोग करते हैं। ये बड़े भाषा मॉडल (LLM) पर आधारित हैं, जिन्हें मानव भाषा को समझने और उत्पन्न करने के लिए टेक्स्ट और अन्य डेटा के विशाल भंडार पर प्रशिक्षित किया जाता है। अब इन AI उपकरणों को उपभोक्ता स्वास्थ्य सेवा ऐप्स जैसे चिकित्सा क्षेत्रों में भी शामिल किया जा रहा है।
हालांकि, एआई का दायरा केवल एलएलएम तक ही सीमित नहीं है, और एआई बॉट्स के आने से बहुत पहले ही यह तकनीक चिकित्सा क्षेत्र में अपनी जगह बना चुकी थी। यह क्षेत्र 70 साल से भी अधिक पुराना है: एक महत्वपूर्ण क्षण तब आया जब ब्रिटिश गणितज्ञ एलन ट्यूरिंग ने 1950 के एक शोध पत्र में पूछा, “क्या मशीनें सोच सकती हैं?”
एफडीए ने 1995 में अपने पहले एआई-संवर्धित चिकित्सा उपकरणों को मंजूरी दी – दो ऐसे सिस्टम जो सर्वाइकल कैंसर की जांच के लिए पैटर्न-मैचिंग सॉफ्टवेयर का उपयोग करते थे। आज चिकित्सा उपकरणों में उपयोग किए जाने वाले एआई को अक्सर मशीन लर्निंग कहा जाता है, साथ ही डीप लर्निंग नामक एक उपसमूह भी है, जिसे विशिष्ट कार्यों को करने के लिए डेटा पर प्रशिक्षित किया जाता है। उदाहरण के लिए, इस तकनीक का उपयोग रेडियोलॉजी में चिकित्सा छवियों को बेहतर बनाने और उनका विश्लेषण करने के लिए किया जाता है। यह उन ट्यूमर की पहचान करके कैंसर के निदान में मदद कर सकता है जिन्हें डॉक्टर अनदेखा कर सकते हैं।
इस तरह की प्रणालियों का उपयोग शल्य चिकित्सा उपकरणों में भी किया जाता है। जून 2022 में, टेक्सास के फोर्ट वर्थ स्थित एक अस्पताल में एक सर्जन ने एरिन राल्फ की साइनस कैविटी में एक छोटा गुब्बारा डाला। राल्फ द्वारा दायर एक मुकदमे के अनुसार, डॉ. मार्क डीन ट्रुडी नेविगेशन सिस्टम का उपयोग कर रहे थे, जो कृत्रिम बुद्धिमत्ता का उपयोग करके उनके सिर के अंदर उनके उपकरणों की स्थिति की पुष्टि करता है।
साइनोप्लास्टी नामक यह प्रक्रिया, क्रोनिक साइनसाइटिस के इलाज की एक न्यूनतम इनवेसिव तकनीक है। इसमें एक गुब्बारे को फुलाकर साइनस गुहा के मुख को बड़ा किया जाता है, जिससे बेहतर जल निकासी हो सके और सूजन से राहत मिल सके।
लेकिन डलास काउंटी जिला न्यायालय में एक्लेरेंट और अन्य प्रतिवादियों के खिलाफ राल्फ द्वारा दायर मुकदमे के अनुसार, ट्रूडी प्रणाली ने डीन को “गुमराह और गुमराह” किया। आरोप है कि मस्तिष्क, चेहरे और गर्दन को रक्त की आपूर्ति करने वाली कैरोटिड धमनी में चोट लगी, जिससे रक्त का थक्का जम गया। अदालत में दायर एक दस्तावेज के अनुसार, राल्फ के वकील ने न्यायाधीश को बताया कि डीन के अपने रिकॉर्ड से पता चलता है कि उन्हें “इस बात का जरा भी अंदाजा नहीं था कि वे कैरोटिड धमनी के आसपास भी थे।” रॉयटर्स न्यायिक सुरक्षा आदेश के अधीन होने के कारण इन रिकॉर्डों की समीक्षा नहीं कर सका।
राल्फ के अस्पताल से डिस्चार्ज होने के बाद पता चला कि उन्हें स्ट्रोक हुआ था। चार बच्चों की मां को वापस अस्पताल ले जाया गया और उनकी रिकवरी में मदद के लिए GoFundMe पर चलाए गए फंडरेज़िंग अभियान के अनुसार, उन्हें पांच दिनों तक गहन चिकित्सा कक्ष में रखा गया। GoFundMe अपील में कहा गया है कि उनके मस्तिष्क को सूजन के लिए जगह देने के लिए उनकी खोपड़ी का एक हिस्सा हटा दिया गया था।
स्ट्रोक पीड़ितों के बारे में एक ब्लॉग में एक साल से अधिक समय बाद दिए गए एक साक्षात्कार में राल्फ ने कहा, “मैं अभी भी थेरेपी ले रहा हूं। बिना ब्रेस के चलना और अपने बाएं हाथ को फिर से काम करने लायक बनाना मुश्किल है।”
समर्थकों ने 2022 में एरिन राल्फ और उनके परिवार के लिए धन जुटाने के लिए यह गोफंडमी अभियान शुरू किया था। राल्फ की साइनस सर्जरी हुई थी, जिसके बाद उन्हें स्ट्रोक आ गया। बाद में राल्फ ने ट्रुडी नेविगेशन सिस्टम में मौजूद एआई को अपनी चोटों का कारण बताते हुए मुकदमा दायर किया। कंपनी ने मुकदमे में लगाए गए आरोपों से इनकार किया है। (स्क्रीनशॉट रॉयटर्स के सौजन्य से)
मई 2023 में, डीन एक अन्य साइनोप्लास्टी ऑपरेशन में ट्रूडी का उपयोग कर रहे थे, जब मरीज डोना फर्निहॉफ की कैरोटिड धमनी कथित तौर पर फट गई। फर्निहॉफ द्वारा फोर्ट वर्थ स्थित अमेरिकी जिला न्यायालय में एक्लेरेंट और कई निर्माताओं के खिलाफ दायर मुकदमे के अनुसार, खून चारों ओर फैल गया – यहां तक कि सर्जरी देख रहे एक्लेरेंट प्रतिनिधि पर भी गिरा। फर्निहॉफ की एक कैरोटिड धमनी क्षतिग्रस्त हो गई। उनके मुकदमे के अनुसार, सर्जरी वाले दिन ही उन्हें स्ट्रोक आ गया।
मुकदमे में आरोप लगाया गया है कि एक्लेरेंट को “पता था या पता होना चाहिए था कि कथित कृत्रिम बुद्धिमत्ता ने एकीकृत नेविगेशन सिस्टम उत्पाद की असंगत, गलत और अविश्वसनीय होने की प्रवृत्ति को पैदा किया या बढ़ा दिया।”
अदालती दस्तावेजों के अनुसार, एक्लेरेंट ने दोनों चल रहे मुकदमों में लगे आरोपों से इनकार किया है। कंपनी का कहना है कि उसने ट्रूडीआई सिस्टम को न तो डिजाइन किया और न ही निर्मित किया, बल्कि केवल वितरित किया। एक्लेरेंट की मालिक कंपनी, इंटीग्र लाइफसाइंसेज ने रॉयटर्स को बताया कि एआई तकनीक और किसी भी कथित चोट के बीच संबंध का कोई सबूत नहीं है।
डीन ने 2014 में एक्लेरेंट के लिए परामर्श देना शुरू किया और ओपन पेमेंट्स (एक संघीय डेटाबेस जो कंपनियों और चिकित्सकों के बीच वित्तीय संबंधों पर नज़र रखता है) के अनुसार, उन्हें 2024 तक कंपनी से परामर्श शुल्क के रूप में 550,000 डॉलर से अधिक प्राप्त हुए। इन शुल्कों में से कम से कम 135,000 डॉलर ट्रूडीआई सिस्टम से संबंधित थे।
डीन के वकील ने कहा कि मरीज की निजता और चल रहे मुकदमे के कारण डॉक्टर इस मामले पर टिप्पणी नहीं कर सकते। इंटेग्रा ने कहा कि डीन अब ट्रूडीआई के सलाहकार नहीं हैं और एक्लेरेंट के अधिग्रहण के बाद उन्हें किए गए भुगतान भोजन के लिए थे।
फर्निहॉफ के मुकदमे में आरोप लगाया गया है कि 2021 में, एक्लेरेंट के तत्कालीन अध्यक्ष, जेफ हॉपकिंस, ट्रुडी में एआई को “एक मार्केटिंग टूल” के रूप में शामिल करने पर जोर दे रहे थे ताकि यह दावा किया जा सके कि डिवाइस में “नई और अनूठी तकनीक” है।
लिंक्डइन पर Acclarent की एक पोस्ट के अनुसार, TruDi सॉफ्टवेयर मशीन लर्निंग का उपयोग करके रोगी के शरीर के विशिष्ट खंडों की पहचान करता है और चिकित्सक द्वारा निर्दिष्ट दो बिंदुओं के बीच “सबसे छोटा, मान्य मार्ग” की गणना करता है। यह तकनीक सर्जिकल योजना को सरल बनाने और साइनस ऑपरेशन जैसी प्रक्रियाओं के दौरान वास्तविक समय में प्रतिक्रिया प्रदान करने के लिए डिज़ाइन की गई है।
फर्निहॉफ के मुकदमे में कहा गया है कि एक्लेरेंट के अधिकारियों ने एआई को शामिल करने की योजना के बारे में डीन से संपर्क किया था। शिकायत में आगे कहा गया है कि सर्जन ने हॉपकिंस और एक्लेरेंट को चेतावनी दी थी कि “कुछ मुद्दे हैं जिन्हें हल करने की आवश्यकता है।” मुकदमे में दावा किया गया है कि इस चेतावनी के बावजूद, एक्लेरेंट ने “नई तकनीक को बाजार में जल्दी लाने के लिए अपने सुरक्षा मानकों को कम कर दिया” और “ट्रूडीआई नेविगेशन सिस्टम में एकीकृत करने से पहले इस नई तकनीक के कुछ हिस्सों के लिए केवल 80% सटीकता का लक्ष्य निर्धारित किया।”
रॉयटर्स यह पता नहीं लगा सका कि डीन ने चेतावनी जारी की थी या नहीं। फर्निहॉफ के दावों के समर्थन में प्रस्तुत सामग्री की समीक्षा पत्रकार नहीं कर सके, क्योंकि यह न्यायिक सुरक्षा आदेश के अधीन है।
एक्लेरेंट के पूर्व अध्यक्ष हॉपकिंस ने टिप्पणी के अनुरोध का जवाब नहीं दिया।
‘गलत शारीरिक अंग’
एफडीए ने चेतावनी दी है कि प्रतिकूल घटनाओं और उपकरण की खराबी की रिपोर्ट सीमित हैं: इनमें अक्सर विवरण की कमी होती है, व्यापारिक रहस्यों की रक्षा के लिए जानकारी को संपादित किया जाता है, और केवल इन्हीं के आधार पर किसी को दोषी नहीं ठहराया जा सकता। एजेंसी को कभी-कभी एक ही घटना के लिए कई रिपोर्ट भी प्राप्त होती हैं।
रॉयटर्स ने पाया कि 2021 से अक्टूबर 2025 के बीच एफडीए को दी गई कम से कम 1,401 शिकायतें उन चिकित्सा उपकरणों से संबंधित हैं जो एफडीए की 1,357 कृत्रिम बुद्धिमत्ता (एआई) का उपयोग करने वाले उत्पादों की सूची में शामिल हैं। एजेंसी का कहना है कि यह सूची व्यापक नहीं है। इन शिकायतों में से कम से कम 115 में सॉफ्टवेयर, एल्गोरिदम या प्रोग्रामिंग से संबंधित समस्याओं का उल्लेख है।
जून 2025 में एफडीए की एक रिपोर्ट में आरोप लगाया गया था कि प्रसवपूर्व अल्ट्रासाउंड के लिए इस्तेमाल किया जाने वाला एआई सॉफ्टवेयर भ्रूण के अंगों की गलत पहचान कर रहा था। सोनिओ डिटेक्ट नामक यह सॉफ्टवेयर भ्रूण की छवियों का विश्लेषण करने में मदद के लिए मशीन लर्निंग तकनीकों का उपयोग करता है।
रिपोर्ट में कहा गया है कि “सोनियो डिटेक्ट सॉफ्टवेयर का एआई एल्गोरिदम दोषपूर्ण है और यह भ्रूण की संरचनाओं को गलत तरीके से लेबल करता है और उन्हें गलत शारीरिक अंगों से जोड़ता है।” हालांकि, रिपोर्ट में यह नहीं बताया गया है कि किसी मरीज को नुकसान पहुंचा है। सोनियो डिटेक्ट सैमसंग इलेक्ट्रॉनिक्स की एक इकाई, सैमसंग मेडिसन के स्वामित्व में है। सैमसंग मेडिसन ने कहा कि सोनियो डिटेक्ट के बारे में एफडीए की रिपोर्ट में “किसी भी सुरक्षा समस्या का संकेत नहीं दिया गया है, और न ही एफडीए ने सोनियो से कोई कार्रवाई करने का अनुरोध किया है।”
एचएचएस के प्रवक्ता ने सोनिओ डिटेक्ट के बारे में पूछे गए सवालों का जवाब नहीं दिया।
सोनियो डिटेक्ट सॉफ्टवेयर का एआई एल्गोरिदम दोषपूर्ण है और यह भ्रूण की संरचनाओं को गलत तरीके से लेबल करता है और उन्हें गलत शारीरिक अंगों से जोड़ता है।
जून 2022 में FDA को रिपोर्ट दाखिल की गई
कम से कम 16 रिपोर्टों में दावा किया गया कि चिकित्सा उपकरण बनाने वाली दिग्गज कंपनी मेडट्रॉनिक द्वारा निर्मित एआई-सहायता प्राप्त हृदय गति सूचक यंत्र असामान्य लय या रुकावटों को पहचानने में विफल रहे। किसी भी रिपोर्ट में चोट का उल्लेख नहीं किया गया। मेडट्रॉनिक ने एफडीए को बताया कि कुछ घटनाएं “उपयोगकर्ता की गलतफहमी” के कारण हुईं।
मेडट्रॉनिक की LINQ श्रृंखला के प्रत्यारोपण योग्य कार्डियक मॉनिटर में उपयोग किए गए AI एल्गोरिदम को “डीप लर्निंग आर्टिफिशियल इंटेलिजेंस” के रूप में वर्णित किया गया है। कंपनी की वेबसाइट के अनुसार , इन्होंने हृदय संबंधी घटनाओं के गलत अलर्ट को काफी हद तक कम कर दिया है और सही अलर्ट को बरकरार रखा है। लेकिन कंपनी अपनी वेबसाइट और उत्पाद साहित्य में यह भी कहती है कि उसकी AI तकनीक, AccuRhythm AI, वास्तविक असामान्य हृदय लय या रुकावटों को गलत तरीके से वर्गीकृत कर सकती है।
मेडट्रॉनिक की वेबसाइट के अनुसार, कंपनी के AccuRhythm AI एल्गोरिदम अपने कार्डियक मॉनिटर में “डीप लर्निंग” आर्टिफिशियल इंटेलिजेंस का उपयोग करते हैं (स्क्रीनशॉट यहां दिखाया गया है)। (स्क्रीनशॉट रॉयटर्स के सौजन्य से)
मेडट्रॉनिक ने रॉयटर्स को बताया कि उसने सभी 16 घटनाओं की समीक्षा की और निष्कर्ष निकाला कि उसके उपकरण से केवल एक असामान्य हृदय-लय घटना का पता नहीं चल पाया। कंपनी ने कहा, “इनमें से किसी भी रिपोर्ट के परिणामस्वरूप किसी मरीज को कोई नुकसान नहीं हुआ।” मेडट्रॉनिक ने कहा कि कुछ घटनाएं एआई तकनीक से संबंधित नहीं थीं, बल्कि डेटा डिस्प्ले में समस्याओं से जुड़ी थीं। कंपनी ने प्रत्येक घटना में हुई गड़बड़ी के बारे में पूरी जानकारी देने से इनकार कर दिया।
एचएचएस के प्रवक्ता ने कहा कि एजेंसी संभावित या चल रहे अनुपालन मामलों पर चर्चा नहीं करती है।
ट्रंप के शासनकाल में एफडीए द्वारा की गई कटौती
साक्षात्कारों में, एआई-संचालित चिकित्सा उपकरणों की समीक्षा करने वाले एफडीए के पांच वर्तमान और पूर्व वैज्ञानिकों ने रॉयटर्स को बताया कि संघीय नियामक अब नए उपकरणों की बाढ़ को संभालने के लिए कम सुसज्जित हैं।
लगभग चार साल पहले, एफडीए ने कृत्रिम बुद्धिमत्ता (एआई) में विशेषज्ञता रखने वाले वैज्ञानिकों की अपनी टीम का विस्तार किया, विशेष रूप से उन चिकित्सा इमेजिंग और रेडियोलॉजी उपकरणों की समीक्षा के लिए जो इस तकनीक का उपयोग करते हैं। कई नए भर्ती किए गए वैज्ञानिकों को इमेजिंग, डायग्नोस्टिक्स और सॉफ्टवेयर विश्वसनीयता प्रभाग (डीआईडीएसआर) में तैनात किया गया था। एफडीए के एक वर्तमान और दो पूर्व कर्मचारियों ने रॉयटर्स को बताया कि यह इकाई चिकित्सा में एआई की सुरक्षा का आकलन करने के लिए एजेंसी का प्रमुख संसाधन बन गई। पिछले साल की शुरुआत में इसकी संख्या बढ़कर लगभग 40 हो गई थी।
“कुछ वरिष्ठ नियामकों को इन तकनीकों के काम करने के तरीके के बारे में कोई जानकारी नहीं है,” एक पूर्व कर्मचारी ने कहा। “हमने वरिष्ठ नियामकों के साथ बैठकर उन्हें समझाया कि हमें क्यों लगता है कि यह तकनीक बाजार में उपयोग करने के लिए सुरक्षित है या नहीं।”
शीर्ष प्रतिभाओं को सरकारी सेवा में आकर्षित करना आसान नहीं था। कंप्यूटर वैज्ञानिकों की भर्ती के लिए अक्सर उन्हें निजी क्षेत्र में मिलने वाले अधिक वेतन को ठुकराने के लिए राजी करना पड़ता था।
एक पूर्व कर्मचारी ने बताया कि अपने काम में वैज्ञानिकों ने उपकरणों के एआई मॉडल को “खराब” करने की कोशिश की। वे विभिन्न नैदानिक स्थितियों में उपकरण के एल्गोरिदम का परीक्षण करते थे और यह जांचते थे कि क्या समय के साथ एआई का प्रदर्शन खराब होता है। एफडीए अधिकारियों ने अक्टूबर में प्रकाशित एक शोध पत्र में लिखा है कि उन्होंने “भ्रम” को कम करने का भी प्रयास किया, जिसमें एआई मॉडल कभी-कभी गलत जानकारी उत्पन्न करते हैं।
लेकिन पिछले साल की शुरुआत में, ट्रम्प प्रशासन ने एलन मस्क के खर्च कम करने के अभियान के तहत सरकारी दक्षता विभाग (डीओजीई) की एआई टीम को भंग करना शुरू कर दिया। एफडीए के सूत्रों के अनुसार, डीआईडीएसआर इकाई के 40 एआई वैज्ञानिकों में से लगभग 15 को नौकरी से निकाल दिया गया या उन्होंने स्वेच्छा से इस्तीफा दे दिया। एआई का उपयोग करने वाले उपकरणों पर नीति बनाने वाली एक अन्य इकाई, डिजिटल हेल्थ सेंटर ऑफ एक्सीलेंस (डीआईडीएसआर) ने अपने लगभग 30 कर्मचारियों में से लगभग एक तिहाई को खो दिया।
एचएचएस के प्रवक्ता एंड्रयू निक्सन ने कहा कि एफडीए मशीन लर्निंग और अन्य एआई की सहायता से निर्मित चिकित्सा उपकरणों पर भी वही कठोर मानक लागू कर रहा है जो वह किसी अन्य उत्पाद पर लागू करता है।
निक्सन ने कहा, “मरीजों की सुरक्षा एफडीए की सर्वोच्च प्राथमिकता है और सार्वजनिक स्वास्थ्य की रक्षा एवं उसे बढ़ावा देने के हमारे प्रयासों में यह सबसे आगे है।” उन्होंने आगे कहा, “एफडीए डिजिटल स्वास्थ्य क्षेत्र में अपार संभावनाएं देखता है,” जिसमें कृत्रिम बुद्धिमत्ता और मशीन लर्निंग से लैस उपकरण शामिल हैं, जो कई तरह की बीमारियों के निदान और उपचार में सहायक हो सकते हैं। उन्होंने यह भी कहा कि एफडीए डिजिटल स्वास्थ्य, कृत्रिम बुद्धिमत्ता और अन्य उभरती प्रौद्योगिकियों में विशेषज्ञता रखने वाले प्रतिभाशाली लोगों की भर्ती और विकास करना जारी रखे हुए है।
दो पूर्व कर्मचारियों ने बताया कि छंटनी के बाद से कुछ डिवाइस समीक्षकों का कार्यभार लगभग दोगुना हो गया है। पिछले साल नौकरी छोड़ने वाले एक पूर्व डिवाइस समीक्षक ने कहा, “यदि आपके पास संसाधन नहीं हैं, तो गलतियाँ होने की संभावना अधिक होती है।”
एफडीए नई दवाओं के लिए नैदानिक परीक्षण अनिवार्य करता है, लेकिन चिकित्सा उपकरणों की जांच प्रक्रिया अलग होती है। एफडीए के नियमों के अनुसार, बाज़ार में आने वाले अधिकांश एआई-सक्षम उपकरणों का रोगियों पर परीक्षण करना अनिवार्य नहीं है। इसके बजाय, निर्माता एफडीए के नियमों का पालन करने के लिए पहले से अधिकृत उन उपकरणों का हवाला देते हैं जिनमें एआई से संबंधित कोई क्षमता नहीं थी, ऐसा सेंट लुइस स्थित वाशिंगटन विश्वविद्यालय के मेडिकल स्कूल में प्रशिक्षक और चिकित्सा उपकरण विनियमन विशेषज्ञ डॉ. अलेक्जेंडर एवरहार्ट कहते हैं।
नए उपकरणों को मौजूदा उपकरणों के अपडेट के रूप में प्रस्तुत करना एक लंबे समय से चली आ रही प्रथा है, लेकिन एवरहार्ट का कहना है कि एआई इस यथास्थिति में नई अनिश्चितता लाता है।
एवरहार्ट ने रॉयटर्स को बताया, “मुझे लगता है कि चिकित्सा उपकरणों को विनियमित करने के लिए एफडीए का पारंपरिक दृष्टिकोण एआई-सक्षम तकनीकों की सुरक्षा और प्रभावशीलता सुनिश्चित करने के लिए पर्याप्त नहीं है। हम निर्माताओं पर निर्भर हैं कि वे उत्पादों को अच्छी तरह से बाजार में उतारें। मुझे नहीं पता कि एफडीए में जो व्यवस्था है, वह सार्थक सुरक्षा उपाय प्रदान करती है या नहीं।”
