स्वास्थ्य सेवा में AI के लिए ICMR के दिशानिर्देश: अस्पतालों के लिए एक व्याख्या

2023 में भारतीय आयुर्विज्ञान अनुसंधान परिषद (Indian Council of Medical Research, ICMR) ने जैव चिकित्सा अनुसंधान और स्वास्थ्य सेवा में कृत्रिम बुद्धिमत्ता के उपयोग के लिए नैतिक दिशानिर्देश (Ethical Guidelines for Application of Artificial Intelligence in Biomedical Research and Healthcare) प्रकाशित किए। स्वास्थ्य में AI को कैसे बनाया, परखा और इस्तेमाल किया जाना चाहिए, इसके लिए यह मुख्य भारतीय संदर्भ है, और AI अनुसंधान की समीक्षा करने वाली एथिक्स कमेटियां (ethics committees) इसी का सहारा लेती हैं।

ज़्यादातर अस्पतालों ने इसके बारे में सुना है, पर कम ही ने इसे पढ़ा है। यह लेख आसान शब्दों में बताता है कि इसमें क्या कहा गया है, और इसे एक ऐसी चेकलिस्ट (checklist) में बदल देता है जिस पर कोई अस्पताल अमल कर सके। यह एक सारांश है, क़ानूनी सलाह नहीं।

दस सिद्धांत

दिशानिर्देश दस सिद्धांत तय करते हैं, इसी क्रम में। हर सिद्धांत के साथ दी गई एक पंक्ति की व्याख्या हमारी अपनी समझ है, दिशानिर्देशों के अपने शब्द नहीं:

1. स्वायत्तता (Autonomy)। अपने इलाज से जुड़े फ़ैसलों पर लोगों का नियंत्रण बना रहता है, और AI क्लिनिकल विवेक की जगह नहीं लेता, बल्कि उसका साथ देता है।
2. सुरक्षा और जोखिम को कम से कम करना (Safety and risk minimisation)। तैनाती से पहले और बाद में, नुक़सान का पहले से अनुमान लगाकर उसे कम किया जाता है।
3. विश्वसनीयता (Trustworthiness)। सिस्टम भरोसेमंद ढंग से काम करते हैं, और इतने समझ में आने लायक़ होते हैं कि उन पर भरोसा किया जा सके।
4. डेटा की गोपनीयता (Data privacy)। निजी डेटा हर चरण में सुरक्षित रहता है।
5. जवाबदेही और दायित्व (Accountability and liability)। यह साफ़ होता है कि किसी AI सिस्टम और उसके नतीजों की ज़िम्मेदारी किसकी है।
6. डेटा की गुणवत्ता का अनुकूलन (Optimisation of data quality)। जिस डेटा से सिस्टम सीखता है और जिस पर काम करता है, वह पर्याप्त अच्छा हो, और प्रतिनिधिक हो।
7. सुलभता, समता और समावेशिता (Accessibility, equity and inclusiveness)। फ़ायदे लोगों तक निष्पक्ष ढंग से पहुंचते हैं।
8. सहयोग (Collaboration)। डॉक्टर, तकनीकी विशेषज्ञ, मरीज़ और दूसरे लोग मिलकर काम करते हैं।
9. भेदभाव न करना और निष्पक्षता (Non-discrimination and fairness)। सिस्टम लोगों के किसी भी समूह को नुक़सान की स्थिति में नहीं डालते।
10. वैधता (Validity)। यह साबित किया जाता है कि सिस्टम उसी माहौल में काम करते हैं जहां उनका इस्तेमाल होता है।

तीन हिस्से, जिन्हें अस्पतालों को ध्यान से पढ़ना चाहिए

डेटा की गुणवत्ता। दिशानिर्देश कहते हैं कि ट्रेनिंग डेटा (training data) में “किसी भी तरह का सैंपलिंग पूर्वाग्रह (sampling bias) नहीं होना चाहिए”, और डेटासेट “उस आबादी का पर्याप्त प्रतिनिधित्व करें जिसमें इन तकनीकों का इस्तेमाल होना है।” वे हर नई जगह पर “तैनाती से पहले की जांच” (pre-deployment testing) की प्रक्रिया की सिफ़ारिश करते हैं, और कहते हैं कि अगर पूर्वाग्रह का आरोप लगे, तो सिस्टम का संचालन अस्थायी रूप से रोक देना चाहिए।

किसी अस्पताल के लिए इसका व्यावहारिक मतलब यह है कि दूसरे मरीज़ों के आधार पर बने किसी टूल पर भरोसा करने से पहले उसे आपके मरीज़ों पर परखा जाना चाहिए, और उसे रोकने का कोई तरीक़ा होना चाहिए।

सत्यापन (Validation)। AI को “मरीज़ों/प्रतिभागियों पर लागू करने से पहले कड़े क्लिनिकल और फ़ील्ड सत्यापन से गुज़रना चाहिए”, और सत्यापन में “ट्रेनिंग डेटासेट के अलावा स्वतंत्र रूप से जुटाए गए डेटासेट” इस्तेमाल होने चाहिए। किसी वेंडर के सटीकता के आंकड़े, जो उसने अपने ही डेटा पर मापे हों, इस अर्थ में सत्यापन नहीं हैं।

एथिक्स कमेटियां। दिशानिर्देश एथिक्स कमेटियों से कहते हैं कि वे AI प्रस्तावों में डेटा के स्रोत, गुणवत्ता, सुरक्षा, अनामीकरण (anonymisation) और डेटा चयन संबंधी पूर्वाग्रहों की जांच करें। जो कमेटियां अक्सर AI परियोजनाओं की समीक्षा करती हैं, उन्हें क़ानूनी विशेषज्ञों, डेटा वैज्ञानिकों और कंप्यूटर वैज्ञानिकों को जोड़ने पर विचार करना चाहिए। समीक्षा की श्रेणियां (छूट, त्वरित या पूर्ण) ICMR के 2017 के राष्ट्रीय नैतिक दिशानिर्देशों के अनुसार चलती हैं, जिनके तहत कोई शोधकर्ता श्रेणी ख़ुद तय नहीं कर सकता: हर प्रस्ताव कमेटी के पास जाता है।

दूसरे नियमों और मार्गदर्शन के साथ यह कैसे जुड़ता है

• जैव चिकित्सा और स्वास्थ्य अनुसंधान के लिए ICMR के 2017 के राष्ट्रीय नैतिक दिशानिर्देश (National Ethical Guidelines) मरीज़ों या उनके रिकॉर्ड से जुड़े हर अध्ययन पर लागू होते हैं, चाहे उसमें AI हो या न हो।
• डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023 (Digital Personal Data Protection Act), नवंबर 2025 में अधिसूचित नियमों के साथ, किसी भी AI सिस्टम द्वारा प्रोसेस किए जाने वाले निजी डेटा पर लागू होता है। इसकी ज़्यादातर बाध्यताएं मई 2027 के आसपास लागू होंगी।
• स्वास्थ्य के लिए AI की नैतिकता और गवर्नेंस (governance) पर WHO का 2021 का मार्गदर्शन छह सिद्धांत तय करता है, जो ICMR के सिद्धांतों से काफ़ी हद तक मेल खाते हैं, और WHO ने 2024 में बड़े मल्टी-मोडल मॉडलों (large multi-modal models) पर मार्गदर्शन जोड़ा।
• नीति आयोग के Responsible AI दस्तावेज़ (2021) सभी क्षेत्रों के लिए भारत में AI के सात सिद्धांत तय करते हैं।
• ISO/IEC 42001:2023 AI प्रबंधन प्रणाली के लिए एक अंतरराष्ट्रीय मानक है, उन संगठनों के लिए जो एक औपचारिक, प्रमाणित की जा सकने वाली प्रक्रिया चाहते हैं।

अस्पतालों के लिए एक चेकलिस्ट

1. एक ज़िम्मेदार व्यक्ति तय करें। एक व्यक्ति या एक छोटी कमेटी AI टूल को मंज़ूरी देती है और उनके लिए जवाबदेह होती है।
2. उद्देश्य लिखकर रखें। हर टूल के लिए: वह किसलिए है, उसे कौन इस्तेमाल करता है, और उसे क्या कभी नहीं करना चाहिए।
3. डेटा के बारे में पूछें। टूल को किस डेटा पर प्रशिक्षित और परखा गया? क्या वह आपके मरीज़ों का प्रतिनिधित्व करता है?
4. इसे अपने मरीज़ों पर परखें, इस पर भरोसा करने से पहले, उस डेटा से जिस पर इसे प्रशिक्षित नहीं किया गया।
5. प्रक्रिया में एक इंसान को शामिल रखें (human in the loop)। कोई भी क्लिनिकल चीज़ मरीज़ या उसके रिकॉर्ड तक पहुंचने से पहले किसी डॉक्टर द्वारा जांची जाती है।
6. मरीज़ों को बताएं। समझाएं कि उनके इलाज में AI कहां इस्तेमाल होता है, और जहां ज़रूरी हो, जैसे परामर्श की रिकॉर्डिंग में, वहां सहमति (consent) दर्ज करें।
7. डेटा की सुरक्षा करें। जानें कि वह कहां जाता है, क्या वह भारत से बाहर जाता है, और क्या कोई वेंडर उसका इस्तेमाल मॉडल प्रशिक्षित करने में करता है।
8. लागू होने के बाद भी निगरानी रखें। तय समय पर प्रदर्शन मापें, और मरीज़ों के अलग-अलग समूहों के बीच अंतर देखें।
9. ग़लत जवाब की शिकायत करना आसान बनाएं, और उस पर क्या किया गया, यह दर्ज करें।
10. रोक पाने की तैयारी रखें। जानें कि कुछ ग़लत होने पर किसी टूल को जल्दी से कैसे रोका जाए।
11. अनुसंधान के लिए, शुरू करने से पहले एथिक्स कमेटी के पास जाएं, डेटा के स्रोत, गुणवत्ता और अनामीकरण के ब्योरे के साथ।

इसमें 92health की जगह

92health एक EMR और AI प्लेटफ़ॉर्म है, जिसे भारत में क्लिनिक, अस्पताल, फ़ार्मेसी, लैब और चश्मे की दुकानें इस्तेमाल करती हैं। इसकी AI सुविधाएं इनमें से कई सिद्धांतों को ध्यान में रखकर बनाई गई हैं:

• AI मसौदा बनाता और पढ़ता है, और नतीजे की जांच एक इंसान करता है: नोट्स, सारांश और प्रमाणपत्र मसौदे के रूप में आते हैं, जिन्हें डॉक्टर संपादित करके उन पर हस्ताक्षर करते हैं;
• जो AI एजेंट किसी क्लिनिक के आंकड़ों से जुड़े सवालों के जवाब देता है, वह खुलकर पढ़ सकता है, पर वह जो कुछ भी बदलना चाहे, वह किसी इंसान की मंज़ूरी का इंतज़ार करता है;
• परामर्श मरीज़ की सहमति से रिकॉर्ड किए जाते हैं;
• पहुंच भूमिका (role) के आधार पर मिलती है, बदलाव लॉग किए जाते हैं, और मरीज़ों का डेटा भारत में ही रहता है।

इनमें से कुछ भी अपने आप किसी अस्पताल को नियमों के अनुरूप (compliant) नहीं बना देता। गवर्नेंस ऐसी चीज़ है जो अस्पताल करता है, ऐसी चीज़ नहीं जिसे वह ख़रीद ले। पर सॉफ़्टवेयर सही तरीक़े को डिफ़ॉल्ट बना सकता है, और बाक़ी व्यवस्था लागू करने में हम अपने AI तैयारी के काम के हिस्से के रूप में अस्पतालों की मदद करते हैं।

स्रोत

• ICMR. Ethical Guidelines for Application of Artificial Intelligence in Biomedical Research and Healthcare, 2023.
• ICMR. National Ethical Guidelines for Biomedical and Health Research Involving Human Participants, 2017.
• WHO. Ethics and governance of artificial intelligence for health, 2021, और बड़े मल्टी-मोडल मॉडलों पर मार्गदर्शन, 2024.
• नीति आयोग. Responsible AI #AIforAll, Part 1: Principles for Responsible AI, 2021.
• MeitY. DPDP Rules, 2025.
• ISO/IEC 42001:2023. IEC वेबस्टोर.