ఆరోగ్య సంరక్షణలో AI కోసం ICMR మార్గదర్శకాలు: ఆసుపత్రుల కోసం ఒక వివరణ

2023లో భారత వైద్య పరిశోధన మండలి (Indian Council of Medical Research, ICMR), జీవవైద్య పరిశోధనలోనూ ఆరోగ్య సంరక్షణలోనూ కృత్రిమ మేధను వినియోగించడానికి నైతిక మార్గదర్శకాలను (Ethical Guidelines for Application of Artificial Intelligence in Biomedical Research and Healthcare) ప్రచురించింది. ఆరోగ్య రంగంలో AIని ఎలా రూపొందించాలి, ఎలా పరీక్షించాలి, ఎలా ఉపయోగించాలి అనే దానికి ఇదే ప్రధాన భారతీయ ఆధారం; AI పరిశోధనను సమీక్షించే నైతిక కమిటీలు (ethics committees) దీనినే ఆశ్రయిస్తాయి.

చాలా ఆసుపత్రులు దీని గురించి విన్నాయి, కానీ కొన్ని మాత్రమే దీన్ని చదివాయి. ఇది ఏమి చెబుతుందో ఈ వ్యాసం సరళమైన మాటల్లో వివరిస్తుంది, ఒక ఆసుపత్రి ఆచరణలో పెట్టగల తనిఖీ జాబితాగా (checklist) దాన్ని మారుస్తుంది. ఇది ఒక సారాంశం మాత్రమే, న్యాయ సలహా కాదు.

పది సూత్రాలు

మార్గదర్శకాలు పది సూత్రాలను ఈ క్రమంలో నిర్దేశిస్తాయి. ఒక్కోదానికి ఇచ్చిన ఒక వాక్య వివరణ మా అవగాహన మాత్రమే, మార్గదర్శకాల సొంత పదాలు కావు:

1. స్వయంప్రతిపత్తి (Autonomy). తమ చికిత్సకు సంబంధించిన నిర్ణయాలు ప్రజల నియంత్రణలోనే ఉంటాయి; AI క్లినికల్ విచక్షణకు తోడ్పడుతుంది తప్ప దాని స్థానాన్ని ఆక్రమించదు.
2. భద్రత, ముప్పు తగ్గింపు (Safety and risk minimisation). వినియోగంలోకి తీసుకురావడానికి ముందూ, తర్వాతా హానిని ముందుగానే అంచనా వేసి తగ్గిస్తారు.
3. విశ్వసనీయత (Trustworthiness). వ్యవస్థలు ఆధారపడదగిన విధంగా పనిచేస్తాయి, నమ్మగలిగేంతగా అర్థం చేసుకోగలిగేవిగా ఉంటాయి.
4. డేటా గోప్యత (Data privacy). వ్యక్తిగత డేటా అన్ని దశల్లోనూ రక్షితంగా ఉంటుంది.
5. జవాబుదారీతనం, చట్టపరమైన బాధ్యత (Accountability and liability). ఒక AI వ్యవస్థకూ, దాని ఫలితాలకూ ఎవరు బాధ్యులో స్పష్టంగా ఉంటుంది.
6. డేటా నాణ్యత ఉత్తమీకరణ (Optimisation of data quality). ఒక వ్యవస్థ నేర్చుకునే, పనిచేసే డేటా తగినంత నాణ్యంగా, ప్రాతినిధ్యం వహించేదిగా ఉంటుంది.
7. అందుబాటు, సమానత, సమ్మిళితత్వం (Accessibility, equity and inclusiveness). ప్రయోజనాలు ప్రజలకు న్యాయంగా చేరుతాయి.
8. సహకారం (Collaboration). వైద్యులు, సాంకేతిక నిపుణులు, రోగులు, ఇతరులు కలిసి పనిచేస్తారు.
9. వివక్ష లేకపోవడం, న్యాయబద్ధత (Non-discrimination and fairness). వ్యవస్థలు ఏ వర్గం ప్రజలకూ ప్రతికూలంగా ఉండవు.
10. చెల్లుబాటు (Validity). వ్యవస్థలు వాడే పరిస్థితుల్లోనే పనిచేస్తాయని నిరూపించబడుతుంది.

ఆసుపత్రులు జాగ్రత్తగా చదవాల్సిన మూడు భాగాలు

డేటా నాణ్యత. శిక్షణ డేటాలో (training data) “ఎలాంటి నమూనా పక్షపాతం (sampling bias) ఉండకూడదు” అని, డేటాసెట్‌లు “ఆ సాంకేతికతలను ఉపయోగించాలనుకుంటున్న జనాభాకు తగిన విధంగా ప్రాతినిధ్యం వహించాలి” అని మార్గదర్శకాలు చెబుతున్నాయి. ప్రతి కొత్త చోటా “వినియోగానికి ముందస్తు పరీక్ష” (pre-deployment testing) ప్రక్రియను అవి సిఫార్సు చేస్తాయి; పక్షపాతం ఉందని ఆరోపణ వస్తే, ఆ వ్యవస్థ పనితీరును తాత్కాలికంగా నిలిపివేయాలని చెబుతాయి.

ఒక ఆసుపత్రికి దీని ఆచరణాత్మక అర్థం ఇది: ఇతర రోగుల ఆధారంగా రూపొందిన ఒక సాధనంపై ఆధారపడే ముందు, దాన్ని మీ రోగులపై పరీక్షించాలి; దాన్ని నిలిపివేయడానికి ఒక మార్గం కూడా ఉండాలి.

ధ్రువీకరణ (Validation). AI “రోగులు/పాల్గొనేవారిపై వర్తింపజేసే ముందు కఠినమైన క్లినికల్, క్షేత్రస్థాయి ధ్రువీకరణకు లోనవ్వాలి”; ధ్రువీకరణకు “శిక్షణ డేటాసెట్ కాకుండా, స్వతంత్రంగా సేకరించిన డేటాసెట్‌లను” ఉపయోగించాలి. ఒక విక్రేత తన సొంత డేటాపై కొలిచి చెప్పే కచ్చితత్వ గణాంకాలు ఈ అర్థంలో ధ్రువీకరణ కావు.

నైతిక కమిటీలు. AI ప్రతిపాదనలను వాటి డేటా మూలం, నాణ్యత, భద్రత, గుర్తింపు తొలగింపు (anonymisation), డేటా ఎంపికలోని పక్షపాతాల పరంగా తనిఖీ చేయాలని మార్గదర్శకాలు నైతిక కమిటీలను కోరుతున్నాయి. AI ప్రాజెక్టులను తరచూ సమీక్షించే కమిటీలు న్యాయ నిపుణులను, డేటా శాస్త్రవేత్తలను, కంప్యూటర్ శాస్త్రవేత్తలను చేర్చుకోవడాన్ని పరిశీలించాలి. సమీక్ష వర్గాలు (మినహాయింపు, త్వరిత లేదా పూర్తి సమీక్ష) ICMR 2017 జాతీయ నైతిక మార్గదర్శకాలను అనుసరిస్తాయి; వాటి ప్రకారం, ఒక పరిశోధకుడు వర్గాన్ని తానే నిర్ణయించుకోలేరు: ప్రతి ప్రతిపాదనా కమిటీకి వెళ్తుంది.

ఇతర నియమాలు, మార్గదర్శకాలతో ఇది ఎలా సరిపోతుంది

• జీవవైద్య, ఆరోగ్య పరిశోధన కోసం రూపొందిన ICMR 2017 జాతీయ నైతిక మార్గదర్శకాలు (National Ethical Guidelines), AI ఉన్నా లేకపోయినా, రోగులు లేదా వారి రికార్డులతో కూడిన ఏ అధ్యయనానికైనా వర్తిస్తాయి.
• డిజిటల్ వ్యక్తిగత డేటా రక్షణ చట్టం, 2023 (Digital Personal Data Protection Act), నవంబర్ 2025లో నోటిఫై చేసిన నిబంధనలతో పాటు, ఏ AI వ్యవస్థ అయినా ప్రాసెస్ చేసే వ్యక్తిగత డేటాకు వర్తిస్తుంది. దీని బాధ్యతల్లో ఎక్కువ భాగం మే 2027 ప్రాంతంలో అమల్లోకి వస్తాయి.
• ఆరోగ్యం కోసం AI నైతికత, పాలన (governance) పై WHO 2021 మార్గదర్శకం ఆరు సూత్రాలను నిర్దేశిస్తుంది, అవి ICMR సూత్రాలతో చాలావరకు సరిపోలుతాయి; పెద్ద మల్టీ-మోడల్ మోడళ్లపై (large multi-modal models) మార్గదర్శకాన్ని WHO 2024లో జోడించింది.
• నీతి ఆయోగ్ Responsible AI పత్రాలు (2021) అన్ని రంగాలకూ వర్తించేలా భారత్‌లో AI కోసం ఏడు సూత్రాలను నిర్దేశిస్తాయి.
• ISO/IEC 42001:2023 అనేది AI నిర్వహణ వ్యవస్థకు సంబంధించిన ఒక అంతర్జాతీయ ప్రమాణం; అధికారికమైన, సర్టిఫికేషన్ పొందగలిగే ప్రక్రియ కావాలనుకునే సంస్థల కోసం.

ఆసుపత్రుల కోసం ఒక తనిఖీ జాబితా

1. ఒక బాధ్యుడిని నియమించండి. ఒక వ్యక్తి లేదా ఒక చిన్న కమిటీ AI సాధనాలను ఆమోదిస్తుంది, వాటికి జవాబుదారీగా ఉంటుంది.
2. ఉద్దేశాన్ని రాసి పెట్టండి. ప్రతి సాధనానికీ: అది దేనికోసం, దాన్ని ఎవరు ఉపయోగిస్తారు, అది ఎప్పుడూ ఏమి చేయకూడదు.
3. డేటా గురించి అడగండి. ఆ సాధనానికి ఏ డేటాతో శిక్షణ ఇచ్చారు, దేనిపై పరీక్షించారు? అది మీ రోగులకు ప్రాతినిధ్యం వహిస్తుందా?
4. దాన్ని మీ సొంత రోగులపై పరీక్షించండి, దానిపై ఆధారపడే ముందే, దానికి శిక్షణ ఇవ్వని డేటాను ఉపయోగించి.
5. ప్రక్రియలో ఒక మనిషిని ఉంచండి (human in the loop). క్లినికల్ అంశం ఏదైనా రోగికి లేదా వారి రికార్డుకు చేరే ముందు ఒక వైద్యుడు దాన్ని సమీక్షిస్తారు.
6. రోగులకు చెప్పండి. వారి చికిత్సలో AI ఎక్కడ ఉపయోగిస్తున్నారో వివరించండి; అవసరమైన చోట, ఉదాహరణకు ఒక కన్సల్టేషన్‌ను రికార్డ్ చేసేటప్పుడు, సమ్మతిని (consent) నమోదు చేయండి.
7. డేటాను రక్షించండి. అది ఎక్కడికి వెళ్తుంది, భారత్ దాటి బయటికి వెళ్తుందా, ఏదైనా విక్రేత మోడళ్లకు శిక్షణ ఇవ్వడానికి దాన్ని ఉపయోగిస్తున్నారా అని తెలుసుకోండి.
8. వినియోగంలోకి వచ్చాక కూడా పర్యవేక్షించండి. ఒక షెడ్యూల్ ప్రకారం పనితీరును కొలవండి, రోగుల వర్గాల మధ్య తేడాలు ఉన్నాయేమో చూడండి.
9. తప్పు సమాధానాన్ని తెలియజేయడం సులభం చేయండి, దానిపై ఏమి చేశారో నమోదు చేయండి.
10. ఆపగలిగేలా సిద్ధంగా ఉండండి. ఏదైనా తప్పు జరిగితే ఒక సాధనాన్ని త్వరగా ఎలా నిలిపివేయాలో తెలుసుకోండి.
11. పరిశోధన కోసమైతే, మొదలుపెట్టే ముందే నైతిక కమిటీని సంప్రదించండి, డేటా మూలం, నాణ్యత, గుర్తింపు తొలగింపు వివరాలతో.

ఇందులో 92health స్థానం

92health అనేది భారత్‌లో క్లినిక్‌లు, ఆసుపత్రులు, ఫార్మసీలు, ల్యాబ్‌లు, కళ్లద్దాల దుకాణాలు ఉపయోగించే ఒక EMR, AI వేదిక. దీని AI ఫీచర్లు ఈ సూత్రాల్లో అనేకమైనవాటిని ఆధారంగా చేసుకుని రూపొందించబడ్డాయి:

• AI ముసాయిదాలు రాస్తుంది, చదువుతుంది; ఫలితాన్ని ఒక మనిషి సరిచూస్తారు: నోట్స్, సారాంశాలు, సర్టిఫికెట్లు ముసాయిదాలుగా వస్తాయి, వాటిని ఒక వైద్యుడు సవరించి సంతకం చేస్తారు;
• ఒక క్లినిక్ గణాంకాల గురించిన ప్రశ్నలకు సమాధానమిచ్చే AI ఏజెంట్ దేన్నైనా స్వేచ్ఛగా చదవగలదు, కానీ అది మార్చాలనుకునే ఏదైనా ఒక మనిషి ఆమోదం కోసం వేచి ఉంటుంది;
• కన్సల్టేషన్లను రోగి సమ్మతితోనే రికార్డ్ చేస్తారు;
• ప్రవేశం పాత్ర (role) ఆధారంగా ఉంటుంది, మార్పులు లాగ్‌లో నమోదవుతాయి, రోగి డేటా భారత్‌లోనే ఉంటుంది.

వీటిలో ఏదీ దానంతట అదే ఒక ఆసుపత్రిని నిబంధనలకు అనుగుణంగా (compliant) మార్చదు. పాలన అనేది ఆసుపత్రి చేసే పని, కొనుక్కునే వస్తువు కాదు. కానీ సరైన పద్ధతినే డిఫాల్ట్‌గా మార్చగల శక్తి సాఫ్ట్‌వేర్‌కు ఉంది; మిగిలినదాన్ని అమలు చేయడంలో మా AI సన్నద్ధత పనిలో భాగంగా ఆసుపత్రులకు మేం సహాయం చేస్తాం.

ఆధారాలు

• ICMR. Ethical Guidelines for Application of Artificial Intelligence in Biomedical Research and Healthcare, 2023.
• ICMR. National Ethical Guidelines for Biomedical and Health Research Involving Human Participants, 2017.
• WHO. Ethics and governance of artificial intelligence for health, 2021, మరియు పెద్ద మల్టీ-మోడల్ మోడళ్లపై మార్గదర్శకం, 2024.
• నీతి ఆయోగ్. Responsible AI #AIforAll, Part 1: Principles for Responsible AI, 2021.
• MeitY. DPDP Rules, 2025.
• ISO/IEC 42001:2023. IEC వెబ్‌స్టోర్.