ആരോഗ്യരംഗത്ത് AI-ക്കുള്ള ICMR മാർഗനിർദേശങ്ങൾ: ആശുപത്രികൾക്കായി ഒരു വിശദീകരണം

2023-ൽ ഇന്ത്യൻ കൗൺസിൽ ഓഫ് മെഡിക്കൽ റിസർച്ച് (Indian Council of Medical Research, ICMR) ബയോമെഡിക്കൽ ഗവേഷണത്തിലും ആരോഗ്യപരിപാലനത്തിലും നിർമിതബുദ്ധി ഉപയോഗിക്കുന്നതിനുള്ള ധാർമിക മാർഗനിർദേശങ്ങൾ (Ethical Guidelines for Application of Artificial Intelligence in Biomedical Research and Healthcare) പ്രസിദ്ധീകരിച്ചു. ആരോഗ്യരംഗത്ത് AI എങ്ങനെ നിർമിക്കണം, പരീക്ഷിക്കണം, ഉപയോഗിക്കണം എന്നതിനുള്ള പ്രധാന ഇന്ത്യൻ അവലംബം ഇതാണ്; AI ഗവേഷണം അവലോകനം ചെയ്യുന്ന എത്തിക്സ് കമ്മിറ്റികൾ (ethics committees) ആശ്രയിക്കുന്നതും ഇതിനെയാണ്.

മിക്ക ആശുപത്രികളും ഇതിനെക്കുറിച്ച് കേട്ടിട്ടുണ്ട്, എന്നാൽ ചുരുക്കം ചിലതേ ഇത് വായിച്ചിട്ടുള്ളൂ. ഇതിൽ എന്താണ് പറയുന്നതെന്ന് ലളിതമായ ഭാഷയിൽ ഈ ലേഖനം വിശദീകരിക്കുന്നു, ഒരു ആശുപത്രിക്ക് നടപ്പാക്കാവുന്ന ഒരു ചെക്ക്‌ലിസ്റ്റാക്കി (checklist) അതിനെ മാറ്റുകയും ചെയ്യുന്നു. ഇതൊരു സംഗ്രഹം മാത്രമാണ്, നിയമോപദേശമല്ല.

പത്ത് തത്വങ്ങൾ

മാർഗനിർദേശങ്ങൾ പത്ത് തത്വങ്ങൾ ഈ ക്രമത്തിൽ മുന്നോട്ടുവയ്ക്കുന്നു. ഓരോന്നിനും നൽകിയിരിക്കുന്ന ഒറ്റവരി വിശദീകരണം ഞങ്ങളുടെ വായനയാണ്, മാർഗനിർദേശങ്ങളുടെ സ്വന്തം വാക്കുകളല്ല:

1. സ്വയംനിർണയം (Autonomy). തങ്ങളുടെ ചികിത്സയെക്കുറിച്ചുള്ള തീരുമാനങ്ങൾ ആളുകളുടെ നിയന്ത്രണത്തിൽത്തന്നെ തുടരുന്നു; AI ക്ലിനിക്കൽ വിലയിരുത്തലിനെ പിന്തുണയ്ക്കുന്നു, അതിനു പകരമാകുന്നില്ല.
2. സുരക്ഷയും അപകടസാധ്യത കുറയ്ക്കലും (Safety and risk minimisation). ഉപയോഗത്തിൽ കൊണ്ടുവരുന്നതിനു മുമ്പും ശേഷവും ദോഷങ്ങൾ മുൻകൂട്ടി കണ്ട് കുറയ്ക്കുന്നു.
3. വിശ്വാസ്യത (Trustworthiness). സംവിധാനങ്ങൾ ആശ്രയിക്കാവുന്ന വിധത്തിൽ പ്രവർത്തിക്കുന്നു, വിശ്വസിക്കാൻ പാകത്തിന് മനസ്സിലാക്കാവുന്നവയുമാണ്.
4. ഡാറ്റാ സ്വകാര്യത (Data privacy). വ്യക്തിഗത ഡാറ്റ എല്ലാ ഘട്ടത്തിലും സംരക്ഷിക്കപ്പെടുന്നു.
5. ഉത്തരവാദിത്തവും നിയമപരമായ ബാധ്യതയും (Accountability and liability). ഒരു AI സംവിധാനത്തിനും അതിന്റെ ഫലങ്ങൾക്കും ആരാണ് ഉത്തരവാദി എന്ന് വ്യക്തമാണ്.
6. ഡാറ്റയുടെ ഗുണനിലവാരം മെച്ചപ്പെടുത്തൽ (Optimisation of data quality). ഒരു സംവിധാനം പഠിക്കുന്നതും പ്രവർത്തിക്കുന്നതുമായ ഡാറ്റ ആവശ്യത്തിന് മികച്ചതും പ്രാതിനിധ്യമുള്ളതുമാണ്.
7. ലഭ്യത, തുല്യത, ഉൾക്കൊള്ളൽ (Accessibility, equity and inclusiveness). പ്രയോജനങ്ങൾ ആളുകളിലേക്ക് നീതിപൂർവം എത്തുന്നു.
8. സഹകരണം (Collaboration). ഡോക്ടർമാരും സാങ്കേതിക വിദഗ്ധരും രോഗികളും മറ്റുള്ളവരും ഒരുമിച്ച് പ്രവർത്തിക്കുന്നു.
9. വിവേചനമില്ലായ്മയും നീതിയും (Non-discrimination and fairness). സംവിധാനങ്ങൾ ഒരു ജനവിഭാഗത്തിനും ദോഷകരമാകുന്നില്ല.
10. സാധുത (Validity). ഉപയോഗിക്കുന്ന സാഹചര്യത്തിൽത്തന്നെ സംവിധാനങ്ങൾ പ്രവർത്തിക്കുന്നുണ്ടെന്ന് തെളിയിക്കപ്പെടുന്നു.

ആശുപത്രികൾ ശ്രദ്ധയോടെ വായിക്കേണ്ട മൂന്ന് ഭാഗങ്ങൾ

ഡാറ്റയുടെ ഗുണനിലവാരം. പരിശീലന ഡാറ്റയിൽ (training data) “ഒരുതരത്തിലുള്ള സാമ്പിളിംഗ് പക്ഷപാതവും (sampling bias) ഉണ്ടാകരുത്” എന്നും, ഡാറ്റാസെറ്റുകൾ “ഈ സാങ്കേതികവിദ്യകൾ ഉപയോഗിക്കാൻ ഉദ്ദേശിക്കുന്ന ജനസമൂഹത്തെ വേണ്ടവിധം പ്രതിനിധീകരിക്കണം” എന്നും മാർഗനിർദേശങ്ങൾ പറയുന്നു. ഓരോ പുതിയ സ്ഥലത്തും “വിന്യാസത്തിനു മുമ്പുള്ള പരിശോധന” (pre-deployment testing) എന്ന പ്രക്രിയ അവ ശുപാർശ ചെയ്യുന്നു; പക്ഷപാതം ആരോപിക്കപ്പെട്ടാൽ സംവിധാനത്തിന്റെ പ്രവർത്തനം താൽക്കാലികമായി നിർത്തിവയ്ക്കണമെന്നും പറയുന്നു.

ഒരു ആശുപത്രിയെ സംബന്ധിച്ച്, ഇതിന്റെ പ്രായോഗിക അർഥം ഇതാണ്: മറ്റു രോഗികളെ ആധാരമാക്കി നിർമിച്ച ഒരു ടൂളിനെ ആശ്രയിക്കുന്നതിനു മുമ്പ്, അത് നിങ്ങളുടെ രോഗികളിൽ പരീക്ഷിക്കണം; അത് താൽക്കാലികമായി നിർത്താൻ ഒരു വഴിയും ഉണ്ടായിരിക്കണം.

സാധൂകരണം (Validation). AI “രോഗികളിൽ/പങ്കാളികളിൽ പ്രയോഗിക്കുന്നതിനു മുമ്പ് കർശനമായ ക്ലിനിക്കൽ, ഫീൽഡ് സാധൂകരണത്തിന് വിധേയമാകണം”; സാധൂകരണത്തിന് “പരിശീലന ഡാറ്റാസെറ്റല്ലാതെ, സ്വതന്ത്രമായി ശേഖരിച്ച ഡാറ്റാസെറ്റുകൾ” ഉപയോഗിക്കണം. ഒരു വെണ്ടർ സ്വന്തം ഡാറ്റയിൽ അളന്ന കൃത്യതാ കണക്കുകൾ ഈ അർഥത്തിൽ സാധൂകരണമല്ല.

എത്തിക്സ് കമ്മിറ്റികൾ. AI പദ്ധതി നിർദേശങ്ങളിൽ ഡാറ്റയുടെ ഉറവിടം, ഗുണനിലവാരം, സുരക്ഷ, അജ്ഞാതമാക്കൽ (anonymisation), ഡാറ്റ തിരഞ്ഞെടുപ്പിലെ പക്ഷപാതങ്ങൾ എന്നിവ പരിശോധിക്കാൻ മാർഗനിർദേശങ്ങൾ എത്തിക്സ് കമ്മിറ്റികളോട് ആവശ്യപ്പെടുന്നു. AI പദ്ധതികൾ പതിവായി അവലോകനം ചെയ്യുന്ന കമ്മിറ്റികൾ നിയമവിദഗ്ധരെയും ഡാറ്റാ ശാസ്ത്രജ്ഞരെയും കമ്പ്യൂട്ടർ ശാസ്ത്രജ്ഞരെയും ഉൾപ്പെടുത്തുന്നത് പരിഗണിക്കണം. അവലോകന വിഭാഗങ്ങൾ (ഇളവ്, വേഗത്തിലുള്ളത്, അല്ലെങ്കിൽ സമ്പൂർണം) ICMR-ന്റെ 2017-ലെ ദേശീയ ധാർമിക മാർഗനിർദേശങ്ങളെ പിന്തുടരുന്നു; അതനുസരിച്ച്, ഒരു ഗവേഷകന് വിഭാഗം സ്വയം തീരുമാനിക്കാനാവില്ല: ഓരോ നിർദേശവും കമ്മിറ്റിയുടെ മുന്നിലെത്തുന്നു.

മറ്റു നിയമങ്ങളോടും മാർഗനിർദേശങ്ങളോടും ഇത് എങ്ങനെ ചേർന്നുപോകുന്നു

• ബയോമെഡിക്കൽ, ആരോഗ്യ ഗവേഷണത്തിനുള്ള ICMR-ന്റെ 2017-ലെ ദേശീയ ധാർമിക മാർഗനിർദേശങ്ങൾ (National Ethical Guidelines), AI ഉള്ളതായാലും ഇല്ലാത്തതായാലും, രോഗികളോ അവരുടെ രേഖകളോ ഉൾപ്പെടുന്ന ഏതൊരു പഠനത്തിനും ബാധകമാണ്.
• ഡിജിറ്റൽ വ്യക്തിഗത വിവര സംരക്ഷണ നിയമം, 2023 (Digital Personal Data Protection Act), 2025 നവംബറിൽ വിജ്ഞാപനം ചെയ്ത ചട്ടങ്ങൾക്കൊപ്പം, ഏതൊരു AI സംവിധാനവും കൈകാര്യം ചെയ്യുന്ന വ്യക്തിഗത ഡാറ്റയ്ക്ക് ബാധകമാണ്. ഇതിലെ മിക്ക ബാധ്യതകളും 2027 മേയ് മാസത്തോടെയാണ് പ്രാബല്യത്തിൽ വരുന്നത്.
• ആരോഗ്യത്തിനുള്ള AI-യുടെ ധാർമികതയെയും ഭരണനിർവഹണത്തെയും (governance) കുറിച്ചുള്ള WHO-യുടെ 2021-ലെ മാർഗനിർദേശം ആറ് തത്വങ്ങൾ മുന്നോട്ടുവയ്ക്കുന്നു, അവ ICMR-ന്റെ തത്വങ്ങളുമായി ഏറെക്കുറെ ഒത്തുപോകുന്നു; വലിയ മൾട്ടി-മോഡൽ മോഡലുകളെക്കുറിച്ചുള്ള (large multi-modal models) മാർഗനിർദേശം WHO 2024-ൽ കൂട്ടിച്ചേർത്തു.
• നീതി ആയോഗിന്റെ Responsible AI രേഖകൾ (2021) എല്ലാ മേഖലകൾക്കുമായി ഇന്ത്യയിലെ AI-ക്ക് ഏഴ് തത്വങ്ങൾ മുന്നോട്ടുവയ്ക്കുന്നു.
• ISO/IEC 42001:2023 ഒരു AI മാനേജ്മെന്റ് സംവിധാനത്തിനുള്ള അന്താരാഷ്ട്ര മാനദണ്ഡമാണ്; ഔപചാരികവും സർട്ടിഫൈ ചെയ്യാവുന്നതുമായ ഒരു പ്രക്രിയ ആഗ്രഹിക്കുന്ന സ്ഥാപനങ്ങൾക്കുള്ളത്.

ആശുപത്രികൾക്കായി ഒരു ചെക്ക്‌ലിസ്റ്റ്

1. ഒരു ചുമതലക്കാരനെ നിശ്ചയിക്കുക. ഒരാളോ ഒരു ചെറിയ കമ്മിറ്റിയോ AI ടൂളുകൾക്ക് അംഗീകാരം നൽകുകയും അവയുടെ ഉത്തരവാദിത്തം വഹിക്കുകയും ചെയ്യുന്നു.
2. ലക്ഷ്യം എഴുതിവയ്ക്കുക. ഓരോ ടൂളിനും: അത് എന്തിനുള്ളതാണ്, ആരാണ് അത് ഉപയോഗിക്കുന്നത്, അത് ഒരിക്കലും എന്ത് ചെയ്യരുത്.
3. ഡാറ്റയെക്കുറിച്ച് ചോദിക്കുക. ഏത് ഡാറ്റയിലാണ് ടൂളിനെ പരിശീലിപ്പിച്ചതും പരീക്ഷിച്ചതും? അത് നിങ്ങളുടെ രോഗികളെ പ്രതിനിധീകരിക്കുന്നുണ്ടോ?
4. നിങ്ങളുടെ സ്വന്തം രോഗികളിൽ അത് പരീക്ഷിക്കുക, അതിനെ ആശ്രയിക്കുന്നതിനു മുമ്പുതന്നെ, അതിനെ പരിശീലിപ്പിക്കാൻ ഉപയോഗിക്കാത്ത ഡാറ്റ ഉപയോഗിച്ച്.
5. പ്രക്രിയയിൽ ഒരു മനുഷ്യനെ ഉൾപ്പെടുത്തുക (human in the loop). ക്ലിനിക്കലായ എന്തും ഒരു രോഗിയിലേക്കോ അവരുടെ രേഖയിലേക്കോ എത്തുന്നതിനു മുമ്പ് ഒരു ഡോക്ടർ അവലോകനം ചെയ്യുന്നു.
6. രോഗികളോട് പറയുക. അവരുടെ ചികിത്സയിൽ AI എവിടെയാണ് ഉപയോഗിക്കുന്നതെന്ന് വിശദീകരിക്കുക; ഒരു കൺസൾട്ടേഷൻ റെക്കോർഡ് ചെയ്യുന്നതുപോലെ ആവശ്യമുള്ളിടത്ത് സമ്മതം (consent) രേഖപ്പെടുത്തുക.
7. ഡാറ്റ സംരക്ഷിക്കുക. അത് എവിടേക്കാണ് പോകുന്നത്, ഇന്ത്യക്ക് പുറത്തേക്ക് പോകുന്നുണ്ടോ, ഏതെങ്കിലും വെണ്ടർ മോഡലുകളെ പരിശീലിപ്പിക്കാൻ അത് ഉപയോഗിക്കുന്നുണ്ടോ എന്ന് അറിഞ്ഞിരിക്കുക.
8. ഉപയോഗം തുടങ്ങിയശേഷവും നിരീക്ഷിക്കുക. ഒരു നിശ്ചിത സമയക്രമത്തിൽ പ്രകടനം അളക്കുക, രോഗികളുടെ വിവിധ വിഭാഗങ്ങൾക്കിടയിലെ വ്യത്യാസങ്ങൾ ശ്രദ്ധിക്കുക.
9. തെറ്റായ ഉത്തരം റിപ്പോർട്ട് ചെയ്യുന്നത് എളുപ്പമാക്കുക, അതിന്മേൽ എന്ത് നടപടിയെടുത്തു എന്ന് രേഖപ്പെടുത്തുക.
10. നിർത്താൻ കഴിയണം. എന്തെങ്കിലും പിഴച്ചാൽ ഒരു ടൂൾ വേഗത്തിൽ എങ്ങനെ താൽക്കാലികമായി നിർത്താമെന്ന് അറിഞ്ഞിരിക്കുക.
11. ഗവേഷണത്തിനാണെങ്കിൽ, തുടങ്ങുന്നതിനു മുമ്പുതന്നെ എത്തിക്സ് കമ്മിറ്റിയെ സമീപിക്കുക, ഡാറ്റയുടെ ഉറവിടം, ഗുണനിലവാരം, അജ്ഞാതമാക്കൽ എന്നിവ വിവരിച്ചുകൊണ്ട്.

ഇതിൽ 92health-ന്റെ സ്ഥാനം

92health ഇന്ത്യയിലെ ക്ലിനിക്കുകളും ആശുപത്രികളും ഫാർമസികളും ലാബുകളും കണ്ണട കടകളും ഉപയോഗിക്കുന്ന ഒരു EMR, AI പ്ലാറ്റ്‌ഫോമാണ്. ഇതിന്റെ AI സവിശേഷതകൾ ഈ തത്വങ്ങളിൽ പലതിനെയും അടിസ്ഥാനമാക്കിയാണ് നിർമിച്ചിരിക്കുന്നത്:

• AI കരട് തയ്യാറാക്കുകയും വായിക്കുകയും ചെയ്യുന്നു, ഫലം ഒരു മനുഷ്യൻ പരിശോധിക്കുന്നു: കുറിപ്പുകളും സംഗ്രഹങ്ങളും സർട്ടിഫിക്കറ്റുകളും കരടുകളായാണ് വരുന്നത്, ഒരു ഡോക്ടർ അവ തിരുത്തി ഒപ്പിടുന്നു;
• ഒരു ക്ലിനിക്കിന്റെ കണക്കുകളെക്കുറിച്ചുള്ള ചോദ്യങ്ങൾക്ക് മറുപടി നൽകുന്ന AI ഏജന്റിന് എന്തും സ്വതന്ത്രമായി വായിക്കാം, എന്നാൽ അത് മാറ്റാൻ ശ്രമിക്കുന്ന എന്തും ഒരു മനുഷ്യന്റെ അംഗീകാരത്തിനായി കാത്തിരിക്കും;
• കൺസൾട്ടേഷനുകൾ രോഗിയുടെ സമ്മതത്തോടെയാണ് റെക്കോർഡ് ചെയ്യുന്നത്;
• പ്രവേശനം റോളിന്റെ (role) അടിസ്ഥാനത്തിലാണ്, മാറ്റങ്ങൾ ലോഗ് ചെയ്യപ്പെടുന്നു, രോഗികളുടെ ഡാറ്റ ഇന്ത്യയിൽത്തന്നെ തുടരുന്നു.

ഇതൊന്നും സ്വയം ഒരു ആശുപത്രിയെ നിയമങ്ങൾ പാലിക്കുന്നതാക്കി (compliant) മാറ്റുന്നില്ല. ഭരണനിർവഹണം ഒരു ആശുപത്രി ചെയ്യേണ്ട കാര്യമാണ്, വിലയ്ക്കു വാങ്ങാവുന്ന ഒന്നല്ല. എന്നാൽ ശരിയായ രീതിയെ സ്വതവേയുള്ളതാക്കാൻ (default) സോഫ്റ്റ്‌വെയറിന് കഴിയും; ബാക്കിയുള്ളവ നടപ്പാക്കാൻ ഞങ്ങളുടെ AI തയ്യാറെടുപ്പ് പ്രവർത്തനത്തിന്റെ ഭാഗമായി ഞങ്ങൾ ആശുപത്രികളെ സഹായിക്കുന്നു.

അവലംബങ്ങൾ

• ICMR. Ethical Guidelines for Application of Artificial Intelligence in Biomedical Research and Healthcare, 2023.
• ICMR. National Ethical Guidelines for Biomedical and Health Research Involving Human Participants, 2017.
• WHO. Ethics and governance of artificial intelligence for health, 2021, കൂടാതെ വലിയ മൾട്ടി-മോഡൽ മോഡലുകളെക്കുറിച്ചുള്ള മാർഗനിർദേശം, 2024.
• നീതി ആയോഗ്. Responsible AI #AIforAll, Part 1: Principles for Responsible AI, 2021.
• MeitY. DPDP Rules, 2025.
• ISO/IEC 42001:2023. IEC വെബ്‌സ്റ്റോർ.