മനുഷ്യന്റെ ഇടപെടലോടെയുള്ള പ്രവർത്തനം: ആളുകൾ യഥാർഥത്തിൽ നടത്തുന്ന AI അവലോകനം രൂപകൽപ്പന ചെയ്യുക

മനുഷ്യർ നടത്തുന്ന അവലോകനഘട്ടം പലപ്പോഴും പരാജയപ്പെടുന്നത് എന്തുകൊണ്ട്?

AI-യുടെ വിധി മാത്രമേ പരിശോധിക്കുന്ന വ്യക്തി കാണുന്നുള്ളൂ, പരിശോധിക്കാൻ വളരെയധികം കാര്യങ്ങളുണ്ട്, എന്താണ് നോക്കേണ്ടതെന്ന് ഒരിക്കലും പറഞ്ഞുകൊടുക്കുന്നില്ല എന്നീ കാരണങ്ങളാൽ മനുഷ്യപരിശോധന പലപ്പോഴും പരാജയപ്പെടുന്നു. അതിനാൽ അംഗീകരിക്കുകയാണ് ഏറ്റവും വേഗമുള്ള വഴിയായി മാറുന്നത്. ഇതിനെ പരിശോധിക്കാതെയുള്ള അംഗീകാരം എന്നു പറയുന്നു. യഥാർഥ മേൽനോട്ടമില്ലാതെ മേൽനോട്ടമുണ്ടെന്ന തോന്നൽ മാത്രമാണ് ഇത് നൽകുന്നത്.

25 പേരുള്ള ഓക്ക്ബ്രിഡ്ജ് സപ്ലൈസ് എന്ന സാങ്കൽപ്പിക മൊത്തവിതരണ സ്ഥാപനത്തെ സങ്കൽപ്പിക്കുക. ഒരു AI ഉപകരണം വിതരണക്കാരുടെ ഇൻവോയ്സുകൾ പർച്ചേസ് ഓർഡറുകളുമായി ഒത്തുനോക്കി ഓരോന്നിനും 'പൊരുത്തപ്പെടുന്നു' അല്ലെങ്കിൽ 'പൊരുത്തപ്പെടുന്നില്ല' എന്ന് അടയാളമിടുന്നു. ധനകാര്യ ക്ലർക്കായ പ്രിയ, പൊരുത്തപ്പെടുന്നവയ്ക്ക് പണം നൽകാൻ അനുമതി നൽകുന്നു. ഒരു വ്യാഴാഴ്ച അവളുടെ പരിശോധനാ നിര ഇങ്ങനെയാണ്: '212 ഇൻവോയ്സുകൾ, 205 പൊരുത്തപ്പെടുന്നു, 7 പൊരുത്തപ്പെടുന്നില്ല'. ഓരോ വരിയിലും വിതരണക്കാരൻ, തുക, പച്ച ടിക്ക് അടയാളം എന്നിവ കാണാം. കഴിഞ്ഞ മാസം 40 യൂണിറ്റുകൾ മാത്രം ലഭിച്ചിട്ടും 400 യൂണിറ്റുകൾക്കുള്ള വിതരണക്കാരന്റെ ഇൻവോയ്സിന് പണം നൽകി. ഉപകരണം ഓർഡർ നമ്പർ പൊരുത്തപ്പെടുത്തിയതും പ്രിയ ടിക്ക് അടയാളം കണ്ട് അംഗീകരിച്ചതുമായിരുന്നു കാരണം.

പ്രവർത്തനക്രമത്തിൽ എവിടെയാണ് മനുഷ്യ മേൽനോട്ടം വേണ്ടത്?

AI നൽകുന്ന ഫലം പണം, ഒരാൾക്ക് എന്തെങ്കിലും ലഭിക്കാനുള്ള അവകാശം, ഉപഭോക്താവിനോടുള്ള വാഗ്ദാനം, നിയമപരമോ സുരക്ഷയുമായി ബന്ധപ്പെട്ടതോ ആയ ഫലം എന്നിവയെ മാറ്റുന്നിടത്തെല്ലാം മനുഷ്യപരിശോധന വേണം. ആ മാറ്റം പിൻവലിക്കാൻ പ്രയാസമാകുന്നതിന് മുമ്പ് പരിശോധന നടക്കണം. പതിവായതും പഴയപടിയാക്കാവുന്നതുമായ ഫലങ്ങൾ പകരം സാമ്പിളുകൾ എടുത്ത് പരിശോധിക്കാം.

ഉയർന്ന അപകടസാധ്യതയുള്ള സംവിധാനങ്ങളുടെ മനുഷ്യ മേൽനോട്ടത്തെക്കുറിച്ചുള്ള EU AI Act-ലെ അനുച്ഛേദം ഇതേ കാര്യം നിയമപരമായ ഭാഷയിൽ പറയുന്നു: ഒരു സംവിധാനത്തിന് മേൽനോട്ടം വഹിക്കുന്നവർ അതിന്റെ പരിമിതികൾ മനസ്സിലാക്കണം, ഓട്ടോമേഷനെ അന്ധമായി വിശ്വസിക്കുന്ന പ്രവണതയെക്കുറിച്ച് ജാഗ്രത പുലർത്തണം, അതിന്റെ ഔട്ട്‌പുട്ട് അവഗണിക്കാനോ തിരുത്താനോ നിർത്താനോ കഴിയണം. ഈ നിയമം നിങ്ങൾക്ക് ബാധകമല്ലെങ്കിലും, ഇവ നല്ല രൂപകൽപ്പനാ ലക്ഷ്യങ്ങളാണ്.

മനുഷ്യ മേൽനോട്ടത്തോടെയുള്ള അവലോകനത്തിന് ഏതെല്ലാം രൂപകൽപ്പനകളുണ്ട്?

സാധാരണയായി ഉപയോഗിക്കുന്ന നാല് അവലോകനരീതികളുണ്ട്. പിശകിന്റെ പ്രത്യാഘാതവും പരിശോധിക്കേണ്ട ഇനങ്ങളുടെ എണ്ണവുമാണ് അനുയോജ്യമായ രീതി നിശ്ചയിക്കുന്നത്.

അവലോകനത്തിനുള്ള ദുർബലമായ രൂപകൽപ്പനയും മെച്ചപ്പെടുത്തിയ രൂപകൽപ്പനയും എങ്ങനെയായിരിക്കും?

ദുർബലമായ രൂപകൽപ്പന: എല്ലാ ഇൻവോയ്സുകളും പച്ചയോ ചുവപ്പോ അടയാളത്തോടെ Priya-യ്ക്ക് എത്തുന്നു. 20 മിനിറ്റിനുള്ളിൽ അവർ 205 ശരിയടയാളങ്ങൾക്ക് അംഗീകാരം നൽകുന്നു. ഓരോ ശരിയടയാളവും എന്തുകൊണ്ട് നൽകിയെന്ന് അവരെ അറിയിക്കുന്ന ഒന്നുമില്ല; അവർ ഇപ്പോഴും ശ്രദ്ധിച്ച് പരിശോധിക്കുന്നുണ്ടോ എന്ന് ഉറപ്പാക്കാനും സംവിധാനമില്ല.

മെച്ചപ്പെടുത്തിയ രൂപകൽപ്പന: നിശ്ചിത തുകയ്ക്ക് താഴെയുള്ള ഇൻവോയ്സുകളിൽ ഓർഡർ നമ്പർ, അളവ്, യൂണിറ്റ് വില എന്നിവയെല്ലാം ഡെലിവറി രേഖയുമായി പൊരുത്തപ്പെടുന്നുവെങ്കിൽ അവ സ്വയമേവ അടയ്ക്കുന്നു. ഓരോ ആഴ്ചയും പ്രിയ ക്രമരഹിതമായി തിരഞ്ഞെടുത്ത പത്തെണ്ണം പരിശോധിക്കുന്നു. പരിധിക്ക് മുകളിലുള്ളവയും പുതിയ വിതരണക്കാരുടേതും അളവിൽ വ്യത്യാസമുള്ളവയും അവളുടെ പരിശോധനയ്ക്കെത്തുന്നു. മൂന്ന് വിവരങ്ങളും അടുത്തടുത്തായി കാണിക്കുകയും 'ഇൻവോയ്സിലെ അളവ് 400, എത്തിച്ചത് 40' എന്നതുപോലെ AI-യുടെ കാരണം ഒറ്റ വരിയിൽ നൽകുകയും ചെയ്യുന്നു. മാസത്തിലൊരിക്കൽ, പിഴവുകൾ കണ്ടെത്തുന്നുണ്ടെന്ന് ഉറപ്പാക്കാൻ ധനകാര്യ മേധാവി അറിയാവുന്ന രണ്ട് പിഴവുകൾ ആരെയും അറിയിക്കാതെ പരിശോധനയ്ക്കുള്ളവയിൽ ചേർക്കുന്നു. AI-യുടെ തീരുമാനം മാറ്റുന്ന ഓരോ തവണയും പ്രിയ അത് രേഖപ്പെടുത്തുന്നു. ഇത്തരം മാറ്റങ്ങൾ പെട്ടെന്ന് പൂജ്യമായി കുറയുന്നത് വിജയമായല്ല, മുന്നറിയിപ്പായാണ് കണക്കാക്കുന്നത്.

അവലോകനം വെറും ഔപചാരിക അംഗീകാരമല്ലെന്നും യഥാർഥത്തിൽ നടക്കുന്നുണ്ടെന്നും എങ്ങനെ പരിശോധിക്കാം?

അവലോകനം യഥാർഥത്തിൽ നടക്കുന്നുണ്ടെന്ന് അളന്ന് പരിശോധിക്കുക: ഓരോ ഇനത്തിനും ചെലവഴിക്കുന്ന സമയം, അവലോകകർ AI-യുടെ തീരുമാനം എത്ര തവണ മാറ്റുന്നു, മനഃപൂർവം ചേർത്ത പരീക്ഷണപ്പിശകുകൾ കണ്ടെത്തുന്നുണ്ടോ എന്നിവ നോക്കുക. ടൂളിനോട് ഒരിക്കലും വിയോജിക്കാത്ത ഒരാൾ ഒന്നുകിൽ വളരെ നല്ല ഫലങ്ങൾ അവലോകനം ചെയ്യുകയാണ്, അല്ലെങ്കിൽ അവലോകനം ചെയ്യുന്നേയില്ല. ഇതിൽ ഏതാണ് ശരിയെന്ന് അറിയാൻ തെളിവ് വേണം.

മനുഷ്യ മേൽനോട്ടം ഉൾപ്പെടുത്തുമ്പോൾ സാധാരണ സംഭവിക്കുന്ന പിഴവുകൾ എന്തൊക്കെയാണ്?

മറ്റൊന്നും മാറ്റാതെ ഒരു പ്രക്രിയയിൽ പരിശോധന നടത്തുന്ന ഒരാളെ ചേർക്കുകയും അവരുടെ അംഗീകാരം ഫലം ശരിയാണെന്നതിന്റെ തെളിവായി കണക്കാക്കുകയും ചെയ്യുന്നതാണ് ഏറ്റവും സാധാരണമായ തെറ്റ്. മറ്റ് തെറ്റുകൾ: ഒരാളോട് ദിവസവും നൂറുകണക്കിന് ഇനങ്ങൾ അംഗീകരിക്കാൻ ആവശ്യപ്പെടുക, കൂടുതൽ തവണ അമർത്തിയാൽ മാത്രം കാണാവുന്നിടത്ത് തെളിവുകൾ മറയ്ക്കുക, തിരിച്ചെടുക്കാനാവാത്ത തീരുമാനങ്ങളിൽ നടപടി പൂർത്തിയായശേഷം പരിശോധിക്കുക, സ്വയമേവയുള്ള തീരുമാനങ്ങൾ തിരുത്തുന്ന നിരക്ക് കുറയുന്നതിന്റെ കാരണം ചോദിക്കാതെ അത് നേട്ടമായി കാണുക. ശ്രദ്ധാലുക്കളെയും സ്വയമേവയുള്ള സംവിധാനങ്ങളെ അന്ധമായി വിശ്വസിക്കുന്ന പ്രവണത ബാധിക്കും. അതുകൊണ്ടാണ് നല്ല ഉദ്ദേശ്യങ്ങളേക്കാൾ രൂപകൽപ്പന പ്രധാനമാകുന്നത്.

Tosheo.ai പാഠപ്പട്ടികയിൽ മനുഷ്യ മേൽനോട്ടത്തോടെയുള്ള പ്രവർത്തനം എവിടെയാണ് ഉൾപ്പെടുന്നത്?

AI സാക്ഷരതാ കോഴ്‌സിലെ ഉത്തരവാദിത്തമുള്ള AI-യും നയങ്ങളും എന്ന വിഭാഗത്തിൽ, ധാർമിക AI, ഉത്തരവാദിത്തമുള്ള AI-ക്കായുള്ള നിയന്ത്രണങ്ങൾ എന്നിവയ്ക്കുശേഷമാണ് മനുഷ്യന്റെ ഇടപെടലോടെയുള്ള പ്രവർത്തനം വരുന്നത്. ഉപകരണങ്ങൾ നിർദേശങ്ങൾ നൽകുന്നതിനു പകരം പ്രവർത്തിക്കുന്ന ഏജന്റ് അധിഷ്ഠിത AI, ഓട്ടോമേഷൻ പാഠങ്ങളിൽ ഇത് വീണ്ടും വരുന്നു. നിങ്ങളുടെ സ്വന്തം ജോലിയിലെ ഒരു അവലോകനഘട്ടം പുനർരൂപകൽപ്പന ചെയ്യാനാണ് പ്രായോഗിക പ്രവർത്തനം ആവശ്യപ്പെടുന്നത്. അവലോകനഘട്ടം, തെളിവുകൾ, അധികാരം എന്നിവയെല്ലാം വ്യക്തമാണോ എന്ന് മൂല്യനിർണയ മാനദണ്ഡങ്ങൾ അടിസ്ഥാനമാക്കിയുള്ള പ്രതികരണം പരിശോധിക്കുന്നു.

ഉറവിടങ്ങളും പരിധിയും

റെഗുലേഷൻ (EU) 2024/1689 (EU AI Act), മനുഷ്യ മേൽനോട്ടത്തെക്കുറിച്ചുള്ള അനുച്ഛേദം 14, EUR-Lex (പരിശോധിച്ചത് 19 ഒക്ടോബർ 2026) ↗

UNESCO, നിർമിത ബുദ്ധിയുടെ ധാർമികത സംബന്ധിച്ച ശുപാർശ, മനുഷ്യ മേൽനോട്ട തത്ത്വം (പരിശോധിച്ചത് 19 ഒക്ടോബർ 2026) ↗