మనిషి సమీక్షించే దశ తరచూ ఎందుకు విఫలమవుతుంది?

మానవ సమీక్ష దశ తరచుగా విఫలమవుతుంది. ఎందుకంటే సమీక్షించే వ్యక్తికి AI తీర్పు మాత్రమే కనిపిస్తుంది, తనిఖీ చేయాల్సిన అంశాలు చాలా ఎక్కువగా ఉంటాయి, దేనిని చూడాలో ఎవరూ చెప్పరు. అందువల్ల ఆమోదించడమే అతి త్వరగా పూర్తయ్యే మార్గమవుతుంది. దీన్నే పరిశీలించకుండా ఆమోదించడం అంటారు. ఇందులో నిజమైన పర్యవేక్షణ లేకపోయినా, ఉన్నట్టుగా కనిపిస్తుంది.

ఓక్‌బ్రిడ్జ్ సప్లైస్ అనే కల్పిత 25-మంది టోకు పంపిణీ సంస్థను ఊహించుకోండి. ఒక AI సాధనం సరఫరాదారుల బిల్లులను కొనుగోలు ఆర్డర్లతో సరిపోల్చి, ప్రతిదానిపై 'సరిపోలింది' లేదా 'సరిపోలలేదు' అని గుర్తు పెడుతుంది. ఆర్థిక విభాగ గుమాస్తా ప్రియ, సరిపోలినవాటికి చెల్లింపును ఆమోదిస్తుంది. ఒక గురువారం ఆమె పని జాబితాలో ఇలా ఉంది: '212 బిల్లులు, 205 సరిపోలాయి, 7 సరిపోలలేదు'. ప్రతి వరుసలో సరఫరాదారు, మొత్తం, ఆకుపచ్చ టిక్ గుర్తు కనిపిస్తాయి. గత నెల కేవలం 40 యూనిట్లు అందినా, 400 యూనిట్ల సరఫరాదారు బిల్లుకు చెల్లింపు జరిగింది. ఎందుకంటే సాధనం ఆర్డర్ సంఖ్యను సరిపోల్చింది, ప్రియ టిక్ గుర్తును చూసి ఆమోదించింది.

ప్రక్రియలో ఏ దశలో మానవ సమీక్ష ఉండాలి?

AI ఫలితం వల్ల డబ్బుకు, ఒక వ్యక్తికి ఏదైనా పొందే అర్హతకు, వినియోగదారునికి ఇచ్చిన హామీకి, చట్టపరమైన లేదా భద్రతాపరమైన ఫలితానికి మార్పు కలిగే చోట మానవ సమీక్ష ఉండాలి. ఆ మార్పును వెనక్కి తీసుకోవడం కష్టమయ్యే ముందే సమీక్ష జరగాలి. సాధారణమైన, సులభంగా వెనక్కి తీసుకోగల ఫలితాలను మాత్రం నమూనాలు తీసుకుని తనిఖీ చేయవచ్చు.

అధిక ప్రమాద వ్యవస్థలపై మానవ పర్యవేక్షణకు సంబంధించిన EU AI Act అధికరణం ఇదే విషయాన్ని నియంత్రణ భాషలో చెబుతుంది: వ్యవస్థను పర్యవేక్షించే వ్యక్తులు దాని పరిమితులను అర్థం చేసుకోవాలి, ఆటోమేషన్‌ను అతిగా నమ్మే పక్షపాతం పట్ల అప్రమత్తంగా ఉండాలి, దాని అవుట్‌పుట్‌ను పక్కనపెట్టడం, వెనక్కి తిప్పడం లేదా ఆపడం చేయగలగాలి. ఆ చట్టం మీకు వర్తించకపోయినా, ఇవి మంచి రూపకల్పన లక్ష్యాలు.

ప్రక్రియలో మానవ సమీక్షను చేర్చడానికి ఏ విధానాలు ఉన్నాయి?

సాధారణంగా నాలుగు రకాల సమీక్షా విధానాలు ఉన్నాయి. పొరపాటు వల్ల కలిగే నష్టం, సమీక్షించాల్సిన అంశాల సంఖ్యను బట్టి సరైన విధానం మారుతుంది.

చర్యకు ముందు ఆమోదించండి

ఏ చర్య జరగడానికి ముందైనా ప్రతి ఫలితాన్ని ఒక వ్యక్తి ఆమోదిస్తారు. నిర్ణీత పరిమితికి మించిన చెల్లింపులు లేదా వినియోగదారులకు డబ్బు తిరిగి చెల్లించడం వంటి, సంఖ్యలో తక్కువగా ఉండి ఆర్థిక ప్రభావం ఎక్కువగా ఉండే పనులకు దీన్ని ఉపయోగించండి.

మినహాయింపుల సమీక్ష

స్పష్టమైన కేసులను AI నిర్వహిస్తుంది; అనిశ్చితంగా లేదా అసాధారణంగా ఉన్నవాటిని ఒక వ్యక్తికి పంపిస్తుంది. పంపించే నియమాలను పరీక్షించి, కొన్ని 'స్పష్టమైన' కేసులను కూడా తనిఖీ చేస్తేనే ఇది పనిచేస్తుంది.

నమూనాల ఆధారంగా ఆడిట్

ఫలితాలు పంపబడతాయి; ఆ తర్వాత ఒక వ్యక్తి యాదృచ్ఛికంగా ఎంచుకున్న నమూనాను తనిఖీ చేస్తారు. అంతర్గత సారాంశాల వంటి, తప్పులను సరిదిద్దగలిగే అధిక పరిమాణపు పనులకు దీన్ని ఉపయోగించండి.

ముందుగా స్వతంత్రంగా

వ్యక్తి AI సూచనను చూడకముందే తన సొంత అభిప్రాయాన్ని ఏర్పరచుకుంటారు. దీనికి ఎక్కువ సమయం పడుతుంది. కానీ ముఖ్యమైన అంచనాల్లో AI సమాధానానికే కట్టుబడిపోకుండా ఇది కాపాడుతుంది.

బలహీనమైన సమీక్ష రూపకల్పన, మెరుగుపరిచిన రూపకల్పన ఎలా ఉంటాయి?

బలహీనమైన రూపకల్పన: ప్రతి ఇన్‌వాయిస్ ఆకుపచ్చ లేదా ఎరుపు గుర్తుతో ప్రియ వద్దకు వెళ్తుంది. ఆమె 20 నిమిషాల్లో 205 ఆమోద గుర్తులను ఆమోదిస్తుంది. ఒక్కో గుర్తు ఎందుకు ఇచ్చారో ఆమెకు తెలియదు. ఆమె ఇంకా పరిశీలిస్తోందో లేదో పరీక్షించే విధానం కూడా లేదు.

మెరుగైన రూపకల్పన: నిర్ణయించిన మొత్తం కంటే తక్కువగా ఉండి, ఆర్డర్ నంబర్, పరిమాణం, యూనిట్ ధర అన్నీ డెలివరీ పత్రంతో సరిపోలే ఇన్వాయిస్‌లకు స్వయంచాలకంగా చెల్లింపులు జరుగుతాయి. ప్రియా ప్రతి వారం యాదృచ్ఛికంగా ఎంచుకున్న పది ఇన్వాయిస్‌లను తనిఖీ చేస్తుంది. పరిమితికి మించిన మొత్తం, కొత్త సరఫరాదారు, పరిమాణంలో ఏదైనా తేడా ఉన్నప్పుడు, ఆ మూడు వివరాలను పక్కపక్కన చూపించి, 'ఇన్వాయిస్‌లో పరిమాణం 400, డెలివరీ అయినది 40' వంటి AI కారణాన్ని ఒక పంక్తిలో జతచేసి ఆమెకు పంపుతారు. లోపాలను గుర్తిస్తున్నారో లేదో నిర్ధారించడానికి ఆర్థిక విభాగపు అధిపతి నెలకు ఒకసారి తెలిసిన రెండు తప్పులను చెప్పకుండా సమీక్ష జాబితాలో చేరుస్తారు. AI నిర్ణయాన్ని మార్చిన ప్రతిసారీ ప్రియా నమోదు చేస్తుంది. అలాంటి మార్పులు అకస్మాత్తుగా సున్నాకు పడిపోతే, దాన్ని విజయంగా కాకుండా హెచ్చరికగా పరిగణిస్తారు.

సమీక్ష కేవలం పేరుకు ఆమోదించడం కాకుండా నిజంగా జరుగుతోందని ఎలా తనిఖీ చేయాలి?

సమీక్ష నిజంగా జరుగుతోందో లేదో కొలిచి తనిఖీ చేయండి: ఒక్కో అంశానికి వెచ్చించే సమయం, సమీక్షకులు AI నిర్ణయాన్ని ఎంత తరచుగా మార్చుతున్నారు, పరీక్ష కోసం ఉద్దేశపూర్వకంగా చేర్చిన తప్పులను గుర్తిస్తున్నారా అనేవి చూడండి. సాధనం ఇచ్చిన ఫలితంతో ఎప్పుడూ విభేదించని సమీక్షకుడు చాలా మంచి ఫలితాలను సమీక్షిస్తుండవచ్చు లేదా అసలు సమీక్షించకపోవచ్చు. ఏది నిజమో తెలుసుకోవడానికి ఆధారాలు కావాలి.

నిర్ణయాలు మాత్రమే కాకుండా, ఆధారాలనూ చూపించండి

వేగంగా తనిఖీ చేయడానికి AI సమాధానం పక్కనే మూల సమాచారంలోని ఫీల్డ్‌లను ఉంచండి.

నిరీక్షణ వరుసను పరిమితం చేయండి

పని పరిమాణాన్ని ఒక వ్యక్తి సరిగ్గా సమీక్షించలేకపోతే, మరింత కష్టపడమని అడగకుండా ప్రక్రియ రూపకల్పనను మార్చండి.

అధికారం ఇవ్వండి

అనుమతి తీసుకోవాల్సిన అవసరం లేకుండానే సమీక్షకులు తిరస్కరించగలగాలి లేదా తాత్కాలికంగా నిలిపివేయగలగాలి.

పునరావృత ప్రక్రియను పరీక్షించండి

అప్పుడప్పుడు తెలిసిన తప్పులను చేర్చి, వాటిని గుర్తించారో లేదో నమోదు చేయండి.

మనిషి పర్యవేక్షణతో నడిచే ప్రక్రియల్లో సాధారణంగా జరిగే పొరపాట్లు ఏమిటి?

అత్యంత సాధారణమైన తప్పు ప్రక్రియలో మరే మార్పూ చేయకుండా ఒక సమీక్షకుడిని చేర్చడం, ఆపై వారి ఆమోదమే ఫలితం సరైనదనడానికి రుజువుగా భావించడం. ఇతర తప్పులు: ఒకే వ్యక్తిని రోజుకు వందల అంశాలను ఆమోదించమని అడగడం, ఆధారాలు చూడటానికి అదనపు క్లిక్‌లు అవసరమయ్యేలా దాచడం, వెనక్కి తీసుకోలేని నిర్ణయాల్లో చర్య జరిగిపోయిన తర్వాత సమీక్షించడం, స్వయంచాలక నిర్ణయాలను మనుషులు మార్చే రేటు తగ్గితే ఎందుకో అడగకుండా సంతోషించడం. జాగ్రత్తగా ఉండేవారిపైనా స్వయంచాలక ఫలితాలను నమ్మే పక్షపాతం ప్రభావం చూపుతుంది. అందుకే మంచి ఉద్దేశాల కంటే ప్రక్రియ రూపకల్పన ముఖ్యం.

Tosheo.ai కోర్సుల జాబితాలో ప్రక్రియలో మానవ సమీక్ష ఏ విభాగంలో ఉంటుంది?

ప్రక్రియలో మానవ సమీక్ష అనే అంశం AI అవగాహన కోర్సులోని బాధ్యతాయుత AI మరియు విధానాల విభాగంలో, నైతిక AI మరియు బాధ్యతాయుత AI నియంత్రణల తర్వాత వస్తుంది. సాధనాలు సూచనలు ఇవ్వడమే కాకుండా చర్యలు తీసుకునే స్వయంచాలక AI ఏజెంట్లు, ఆటోమేషన్ పాఠాల్లో ఇది మళ్లీ వస్తుంది. ఆచరణాత్మక పనిలో మీ సొంత పనిలోని ఒక సమీక్ష దశను పునఃరూపకల్పన చేయాలి. స్కోరింగ్ ప్రమాణాల ఆధారంగా ఇచ్చే అభిప్రాయం, సమీక్ష దశ, ఆధారాలు, అధికారం అన్నీ స్పష్టంగా ఉన్నాయో లేదో తనిఖీ చేస్తుంది.

మూలాలు, పరిధి

నియంత్రణ (EU) 2024/1689 (EU AI Act), మానవ పర్యవేక్షణపై అధికరణం 14, EUR-Lex (19 అక్టోబర్ 2026న తనిఖీ చేశారు) ↗

UNESCO, కృత్రిమ మేధ నైతికతపై సిఫార్సు, మానవ పర్యవేక్షణ సూత్రం (తనిఖీ చేసిన తేదీ 19 అక్టోబర్ 2026) ↗