ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ಮಾನವ ಪರಿಶೀಲನೆ: ಜನರು ನಿಜವಾಗಿಯೂ ಮಾಡುವಂತಹ AI ಪರಿಶೀಲನೆಯ ವಿನ್ಯಾಸ

ಮಾನವರು ಪರಿಶೀಲಿಸುವ ಹಂತವು ಹೆಚ್ಚಾಗಿ ಏಕೆ ವಿಫಲವಾಗುತ್ತದೆ?

ಮಾನವ ಪರಿಶೀಲನಾ ಹಂತವು ಅನೇಕ ಬಾರಿ ವಿಫಲವಾಗುತ್ತದೆ. ಏಕೆಂದರೆ ಪರಿಶೀಲಿಸುವ ವ್ಯಕ್ತಿಗೆ AI ನೀಡಿದ ತೀರ್ಪು ಮಾತ್ರ ಕಾಣುತ್ತದೆ, ಪರಿಶೀಲಿಸಬೇಕಾದ ಅಂಶಗಳು ಅತಿಯಾಗಿರುತ್ತವೆ ಮತ್ತು ಯಾವುದನ್ನು ಗಮನಿಸಬೇಕು ಎಂದು ತಿಳಿಸಿರುವುದಿಲ್ಲ. ಹೀಗಾಗಿ ಅನುಮೋದಿಸುವುದೇ ಅತಿ ವೇಗದ ಮಾರ್ಗವಾಗುತ್ತದೆ. ಇದನ್ನು ಕೇವಲ ಔಪಚಾರಿಕ ಅನುಮೋದನೆ ಎನ್ನುತ್ತಾರೆ. ಇದು ನಿಜವಾದ ಮೇಲ್ವಿಚಾರಣೆ ಇಲ್ಲದಿದ್ದರೂ ಮೇಲ್ವಿಚಾರಣೆ ಇದೆ ಎಂಬ ಭಾವನೆ ಮೂಡಿಸುತ್ತದೆ.

ಓಕ್‌ಬ್ರಿಡ್ಜ್ ಸಪ್ಲೈಸ್ ಎಂಬ 25 ಜನರ ಕಾಲ್ಪನಿಕ ಸಗಟು ವಿತರಣಾ ಸಂಸ್ಥೆಯನ್ನು ಊಹಿಸಿಕೊಳ್ಳಿ. ಒಂದು AI ಸಾಧನವು ಪೂರೈಕೆದಾರರ ಸರಕುಪಟ್ಟಿಗಳನ್ನು ಖರೀದಿ ಆದೇಶಗಳೊಂದಿಗೆ ಹೋಲಿಸಿ ಪ್ರತಿಯೊಂದನ್ನೂ 'ಹೊಂದಿಕೆ' ಅಥವಾ 'ಹೊಂದಿಕೆಯಾಗಿಲ್ಲ' ಎಂದು ಗುರುತಿಸುತ್ತದೆ. ಹಣಕಾಸು ಗುಮಾಸ್ತೆ ಪ್ರಿಯಾ ಹೊಂದಿಕೆಯಾದವುಗಳ ಪಾವತಿಗೆ ಅನುಮೋದನೆ ನೀಡುತ್ತಾರೆ. ಗುರುವಾರ ಅವರ ಕೆಲಸದ ಸರತಿ ಹೀಗಿದೆ: '212 ಸರಕುಪಟ್ಟಿಗಳು, 205 ಹೊಂದಿಕೆ, 7 ಹೊಂದಿಕೆಯಾಗಿಲ್ಲ'. ಪ್ರತಿಯೊಂದು ಸಾಲಿನಲ್ಲೂ ಪೂರೈಕೆದಾರ, ಮೊತ್ತ ಮತ್ತು ಹಸಿರು ಸರಿಗುರುತು ಕಾಣಿಸುತ್ತದೆ. ಕಳೆದ ತಿಂಗಳು ಕೇವಲ 40 ಘಟಕಗಳು ಬಂದಿದ್ದರೂ 400 ಘಟಕಗಳ ಪೂರೈಕೆದಾರರ ಸರಕುಪಟ್ಟಿಗೆ ಹಣ ಪಾವತಿಸಲಾಯಿತು. ಏಕೆಂದರೆ ಸಾಧನವು ಆರ್ಡರ್ ಸಂಖ್ಯೆಯನ್ನು ಹೊಂದಿಸಿತ್ತು ಮತ್ತು ಪ್ರಿಯಾ ಸರಿಗುರುತನ್ನು ನೋಡಿ ಅನುಮೋದಿಸಿದ್ದರು.

ಪ್ರಕ್ರಿಯೆಯ ಯಾವ ಹಂತದಲ್ಲಿ ಮಾನವ ಮೇಲ್ವಿಚಾರಣೆ ಇರಬೇಕು?

AI ಫಲಿತಾಂಶವು ಹಣ, ಒಬ್ಬ ವ್ಯಕ್ತಿಗೆ ಯಾವುದಾದರೂ ಸೌಲಭ್ಯ ಅಥವಾ ಅವಕಾಶದ ಪ್ರವೇಶ, ಗ್ರಾಹಕರಿಗೆ ನೀಡಿದ ಬದ್ಧತೆ, ಅಥವಾ ಕಾನೂನು ಅಥವಾ ಸುರಕ್ಷತಾ ಪರಿಣಾಮವನ್ನು ಬದಲಾಯಿಸುವಲ್ಲೆಲ್ಲ ಮಾನವ ಪರಿಶೀಲನೆ ಇರಬೇಕು. ಆ ಬದಲಾವಣೆಯನ್ನು ಹಿಂತಿರುಗಿಸುವುದು ಕಷ್ಟವಾಗುವ ಮೊದಲೇ ಪರಿಶೀಲಿಸಬೇಕು. ಸಾಮಾನ್ಯವಾದ, ಹಿಂತಿರುಗಿಸಬಹುದಾದ ಫಲಿತಾಂಶಗಳನ್ನು ಬದಲಿಗೆ ಮಾದರಿಗಳನ್ನು ಆಯ್ದು ಪರಿಶೀಲಿಸಬಹುದು.

ಹೆಚ್ಚಿನ ಅಪಾಯದ ವ್ಯವಸ್ಥೆಗಳ ಮಾನವ ಮೇಲ್ವಿಚಾರಣೆ ಕುರಿತ EU AI Act ವಿಧಿಯು ಇದೇ ವಿಷಯವನ್ನು ನಿಯಂತ್ರಣದ ಭಾಷೆಯಲ್ಲಿ ಹೇಳುತ್ತದೆ: ವ್ಯವಸ್ಥೆಯ ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವವರು ಅದರ ಮಿತಿಗಳನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಬೇಕು, ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆಯ ನಿರ್ಧಾರಗಳನ್ನು ಅತಿಯಾಗಿ ನಂಬುವ ಪಕ್ಷಪಾತದ ಬಗ್ಗೆ ಎಚ್ಚರದಿಂದಿರಬೇಕು ಮತ್ತು ಅದರ ಫಲಿತಾಂಶವನ್ನು ಕಡೆಗಣಿಸಲು, ಹಿಂತಿರುಗಿಸಲು ಅಥವಾ ನಿಲ್ಲಿಸಲು ಸಾಧ್ಯವಾಗಬೇಕು. ಈ ಕಾಯ್ದೆ ನಿಮಗೆ ಅನ್ವಯಿಸದಿದ್ದರೂ, ಇವು ಉತ್ತಮ ವಿನ್ಯಾಸ ಗುರಿಗಳು.

ಮಾನವ ಪರಿಶೀಲನೆಯನ್ನು ಒಳಗೊಂಡಿರುವ ಯಾವ ವಿನ್ಯಾಸಗಳಿವೆ?

ವಿಮರ್ಶೆಗೆ ನಾಲ್ಕು ಸಾಮಾನ್ಯ ವಿನ್ಯಾಸಗಳಿವೆ. ತಪ್ಪಿನ ಪರಿಣಾಮ ಎಷ್ಟು ದುಬಾರಿಯಾಗುತ್ತದೆ ಮತ್ತು ಎಷ್ಟು ಅಂಶಗಳಿವೆ ಎಂಬುದರ ಮೇಲೆ ಸೂಕ್ತ ವಿನ್ಯಾಸ ಅವಲಂಬಿತವಾಗಿರುತ್ತದೆ.

ದುರ್ಬಲ ಪರಿಶೀಲನಾ ವಿನ್ಯಾಸ ಮತ್ತು ಸುಧಾರಿತ ವಿನ್ಯಾಸ ಹೇಗಿರುತ್ತವೆ?

ದುರ್ಬಲ ವಿನ್ಯಾಸ: ಪ್ರತಿ ಸರಕುಪಟ್ಟಿಯೂ ಹಸಿರು ಅಥವಾ ಕೆಂಪು ಗುರುತಿನೊಂದಿಗೆ ಪ್ರಿಯಾಗೆ ಹೋಗುತ್ತದೆ. ಅವಳು 20 ನಿಮಿಷಗಳಲ್ಲಿ 205 ಸರಿ ಗುರುತುಗಳಿಗೆ ಅನುಮೋದನೆ ನೀಡುತ್ತಾಳೆ. ಪ್ರತಿ ಸರಿ ಗುರುತು ಏಕೆ ನೀಡಲಾಗಿದೆ ಎಂಬುದನ್ನು ಯಾವುದೂ ತಿಳಿಸುವುದಿಲ್ಲ; ಅವಳು ಇನ್ನೂ ಗಮನವಿಟ್ಟು ನೋಡುತ್ತಿದ್ದಾಳೆಯೇ ಎಂಬುದನ್ನೂ ಯಾವುದೂ ಪರೀಕ್ಷಿಸುವುದಿಲ್ಲ.

ಸುಧಾರಿತ ವಿನ್ಯಾಸ: ನಿಗದಿತ ಮೊತ್ತಕ್ಕಿಂತ ಕಡಿಮೆ ಇರುವ ಮತ್ತು ಆರ್ಡರ್ ಸಂಖ್ಯೆ, ಪ್ರಮಾಣ ಹಾಗೂ ಘಟಕದ ಬೆಲೆ ಎಲ್ಲವೂ ವಿತರಣಾ ಚೀಟಿಗೆ ಹೊಂದುವ ಸರಕುಪಟ್ಟಿಗಳಿಗೆ ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಪಾವತಿಸಲಾಗುತ್ತದೆ. ಪ್ರಿಯಾ ಪ್ರತಿ ವಾರ ಯಾದೃಚ್ಛಿಕವಾಗಿ ಹತ್ತು ಸರಕುಪಟ್ಟಿಗಳನ್ನು ಪರಿಶೀಲಿಸುತ್ತಾಳೆ. ಮಿತಿಗಿಂತ ಹೆಚ್ಚಿನ ಮೊತ್ತದ ಸರಕುಪಟ್ಟಿಗಳು, ಯಾವುದೇ ಹೊಸ ಪೂರೈಕೆದಾರರ ಸರಕುಪಟ್ಟಿಗಳು ಮತ್ತು ಪ್ರಮಾಣದಲ್ಲಿ ಯಾವುದೇ ವ್ಯತ್ಯಾಸವಿರುವ ಸರಕುಪಟ್ಟಿಗಳು ಅವಳ ಬಳಿಗೆ ಬರುತ್ತವೆ. ಆ ಮೂರು ವಿವರಗಳನ್ನು ಪಕ್ಕಪಕ್ಕದಲ್ಲಿ ತೋರಿಸಲಾಗುತ್ತದೆ ಮತ್ತು AI ನೀಡಿದ ಕಾರಣವನ್ನು 'ಸರಕುಪಟ್ಟಿಯಲ್ಲಿನ ಪ್ರಮಾಣ 400, ವಿತರಿಸಿದ್ದು 40' ಎಂಬಂತೆ ಒಂದು ಸಾಲಿನಲ್ಲಿ ನೀಡಲಾಗುತ್ತದೆ. ತಿಂಗಳಿಗೊಮ್ಮೆ, ದೋಷಗಳು ಪತ್ತೆಯಾಗುತ್ತಿವೆಯೇ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ಹಣಕಾಸು ಮುಖ್ಯಸ್ಥರು ಯಾರಿಗೂ ತಿಳಿಸದೆ ತಿಳಿದಿರುವ ಎರಡು ದೋಷಗಳನ್ನು ಪರಿಶೀಲನೆಯ ಸಾಲಿನಲ್ಲಿ ಸೇರಿಸುತ್ತಾರೆ. ಪ್ರಿಯಾ AI ನಿರ್ಧಾರವನ್ನು ಬದಲಾಯಿಸಿದ ಪ್ರತಿ ಸಂದರ್ಭವನ್ನೂ ದಾಖಲಿಸುತ್ತಾಳೆ. ಈ ಬದಲಾವಣೆಗಳ ಸಂಖ್ಯೆ ಇದ್ದಕ್ಕಿದ್ದಂತೆ ಶೂನ್ಯಕ್ಕೆ ಇಳಿದರೆ, ಅದನ್ನು ಯಶಸ್ಸೆಂದು ಅಲ್ಲ, ಎಚ್ಚರಿಕೆಯೆಂದು ಪರಿಗಣಿಸಲಾಗುತ್ತದೆ.

ಪರಿಶೀಲನೆಯು ಕೇವಲ ಔಪಚಾರಿಕ ಅನುಮೋದನೆಯಾಗಿರದೆ ನಿಜವಾಗಿಯೂ ನಡೆಯುತ್ತಿದೆ ಎಂದು ಹೇಗೆ ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಬಹುದು?

ಪರಿಶೀಲನೆ ನಿಜವಾಗಿಯೂ ನಡೆಯುತ್ತಿದೆಯೇ ಎಂಬುದನ್ನು ಅಳೆಯುವ ಮೂಲಕ ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಿ: ಪ್ರತಿ ಅಂಶಕ್ಕೆ ವ್ಯಯಿಸುವ ಸಮಯ, ಪರಿಶೀಲಕರು ಎಷ್ಟು ಬಾರಿ AI ನಿರ್ಧಾರವನ್ನು ಬದಲಿಸುತ್ತಾರೆ ಮತ್ತು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಸೇರಿಸಿದ ಪರೀಕ್ಷಾ ದೋಷಗಳು ಪತ್ತೆಯಾಗುತ್ತಿವೆಯೇ ಎಂಬುದನ್ನು ಅಳೆಯಿರಿ. ಸಾಧನದೊಂದಿಗೆ ಎಂದಿಗೂ ಭಿನ್ನಾಭಿಪ್ರಾಯ ವ್ಯಕ್ತಪಡಿಸದ ಪರಿಶೀಲಕರು ಅತ್ಯುತ್ತಮ ಫಲಿತಾಂಶವನ್ನು ಪರಿಶೀಲಿಸುತ್ತಿರಬಹುದು ಅಥವಾ ಪರಿಶೀಲನೆಯನ್ನೇ ಮಾಡದಿರಬಹುದು. ಇವೆರಡರಲ್ಲಿ ಯಾವುದು ನಿಜ ಎಂದು ತಿಳಿಯಲು ಸಾಕ್ಷ್ಯ ಬೇಕು.

ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ಮಾನವರ ಪರಿಶೀಲನೆಯನ್ನು ಸೇರಿಸುವಾಗ ಸಾಮಾನ್ಯವಾಗಿ ಆಗುವ ತಪ್ಪುಗಳು ಯಾವುವು?

ಬೇರೇನನ್ನೂ ಬದಲಾಯಿಸದೆ ಪ್ರಕ್ರಿಯೆಗೆ ಒಬ್ಬ ಪರಿಶೀಲಕರನ್ನು ಸೇರಿಸಿ, ಅವರ ಅನುಮೋದನೆಯನ್ನೇ ಫಲಿತಾಂಶ ಸರಿಯಾಗಿದೆ ಎಂಬುದಕ್ಕೆ ಪುರಾವೆಯಾಗಿ ಪರಿಗಣಿಸುವುದು ಅತ್ಯಂತ ಸಾಮಾನ್ಯ ತಪ್ಪು. ಇತರವು: ದಿನಕ್ಕೆ ನೂರಾರು ಅಂಶಗಳನ್ನು ಅನುಮೋದಿಸಲು ಒಬ್ಬರನ್ನೇ ಕೇಳುವುದು, ಸಾಕ್ಷ್ಯವನ್ನು ನೋಡಲು ಹೆಚ್ಚುವರಿ ಕ್ಲಿಕ್‌ಗಳು ಬೇಕಾಗುವಂತೆ ಮಾಡುವುದು, ಹಿಂತಿರುಗಿಸಲಾಗದ ನಿರ್ಧಾರಗಳಲ್ಲಿ ಕ್ರಮ ಕೈಗೊಂಡ ನಂತರ ಪರಿಶೀಲಿಸುವುದು, ಮತ್ತು ಮಾನವರು ಸ್ವಯಂಚಾಲಿತ ನಿರ್ಧಾರಗಳನ್ನು ಬದಲಿಸುವ ಪ್ರಮಾಣ ಇಳಿದಾಗ ಕಾರಣ ಕೇಳದೆ ಸಂಭ್ರಮಿಸುವುದು. ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಅತಿಯಾಗಿ ನಂಬುವ ಪಕ್ಷಪಾತವು ಎಚ್ಚರಿಕೆಯಿಂದಿರುವವರ ಮೇಲೂ ಪರಿಣಾಮ ಬೀರುತ್ತದೆ; ಅದಕ್ಕಾಗಿಯೇ ಒಳ್ಳೆಯ ಉದ್ದೇಶಗಳಿಗಿಂತ ವಿನ್ಯಾಸ ಮುಖ್ಯ.

Tosheo.ai ಪಠ್ಯಪಟ್ಟಿಯಲ್ಲಿ ಮಾನವ ಮೇಲ್ವಿಚಾರಣೆಯ ವ್ಯವಸ್ಥೆ ಯಾವ ಭಾಗಕ್ಕೆ ಸೇರುತ್ತದೆ?

ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ಮಾನವ ಪರಿಶೀಲನೆ ಎಂಬ ಪಾಠವು AI ಸಾಕ್ಷರತಾ ಕೋರ್ಸ್‌ನ ಜವಾಬ್ದಾರಿಯುತ AI ಮತ್ತು ನೀತಿ ವಿಭಾಗದಲ್ಲಿ, ನೈತಿಕ AI ಮತ್ತು ಜವಾಬ್ದಾರಿಯುತ AI ನಿಯಂತ್ರಣಗಳ ನಂತರ ಬರುತ್ತದೆ. ಸಲಹೆ ನೀಡುವ ಬದಲು ಉಪಕರಣಗಳೇ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಸ್ವಾಯತ್ತ AI ಏಜೆಂಟ್‌ಗಳು ಮತ್ತು ಸ್ವಯಂಚಾಲನೆಯ ಪಾಠಗಳಲ್ಲಿ ಇದು ಮತ್ತೆ ಬರುತ್ತದೆ. ನಿಮ್ಮ ಸ್ವಂತ ಕೆಲಸದ ಪರಿಶೀಲನಾ ಹಂತವೊಂದನ್ನು ಮರುವಿನ್ಯಾಸಗೊಳಿಸಲು ಪ್ರಾಯೋಗಿಕ ಕಾರ್ಯವು ಕೇಳುತ್ತದೆ. ಪರಿಶೀಲನೆಯ ಹಂತ, ಪುರಾವೆ ಮತ್ತು ಅಧಿಕಾರ ಎಲ್ಲವೂ ಸ್ಪಷ್ಟವಾಗಿವೆಯೇ ಎಂಬುದನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾನದಂಡಗಳ ಆಧಾರದ ಪ್ರತಿಕ್ರಿಯೆ ಪರಿಶೀಲಿಸುತ್ತದೆ.

ಮೂಲಗಳು ಮತ್ತು ವ್ಯಾಪ್ತಿ

ನಿಯಮಾವಳಿ (EU) 2024/1689 (EU AI Act), ಮಾನವ ಮೇಲ್ವಿಚಾರಣೆ ಕುರಿತ ಅನುಚ್ಛೇದ 14, EUR-Lex (ಪರಿಶೀಲಿಸಿದ ದಿನಾಂಕ 19 October 2026) ↗

UNESCO, ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ನೈತಿಕತೆಯ ಕುರಿತ ಶಿಫಾರಸು, ಮಾನವ ಮೇಲ್ವಿಚಾರಣೆಯ ತತ್ವ (ಪರಿಶೀಲಿಸಿದ್ದು 19 ಅಕ್ಟೋಬರ್ 2026) ↗