కంటెంట్‌ను సృష్టించే AI సాధనాల కోసం ప్రత్యేక విధాన నియమాలు ఎందుకు అవసరం?
జనరేటివ్ సాధనాలు ఉన్న సమాచారాన్ని పొందడం లేదా క్రమబద్ధీకరించడం మాత్రమే కాకుండా కొత్త వచనం, చిత్రాలు, ఆడియో లేదా కోడ్ను సృష్టిస్తాయి. అందువల్ల ప్రధాన ప్రమాదం లోపలికి ఇచ్చే సమాచారం నుంచి బయటకు వచ్చే ఫలితానికి మారుతుంది. శోధన సాధనం మీరు పరిశీలించగల పేజీలను అందిస్తుంది; జనరేటివ్ సాధనం నమ్మకంగా కనిపించే ముసాయిదాను ఇస్తుంది. అందులో కల్పిత వాస్తవాలు, ఇతరుల నుంచి తీసుకున్న పదప్రయోగాలు లేదా పక్షపాతంతో కూడిన చిత్రణ ఉండవచ్చు. విధానం ఈ రెండు వైపులనూ కవర్ చేయాలి.
NIST సృజనాత్మక AI ప్రమాదాల వివరణ సృజనాత్మక AIకు ప్రత్యేకమైన లేదా దానివల్ల తీవ్రమయ్యే పన్నెండు ప్రమాదాలను పేర్కొంటుంది. సాధారణ చిన్న వ్యాపారం విధానాన్ని రూపొందించేటప్పుడు వాటిలో ఐదు ప్రధానంగా ఉపయోగపడతాయి: భ్రమాత్మక కల్పన (నమ్మకంగా చెప్పినా తప్పుడు సమాచారం), సమాచార గోప్యత (లీకవడం లేదా అనుమతి లేకుండా వెల్లడించడం), మేధో సంపత్తి (రక్షిత విషయాలను నకలు చేయడం లేదా వ్యాపార రహస్యాలను బయటపెట్టడం), సమాచార సమగ్రత (వాస్తవాన్ని అభిప్రాయం నుంచి వేరు చేయని లేదా అనిశ్చితిని గుర్తించని సమాచారం), NIST పేర్కొనే మానవ-AI వ్యవస్థీకరణ. చివరి అంశంలో స్వయంచాలక వ్యవస్థల పట్ల పక్షపాతం, అతిగా ఆధారపడటం ఉంటాయి.
మీ ఆమోదయోగ్య వినియోగ నియమాలున్న పత్రంలోనే ఈ నియమాలనూ చేర్చవచ్చు. చాలా చిన్న సంస్థలు అలాగే చేస్తాయి. ఈ పేజీ కంటెంట్‌కు సంబంధించిన ప్రత్యేక నిబంధనలపై దృష్టి పెడుతుంది. ఇది సాధారణ సమాచారం మాత్రమే, న్యాయ సలహా కాదు.
| NIST ప్రొఫైల్‌లో నష్టభయం | పనిలో ఇది ఎలా ఉంటుంది | దాన్ని పరిష్కరించే విధాన నియమం |
|---|---|---|
| కల్పనను వాస్తవంగా చెప్పడం | కల్పిత గణాంకం లేదా ఆ విషయం చెప్పని పేజీని ఆధారంగా చూపడం | ఉపయోగించే ముందు, వాస్తవంగా పేర్కొన్న ప్రతి అంశాన్ని మూలాన్ని తెరిచి చూసి తనిఖీ చేయండి |
| డేటా గోప్యత | సామూహిక వ్యక్తిగతీకరించిన మెయిల్ ముసాయిదా కోసం అతికించిన క్లయింట్ సంప్రదింపుల జాబితా | ఆమోదించిన ఖాతాలకు అనుసంధానించిన సమాచార వర్గాలు |
| మేధో సంపత్తి | గుర్తుపట్టగలిగే కళాకారుడి శైలిలో ఒక చిత్రం, లేదా లైసెన్స్ ఉన్న ప్రాజెక్టు నుంచి కాపీ చేసిన కోడ్ | శైలిని నిర్దేశించే సూచనలు, పునర్వినియోగం, లైసెన్స్ తనిఖీలపై నియమాలు |
| సమాచార సమగ్రత | ఊహను వాస్తవంగా పేర్కొనే సారాంశం | సమీక్షించిన ముసాయిదాల్లో అనిశ్చితి స్పష్టంగా కనిపించేలా ఉండాలని నిర్దేశించండి |
| అతిగా ఆధారపడటం | డేటాను చదవకుండానే రూపొందించిన విశ్లేషణను అంగీకరించడం | మనిషి చేతిలోనే ఉండాల్సిన నిర్ణయాలను పేర్కొనండి |
ఉద్యోగుల కోసం రూపొందించే ChatGPT విధానంలో ఏమి ఉండాలి?
ఉద్యోగుల కోసం ChatGPT విధానం ఏ ఖాతాను ఉపయోగించాలి, ప్రాంప్ట్‌లో ఎప్పటికీ చేర్చకూడనివి ఏమిటి, సమాధానాన్ని ఎలా తనిఖీ చేయాలి, ఎవరిని అడగాలి అన్నవి చెప్పాలి. అవే నియమాలు Claude, Gemini, Copilot, అలాంటి ఇతర సహాయకులకూ వర్తించాలి. స్పష్టత కోసం శీర్షికలో ఒక ఉత్పత్తి పేరు పెట్టవచ్చు. కానీ బృందం మరో సాధనాన్ని చేర్చినప్పుడు నియమాలను తిరిగి రాయాల్సిన అవసరం లేకుండా వాటిని రూపొందించండి.
అత్యంత ముఖ్యమైన తేడా వ్యక్తిగత ఖాతాలు, సంస్థ ఖాతాల మధ్య ఉంటుంది. ఒకే సహాయకానికి చెందిన వ్యక్తిగత వినియోగ ప్లాన్‌లు, వ్యాపార ప్లాన్‌లలో మోడల్ శిక్షణ, డేటా నిల్వ వ్యవధి, నిర్వాహకుని నియంత్రణపై వేర్వేరు నిబంధనలు ఉండవచ్చు. ఉదాహరణకు, సంస్థలు ఉపయోగించే Copilot Chatకు తమ డేటా రక్షణ అనుబంధం వర్తిస్తుందని, సూచనలను, సమాధానాలను పునాది మోడళ్లకు శిక్షణ ఇవ్వడానికి ఉపయోగించరని Microsoft పత్రాలు చెబుతున్నాయి. నియంత్రణలు ప్లాన్‌ను బట్టి మారుతాయి. ఊహించుకోకుండా, మీరు ఆమోదించే ప్రతి సాధనానికీ ఇదే అంశంపై ఉన్న ప్రకటనను, తనిఖీ చేసిన తేదీతో సహా నమోదు చేయండి.
నమూనా నిబంధన: "[సహాయకుడు]ను మీ [కంపెనీ] వ్యాపార ఖాతా ద్వారా మాత్రమే ఉపయోగించండి. చిన్న ప్రశ్న అడగడానికైనా కంపెనీ పని కోసం వ్యక్తిగత ఖాతాను ఉపయోగించవద్దు. ఎందుకంటే సేవా ప్రదాతతో మనకున్న ఒప్పందం వ్యక్తిగత ఖాతాలకు వర్తించదు."
సిబ్బంది జనరేటివ్ AIకి ఇచ్చే సూచనల్లో ఎట్టి పరిస్థితుల్లోనూ వేటిని చేర్చకూడదు?
పాస్‌వర్డ్‌లు, కీలు లేదా ఇతర రహస్యాలను సిబ్బంది ఎప్పుడూ AIకి ఇచ్చే సూచనలో పెట్టకూడదు. ఆమోదించిన పని విధానం అనుమతించినచోట మాత్రమే గోప్యమైన, క్లయింట్‌కు సంబంధించిన లేదా వ్యక్తిగత సమాచారాన్ని నమోదు చేయాలి. ఒక ప్రశ్న మోడల్‌ను అందించే సంస్థకు కనిపిస్తుందని యూకే జాతీయ సైబర్ భద్రతా కేంద్రం మార్గదర్శకాలు పేర్కొంటున్నాయి. బహిర్గతమైతే సమస్యలు కలిగించే ప్రశ్నలను సమర్పించవద్దని అవి సిఫార్సు చేస్తున్నాయి.
అప్‌లోడ్ చేసిన ఫైళ్లు కూడా ప్రాంప్ట్‌లుగా పరిగణించబడతాయి. చార్ట్ అడగడానికి జతచేసిన స్ప్రెడ్‌షీట్‌లోని ప్రతి నిలువు వరుస పంపబడుతుంది; ఆ ప్రశ్నకు అవసరం లేనివి కూడా అందులో ఉంటాయి. "అప్‌లోడ్ చేయడానికి ముందు అవసరం లేని నిలువు వరుసలను తొలగించండి" అని చెప్పే విధాన నిబంధనను పాటించడం సులభం. అది తరచూ జరిగే ఒక పొరపాటును నివారిస్తుంది.
నమూనా నిబంధన: "అతికించే లేదా అప్‌లోడ్ చేసే ముందు, పనికి అవసరం లేనిదంతా తొలగించండి. రహస్యాలను ఎప్పుడూ చేర్చవద్దు. ఆ సాధనానికి, ఆ పనికి రిజిస్టర్‌లో ఆమోదం ఉంటే తప్ప క్లయింట్ లేదా వ్యక్తిగత సమాచారాన్ని చేర్చవద్దు. మీకు సందేహం ఉంటే, ముందుగా [బాధ్యుడు]ను అడగండి."
రూపొందించిన సమాచారాన్ని ఉపయోగించే ముందు ఎలా తనిఖీ చేయాలి?
సృష్టించిన కంటెంట్‌ను ఎక్కడ ఉపయోగిస్తారనే దానికి తగిన స్థాయిలో తనిఖీ చేయాలి: వ్యక్తిగత ఆలోచనల సేకరణకు ఒకసారి చూసుకుంటే చాలు; క్లయింట్‌కు ఇచ్చే పనిలో ప్రతి ప్రకటనకు ఆధారాన్ని గుర్తించాలి; చట్టం, ఆర్థికం లేదా భద్రతకు సంబంధించిన దేనికైనా అర్హతగల సమీక్షకుడు అవసరం. ప్రతి రకమైన ఫలితాన్ని ఎవరు తనిఖీ చేయాలో విధానంలో పేర్కొనాలి. సాధారణంగా దాన్ని పంపే లేదా ప్రచురించే వ్యక్తికే ఆ బాధ్యత ఉంటుంది.
ఫెన్విక్ టాలెంట్ అనే కల్పిత 15 మంది ఉద్యోగుల నియామక సలహా సంస్థ నుంచి పరిశీలించిన ఒక ఉదాహరణ. ఒక సలహాదారు ఇలా సూచన ఇస్తారు: "లీడ్స్‌లో నిర్వహణ లెక్కల నిపుణుల నియామకాలపై ఆర్థిక సంచాలకుల కోసం 150 పదాల తాజా మార్కెట్ సమాచారం రాయి." ఒక నిర్దిష్ట వేతన సర్వేను ఉటంకిస్తూ, ఈ ఏడాది డిమాండ్ బాగా పెరిగిందని, వేతనాలు ఒక నిర్దిష్ట శాతం పెరిగాయని ముసాయిదా చెబుతుంది. ఆ సర్వే గానీ, ఆ గణాంకం గానీ సలహాదారుకు దొరకవు.
బలహీనమైన ఫలితాన్ని యథాతథంగా ఉంచితే: "[సర్వే] ప్రకారం, ఈ ఏడాది లీడ్స్‌లో మేనేజ్‌మెంట్ అకౌంటెంట్లకు డిమాండ్ బాగా పెరిగింది, జీతాలు [సంఖ్య] మేరకు పెరిగాయి." సమీక్షించిన రూపం: "ఈ త్రైమాసికంలో మేము భర్తీ చేసిన ఉద్యోగాలకు సంబంధించి, ఆర్థిక విభాగ డైరెక్టర్లు నోటీసు వ్యవధులు, కార్యాలయం నుంచి మరియు ఇంటి నుంచి పనిచేసే నిబంధనల గురించే ఎక్కువగా అడిగారు. ఉద్యోగ ఆఫర్ ఇచ్చే దశలో, అభ్యర్థులను నిలుపుకునేందుకు వారి ప్రస్తుత సంస్థలు మెరుగైన ఆఫర్లు ఇవ్వడం ఎక్కువగా కనిపిస్తోంది." సమీక్షించిన రూపంలో ఫెన్విక్ స్వయంగా గమనించిన విషయాలు మాత్రమే ఉన్నాయి. ఈ సవరణకు ఆధారమైన విధాన నిబంధన: "మీరు తెరిచి నిర్ధారించలేని ఏ గణాంకాన్నైనా, సర్వేనైనా, ఫలితాన్నైనా తొలగించండి."
ఇది ఒక ఉద్యోగ పాత్రకు ఎలా అనుసంధానమవుతుందో చూడాలనుకుంటున్నారా?
ప్రణాళికలో ఉన్న బృంద ప్రయోగాత్మక వినియోగాన్ని పరిశీలించండి ↗విషయాన్ని AI రూపొందించిందని ఉద్యోగులు ఎప్పుడు వెల్లడించాలి?
కనీసం, ముసాయిదాలో అధిక భాగాన్ని AI రూపొందించినప్పుడు ఉద్యోగులు తమ సమీక్షకుడికి ఆ విషయం చెప్పాలి. అలాగే వెల్లడించాలని కోరే క్లయింట్ ఒప్పందం, వేదిక నియమం లేదా ప్రచురణ నియమం ఏదైనా ఉంటే పాటించాలి. అంతకు మించి వెల్లడించాలా వద్దా అనేది పాఠకులు మరియు సందర్భాన్ని బట్టి సంస్థ తీసుకునే నిర్ణయం.
బహిరంగంగా అందుబాటులో ఉన్న ఉదాహరణలు వేర్వేరుగా ఉంటాయి. May 2023లో ప్రచురించిన బోస్టన్ నగర సిబ్బంది తాత్కాలిక మార్గదర్శకాలు, ఉద్యోగులు AI వాడిన విషయాన్ని, ఉపయోగించిన మోడల్‌తో సహా వెల్లడించాలని కోరుతున్నాయి. అలాగే "ఈ వివరణను ChatGPT 3.5 రూపొందించింది, సవరించినది" అని పేర్కొని సిబ్బంది పేరు చేర్చడం వంటి పద్ధతిని సూచిస్తున్నాయి. అది ఒక ప్రభుత్వ సంస్థకు తగినది. సాధారణ రచనల విషయంలో సమీక్షకుడికి అంతర్గతంగా తెలియజేస్తే సరిపోతుందని, రూపొందించిన చిత్రాలు లేదా కృత్రిమ స్వరాలకు మాత్రం బయటివారికి కనిపించే గుర్తింపు ఇవ్వాలని ఒక చిన్న ఏజెన్సీ నిర్ణయించవచ్చు.
నమూనా నిబంధన: "ముసాయిదాలో గణనీయమైన భాగాన్ని AI రూపొందించినప్పుడు మీ సమీక్షకుడికి తెలియజేయండి. వినియోగదారులకు కనిపించే చిత్రాలు, ఆడియో లేదా వీడియో AIతో రూపొందించినవైతే, వాటికి [లేబుల్ పదాలు] అని గుర్తు పెట్టండి. AI వినియోగంపై క్లయింట్ ఇచ్చే సూచనలను పాటించండి; ఈ నిబంధన కంటే వాటికే ప్రాధాన్యం ఉంటుంది."
సృజనాత్మక AI విధానంలో కాపీరైట్, చిత్రాల వినియోగాన్ని ఎలా పరిగణించాలి?
రక్షిత రచనలు లేదా సృజనలను సిబ్బంది ఉద్దేశపూర్వకంగా పునరుత్పత్తి చేయకుండా విధానం నిరోధించాలి. రూపొందించిన కోడ్ లేదా ఇతర వనరులను తిరిగి ఉపయోగించే ముందు లైసెన్సులను తనిఖీ చేయాలని నిర్దేశించాలి. సమ్మతి లేకుండా నిజమైన వ్యక్తుల చిత్రాలు లేదా స్వరాలు రూపొందించడాన్ని నిషేధించాలి. కాపీరైట్, ట్రేడ్‌మార్క్ లేదా లైసెన్సుతో రక్షితమైన విషయాలను సులభంగా పునరుత్పత్తి చేయగలగడం, వ్యాపార రహస్యాలు సులభంగా బయటపడటం వంటి వాటిని ఉత్పాదక AI ప్రమాదాలుగా NIST ప్రొఫైల్ పేర్కొంటుంది.
కృత్రిమ మేధ సృష్టించిన విషయానికి వర్తించే కాపీరైట్ చట్టాలు దేశానికోలా ఉంటాయి, ఇంకా రూపుదిద్దుకుంటున్నాయి. కాబట్టి సృష్టించిన ప్రతి ఫలితంపై సంస్థకు యాజమాన్యం ఉంటుందని లేదా దాన్ని నమోదు చేసుకోవచ్చని విధానం హామీ ఇవ్వకూడదు. అనిశ్చితిని సంస్థ ఎలా ఎదుర్కొంటుందో అందులో చెప్పాలి: ఉదాహరణకు, సృష్టించిన చిత్రాలను అంతర్గత నమూనాల కోసం స్వేచ్ఛగా వాడవచ్చు. కానీ క్లయింట్ ప్రచారం కోసం వాడే దేనినైనా ముందుగా సాధనం లైసెన్స్ నిబంధనలు, క్లయింట్ సూచనలకు అనుగుణంగా ఉందో పరిశీలించాలి.
నమూనా నిబంధనలు: "జీవించి ఉన్న కళాకారుడి లేదా బ్రాండ్ పేరును పేర్కొని, వారి శైలిలో కంటెంట్ రూపొందించమని అడగవద్దు. కాపీరైట్ ఉన్న పాఠ్యాన్ని పునరుత్పత్తి చేయమని సాధనాన్ని అడగవద్దు. నిజమైన వ్యక్తి నుంచి రాతపూర్వక సమ్మతి లేకుండా వారి చిత్రాలు, ఆడియో లేదా వీడియోను సృష్టించవద్దు. రూపొందించిన కంటెంట్‌ను క్లయింట్ పనిలో ఉపయోగించే ముందు సాధనం వాణిజ్య వినియోగ నిబంధనలను పరిశీలించండి." మీ ప్రాంతంలో వర్తించే చట్టపరమైన స్థితిపై సలహా తీసుకోండి.
ఏ నిర్ణయాలు మనుషుల చేతుల్లోనే ఉండాలి?
నియామకం, వేతనం, పనితీరు, రుణం, ఫిర్యాదులు, ఆరోగ్యం లేదా భద్రతకు సంబంధించిన అంశాలు వంటి ఒక వ్యక్తిపై గణనీయమైన ప్రభావం చూపే నిర్ణయాలు, వాటికి ఆధారమైన సమాచారాన్ని సమీక్షించే ఒక నిర్దిష్ట వ్యక్తి చేతుల్లోనే ఉండాలి. ఉత్పాదక AI సాధనాలు ఆ నిర్ణయాల కోసం ముసాయిదా రూపొందించడంలో, సమాచారాన్ని క్రమబద్ధీకరించడంలో లేదా సారాంశం చేయడంలో సహాయపడవచ్చు; అవే నిర్ణయాలు తీసుకోకూడదు.
స్వయంచాలక వ్యవస్థల పట్ల పక్షపాతం, వాటిపై అతిగా ఆధారపడటం అనేవి మానవులు–AI కలిసి పనిచేసే అమరికలోని ప్రమాదాల్లో భాగమని NIST వివరణ పత్రం పేర్కొంటుంది. ఒక విధానం దీన్ని ఒక సరళమైన పరీక్షతో ఎదుర్కొంటుంది: నిర్ణయం తీసుకునే వ్యక్తి, సాధనం చెప్పినదాన్ని ప్రస్తావించకుండా తన నిర్ణయాన్ని వివరించగలగాలి. వ్యక్తిగత సమాచారం ప్రమేయం ఉన్నప్పుడు, AI మరియు సమాచార రక్షణపై ICO మార్గదర్శకమే యునైటెడ్ కింగ్‌డమ్‌లో అధికారిక ఆధారం; సమాచార (వినియోగం మరియు ప్రాప్యత) చట్టం నేపథ్యంలో ఈ మార్గదర్శకాన్ని సమీక్షిస్తున్నట్లు దాని పేజీలు ప్రస్తుతం చెబుతున్నాయి.
జనరేటివ్ AI విధానం ఎప్పుడు సరైన సాధనం కాదు?
మీరు ఒక ఉత్పత్తిలో విషయాలను రూపొందించే AI సదుపాయాలను నిర్మిస్తుంటే, వినియోగదారుల డేటాతో నమూనాలను మరింత సర్దుబాటు చేస్తుంటే, లేదా మీ తరఫున ప్రజలతో మాట్లాడే చాట్‌బాట్‌ను అందుబాటులోకి తెస్తుంటే, ఉద్యోగుల కోసం రూపొందించిన విషయ సృజన AI విధానం మాత్రమే సరిపోదు. వీటికి ఉద్యోగుల నియమాల పరిధిని మించిన ఉత్పత్తి, భద్రత, న్యాయ సమీక్షలు అవసరం.
ఇది అభ్యాసానికి ప్రత్యామ్నాయం కూడా కాలేదు. ముసాయిదాలో కల్పిత గణాంకం ఉండవచ్చని తెలుసుకోవడం వేరు, గడువులోపు పని పూర్తి చేయాల్సిన ఒత్తిడిలో దాన్ని గుర్తించడం వేరు. ఆ అభ్యాస దశ కోసమే Tosheo.ai రూపొందుతోంది: ప్రణాళికలో ఉన్న ఉద్యోగ పాత్రలవారీ అభ్యాస క్రమాల్లో ప్రతి పాఠం చివర నిజమైన AI సాధనంతో స్వయంగా చేయాల్సిన పని ఉంటుంది. దానికి అందరికీ కనిపించే మూల్యాంకన మార్గదర్శిలోని ప్రమాణాల ప్రకారం మార్కులు ఇస్తారు. ఇది మీ విధానాన్ని రూపొందించదు లేదా అమలు చేయదు.
మూలాలు, పరిధి
NIST, ఉత్పాదక AI వివరణ పత్రం (NIST AI 600-1), జూలై 2024 ↗
NCSC, ChatGPT మరియు భారీ భాషా నమూనాలు: ప్రమాదం ఏమిటి?, 14 మార్చి 2023 ↗
బోస్టన్ నగరం, కంటెంట్‌ను సృష్టించే AI వినియోగానికి తాత్కాలిక మార్గదర్శకాలు, సంచిక 1.1, 18 May 2023 ↗
ICO, AI మరియు డేటా రక్షణపై మార్గదర్శకాలు (సమీక్షలో ఉన్నాయి), 16 October 2026న తనిఖీ చేయబడింది ↗