जनरेटिव्ह AI साधनांसाठी स्वतंत्र धोरणात्मक नियम का आवश्यक आहेत?

जनरेटिव्ह साधने केवळ अस्तित्वात असलेली माहिती शोधून आणण्याऐवजी किंवा तिची वर्गवारी करण्याऐवजी नवीन मजकूर, प्रतिमा, ध्वनी किंवा कोड तयार करतात. त्यामुळे मुख्य जोखीम दिलेल्या माहितीवरून तयार झालेल्या सामग्रीकडे सरकते. शोध साधन तुम्हाला तपासता येतील अशी पाने देते; जनरेटिव्ह साधन खात्रीशीर वाटणारा मसुदा देते, ज्यात बनावट तथ्ये, इतरांकडून घेतलेली शब्दरचना किंवा पक्षपाती मांडणी असू शकते. धोरणात दिलेली माहिती आणि तयार झालेली सामग्री या दोन्हींचा समावेश असणे आवश्यक आहे.

NIST च्या जनरेटिव्ह AI जोखीम विवरणात जनरेटिव्ह AI साठी विशिष्ट असलेल्या किंवा त्यामुळे अधिक तीव्र होणाऱ्या बारा जोखमी दिल्या आहेत. साधारण लहान व्यवसायाच्या धोरणात त्यांपैकी पाच जोखमी बहुतेक गरजा भागवतात: भ्रामक निर्मिती (आत्मविश्वासाने मांडलेला पण खोटा मजकूर), माहितीची गोपनीयता (गळती किंवा अनधिकृत प्रकटीकरण), बौद्धिक संपदा (संरक्षित सामग्रीची पुनर्निर्मिती किंवा व्यापार गुपिते उघड करणे), माहितीची विश्वासार्हता (वस्तुस्थिती आणि मत यांत फरक न करणारा किंवा अनिश्चितता मान्य न करणारा मजकूर) आणि NIST ज्याला मानव-AI संरचना म्हणते ती जोखीम, ज्यात स्वयंचलन पूर्वग्रह आणि अतिअवलंबित्व यांचा समावेश आहे.

हे नियम तुम्ही स्वीकारार्ह वापराच्या नियमांसोबत त्याच दस्तऐवजात ठेवू शकता. अनेक लहान कंपन्या असे करतात. हे पान मजकुराशी संबंधित विशिष्ट कलमांवर लक्ष केंद्रित करते. ही सर्वसाधारण माहिती आहे, कायदेशीर सल्ला नाही.

NIST प्रोफाइलमधील जोखीमकामाच्या ठिकाणी हे कसे दिसतेत्यावर लागू होणारा धोरणातील नियम
कपोलकल्पनाबनवून सांगितलेली आकडेवारी किंवा संबंधित माहिती नसलेल्या पानाचा संदर्भवापरण्यापूर्वी प्रत्येक तथ्यात्मक दावा स्रोत उघडून त्याच्याशी ताडून तपासा
माहितीची गोपनीयतामेल मर्जचा मसुदा तयार करण्यासाठी पेस्ट केलेली ग्राहकाची संपर्क यादीमान्यताप्राप्त खात्यांशी जोडलेले माहितीचे वर्ग
बौद्धिक संपदाओळखता येण्याजोग्या कलाकाराच्या शैलीतील प्रतिमा किंवा परवान्याच्या अटी लागू असलेल्या प्रकल्पातून नक्कल केलेला संगणकीय कोडशैलीविषयक सूचना, पुनर्वापर आणि परवाना तपासण्यांबाबतचे नियम
माहितीची अचूकता आणि अखंडताअंदाजाला तथ्य म्हणून मांडणारा सारांशतपासलेल्या मसुद्यांमध्ये अनिश्चितता स्पष्ट दिसत राहील याची अट ठेवा
अतिअवलंबित्वडेटा न वाचता तयार केलेले विश्लेषण स्वीकारणेकोणते निर्णय माणसाकडेच राहतील ते स्पष्ट करा

कर्मचाऱ्यांसाठीच्या ChatGPT वापर धोरणात काय नमूद केलेले असावे?

कर्मचाऱ्यांसाठीच्या ChatGPT धोरणात कोणते खाते वापरायचे, सूचनेत कोणती माहिती कधीही टाकायची नाही, उत्तर कसे तपासायचे आणि कोणाला विचारायचे हे स्पष्ट असावे. हेच नियम Claude, Gemini, Copilot आणि तत्सम सहाय्यकांनाही लागू असावेत. स्पष्टतेसाठी शीर्षकात एका उत्पादनाचे नाव वापरणे ठीक आहे, पण संघाने आणखी एखादे साधन वापरायला घेतल्यावर नियम पुन्हा लिहावे लागणार नाहीत अशा पद्धतीने ते लिहा.

सर्वात महत्त्वाचा फरक वैयक्तिक आणि कंपनीच्या खात्यांमधील आहे. एकाच सहाय्यकाच्या वैयक्तिक वापराच्या आणि व्यावसायिक योजनांमध्ये मॉडेल प्रशिक्षणासाठी माहितीचा वापर, माहिती किती काळ ठेवली जाते आणि प्रशासकाचे नियंत्रण यांबाबत वेगवेगळ्या अटी असू शकतात. उदाहरणार्थ, Microsoft च्या दस्तऐवजांनुसार संस्थांकडून वापरल्या जाणाऱ्या Copilot Chat ला त्यांच्या डेटा संरक्षण परिशिष्टातील अटी लागू होतात आणि सूचना व उत्तरे मूलभूत मॉडेलच्या प्रशिक्षणासाठी वापरली जात नाहीत; नियंत्रणाच्या सुविधा योजनेनुसार बदलतात. हे गृहीत धरण्याऐवजी, तुम्ही मान्यता देत असलेल्या प्रत्येक साधनाबाबतचे समतुल्य विधान आणि ते तपासल्याची तारीख नोंदवा.

नमुना कलम: "[सहाय्यक] फक्त तुमच्या [कंपनी] व्यावसायिक खात्यातूनच वापरा. कंपनीच्या कामासाठी वैयक्तिक खाते वापरू नका, अगदी एखादा छोटा प्रश्न विचारण्यासाठीही नाही, कारण प्रदात्याशी केलेल्या आमच्या करारात वैयक्तिक खाती समाविष्ट नाहीत."

कर्मचाऱ्यांनी सामग्री तयार करणाऱ्या AI ला दिलेल्या सूचनेत काय कधीही टाकू नये?

कर्मचाऱ्यांनी संकेतशब्द, प्रवेश किल्ल्या किंवा इतर गुपिते कधीही AI ला दिलेल्या सूचनेत टाकू नयेत. गोपनीय, ग्राहकांची किंवा वैयक्तिक माहिती केवळ मंजूर कार्यपद्धतीत परवानगी असेल तेव्हाच टाकावी. ब्रिटनच्या राष्ट्रीय सायबर सुरक्षा केंद्राच्या मार्गदर्शनानुसार, विचारलेला प्रश्न मॉडेल पुरवणाऱ्या संस्थेला दिसतो. तो प्रश्न सार्वजनिक झाल्यास अडचण निर्माण होणार असेल, तर असे प्रश्न सादर करू नयेत, अशी शिफारस त्यात केली आहे.

अपलोड केलेल्या फायलीही सूचनांचा भाग मानल्या जातात. आलेख तयार करण्यासाठी जोडलेल्या स्प्रेडशीटमधील प्रत्येक स्तंभ AI पर्यंत पोहोचतो, अगदी प्रश्नासाठी आवश्यक नसलेले स्तंभही. धोरणातील "अपलोड करण्यापूर्वी आवश्यक नसलेले स्तंभ काढून टाका" ही तरतूद पाळणे सोपे आहे आणि त्यामुळे वारंवार घडणारी चूक टाळता येते.

नमुना तरतूद: "मजकूर चिकटवण्यापूर्वी किंवा अपलोड करण्यापूर्वी, कामासाठी आवश्यक नसलेली सर्व माहिती काढून टाका. गुपिते कधीही समाविष्ट करू नका. नोंदवहीत त्या साधनाला आणि कामाला मंजुरी नसल्यास ग्राहकांची किंवा वैयक्तिक माहिती समाविष्ट करू नका. खात्री नसल्यास, आधी [जबाबदार व्यक्ती] यांना विचारा."

तयार केलेली सामग्री वापरण्यापूर्वी कशी तपासावी?

तयार केलेली सामग्री कुठे वापरली जाणार आहे, त्यानुसार तिची तपासणी करावी: वैयक्तिक विचारमंथनासाठी एक नजर टाकणे पुरेसे असते, ग्राहकाला द्यायच्या कामातील प्रत्येक दाव्याचा मूळ स्रोत तपासावा लागतो आणि कायदा, वित्त किंवा सुरक्षिततेशी संबंधित कोणतीही सामग्री पात्र व्यक्तीने तपासणे आवश्यक असते. प्रत्येक प्रकारच्या तयार सामग्रीची तपासणी कोण करेल, हे धोरणात स्पष्ट असावे. सहसा ती सामग्री पाठवणारी किंवा प्रकाशित करणारी व्यक्ती ही जबाबदारी घेते.

फेनविक टॅलेंट या 15 जणांच्या काल्पनिक भरती सल्लागार संस्थेचे सोडवून दाखवलेले उदाहरण. एक सल्लागार सूचना देतो: "लीड्समधील व्यवस्थापकीय लेखापालांच्या भरतीबद्दल वित्त संचालकांसाठी 150 शब्दांचा बाजारपेठेचा आढावा लिहा." मसुद्यात म्हटले आहे की या वर्षी मागणी झपाट्याने वाढली आणि वेतन एका ठरावीक टक्केवारीने वाढले. त्यासाठी एका नाव दिलेल्या वेतन सर्वेक्षणाचा संदर्भ दिला आहे. सल्लागाराला ते सर्वेक्षण किंवा तो आकडा सापडत नाही.

कमकुवत मजकूर जसाच्या तसा ठेवलेला: "[सर्वेक्षण] नुसार, यावर्षी लीड्समध्ये व्यवस्थापकीय लेखापालांची मागणी झपाट्याने वाढली आणि पगारात [आकडा] इतकी वाढ झाली." तपासणीनंतरची आवृत्ती: "या तिमाहीत आम्ही भरलेल्या पदांसाठी, वित्त संचालकांनी सर्वाधिक प्रश्न नोटीस कालावधी आणि कार्यालयातून व घरून काम करण्याच्या अटींबद्दल विचारले. नोकरीची ऑफर देण्याच्या टप्प्यावर सध्याच्या नियोक्त्यांकडून अधिक प्रतिप्रस्ताव येताना दिसत आहेत." तपासणीनंतरच्या आवृत्तीत फक्त फेनविकने स्वतः केलेली निरीक्षणे वापरली आहेत. या बदलामागील धोरणातील तरतूद: "तुम्ही उघडून पडताळू शकत नसलेली कोणतीही आकडेवारी, सर्वेक्षण किंवा निष्कर्ष काढून टाका."

याचा एखाद्या भूमिकेशी कसा संबंध आहे हे पाहायचे आहे का?

टीमसाठी नियोजित चाचणी जाणून घ्या ↗

मजकूर AI ने तयार केलेला आहे हे कर्मचाऱ्यांनी कधी स्पष्ट करावे?

मसुद्याचा मोठा भाग AI ने तयार केला असेल, तर किमान ही बाब कर्मचाऱ्यांनी त्यांच्या मसुद्याचे पुनरावलोकन करणाऱ्या व्यक्तीला सांगावी. तसेच, अशी माहिती उघड करणे आवश्यक ठरवणाऱ्या ग्राहक कराराचे, मंचाच्या नियमाचे किंवा प्रकाशनाच्या नियमाचे पालन करावे. यापलीकडे ही माहिती उघड करायची की नाही, हा वाचकवर्ग आणि संदर्भानुसार कंपनीने घ्यायचा निर्णय आहे.

सार्वजनिकरीत्या उपलब्ध असलेली उदाहरणे वेगवेगळी आहेत. बॉस्टन शहराने May 2023 मध्ये कर्मचाऱ्यांसाठी प्रसिद्ध केलेल्या अंतरिम मार्गदर्शक सूचनांनुसार, कर्मचाऱ्यांनी AI वापरल्याचे जाहीर करावे आणि वापरलेले मॉडेलही नमूद करावे. तसेच, "हे वर्णन ChatGPT 3.5 ने तयार केले असून त्याचे संपादन केले आहे:" अशी श्रेयनामावली देऊन पुढे संबंधित कर्मचाऱ्याचे नाव लिहिण्याचे सुचवले आहे. सार्वजनिक संस्थेसाठी हे योग्य आहे. एखादी छोटी एजन्सी नेहमीच्या मजकुरासाठी केवळ अंतर्गत पुनरावलोकनकर्त्याला माहिती देणे पुरेसे असल्याचे ठरवू शकते; मात्र AI ने तयार केलेली चित्रे किंवा कृत्रिम आवाज यांवर बाहेरून दिसेल अशी खूण देऊ शकते.

नमुना कलम: "मसुद्याचा मोठा भाग AI ने तयार केला असल्यास तुमच्या पुनरावलोकनकर्त्याला सांगा. ग्राहकांना दाखवल्या जाणाऱ्या AI-निर्मित प्रतिमा, ध्वनी किंवा व्हिडिओंना [मजकूर] असे लेबल लावा. AI वापराबाबत ग्राहकाने दिलेल्या कोणत्याही सूचनेचे पालन करा; त्या सूचनेला या कलमापेक्षा प्राधान्य आहे."

जनरेटिव्ह AI धोरणात प्रताधिकार आणि प्रतिमांबाबत काय तरतुदी असाव्यात?

धोरणाने कर्मचाऱ्यांना संरक्षित साहित्याची जाणीवपूर्वक पुनर्निर्मिती करण्यापासून रोखले पाहिजे, तयार केलेला संगणकीय कोड किंवा इतर सामग्री पुन्हा वापरण्यापूर्वी परवान्यांची तपासणी बंधनकारक केली पाहिजे आणि संमतीशिवाय खऱ्या व्यक्तींची तयार केलेली चित्रे किंवा आवाज वापरण्यास मनाई केली पाहिजे. NIST च्या जोखीमविषयक रूपरेषेत निर्मितीक्षम AI च्या जोखमींमध्ये प्रताधिकार, व्यापारचिन्ह किंवा परवान्याने संरक्षित सामग्रीची नक्कल करणे सोपे होणे आणि व्यापारगुपिते उघड होणे सोपे होणे यांचा समावेश आहे.

AI ने तयार केलेल्या सामग्रीवरील प्रताधिकार कायदा देशानुसार वेगळा आहे आणि अजूनही विकसित होत आहे. त्यामुळे तयार केलेल्या प्रत्येक निष्पत्तीवर कंपनीची मालकी असेल किंवा कंपनी त्याची नोंदणी करू शकेल, असे आश्वासन धोरणाने देऊ नये. अनिश्चितता कंपनी कशी हाताळते, हे त्यात सांगितले पाहिजे: उदाहरणार्थ, तयार केलेल्या प्रतिमा अंतर्गत वापराच्या कच्च्या नमुन्यांसाठी मोकळेपणाने वापरल्या जातात, पण ग्राहकाच्या मोहिमेसाठी वापरल्या जाणाऱ्या कोणत्याही सामग्रीबाबत आधी साधनाच्या परवान्याच्या अटी आणि ग्राहकाच्या सूचना तपासल्या जातात.

नमुना कलमे: "कोणत्याही हयात कलाकाराचे किंवा ब्रँडचे नाव देऊन त्यांच्या शैलीतील मजकूर किंवा इतर सामग्री तयार करण्याची सूचना देऊ नका, किंवा साधनाला प्रताधिकार असलेला मजकूर जसाच्या तसा तयार करण्यास सांगू नका. एखाद्या वास्तविक व्यक्तीच्या लेखी संमतीशिवाय तिच्या प्रतिमा, ध्वनी किंवा व्हिडिओ तयार करू नका. तयार केलेली सामग्री ग्राहकाच्या कामात वापरण्यापूर्वी साधनाच्या व्यावसायिक वापराच्या अटी तपासा." तुमच्या अधिकारक्षेत्रात याबाबत काय लागू होते, याचा सल्ला घ्या.

कोणते निर्णय माणसानेच घ्यावेत?

भरती, वेतन, कामगिरी, कर्ज, तक्रारी आणि आरोग्य किंवा सुरक्षिततेशी संबंधित बाबी यांसारखे एखाद्या व्यक्तीवर लक्षणीय परिणाम करणारे निर्णय, मूळ माहितीचे पुनरावलोकन करणाऱ्या नेमून दिलेल्या व्यक्तीकडेच राहायला हवेत. जनरेटिव्ह साधने या निर्णयांसाठी मसुदा तयार करणे, माहितीची मांडणी करणे किंवा सारांश तयार करणे यांत मदत करू शकतात; त्यांनी हे निर्णय घेऊ नयेत.

NIST च्या रूपरेषेत स्वयंचलित प्रणालींच्या निष्कर्षांना झुकते माप देणे आणि त्यांच्यावर अति अवलंबून राहणे यांचा मानवी-AI व्यवस्थेतील जोखमीचा भाग म्हणून उल्लेख आहे. धोरण याला एका सोप्या कसोटीने आळा घालते: निर्णय घेणाऱ्या व्यक्तीला साधनाने काय सांगितले याचा आधार न घेता आपला निर्णय स्पष्ट करता आला पाहिजे. वैयक्तिक माहितीचा संबंध असेल, तर AI आणि माहिती संरक्षणावरील ICO चे मार्गदर्शन हा युनायटेड किंगडममधील अधिकृत संदर्भ आहे; माहिती (वापर आणि प्रवेश) कायद्यानंतर या मार्गदर्शनाचे पुनरावलोकन सुरू असल्याचे त्याच्या पृष्ठांवर सध्या म्हटले आहे.

जनरेटिव्ह AI धोरण कधी योग्य साधन ठरत नाही?

तुम्ही उत्पादनात मजकूर किंवा इतर सामग्री निर्माण करणारी वैशिष्ट्ये जोडत असाल, ग्राहकांच्या माहितीवर मॉडेलचे विशेष प्रशिक्षण करत असाल किंवा तुमच्या वतीने सर्वसामान्यांशी संवाद साधणारा स्वयंचलित संवाद सहाय्यक वापरात आणत असाल, तर कर्मचाऱ्यांसाठीचे निर्मितीक्षम AI धोरण पुरेसे नाही. अशा गोष्टींसाठी उत्पादन, सुरक्षा आणि कायदेशीर बाबींचा आढावा आवश्यक असतो, ज्याची व्याप्ती कर्मचारी नियमांपेक्षा खूप मोठी असते.

ते सरावाची जागाही घेऊ शकत नाही. मसुद्यात एखादा बनावट आकडा असू शकतो हे माहीत असणे आणि वेळेच्या दबावाखाली तो ओळखता येणे या वेगळ्या गोष्टी आहेत. Tosheo.ai याच सरावाच्या टप्प्यासाठी तयार केले जात आहे: नियोजित भूमिकानिहाय शिक्षणक्रमांमध्ये प्रत्येक धड्याच्या शेवटी प्रत्यक्ष AI साधन वापरून एक काम करावे लागेल आणि स्पष्टपणे दाखवलेल्या गुणांकन निकषांनुसार त्याचे मूल्यमापन केले जाईल. ते तुमच्या धोरणाचा मसुदा तयार करत नाही किंवा त्याची अंमलबजावणी करत नाही.

स्रोत आणि व्याप्ती

NIST, निर्मितीक्षम AI रूपरेषा (NIST AI 600-1), July 2024 ↗

NCSC, ChatGPT आणि मोठी भाषा मॉडेल्स: जोखीम काय आहे?, 14 मार्च 2023 ↗

Microsoft Learn, Microsoft Copilot आणि Copilot Chat मधील संस्थेच्या डेटाचे संरक्षण, तपासले: 16 October 2026 ↗

बॉस्टन शहर, निर्मितीक्षम AI वापरण्यासाठी अंतरिम मार्गदर्शक तत्त्वे, आवृत्ती 1.1, 18 मे 2023 ↗

ICO, AI आणि माहिती संरक्षणावरील मार्गदर्शन (पुनरावलोकन सुरू आहे), 16 ऑक्टोबर 2026 रोजी तपासले ↗