Mengapa alat AI generatif memerlukan aturan kebijakan tersendiri?
Alat generatif menghasilkan teks, gambar, audio, atau kode baru, bukan sekadar mengambil atau mengurutkan informasi yang sudah ada, sehingga risiko utama bergeser dari masukan ke keluaran. Alat pencarian menampilkan halaman yang dapat Anda periksa; alat generatif memberikan draf yang tampak meyakinkan tetapi mungkin berisi fakta rekaan, ungkapan yang diambil dari sumber lain, atau pembingkaian yang bias. Kebijakan harus mencakup masukan maupun keluaran.
Profil AI Generatif NIST mencantumkan dua belas risiko yang khas pada AI generatif atau diperparah olehnya. Untuk usaha kecil pada umumnya, lima di antaranya menjadi fokus utama kebijakan: halusinasi (konten yang dinyatakan dengan yakin tetapi salah), privasi data (kebocoran atau pengungkapan tanpa izin), kekayaan intelektual (menyalin konten yang dilindungi atau membocorkan rahasia dagang), integritas informasi (konten yang tidak membedakan fakta dari opini atau tidak mengakui ketidakpastian), serta apa yang disebut NIST sebagai konfigurasi manusia-AI, yang mencakup bias otomatisasi dan ketergantungan berlebihan.
Anda dapat menempatkan aturan ini dalam dokumen yang sama dengan aturan penggunaan yang dapat diterima. Banyak perusahaan kecil melakukannya. Halaman ini berfokus pada klausul khusus terkait konten. Isinya merupakan informasi umum, bukan nasihat hukum.
| Risiko dalam profil NIST | Seperti apa penerapannya di tempat kerja | Ketentuan kebijakan yang mengatur hal tersebut |
|---|---|---|
| Konfabulasi | Statistik yang dikarang atau rujukan ke halaman yang tidak memuat pernyataan tersebut | Periksa setiap klaim faktual dengan merujuk pada sumber yang telah dibuka sebelum digunakan |
| Privasi data | Daftar kontak klien yang ditempelkan untuk menyusun surat massal yang dipersonalisasi | Klasifikasi informasi yang dikaitkan dengan akun yang disetujui |
| Kekayaan intelektual | Gambar dengan gaya seniman yang dapat dikenali, atau kode yang disalin dari proyek berlisensi | Aturan tentang instruksi gaya, penggunaan ulang, dan pemeriksaan lisensi |
| Integritas informasi | Ringkasan yang menyatakan dugaan sebagai fakta | Pastikan ketidakpastian tetap terlihat dalam draf yang telah ditinjau |
| Ketergantungan berlebihan | Menerima analisis yang dihasilkan tanpa membaca datanya | Tentukan keputusan yang tetap harus dibuat oleh manusia |
Apa yang harus diatur dalam kebijakan penggunaan ChatGPT bagi karyawan?
Kebijakan ChatGPT untuk karyawan harus menjelaskan akun yang digunakan, hal-hal yang tidak boleh dimasukkan ke dalam instruksi, cara memeriksa jawaban, dan kepada siapa harus bertanya, serta aturan yang sama harus berlaku untuk Claude, Gemini, Copilot, dan asisten serupa. Menyebutkan satu produk dalam judul boleh dilakukan agar jelas, tetapi tulislah aturan sedemikian rupa sehingga tidak perlu ditulis ulang ketika tim menambahkan alat lain.
Perbedaan terpenting adalah akun pribadi dan akun perusahaan. Paket konsumen dan bisnis dari asisten yang sama dapat memiliki ketentuan berbeda mengenai pelatihan model, penyimpanan data, dan kendali administrator. Dokumentasi Microsoft, misalnya, menyatakan bahwa Copilot Chat yang digunakan organisasi tercakup dalam adendum perlindungan datanya dan bahwa instruksi serta respons tidak digunakan untuk melatih model dasar, dengan kendali yang berbeda menurut paket. Catat pernyataan setara untuk setiap alat yang Anda setujui, beserta tanggal pemeriksaannya, alih-alih berasumsi.
Contoh klausul: "Gunakan [asisten] hanya melalui akun bisnis [Perusahaan] Anda. Jangan gunakan akun pribadi untuk pekerjaan perusahaan, bahkan untuk pertanyaan singkat, karena akun pribadi tidak tercakup dalam perjanjian kami dengan penyedia."
Apa saja yang tidak boleh dimasukkan staf ke dalam instruksi untuk AI generatif?
Karyawan tidak boleh memasukkan kata sandi, kunci akses, atau rahasia lainnya ke dalam instruksi AI, dan hanya boleh memasukkan informasi rahasia, informasi klien, atau informasi pribadi jika alur kerja yang disetujui mengizinkannya. Panduan dari Pusat Keamanan Siber Nasional Inggris menyatakan bahwa permintaan dapat dilihat oleh organisasi penyedia model dan menyarankan agar pengguna tidak mengirimkan permintaan yang akan menimbulkan masalah jika dipublikasikan.
Berkas yang diunggah dihitung sebagai prompt. Lembar kerja yang dilampirkan untuk meminta grafik menyertakan semua kolom di dalamnya, termasuk kolom yang tidak diperlukan untuk menjawab pertanyaan. Klausul kebijakan yang menyatakan "hapus kolom yang tidak Anda perlukan sebelum mengunggah" mudah diikuti dan mencegah kesalahan yang umum terjadi.
Contoh klausul: "Sebelum menempelkan atau mengunggah, hapus apa pun yang tidak diperlukan untuk tugas tersebut. Jangan pernah menyertakan rahasia. Jangan sertakan informasi klien atau informasi pribadi kecuali alat dan tugas tersebut telah disetujui dalam daftar persetujuan. Jika Anda tidak yakin, tanyakan kepada [penanggung jawab] terlebih dahulu."
Bagaimana sebaiknya konten yang dihasilkan AI diperiksa sebelum digunakan?
Konten yang dihasilkan perlu diperiksa sesuai dengan tujuan penggunaannya: curah gagasan pribadi cukup ditinjau sekilas, hasil kerja untuk klien memerlukan penelusuran sumber setiap klaim, dan segala hal terkait hukum, keuangan, atau keselamatan memerlukan peninjau yang berkualifikasi. Kebijakan harus menetapkan pemeriksa untuk setiap jenis keluaran, biasanya orang yang akan mengirim atau menerbitkannya.
Contoh yang dikerjakan dari Fenwick Talent, konsultan rekrutmen fiktif dengan 15 orang. Seorang konsultan memberikan instruksi: "Tulis pembaruan pasar sepanjang 150 kata untuk direktur keuangan tentang perekrutan akuntan manajemen di Leeds." Draf menyatakan permintaan meningkat tajam tahun ini dan gaji naik dengan persentase tertentu, sambil mengutip survei gaji yang disebutkan namanya. Konsultan tersebut tidak dapat menemukan survei ataupun angka itu.
Hasil yang lemah dibiarkan apa adanya: "Permintaan akan akuntan manajemen di Leeds meningkat tajam tahun ini, dengan kenaikan gaji sebesar [angka] menurut [survei]." Versi yang telah ditinjau: "Untuk posisi yang kami bantu isi pada kuartal ini, direktur keuangan paling sering menanyakan masa pemberitahuan pengunduran diri dan ketentuan kerja hibrida. Kami melihat lebih banyak tawaran balik pada tahap penawaran kerja." Versi yang telah ditinjau hanya menggunakan hal-hal yang diamati sendiri oleh Fenwick. Klausul kebijakan yang mendasari penyuntingan ini: "Hapus statistik, survei, atau hasil apa pun yang tidak dapat Anda buka dan verifikasi."
Ingin melihat kaitannya dengan suatu peran?
Jelajahi rencana uji coba tim ↗Kapan karyawan harus mengungkapkan bahwa konten dibuat oleh AI?
Setidaknya, karyawan harus memberi tahu peninjau ketika sebagian besar draf dihasilkan oleh AI, dan mengikuti setiap kontrak klien, aturan platform, atau aturan publikasi yang mewajibkan pengungkapan tersebut. Di luar itu, pengungkapan merupakan pilihan perusahaan yang bergantung pada audiens dan konteks.
Contoh dari lembaga publik beragam. Pedoman sementara Pemerintah Kota Boston untuk pegawai, yang diterbitkan pada May 2023, meminta pegawai mengungkapkan penggunaan AI beserta model yang digunakan, serta menyarankan keterangan seperti "Deskripsi ini dibuat oleh ChatGPT 3.5 dan disunting oleh" pegawai yang bersangkutan. Pendekatan itu sesuai untuk lembaga publik. Agensi kecil dapat memutuskan bahwa pengungkapan internal kepada peninjau sudah cukup untuk teks biasa, sedangkan gambar yang dihasilkan AI atau suara sintetis perlu diberi label untuk pihak luar.
Contoh klausul: "Beri tahu peninjau Anda jika sebagian besar draf dibuat oleh AI. Beri label [teks label] pada gambar, audio, atau video buatan AI yang ditujukan kepada pelanggan. Ikuti setiap instruksi klien tentang penggunaan AI, yang berlaku lebih utama daripada klausul ini."
Bagaimana sebaiknya kebijakan AI generatif mengatur hak cipta dan gambar?
Kebijakan harus melarang staf dengan sengaja mereproduksi karya yang dilindungi, mewajibkan pemeriksaan lisensi sebelum kode atau aset yang dihasilkan digunakan kembali, serta melarang pembuatan gambar atau suara orang sungguhan tanpa persetujuan. Profil NIST mencantumkan kemudahan mereplikasi konten yang dilindungi hak cipta, merek dagang, atau lisensi, serta kemudahan terungkapnya rahasia dagang, sebagai beberapa risiko AI generatif.
Hukum hak cipta atas materi yang dihasilkan AI berbeda di setiap negara dan masih berkembang. Karena itu, kebijakan tidak boleh menjanjikan bahwa perusahaan memiliki atau dapat mendaftarkan hak cipta atas setiap hasil yang dibuat. Kebijakan perlu menjelaskan cara perusahaan menangani ketidakpastian: misalnya, gambar yang dihasilkan boleh digunakan secara bebas untuk rancangan awal internal, tetapi materi apa pun untuk kampanye klien harus diperiksa terlebih dahulu berdasarkan ketentuan lisensi alat dan instruksi klien.
Contoh klausul: "Jangan meminta konten dengan gaya seniman yang masih hidup atau merek tertentu, atau meminta alat menyalin teks berhak cipta. Jangan membuat gambar, audio, atau video orang sungguhan tanpa persetujuan tertulis mereka. Periksa ketentuan penggunaan komersial alat sebelum aset yang dihasilkan digunakan dalam pekerjaan klien." Mintalah nasihat mengenai ketentuan yang berlaku di yurisdiksi Anda.
Keputusan mana yang harus tetap diambil oleh manusia?
Keputusan yang berdampak signifikan pada seseorang, seperti perekrutan, penggajian, kinerja, kredit, pengaduan, serta apa pun yang menyangkut kesehatan atau keselamatan, harus tetap ditangani oleh orang yang ditunjuk dan meninjau informasi yang mendasarinya. Alat generatif dapat membantu menyusun draf, menata, atau merangkum bahan untuk keputusan tersebut; alat itu tidak boleh mengambil keputusannya.
Profil NIST menjelaskan bias otomatisasi dan ketergantungan berlebihan sebagai bagian dari risiko konfigurasi manusia-AI. Kebijakan menangkalnya dengan uji sederhana: orang yang mengambil keputusan harus mampu menjelaskan keputusan tersebut tanpa merujuk pada apa yang dikatakan alat. Jika melibatkan data pribadi, panduan ICO tentang AI dan perlindungan data menjadi rujukan resmi di Britania Raya; saat ini, halaman-halamannya menyatakan bahwa panduan tersebut sedang ditinjau menyusul Undang-Undang Data (Penggunaan dan Akses).
Kapan kebijakan AI generatif bukan alat yang tepat?
Kebijakan AI generatif untuk staf saja tidak cukup jika Anda mengintegrasikan fitur generatif ke dalam produk, menyempurnakan model menggunakan data pelanggan, atau menerapkan bot percakapan yang berinteraksi dengan publik atas nama Anda. Semua itu memerlukan peninjauan produk, keamanan, dan hukum yang cakupannya jauh melampaui aturan karyawan.
Hal itu juga tidak dapat menggantikan praktik. Mengetahui bahwa sebuah draf mungkin memuat angka rekaan berbeda dengan menemukan angka tersebut saat dikejar tenggat. Tosheo.ai sedang dikembangkan untuk tahap praktik tersebut: rangkaian pelajaran untuk tiap peran yang direncanakan akan mengakhiri setiap pelajaran dengan tugas praktik menggunakan alat AI sungguhan, yang dinilai berdasarkan panduan penilaian dengan kriteria yang dapat dilihat. Tosheo.ai tidak menyusun atau menegakkan kebijakan Anda.
Sumber dan cakupan
NIST, Profil AI Generatif (NIST AI 600-1), July 2024 ↗
NCSC, ChatGPT dan model bahasa besar: apa risikonya?, 14 Maret 2023 ↗
Pemerintah Kota Boston, Pedoman Sementara Penggunaan AI Generatif, versi 1.1, 18 Mei 2023 ↗
ICO, Panduan tentang AI dan perlindungan data (sedang ditinjau), diperiksa 16 October 2026 ↗