Mengapa pernyataan tentang penggunaan AI yang bertanggung jawab saja tidak cukup?
Pernyataan tentang AI yang bertanggung jawab saja tidak cukup karena hanya menjelaskan niat, tanpa memberi tahu rekan kerja yang sibuk apa yang harus dilakukan pada Selasa sore. Langkah pengendalianlah yang mengubah pernyataan itu menjadi perilaku.
Bayangkan sebuah pialang asuransi fiktif dengan 60 karyawan, Meridian Cover. Tim klaimnya mulai menggunakan asisten AI untuk menyusun draf balasan email pelanggan tentang status klaim. Kepala operasionalnya, Sam, diminta oleh direksi untuk 'memastikan kita menggunakan AI secara bertanggung jawab'. Saat ini, yang dimiliki Sam hanyalah sebuah kalimat di intranet, 'Meridian menggunakan AI secara etis dan bertanggung jawab', akses masuk bersama ke asisten tersebut, tidak ada catatan balasan mana yang disusun dengan AI, dan keluhan dari pelanggan yang diberi tahu bahwa klaimnya telah disetujui padahal masih dalam penilaian.
Apa saja praktik inti penerapan AI yang bertanggung jawab?
Praktik inti AI yang bertanggung jawab adalah kebijakan penggunaan tertulis, daftar tempat AI digunakan, tahap peninjauan manusia yang disesuaikan dengan risiko, dokumentasi singkat setiap penggunaan, pemantauan dengan pemeriksaan sampel, dan jalur penanganan insiden. Kerangka Manajemen Risiko AI NIST mengelompokkan pekerjaan semacam ini ke dalam empat fungsi: Tata Kelola, Pemetaan, Pengukuran, dan Pengelolaan.
Tata kelola: tulis kebijakan dan tetapkan penanggung jawab
Jelaskan alat mana yang disetujui, data apa yang boleh dimasukkan, dan siapa yang bertanggung jawab atas setiap penggunaan AI. NIST menjelaskan bahwa fungsi Govern membangun budaya, kebijakan, dan akuntabilitas yang menjadi landasan fungsi-fungsi lainnya.
Petakan: catat setiap penggunaan dan konteksnya
Buat catatan satu baris untuk setiap penggunaan: tujuan, pengguna, alat, data yang terlibat, dan siapa yang dapat terdampak jika terjadi kesalahan.
Ukur: periksa kualitas secara terjadwal
Periksa sampel hasil secara rutin dengan daftar periksa singkat dan catat tingkat kesalahannya, alih-alih mengandalkan keluhan untuk mengungkap masalah.
Kelola: tindak lanjuti temuan Anda
Perbaiki instruksi, perketat tahap peninjauan, atau hentikan sementara penggunaannya, dan catat insiden agar kesalahan yang sama tidak terulang.
Seperti apa penerapan AI yang bertanggung jawab yang lemah dan yang baik dalam praktik?
Versi lemah: Sam mengirim email pengingat kepada tim klaim untuk 'memeriksa ulang jawaban AI' dan menambahkan satu kalimat ke buku panduan karyawan. Tidak ada yang tahu apa yang dimaksud dengan memeriksa ulang, penggunaan akun bersama membuat tidak ada yang bisa mengetahui siapa mengirim apa, dan pembaruan status keliru berikutnya baru ditemukan ketika pelanggan lain mengeluh.
Versi yang baik: Sam menulis lembar pengendalian satu halaman untuk penggunaan khusus ini. Kebijakan: asisten boleh menyusun draf balasan, tetapi keputusan klaim, jumlah, dan tanggal hanya disalin dari sistem klaim, bukan dari draf. Peninjauan: setiap balasan dibaca oleh petugas penanganan klaim sebelum dikirim, dan balasan tentang persetujuan atau penolakan diteruskan kepada petugas senior. Dokumentasi: catatan singkat memuat tujuan, instruksi AI yang disetujui, dan aturan peninjauan. Pemantauan: setiap Jumat, Sam mengambil sampel 20 balasan yang telah dikirim dan memeriksa status, nada bahasa, serta janji yang diberikan. Insiden: setiap pernyataan yang keliru kepada pelanggan dicatat dalam satu hari beserta tindakan perbaikannya. Setiap petugas memiliki akun masuk sendiri, sehingga asal-usul draf dapat ditelusuri.
| Pengendalian | Penanggung jawab | Bukti | Seberapa sering |
|---|---|---|---|
| Kebijakan penggunaan | Kepala operasional | Lembar kendali satu halaman | Ditinjau setiap triwulan |
| Peninjauan oleh manusia | Petugas penanganan klaim | Nama petugas pada setiap balasan | Setiap balasan |
| Persetujuan senior | Penanggung jawab senior | Catatan persetujuan | Balasan persetujuan dan penolakan |
| Pemeriksaan berbasis sampel | Kepala operasional | Hasil daftar periksa | Mingguan, 20 balasan |
| Log insiden | Kepala operasional | Catatan dan perbaikan | Dalam satu hari kerja |
Bagaimana Anda mengetahui bahwa kontrol untuk penggunaan AI yang bertanggung jawab berjalan dengan baik?
Langkah pengendalian Anda berfungsi jika Anda dapat menjawab tiga pertanyaan dengan bukti: siapa yang meninjau keluaran ini, seberapa sering keluaran tidak memenuhi daftar periksa, dan apa yang berubah setelah insiden terakhir? Jika ada jawaban berupa 'kami berasumsi demikian', langkah pengendalian itu hanya ada di atas kertas.
Perhatikan juga tanda-tanda peringatan: pemeriksaan sampel yang selalu lolos, yang bisa berarti daftar periksanya terlalu longgar; langkah peninjauan yang dilewati saat orang sibuk; dan entri dalam daftar pencatatan yang tidak berubah sejak alat diperbarui.
Apa saja kesalahan umum dalam penerapan AI yang bertanggung jawab di tim kecil?
Kesalahan paling umum adalah menyalin kerangka kerja perusahaan besar lalu tidak pernah menggunakannya. Kesalahan lainnya: penggunaan akun bersama yang menghilangkan pertanggungjawaban, aturan peninjauan yang memperlakukan pesan ulang tahun dan keputusan klaim dengan cara yang sama, pemantauan yang menunggu keluhan, serta insiden yang ditangani diam-diam tanpa memperbarui instruksi atau kebijakan. Mulailah dengan satu penggunaan bernilai tinggi, tetapkan lima kontrol, lalu perluas dari sana.
Di bagian mana AI yang bertanggung jawab dibahas dalam katalog Tosheo.ai?
AI yang bertanggung jawab berada dalam kategori AI yang Bertanggung Jawab dan Kebijakan, di kursus literasi AI, setelah pelajaran AI yang etis dan sebelum perancangan peninjauan dengan keterlibatan manusia. Tugas praktik meminta Anda menulis lembar kontrol untuk penggunaan AI dalam peran Anda sendiri, dan umpan balik berdasarkan panduan penilaian memeriksa bahwa setiap kontrol memiliki penanggung jawab, bukti, dan frekuensi. Manajer pada paket Tim dapat menugaskannya kepada semua orang yang menggunakan alat bersama.
Sumber dan cakupan
OECD.AI, Prinsip-Prinsip AI OECD (diperiksa 19 October 2026) ↗