Mengapa jawaban yang terdengar masuk akal saja tidak cukup?
Jawaban yang tampak masuk akal saja tidak cukup karena AI generatif dapat menghasilkan pernyataan keliru, kutipan rekaan, atau fakta yang benar tetapi digunakan dalam konteks yang salah, semuanya dengan nada yakin yang sama. Bahasa yang lancar membuat masalah tersebut lebih mudah terlewat. Profil AI Generatif NIST mengidentifikasi konfabulasi sebagai risiko dan mencantumkan peninjauan serta verifikasi sumber dan kutipan dalam hasil AI sebagai salah satu tindakan yang disarankan.
NIST juga mencatat bahwa keluaran AI dapat memuat logika atau kutipan rekaan yang tampak mendukung jawaban, sehingga orang bisa memercayainya secara tidak semestinya. Alur penalaran yang rapi bukanlah bukti bahwa kesimpulannya benar. Panduan tentang halusinasi AI menjelaskan mengapa hal ini terjadi; panduan ini membahas rutinitas pemeriksaannya.
Klaim mana yang sebaiknya Anda periksa terlebih dahulu?
Periksa terlebih dahulu klaim yang akan menimbulkan dampak terbesar jika salah, serta klaim yang paling mungkin dikarang oleh AI. Anda jarang perlu memverifikasi setiap kata dalam draf internal berisiko rendah, tetapi Anda harus selalu memverifikasi angka dalam proposal klien. Tabel ini membantu Anda menentukan prioritas pemeriksaan untuk jenis klaim yang umum. Sesuaikan dengan pekerjaan dan aturan persetujuan tim Anda.
| Jenis klaim | Cara memeriksanya | Siapa yang memutuskan bahwa hasilnya layak digunakan |
|---|---|---|
| Angka, harga, tanggal | Hitung ulang atau telusuri ke catatan asli | Penulis, ditambah orang kedua jika akan dibagikan ke luar perusahaan |
| Kutipan dan rujukan | Buka sumbernya dan temukan bagian yang tepat | Penulis |
| Nama, jabatan, organisasi | Periksa halaman resmi atau halaman dari pihak sumber langsung | Penulis |
| Pernyataan sebab-akibat | Tanyakan bukti apa yang dapat menunjukkannya; hapus jika tidak ada | Penulis dan orang yang bertanggung jawab atas keputusan |
| Hal-hal terkait hukum, keuangan, keselamatan, atau ketenagakerjaan | Sumber primer serta peninjau yang berkualifikasi | Orang yang memiliki kualifikasi yang sesuai, bukan hanya penulisnya |
Bagaimana sebaiknya Anda memeriksa rujukan?
Buka sumber aslinya dan temukan bagian yang mendukung pernyataan tersebut. Periksa penulis atau penerbit, tanggal, cakupan, dan batasan apa pun. Tautan yang benar-benar ada tidak cukup jika halamannya membahas populasi, periode waktu, atau pertanyaan yang berbeda. Catat sumbernya agar orang lain dapat mengulangi pemeriksaan tersebut.
Jika Anda tidak dapat menemukan bagian teks yang mendukungnya, jangan hanya meminta model mengonfirmasi rujukannya sendiri lalu berhenti di situ. Mintalah bukti yang belum tersedia, hapus pernyataannya, atau tandai sebagai belum terverifikasi. Model kedua dapat menyarankan pertanyaan, tetapi kesepakatan antara dua model bukanlah verifikasi independen. Keduanya mungkin mempelajari kesalahan yang sama yang terdengar masuk akal.
Bagaimana cara memeriksa angka dan penalarannya?
Hitung ulang angka penting dari data yang diberikan menggunakan metode independen, seperti rumus, tabel pivot, atau kalkulator. Pastikan satuan, periode, dan dasar perbandingannya. Total bisa saja benar, sementara penjelasan tentang alasan perubahannya tidak didukung bukti. Karena itu, pisahkan perhitungan dari klaim apa pun tentang penyebabnya.
Dalam tabel fiktif, pendapatan berubah dari 80 menjadi 92 unit dan biaya dari 50 menjadi 61 unit. Perubahannya adalah 12 dan 11 unit, sehingga margin naik dari 30 menjadi 31 unit. Tabel itu sendiri tidak menjelaskan apakah perubahan tersebut disebabkan oleh pelanggan baru, perubahan harga, atau perbedaan waktu. Ringkasan yang bertanggung jawab menyatakan perubahannya tanpa memastikan penyebabnya, atau menyebutkan bukti yang diperlukan untuk memastikannya. Waspadai juga tertukarnya persen dan poin persentase, yang umum terjadi dalam ringkasan yang dihasilkan AI.
Ingin melihat kaitannya dengan suatu peran?
Jelajahi rencana uji coba tim ↗Bagaimana cara memeriksa kebenaran fakta dalam ringkasan dokumen yang dibuat AI?
Periksa apa yang disampaikan dan apa yang tidak disertakan dalam ringkasan AI. Mulailah dengan mengambil tiga atau empat pernyataan dari ringkasan, lalu temukan masing-masing dalam teks aslinya. Kemudian baca judul bagian atau baris pertama setiap bagian dalam teks asli dan tanyakan apakah ada hal penting yang terlewat. Terakhir, cari keterangan pembatas yang hilang: mungkin berubah menjadi akan, dalam beberapa kasus berubah menjadi selalu, dan dengan persetujuan hilang sama sekali.
Jika ringkasan akan menjadi dasar keputusan, minta alat tersebut menyertakan kutipan untuk setiap poin sebelum membuat ringkasan. Dokumentasi Anthropic untuk Claude merekomendasikan pola tersebut untuk dokumen panjang, disertai permintaan agar alat menghapus klaim yang tidak dapat didukung dengan kutipan. Cara ini mempercepat pemeriksaan ringkasan, meskipun Anda tetap perlu mencocokkan kutipannya dengan halaman sumber.
Seperti apa pemeriksaan fakta yang menyeluruh?
Berikut adalah draf yang sengaja dibuat mengandung kesalahan untuk latihan. Sebuah agensi fiktif, Kestrel Studio, meminta asisten merangkum arahan produk dari klien menjadi satu paragraf untuk presentasi penawaran. Arahan tersebut menyatakan bahwa aplikasi perencana milik klien diluncurkan pada Maret 2025, memiliki paket gratis dan berbayar, serta bahwa survei terhadap 200 penggunanya sendiri menemukan sebagian besar menggunakannya setiap minggu.
Draf AI: Diluncurkan pada awal 2024, aplikasi ini dengan cepat menjadi salah satu aplikasi perencana paling populer di Britania Raya. Survei independen terbaru menunjukkan bahwa 85 persen pengguna membukanya setiap hari. Aplikasi ini menawarkan paket gratis dan paket premium.
Pemeriksaan, klaim demi klaim. Tanggal peluncuran: arahan menyebut Maret 2025, jadi awal 2024 itu salah. Salah satu aplikasi perencanaan paling populer di Britania Raya: tidak ada yang mendukungnya dalam arahan, jadi hapus. Survei independen terbaru: arahan menjelaskan survei klien sendiri terhadap penggunanya, jadi penyebutan independen itu tidak benar. 85 persen setiap hari: arahan menyebut sebagian besar menggunakannya setiap minggu, jadi angka dan frekuensinya sama-sama rekaan. Paket gratis dan berbayar: didukung oleh arahan.
Paragraf yang telah ditinjau: Diluncurkan pada March 2025, aplikasi ini menawarkan paket gratis dan paket berbayar. Dalam survei klien sendiri terhadap 200 pengguna, sebagian besar menyatakan bahwa mereka menggunakannya setiap minggu. Catatan peninjauan mencantumkan empat koreksi dan satu klaim yang dihapus, dan penanggung jawab akun memberikan persetujuan sebelum materi presentasi dikirim ke klien.
Bisakah AI membantu Anda memeriksa kebenaran fakta dalam hasil yang dibuatnya sendiri?
AI dapat membantu menata proses pemeriksaan fakta, tetapi tidak dapat menuntaskannya. Permintaan yang berguna antara lain: cantumkan semua klaim faktual dalam draf ini sebagai daftar bernomor; untuk setiap klaim, kutip kalimat pendukung dari sumber terlampir atau tulis Tidak didukung; dan identifikasi angka yang tidak ada dalam sumber. Permintaan tersebut mengubah paragraf menjadi daftar periksa.
AI tidak dapat menjadi pemeriksa independen. Menanyakan kepada alat yang sama apakah jawabannya benar cenderung hanya menghasilkan penegasan. Mengajukan pertanyaan yang sama beberapa kali dan membandingkan jawabannya, sebuah teknik yang dijelaskan dalam dokumentasi Anthropic, dapat mengungkap ketidakkonsistenan, tetapi jawaban yang konsisten tetap bisa salah secara konsisten. Langkah terakhir selalu membuka sumber atau menghitung ulang angkanya.
Apa saja yang perlu dicatat dalam jejak peninjauan?
Simpan klaim awal, sumber atau perhitungan yang digunakan untuk memeriksanya, koreksi, dan pertanyaan apa pun yang belum terselesaikan. Tetapkan orang yang bertanggung jawab untuk memutuskan apakah keluaran sesuai untuk tujuan penggunaannya. Catatan tersebut memungkinkan peninjauan diperiksa tanpa berpura-pura bahwa semua risiko telah hilang.
Jejak peninjauan tidak memerlukan perangkat lunak khusus. Catatan singkat di akhir dokumen atau rangkaian komentar sudah cukup untuk sebagian besar pekerjaan internal. Untuk hasil kerja yang diserahkan kepada klien, ikuti proses persetujuan yang biasa Anda gunakan; bantuan AI tidak mengubah siapa yang memberikan persetujuan akhir.
Kapan daftar periksa ini tidak cukup?
Daftar periksa ini adalah rutinitas operasional, bukan sertifikasi keakuratan. Daftar ini tidak cukup untuk nasihat hukum, pelaporan kepada regulator, informasi medis atau keselamatan, angka keuangan yang diaudit, atau keputusan tentang hubungan kerja seseorang. Semua itu memerlukan peninjau yang berkualifikasi dan sumber primer, apa pun alat yang menghasilkan drafnya.
Pemeriksaan itu juga bisa melebihi kebutuhan Anda. Curah gagasan, daftar ide agenda rapat, atau draf awal kasar yang hanya akan Anda baca jarang memerlukan pemeriksaan setiap klaim. Sesuaikan kedalaman pemeriksaan dengan dampak jika ada kesalahan.
Sumber dan cakupan
NIST, AI 600-1: Profil AI Generatif, July 2024 ↗
Anthropic, dokumentasi Claude: Mengurangi halusinasi, diakses 16 Oktober 2026 ↗