Mengapa chatbot memberikan jawaban berbeda untuk pertanyaan yang sama?
Bot percakapan memberikan jawaban berbeda untuk pertanyaan yang sama karena menghasilkan setiap balasan dengan memilih kata berikutnya dari sejumlah kemungkinan, dan pilihan itu biasanya mengandung unsur acak. Bot tidak mengambil satu jawaban yang sudah tersimpan.
Bayangkan sebuah biro arsitektur fiktif dengan 30 karyawan, Fairline Architects. Seorang rekan pemilik meminta manajer kantor, Rowan, menjelaskan tiga hal sebelum biro tersebut mengadopsi asisten AI. Catatan Rowan berbunyi: 'bertanya dua kali tentang aturan pembangunan yang tidak memerlukan izin khusus, mendapat dua jawaban berbeda'; 'memberikan rujukan ke nomor dokumen panduan perencanaan yang tidak ada'; 'alat gambarnya membuat sketsa studio baru yang bagus, tetapi posisi jendelanya tidak sejajar'. Rekan pemilik itu ingin tahu apakah alatnya rusak. Tidak. Alat tersebut melakukan persis apa yang dirancang untuk dilakukannya.
Bagaimana model AI generatif dilatih?
Model bahasa besar mula-mula dilatih menggunakan kumpulan teks yang sangat besar untuk memprediksi potongan teks berikutnya, lalu dilatih lebih lanjut untuk mengikuti instruksi dan memberikan jawaban yang berguna. Glosarium Anthropic menjelaskan prapelatihan sebagai pelatihan menggunakan korpus besar tanpa label untuk memprediksi kata berikutnya berdasarkan konteks sebelumnya, dilanjutkan dengan penyetelan lanjutan dan pembelajaran penguatan dari umpan balik manusia. Dalam proses ini, manusia memberi peringkat pada contoh jawaban dan model belajar untuk lebih memilih jawaban yang lebih baik.
Model tidak menyimpan salinan setiap dokumen. Model menyesuaikan miliaran angka internal hingga prediksinya sesuai dengan pola dalam data. Hasil akhirnya lebih menyerupai pemahaman yang sangat terperinci tentang bagaimana bahasa dan gagasan biasanya saling berkaitan, bukan perpustakaan yang dapat ditelusuri.
Apa itu token, dan bagaimana model memprediksinya?
Token adalah unit kecil yang dibaca dan ditulis model, sering kali berupa kata atau bagian kata, dan model menulis dengan berulang kali memprediksi token berikutnya yang mungkin muncul. Kursus pembelajaran mesin Google menjelaskan model bahasa sebagai model yang memperkirakan probabilitas kemunculan token atau urutan token dalam urutan yang lebih panjang, dan menyebutkan bahwa sekitar 400 token setara dengan sekitar 300 kata bahasa Inggris.
Pada setiap langkah, model memberi skor pada banyak kemungkinan token berikutnya. Aplikasi kemudian memilih satu token, terkadang yang paling mungkin, tetapi sering kali melalui pengambilan sampel dari pilihan yang berpeluang tinggi. Pengaturan yang disebut temperatur mengendalikan seberapa berani pilihan tersebut: nilai yang lebih tinggi menghasilkan susunan kata yang lebih beragam, sedangkan nilai yang lebih rendah menghasilkan susunan kata yang lebih mudah diprediksi. Anthropic menyatakan bahwa bahkan pada temperatur terendah, hasilnya tidak sepenuhnya deterministik. Itulah jawaban untuk catatan pertama Rowan.
Bagaimana cara kerja pembuat gambar AI?
Banyak pembuat gambar AI menggunakan metode yang disebut difusi: model belajar menghilangkan derau dari gambar, lalu membuat gambar baru dengan memulai dari derau acak dan menyempurnakannya secara bertahap, dipandu oleh deskripsi teks Anda. Kursus difusi Hugging Face menjelaskan pelatihan sebagai proses menambahkan derau dalam jumlah yang berbeda-beda dan mengajari model untuk memperbaikinya, serta pembuatan gambar sebagai proses menyempurnakan derau acak secara bertahap hingga sebuah gambar terbentuk.
Karena model membentuk piksel yang tampak masuk akal, bukan mengikuti gambar arsitek, detail seperti kesejajaran jendela, teks pada papan, atau jumlah jari bisa salah. Itulah catatan ketiga Rowan.
Apa artinya bagi cara Anda menggunakan alat-alat tersebut?
Artinya, Anda sebaiknya memberikan fakta yang ingin Anda jadikan dasar kerja alat tersebut, bukan mengandalkan ingatannya. Contoh instruksi yang lemah: 'Apa aturan perluasan bangunan di bagian belakang yang diizinkan tanpa izin perencanaan?' Jawabannya lancar, berbeda pada setiap percobaan, dan mungkin mencampurkan aturan dari tahun atau negara yang berbeda. Jawaban itu juga mungkin memuat rujukan dokumen yang tampak masuk akal tetapi sebenarnya dikarang, yang menjelaskan catatan kedua Rowan.
Instruksi yang diperbaiki: Rowan menempelkan bagian yang relevan dari panduan resmi perizinan bangunan dan meminta: 'Dengan hanya menggunakan teks di bawah ini, rangkum batas ukuran perluasan satu lantai di bagian belakang bangunan dalam sebuah tabel. Jika ada hal yang tidak dibahas dalam teks, nyatakan tidak dibahas.' Kini tugas model adalah menyampaikan kembali dan menata teks yang dapat dilihatnya, yang memang dapat dilakukannya dengan baik, dan Rowan dapat memeriksa setiap baris dengan membandingkannya dengan sumber.
Apa saja keterbatasan AI generatif?
Batasan utamanya adalah AI generatif dapat menyatakan hal yang salah dengan penuh keyakinan, memiliki batas waktu pengetahuan kecuali terhubung ke pencarian atau dokumen, hanya dapat memproses apa yang muat dalam jendela konteksnya, dan dapat mencerminkan bias dalam data pelatihannya. Semua ini bukan galat yang bisa diperbaiki dengan meminta secara lebih sopan; batasan tersebut merupakan konsekuensi dari cara model bekerja.
Periksa fakta, angka, nama, dan referensi dengan membandingkannya terhadap sumber yang Anda percayai, dan berikan materi sumber kepada alat tersebut setiap kali akurasi diperlukan.
Di bagian mana pelajaran ini berada dalam katalog Tosheo.ai?
Cara kerja AI generatif termasuk dalam kategori Dasar-Dasar AI. Materi ini merupakan salah satu pelajaran awal AI untuk pemula sekaligus pelajaran pembuka dalam kursus AI generatif. Di Tosheo.ai, tugas praktiknya meminta Anda memprediksi lalu menguji perilaku alat saat Anda mengubah pengaturan seperti suhu atau memberikan teks sumber. Umpan balik berdasarkan panduan penilaian memeriksa apakah penjelasan Anda dapat dipahami oleh rekan kerja.
Sumber dan cakupan
Kursus Model Difusi Hugging Face, unit 1 pengantar difusi (diperiksa 19 October 2026) ↗