İnsan incelemesi adımı neden çoğu zaman işe yaramaz?
İnsan incelemesi adımı çoğu zaman başarısız olur; çünkü kişi yalnızca yapay zekanın kararını görür, kontrol etmesi gereken çok fazla öğe vardır ve nelere bakması gerektiği kendisine hiç söylenmez. Böylece onaylamak en hızlı yol haline gelir. Buna sorgulamadan onaylama denir; gerçek bir denetim olmadan denetim varmış izlenimi yaratır.
25 kişilik hayali bir toptan dağıtım şirketi olan Oakbridge Supplies'ı düşünün. Bir yapay zeka aracı, tedarikçi faturalarını satın alma siparişleriyle eşleştiriyor ve her birini 'eşleşiyor' veya 'eşleşmiyor' diye işaretliyor. Muhasebe görevlisi Priya, eşleşenleri ödeme için onaylıyor. Bir perşembe günü iş kuyruğunda şunlar yazıyor: '212 fatura, 205 eşleşiyor, 7 eşleşmiyor'. Her satırda tedarikçi, tutar ve yeşil bir onay işareti var. Geçen ay yalnızca 40 adet teslim edildiği hâlde 400 adetlik bir tedarikçi faturası ödendi; çünkü araç sipariş numarasını eşleştirmiş, Priya da onay işaretine bakıp ödemeyi onaylamıştı.
Sürecin hangi noktalarında insan denetimi olmalı?
Bir yapay zeka çıktısı para üzerinde, bir kişinin bir şeye erişiminde, müşteriye verilen bir taahhütte ya da hukuki veya güvenlikle ilgili bir sonuçta değişiklik yaratıyorsa, bu değişikliği geri almak zorlaşmadan önce bir insan sürece dahil olmalıdır. Rutin ve geri alınabilir çıktılar ise örnekleme yoluyla kontrol edilebilir.
EU AI Act'in yüksek riskli sistemlerde insan gözetimine ilişkin maddesi aynı noktayı mevzuat diliyle ifade eder: bir sistemi denetleyen kişiler sistemin sınırlarını anlamalı, otomasyon yanlılığının farkında olmalı ve sistemin çıktısını dikkate almama, geri alma veya durdurma yetkisine sahip olmalıdır. Yasa sizin için geçerli olmasa bile bunlar iyi tasarım hedefleridir.
İnsan denetimi içeren hangi inceleme düzenleri vardır?
Yaygın olarak kullanılan dört inceleme tasarımı vardır; doğru seçim, bir hatanın maliyetine ve kaç öğenin inceleneceğine bağlıdır.
İşlemden önce onayla
Herhangi bir işlem yapılmadan önce her çıktıyı bir kişi onaylar. Belirli bir eşiğin üzerindeki ödemeler veya müşteri iadeleri gibi maliyeti yüksek, işlem hacmi düşük işlerde kullanın.
İstisnaları inceleme
Yapay zeka net vakaları ele alır; belirsiz veya olağandışı vakaları bir insana yönlendirir. Bu yaklaşım, yalnızca yönlendirme kuralları test edilirse ve 'net' vakaların bir kısmı da kontrol edilmeye devam edilirse işe yarar.
Örneklem yoluyla denetim
Çıktılar kullanıma sunulur; ardından bir kişi rastgele seçilmiş bir örneklemi kontrol eder. Şirket içi özetler gibi, geri alınabilir ve yüksek hacimli işler için kullanın.
Önce bağımsız deneme
Kişi, yapay zekanın önerisini görmeden önce kendi görüşünü oluşturur. Daha yavaştır ancak önemli değerlendirmelerde yapay zeka yanıtına saplanıp kalmayı önler.
Yetersiz ve iyileştirilmiş bir inceleme tasarımı nasıl olur?
Zayıf tasarım: Her fatura Priya'ya yeşil veya kırmızı bir işaretle gider. Priya, 20 dakika içinde 205 onay işaretini onaylar. Hiçbir şey ona her bir onay işaretinin neden verildiğini söylemez ve hâlâ inceleyip incelemediğini sınamaz.
İyileştirilmiş tasarım: Belirli bir tutarın altında kalan, sipariş numarası, miktarı ve birim fiyatı teslimat belgesiyle tamamen eşleşen faturalar otomatik olarak ödenir. Priya her hafta rastgele seçilen on faturayı kontrol eder. Eşik üzerindeki tüm faturalar, tüm yeni tedarikçiler ve tüm miktar farkları, üç alan yan yana gösterilerek ve yapay zekanın gerekçesi 'faturadaki miktar 400, teslim edilen 40' gibi tek satırda belirtilerek ona iletilir. Finans sorumlusu, hataların yakalandığını doğrulamak için ayda bir, haber vermeden inceleme sırasına bilinen iki hata ekler. Priya ayrıca yapay zekanın kararını değiştirdiği her durumu kaydeder. Karar değiştirme sayısının aniden sıfıra düşmesi başarı değil, uyarı olarak değerlendirilir.
İncelemenin yalnızca onay vermekten ibaret olmadığını, gerçekten yapıldığını nasıl kontrol edersiniz?
İncelemenin gerçekten yapıldığını ölçerek kontrol edin: her öğeye ayrılan süreyi, inceleyenlerin yapay zekanın kararını ne sıklıkla değiştirdiğini ve kasıtlı olarak eklenen test hatalarının yakalanıp yakalanmadığını ölçün. Araçla hiç ters düşmeyen biri ya çok iyi çıktıları inceliyordur ya da hiç inceleme yapmıyordur; hangisi olduğunu anlamak için kanıt gerekir.
Yalnızca sonuçları değil, kanıtları da gösterin
Kontrolü hızlandırmak için kaynak alanlarını yapay zeka yanıtının yanına koyun.
Kuyruğu sınırlandırın
Bir kişi iş hacmini gerektiği gibi inceleyemiyorsa ondan daha çok çaba göstermesini istemek yerine tasarımı değiştirin.
Yetki verin
İncelemeyi yapanlar, izin almaları gerekmeden reddedebilmeli veya duraklatabilmelidir.
Döngüyü test edin
Zaman zaman bilinen hatalar ekleyin ve bunların yakalanıp yakalanmadığını kaydedin.
İnsan denetimini sürece dahil ederken sık yapılan hatalar nelerdir?
En yaygın hata, başka hiçbir şeyi değiştirmeden sürece bir kontrol görevlisi eklemek ve ardından onun onayını çıktının doğru olduğunun kanıtı saymaktır. Diğer hatalar: bir kişiden günde yüzlerce öğeyi onaylamasını istemek, kanıtlara ulaşmak için fazladan tıklama gerektirmek, geri döndürülemez kararlarda işlemi gerçekleştikten sonra incelemek ve insan müdahalesiyle değiştirilen kararların oranındaki düşüşü nedenini sormadan başarı saymak. Otomasyona güvenme eğilimi, dikkatli insanları da etkiler. Bu yüzden tasarım, iyi niyetten daha önemlidir.
İnsan denetiminin Tosheo.ai kataloğundaki yeri nedir?
İnsan denetimi, yapay zeka okuryazarlığı kursunun Sorumlu Yapay Zeka ve Politika kategorisinde, etik yapay zeka ve sorumlu yapay zeka kontrollerinden sonra yer alır. Araçların öneride bulunmak yerine eyleme geçtiği yapay zeka ajanları ve otomasyon derslerinde yeniden ele alınır. Uygulama görevi, kendi işinizdeki bir inceleme adımını yeniden tasarlamanızı ister. Puanlama kılavuzuna dayalı geri bildirim ise inceleme noktasının, kanıtların ve yetkinin açıkça tanımlanıp tanımlanmadığını kontrol eder.
Kaynaklar ve kapsam
UNESCO, Yapay Zeka Etiği Tavsiye Kararı, insan gözetimi ilkesi (kontrol tarihi: 19 October 2026) ↗