İnsan Denetimi

Bu derste yapay zekâ sistemlerindeki insan denetimi kavramını sıfırdan işliyoruz: nedir, hangi biçimlerde uygulanır, pratikte nasıl kurulur? Konu, Yapay Zekâ dersleri kategorimizdeki etik ve güvenlik başlıklarıyla doğrudan bağlantılıdır. Dersin sonunda hem kavramsal çerçeveyi hem de günlük hayattan somut örnekleri tanımış olacaksınız.

İnsan Denetimi Nedir?

İnsan denetimi, bir yapay zekâ sisteminin çalışmasını, çıktılarını ve verdiği kararları insanların izleyebilme, müdahale edebilme ve gerektiğinde durdurabilme yetisidir. Amaç, yapay zekâyı tamamen otonom bırakmak değil; son sözün ve sorumluluğun insanda kalmasını güvence altına almaktır. Bu nedenle insan denetimi, yapay zekâ etiği ilkelerinin en somut uygulama alanlarından biri kabul edilir.

Somutlaştıralım: Bir bankanın kredi değerlendirme modeli başvuruları puanlıyor olsun. Modelin “reddet” önerisi doğrudan karara dönüşmüyorsa, karar bir kredi uzmanının incelemesinden geçiyorsa, uzman gerekçeleri görebiliyor ve gerekirse kararı değiştirebiliyorsa, sistemde insan denetimi vardır. Model öneri üretir; kararı insan verir.

İnsan Denetiminin Üç Biçimi

Uygulamada üç yaygın biçimden söz edilir. Aradaki temel fark, insanın döngüde tam olarak nerede durduğudur:

1. Döngüde insan (human-in-the-loop): Sistem tek başına karar veremez; her çıktı insan onayından geçer. Tıbbi görüntü analizi yapan model şüpheli bölgeleri işaretler ama nihai tanıyı hekim koyar.
2. Döngü üzerinde insan (human-on-the-loop): Sistem çalışırken insan süreci izler, gerektiğinde araya girer. Otonom araçtaki güvenlik görevlisi bu yapıya örnektir: araç sürer, insan anında müdahale edebilir.
3. İnsanın komutası (human-in-command): Sistem günlük kararların çoğunu kendisi verebilir; ancak kuralları belirleme, sınır koyma ve sistemi durdurma yetkisi insanda kalır. Kurumsal yönetişim katmanıdır.

Bu biçimler birbirinin rakibi değildir; risk düzeyine göre seçilir. Düşük riskli bir spam filtresi tamamen otomatik çalışabilirken, işe alım eleme, kredi kararı veya tıbbi destek gibi yüksek riskli alanlarda döngüde insan yaklaşımı zorunlu sayılır. Risk arttıkça insanın döngüdeki yeri yakına çekilir.

Neden İnsan Denetimine İhtiyaç Var?

Yapay zekâ modelleri birçok görevde insandan hızlı ve tutarlı çalışabilir. Yine de bu durum denetim gereksinimini ortadan kaldırmaz, çünkü:

• Modeller hata yapar ve beklenmedik durumlarda şaşırır. Eğitim verisinde hiç görmediği bir durumla karşılaşan model, kendinden emin biçimde yanlış sonuç üretebilir.
• Modeller dünyanın geçmiş hâlini öğrenir. Değişen koşulları (yeni bir dolandırıcılık yöntemi, yeni bir dil kalıbı) kendiliğinden yakalayamayabilir.
• Kararın bağlamı ve sorumluluğu insana aittir. Bir kararın bir insanın hayatı üzerindeki etkisini model tartmaz; bu değerlendirmeyi yapacak olan insandır.
• Önyargılar ancak insan gözüyle erken fark edilir. Eğitim verisinden taşınan ayrımcı kalıplar, çıktıların düzenli incelemesiyle görünür hâle gelir.

Gerçek hayattan bilinen bir örnek: Bir teknoloji şirketi 2018'de denediği özgeçmiş eleme modelinde, sistem geçmiş işe alım verisinden öğrendiği kalıplar yüzünden kadın adaylara karşı olumsuz sonuçlar üretmeye başladı ve proje terk edildi. Denetimsiz otomasyonun nasıl sonuçlar doğurduğunu gösteren bu vaka, literatürde klasik örnek hâline gelmiştir. Önyargı konusunun tamamını Algoritmik önyargı dersinde ayrıca işliyoruz.

İnsan Denetimi Nasıl Uygulanır?

İnsan denetimi tek bir onay butonu değildir; birbirini tamamlayan önlemler bütünüdür:

• Kritik kararlarda zorunlu onay adımı: İşe alım, kredi, sağlık önerileri gibi yüksek etkili kararlar sistemde kalır; nihai onay insana alınır.
• Kararı anlaşılır kılma: Gözden geçirene yalnızca sonuç değil, kararın hangi verilere dayandığı ve modelin ne kadar emin olduğu da sunulur. Gerekçesiz onay, gerçek denetim değildir.
• İtiraz ve insan incelemesi yolu: Karardan etkilenen kişi, karara itiraz edebilme ve kararının gerçek bir insan tarafından yeniden değerlendirilmesini isteme hakkına sahip olur.
• Kayıt ve denetim izi: Hangi kararın kim tarafından, hangi gerekçeyle onaylandığı kaydedilir; hatalar geriye dönük incelenebilir.
• Durdurma ve geri alma yetkisi: Sistem beklenmedik biçimde davranırsa devreden çıkarılabilme ve kararların geri alınabilme mekanizması tanımlanır.
• Denetçilerin eğitimi: Modelin güçlü ve zayıf yanları ekiple paylaşılır; denetim görevi sırayla paylaşılarak yorgunluk azaltılır.

Bu önlemlerin bir bölümü artık yasal zorunluluk da hâline gelmiştir. AB'de 2024'te yürürlüğe giren Yapay Zekâ Yasası, “yüksek riskli” saydığı sistemlerde etkili insan denetimi önlemlerini açıkça şart koşar; Avrupa Birliği Genel Veri Koruma Tüzüğü (GDPR) ise tamamen otomatik kararlara karşı insan müdahalesi talep etme hakkı tanır. Düzenlemelerin genel tablosu için yapay zekâ regülasyonları dersine bakabilirsin.

Sık Yapılan Hatalar ve Yanılgılar

• Onay butonuna basmayı denetim saymak. Zaman baskısı altındaki kişi, modelin önerisini sorgulamadan imzalamaya başlar. Bu eğilime otomasyon yanlılığı (automation bias) denir; denetimin işe yaraması için gözden geçirene gerçek zaman, yetki ve gerekçe sunulmalıdır.
• Her çıktıyı denetletmeye çalışmak. Ters yönlü bir hata da budur: Günde binlerce karar üreten sistemde her maddeyi insan gözünden geçirmek olanaksızdır; gözden geçiren “alarm yorgunluğu” yaşayıp hataları fark etmez olmaya başlar. Dikkat gerçekten kritik kararlara ayrılmalı, düşük riskli işlerde otomasyona izin verilmelidir.
• Denetimi tek seferlik bir test sanmak. Sistemi yayına almadan önce test etmek yetmez; model değişir, veri değişir, dünya değişir. İnsan denetimi sürekli yürüyen bir süreçtir, projenin bitişinde teslim edilen bir kontrol listesi değildir.
• “İnsan denetimi varsa sorumluluk modeldedir” demek. Denetim mekanizması sorumluluğu silmez; son onayı veren kişi ve kurum kararın sonucundan yine sorumludur. Denetim, karar kalitesini artırmak ve hesap verebilirliği sağlamak içindir.
• Denetçiyi gerekçeden yoksun bırakmak. Ekranda yalnızca “model böyle dedi” yazıyorsa uzman kararı gerçekten değerlendiremez. Girdiler, güven düzeyi ve sınırlılıklar görünmeden yapılan onay formaliteden ibarettir.

Özetle insan denetimi, yapay zekânın hızından ve ölçeğinden yararlanırken nihai kararı ve sorumluluğu insanda tutan köprüdür. Bu yaklaşımın kurumsal çerçevesini Sorumlu yapay zekâ dersinde, sistemleri kötüye kullanıma ve saldırılara karşı koruma yöntemlerini yapay zekâ güvenliği dersinde, insan ile makinenin birlikte nasıl daha iyi çalıştığını ise İnsan ve yapay zekâ iş birliği dersinde bulabilirsin.