Yapay zekâ etiği

Bu derste, ünitemizin temel taşı olan yapay zekâ etiğini sıfırdan ele alıyoruz: nedir, neden bu kadar önemlidir, hangi ilkeler üzerine kurulur ve gündelik hayatta karşımıza nasıl çıkar? Yapay zekâ alanına yeni başlıyorsan Yapay Zekâ dersleri sayfasından serinin tamamına da ulaşabilirsin.

Yapay Zekâ Etiği Nedir?

Yapay zekâ etiği, yapay zekâ sistemlerinin nasıl tasarlanması, kime hizmet etmesi ve nelere zarar vermemesi gerektiğini inceleyen bir uygulamalı etik alanıdır. Klasik etik "İyi bir insan nasıl davranır?" diye sorar; yapay zekâ etiği bu soruyu makineler ve onları geliştiren insanlar için yeniden sorar: "Adil bir algoritma nasıl olur? Otomatik bir kararın hatasından kim sorumludur?"

Şunu baştan netleştirelim: yapay zekâ etiği tek başına hukuk değildir. Yasalar "yasal olanı" çizer; etik, yasal olsa bile "doğru olanı" tartışır. Bir uygulama bugün yasal olabilir ama adil olmayabilir. Bu yüzden etik, hukukun önünde ve ötesinde bir pusula görevi görür. Hukuki tarafın ayrıntılarını Yapay zekâ regülasyonları dersinde ayrıca işliyoruz.

Yapay Zekâ Neden Yeni Etik Sorunlar Doğurur?

Bir hesap makinesi etik tartışma yaratmaz; yapay zekâ yaratır. Bunun dört temel nedeni vardır:

• Ölçek: İnsan bir günde belki yüz hatalı karar verebilir; bir sistem saniyeler içinde milyonlarca karar verir. Hatayı da, adaletsizliği de aynı hızla ölçeklendirir.
• Otonomi: Sistemler artık yalnızca öneri vermez, kendisi karar verir: kredi verilsin mi, aday işe alınsın mı, akışında sana ne gösterilsin mi?
• Opaklık (kara kutu sorunu): Modern modellerde milyarlarca parametre vardır; "bu kararı neden verdi?" sorusuna herkesin anlayacağı bir yanıt bulmak zordur.
• Veriye dayalı öğrenme: Model, eğitildiği verideki kalıpları ve önyargıları da öğrenir. Veri tarafsız değilse karar da tarafsız olmaz.

Somutlaştıralım: Bir bankanın otomatik kredi sistemi, geçmiş kredi kayıtlarıyla eğitilmişse ve geçmişte belirli bölgelerdeki başvurular sistematik olarak reddedilmişse, sistem bu reddetmeyi "öğrenir" ve gelecekte de aynı grupları dışarıda bırakabilir. Kimsenin açıkça ayrımcılık yapmadığı bir durumda bile ayrımcılık ortaya çıkabilir. İşte yapay zekâ etiği, tam da bu tür durumları önceden düşünmek ve önlemek için vardır.

Temel Yapay Zekâ Etik İlkeleri

Farklı kurumlar farklı ilke listeleri yayımlasa da neredeyse tüm etik çerçevelerde şu başlıklar ortaktır:

• Adalet: Sistemin faydaları ve riskleri tüm kişi ve gruplara eşit dağılmalı; model belirli bir grubu sistematik olarak dezavantajlı duruma düşürmemeli. Konunun derinliği için Algoritmik önyargı dersine bakabilirsin.
• Şeffaflık ve açıklanabilirlik: Bir kararın nasıl verildiği, ilgili kişinin anlayacağı biçimde açıklanabilmelidir.
• Gizlilik: Kişilerin verisi, onların rızası doğrultusunda ve belirli bir amaçla sınırlı biçimde kullanılmalıdır. Ayrıntılar Veri gizliliği dersinde.
• Hesap verebilirlik ve insan denetimi: Her kararın arkasında sorumluluk üstlenecek bir insan ya da kurum olmalı; hayati kararlarda son söz insanda kalmalıdır. Bu dengeyi İnsan denetimi dersinde inceliyoruz.
• Zarar vermeme ve güvenlik: Sistemler kötüye kullanıma karşı dirençli, test edilebilir ve beklenmedik durumlarda güvenli biçimde durdurulabilir olmalıdır.
• Sorumluluk: Bir model hata yaptığında "algoritma yaptı" diyerek sorumluluktan kaçışı yoktur; geliştirenin, kullananın ve onaylayanın rolleri net olmalıdır.

Bu ilkeler birbirinden bağımsız değildir. Örneğin kişisel veriyi fazlasıyla toplamak gizliliği zedelerken, hiç toplamamak da adaleti zorlaştırabilir; çünkü gruplar arasındaki eşitsizlikleri ölçecek veri olmaz. Etiğin asıl işi, ilkeler çatıştığında hangi dengenin neden seçildiğini açıkça gerekçelendirmektir.

Etik İkilemler: Somut Örnekler

Etik sorun çoğu zaman "kötü insanlar kötü teknoloji yapar" biçiminde değildir; iyi niyetli tasarımların içine gizlenir:

• Otonom araçlarda ikilem: Kaçınılmaz bir kazada hangi riskin tercih edileceği, kimsenin tek tek düşünmek istemediği ama birilerinin yazılım olarak kodlamak zorunda kaldığı bir karardır.
• Üretken yapay zekâda içerik sınırları: Bir dil modeli hangi talepleri reddetmeli, hassas konularda nereye kadar yardımcı olmalı? 2024-2025 döneminde büyük model geliştiricileri bu sınırları kamuya açık kullanım politikalarıyla tanımlıyor; hangi politikanın "doğru" olduğu ise hâlâ tartışmalıdır.
• Gözetim ile güvenlik dengesi: Yüz tanıma ile aranan bir suçlunun bulunması ile herkesin sürekli izlenmesi arasındaki çizgi teknolojik değil, değer yargısına dayalı bir tercihtir.
• Dezenformasyon: Gerçekçi sahte görüntü ve sesler, "gördüğüne inan" alışkanlığını sarsar. Teknik ve toplumsal boyutunu Deepfake nedir? dersinde ele alıyoruz.

Etik sorun ile teknik hatanın farkı

Her hata etik sorun değildir. Bir modelin matematik sorusunu yanlış çözmesi teknik bir hatadır; düzeltilmesi gerekir ama ahlaki bir ihlal değildir. Aynı modelin belirli bir gruba ait fotoğrafları sistematik olarak daha kötü işlemesi ise etik bir sorundur: hata bile olsa yükü belirli insanlara binmektedir. Ayrımı şöyle yapabilirsin:

• Teknik hata: "Sistem yanlış çıktı üretti." Çözümü hata ayıklama, daha iyi veri ve yeniden testtir.
• Etik sorun: "Sistem yanlış çıktı üretiyor ve bu yanlışlık belirli insanlara zarar veriyor." Çözümü yalnızca kodda değil; veri seçiminde, tasarımda, denetimde ve sorumluluk paylaşımında aranır.

Sık Yapılan Hatalar ve Yanılgılar

1. "Yapay zekâ matematiktir, bu yüzden tarafsızdır." Yanlış. Matematik hesabı doğru yapar; hesapladığı şey tarafsız olmayabilir. Önyargı, veri ve tasarım yoluyla sisteme girer.
2. "Yasal olan her şey etiktir." Yanlış. Mevzuat teknolojinin gerisinde kalabilir; etik tartışma, yasa henüz yokken de gereklidir.
3. "Etik yalnızca geliştiricilerin meselesidir." Yanlış. Şirket yönetimi, ürün tasarımcıları, bu sistemleri satın alan kurumlar ve kullanıcılar zincirin halkalarıdır.
4. "Kararı yapay zekâ verdi, sorumluluk makinededir." Yanlış. Bugünkü sistemler sorumluluk taşıyamaz; sorumluluk her zaman insanlarda ve kurumlardadır.
5. "Etik, teknolojinin gelişiminin düşmanıdır." Yanlış. İnsanlar güvenmedikleri teknolojiyi kullanmaz; etik tasarım, yapay zekânın yaygınlaşmasının ön koşuludur.

Yapay zekâ etiği bitmiş bir kontrol listesi değil, süregiden bir tartışma alanıdır; teknoloji değiştikçe sorular da yenilenir. Uzun vadede insan düzeyinde genel zekâya ilişkin sorular AGI tartışmaları dersinin, etik ilkelerin ürünlere ve kurumlara nasıl işlendiği ise Sorumlu yapay zekâ dersinin konusudur. Çerçeveyi somutlaştırmak için ünitenin bir sonraki dersi olan Yapay zekâ güvenliği ile devam edebilirsin.