Parametre nedir?

Bu derste yapay zekânın en temel yapı taşlarından biri olan parametre kavramını baştan sona anlatıyoruz: ne anlama gelir, modelin içinde ne işe yarar, hiperparametreden farkı nedir ve güncel büyük dil modellerindeki parametre sayıları neyi anlatır. Serinin tamamına Yapay Zekâ dersleri bölümünden ulaşabilirsin.

Parametre Nedir?

Yapay zekâda parametre, bir modelin içinde yer alan ve eğitim sırasında veriden otomatik olarak öğrenilen iç değerlerdir. Ağırlık (weight) ve sapma (bias) adı verilen bu sayılar, modelin girdiden çıktıya giderken bilgiyi nasıl işleyeceğini belirler. Eğitim bittiğinde modelin "öğrendiği" her şey bu değerlerde saklıdır; cihazına indirdiğin bir model dosyasının özü, milyonlarca hatta milyarlarca parametrenin sayısal değerinden ibarettir.

Bir model için şöyle bir benzetme yapılabilir: model bir radyo, parametreler ise arkasındaki ayar düğmeleridir. Radyonun çalışma mantığı sabittir; ama hangi frekansa ayarlandığı duyacağın sesi belirler. Eğitim de bu düğmeleri adım adım deneyerek sinyalin en net duyulduğu konumu bulma çabasıdır.

Parametre Ne İşe Yarar? Basit Bir Örnek

Parametreyi somutlaştırmak için basit bir tahmin görevi ele alalım: bir eve ait kira bedelini tahmin etmek. Kuralın şöyle olduğunu varsayalım:

kira = a × metrekare + b

Burada a ve b birer parametredir: a, her ek metrekarenin kiraya kaç lira eklediğini; b ise sabit taban bedelini gösterir. Bu iki sayıyı deneyimle kestiren bir emlak uzmanı da olurdu; yapay zekâda ise model eğitimi süreci, binlerce örnek içeren veriye bakarak a ve b'nin en uygun değerini kendisi bulur. Gerçek modellerde bu mantık milyarlarca parametreye ve metin, görüntü, ses gibi karmaşık girdilere genellenir; ama ilke değişmez: parametreler, girdiyi çıktıya çeviren matematiğin katsayılarıdır.

Dikkat et: a katsayısı aslında "metrekare bilgisine ne kadar güveneyim?" sorusunun yanıtıdır. Girdideki her bilgi parçasının modele nasıl katıldığını Özellik (feature) nedir? dersinde, modelin bu özelliklerden sonucu nasıl ürettiğini ise Tahmin nedir? dersinde ayrıca işliyoruz.

Parametre ile Hiperparametre Arasındaki Fark Nedir?

Bu iki terim sık karıştırılır; oysa fark nettir:

• Parametre: Modelin içinde bulunur ve model tarafından öğrenilir. Eğitim boyunca adım adım güncellenir; sayıları milyonları, milyarları aşar.
• Hiperparametre: Eğitimden önce insanın belirlediği dış ayarlardır: öğrenme hızı, ağın katman sayısı, bir adımda işlenecek örnek sayısı gibi. Model bunları öğrenmez; biz ona bildiririz.

Bir benzetme: öğrencinin sınav kâğıdına yazdığı cevaplar parametreye, sınavın süresi ve çalışma planı hiperparametreye benzer. Cevaplar öğrencinin kendi emeğiyle (eğitimle) oluşur; süre ve plan ise daha önceden konmuş kurallardır. Eğitimin adımlarını merak ediyorsan Model eğitimi nasıl yapılır? dersine göz at.

Büyük Dil Modellerinde Parametre Sayısı Ne Anlama Gelir?

"7 milyar parametreli model" ya da "405 milyar parametre" gibi ifadeler, modelin içinde kaç tane öğrenilmiş sayı olduğunu anlatır. Bilinen ölçeklere birkaç örnek: GPT-3 (2020) yaklaşık 175 milyar parametreyle döneminin en büyük modellerindendi; Meta'nın 2024'te yayımladığı Llama 3.1 ailesinin en büyüğü 405 milyar parametreliydi. Yine 2024 sonunda yayımlanan DeepSeek-V3, 671 milyar parametrenin her adımda yalnızca yaklaşık 37 milyarını etkinleştiren uzman karışımı (MoE) yaklaşımını günlük kullanıma taşıdı.

2024-2025 döneminde iki yönlü bir eğilim dikkat çekiyor: bir yandan MoE mimarileriyle toplam parametre sayısı trilyon düzeyine yaklaşıyor; diğer yandan telefon ve dizüstü bilgisayarda çalışabilen 1-8 milyar parametrelik "küçük dil modelleri" hızla yaygınlaşıyor. Parametre sayısının pratik sonuçları şunlardır:

• Bellek ve maliyet: Her parametre bellekte yer kaplar. 7-8 milyar parametrelik bir model güncel dizüstü bilgisayarlarda çalışabilirken, 405 milyar parametrelik model özel veri merkezi donanımı gerektirir.
• Kapasite: Parametre sayısı arttıkça modelin karmaşık örüntüleri saklama kapasitesi genellikle artar; ancak bu, her görevde daha iyi sonuç garantisi değildir.
• Hız: Parametre sayısı arttıkça yanıt üretme maliyeti ve gecikme de çoğunlukla artar; küçük modeller burada öne çıkar.

Parametre Hakkında Sık Yapılan Yanılgılar

• "Parametre sayısı artınca kalite de aynı oranda artar." Doğru değil. Verinin kalitesi ve eğitim yöntemi en az parametre sayısı kadar belirleyicidir; iyi veriyle eğitilmiş küçük bir model, kötü eğitilmiş dev bir modeli geride bırakabilir.
• "Parametreleri mühendisler tek tek girer." Hayır. Parametre değerlerini insan değil, eğitim algoritması veriden hesaplar; insan eğitim ortamını ve hiperparametreleri ayarlar.
• "Parametreler eğitim verisinin kopyasıdır." Model veriyi olduğu gibi ezberlemez; parametrelerde örüntülerin sayısal özeti tutulur. Bu ayrım, gizlilik ve telif tartışmalarında da önemlidir.
• "Hiperparametre de bir parametredir." Değildir: parametre eğitimle öğrenilir, hiperparametre eğitimden önce ayarlanır.

Tüm bu kavramların büyük resimdeki yerine bakmak istersen Makine öğrenmesi nedir? dersinden devam edebilirsin.