Chatbotlar nasıl çalışır?

Bu derste alışveriş sitelerinden banka uygulamalarına kadar her yerde karşımıza çıkan sohbet asistanlarını, yani chatbotları sıfırdan inceliyoruz: Bir chatbot nedir, yazdığınız mesajı nasıl işler ve yanıtını nasıl üretir? Ders boyunca eski kural tabanlı botlarla bugünün yapay zekâ destekli botlarını karşılaştıracağız. Yapay zekâ alanındaki diğer derslere ulaşmak için Yapay Zekâ dersleri bölümümüze göz atabilirsin.

Chatbot Nedir?

Chatbot, adını İngilizce chat (sohbet) ve robot kelimelerinin birleşiminden alır: İnsanla doğal dil kullanarak yazılı, bazı durumlarda sesli konuşabilen yazılımdır. Müşteri hizmetlerinde 'Siparişim nerede?' sorusunu yanıtlayan asistanlar, telefonlardaki sanal yardımcılar ve ChatGPT gibi genel amaçlı sohbet araçları hep birer chatbottur. Chatbotların insan gibi anlaşabilmesi, bilgisayarların doğal dili işlemesini sağlayan bir yapay zekâ alanına dayanır; bu altyapının tamamını NLP nedir? dersimizde ayrıntılarıyla anlattık.

Bir Mesaj Chatbotta Nasıl İşlenir?

Bugünün akıllı chatbotlarının arkasında büyük dil modelleri çalışır. Bir mesajın soru hâlinden yanıta dönüşmesini adım adım izleyelim:

1. Mesaj alınır: Kullanıcı 'Yarın hava nasıl?' gibi bir soru yazar.
2. Metin parçalara bölünür: Cümle, modelin işleyebildiği en küçük parçalara yani tokenlara ayrılır. Bu kavramın tamamı için Token nedir? dersimize bakabilirsin.
3. Anlam sayılara çevrilir: Her parça, anlamını taşıyan sayı dizileriyle gösterilir; model böylece kelimeler arasındaki benzerlik ve ilişkileri hesaplayabilir. Bu temsil yöntemini Embedding nedir? dersimizde ayrıntılarıyla anlattık.
4. Bağlam birleştirilir: Yeni mesaj, önceki konuşmayla birlikte modele verilir. Chatbotun 'Az önce ne sormuştum?' gibi sorulara yanıt verebilmesinin nedeni budur.
5. Yanıt parça parça üretilir: Model, bir sonraki en olası tokenı tahmin ederek yanıtı adım adım kurar; yazının ekranda parça parça akmaya başlamasının sebebi de budur.

Bu döngü her yeni mesajda yeniden çalışır ve sohbet uzadıkça modele gönderilen bağlam da uzar. Dolayısıyla chatbotun 'hafızası' gizli bir bellek değildir; çoğu zaman konuşmanın kendisinin her istekte yeniden iletilmesidir.

Kural Tabanlı Chatbot ile Yapay Zekâ Destekli Chatbot Farkı

Tüm chatbotlar aynı şekilde çalışmaz; iki ana yaklaşımı yan yana koyalım:

• Kural tabanlı chatbot: İnsanlar önceden 'kullanıcı X yazarsa Y ile yanıt ver' kuralları tanımlar. 'İptal etmek istiyorum' kalıbını gören bot iptal adımlarını listeler; kalıbın dışına çıkarsanız 'Sizi anlayamadım' der ve yeni bir soruya yanıt veremez.
• Yapay zekâ destekli chatbot: Milyonlarca metinden öğrenmiş bir dil modeliyle çalışır. Soruyu birebir ezberlemesine gerek yoktur; hiç görmediği bir cümleyi bile anlayıp kendi yanıtını kendisi üretir.

Kısaca kural tabanlı botlar bir karar ağacı gibi davranır; yapay zekâ destekli botlar ise istatistiksel bir tahminci gibi çalışır. Menü seçtiren basit banka asistanları genellikle ilk gruptadır; ChatGPT, Gemini, Claude ve Copilot gibi sohbet araçları ikinci gruptadır.

Modern Chatbotların Motoru: Büyük Dil Modelleri

2024-2025 döneminde chatbot denince akla gelen ChatGPT, Google Gemini, Anthropic Claude ve Microsoft Copilot gibi araçların tamamı büyük dil modeli (LLM) tabanlıdır. Temel kavramları Dil modeli nedir? dersimizde, bu modellerin büyük ve çok yönlü türlerini ise LLM nedir? dersimizde işliyoruz. Bu modeller sayesinde chatbotlar artık yalnızca soru yanıtlamıyor:

• Yazı yazma, özet çıkarma ve çeviri gibi dille ilgili görevleri tek sohbette yapabiliyor.
• Görüntü anlama, sesle konuşma ve gerektiğinde web'de arama gibi yetiler kazanabiliyor.
• Müşteri desteği, eğitim ve yazılım geliştirme gibi alanlarda asistan olarak görev alabiliyor.

Modellerin yardımcı, kibar ve güvenli yanıtlar vermesi tesadüf değildir: Eğitimin son aşamasında insan değerlendiricilerin tercihleriyle model bu davranışa yönlendirilir. Sistemin en bilinen örneğinin içini açmak istersen ChatGPT nasıl çalışır? dersimize göz atabilirsin.

Sık Yapılan Hatalar ve Yanılgılar

Chatbotlarla çalışırken en çok karşılaşılan yanılgıları önceden bilmek, hem konuyu öğrenmeyi hem de bu araçları doğru kullanmayı kolaylaştırır:

• 'Chatbot internette arama yapıyor' yanılgısı: Temel mekanizma arama değil, öğrenilmiş kalıplardan yanıt üretmektir. Bazı güncel botlar gerektiğinde arama aracı çağırabilir; ama bu sonradan eklenen bir özelliktir, çekirdek çalışma biçimi değildir.
• 'Verdiği bilgi her zaman doğrudur' yanılgısı: Dil modelleri zaman zaman kendinden emin görünürken yanlış ya da uydurma bilgi üretebilir; buna halüsinasyon denir. Sağlık, hukuk gibi kritik konularda yanıtları mutlaka doğrulayın.
• 'Beni gerçekten hatırlıyor' yanılgısı: Model, önceki mesajlar yeni istekle birlikte yeniden gönderildiği sürece sohbeti 'bilir'. Yeni bir sohbet açtığınızda ise hiçbir şeyden habersizdir.
• Soruyu netleştirmemek: Yanıtın kalitesi büyük ölçüde sorunun netliğine bağlıdır. Bağlamı olan, açık bir soru çok daha iyi yanıt alır; bunun tekniğini Prompt nedir? dersimizde anlattık.
• Akıllı sanılan basit botlar: 'Üzgünüm, sizi anlayamadım' kalıbında yanıtlar veren bir bot büyük olasılıkla kural tabanlıdır. Karşınızda akılsız bir sistem değil, eksik yazılmış bir kural seti görüyorsunuzdur.