RAG tabanlı bir yapay zekâ sohbet botu nasıl çalışır? — Jargon olmadan dayanaklandırma (grounding)

Genel amaçlı bir yapay zekâ sohbet botu gibi çalışan bir chatbot, 2026'da bir pazar beklentisi — her orta ölçekli şirket bunun için bir tedarikçi sunumu dinlemiştir. Sorun şu ki piyasadaki tekliflerin %80'i "bir web bileşenine gömülmüş genel bir dil modelinden" ibaret. Bu bir süre işe yarar, ama gerçek konuşmaların ilk haftasında sohbet botu fiyat uydurmaya, belgelerden yanlış alıntı yapmaya ve şirketin kendi ürünleri hakkında hiçbir bilgisi olmadığını göstermeye başlar. Çözümün bir adı var: RAG.

Bu yazı, RAG tabanlı bir yapay zekâ sohbet botunun gerçekte nasıl çalıştığını anlatıyor — mühendis olmayan birinin anlayacağı kadar basit, ama bir CTO'nun satın aldığı sistemin gerçekten RAG yapıp yapmadığını ya da yalnızca öyle adlandırılıp adlandırılmadığını değerlendirebileceği kadar kesin.

RAG nedir?

RAG, Retrieval-Augmented Generation'ın kısaltmasıdır — erişimle zenginleştirilmiş metin üretimi. Klasik bir sohbet botu belleğinden, yani eğitim sırasında gördüklerinden yanıt verir. RAG sohbet botu bunu genişletir: her sorudan önce şirketin kendi belgelerinde arama yapar, bulunan en ilgili 3–5 pasajı isteme (prompt) ekler ve ancak ondan sonra yanıt üretir. Sonuç: yanıt yapay zekânın hayal gücüne değil, şirket verilerine dayanır.

6 adımda RAG süreci

• 1. İndeksleme — her iç belge (PDF, web sayfası, yardım merkezi makalesi, ürün açıklaması) 200–500 kelimelik parçalara bölünür.
• 2. Gömme (embedding) — her parça bir gömme modeliyle 1024–3072 boyutlu bir vektöre dönüştürülür. Bu vektör, metnin anlamını sayısal olarak kodlar.
• 3. Depolama — vektörler bir vektör veritabanında (pgvector, Pinecone, Qdrant) tutulur. 5.000 belgeli bir şirketin veritabanı kabaca 50–200 MB'tır.
• 4. Sorgu gömme — kullanıcı bir soru sorduğunda soru aynı modelle vektöre dönüştürülür.
• 5. Erişim — kosinüs benzerliği kullanılarak en ilgili 5 belge parçası bulunur.
• 6. Üretim — soru ve bulunan 5 parça tek bir istemde birleştirilir ve büyük bir dil modeli yanıtı üretir.

Neden uydurmuyor? — Dayanaklandırma sözleşmesi

RAG tek başına sohbet botunun bir şey uydurmayacağını garanti etmez. Garantiyi belirli bir sistem istemi ve yanıt politikası sağlar: "Yalnızca yanıt, verilen bağlamdan açıkça çıkarılabiliyorsa yanıt ver. Yanıtı bağlamda bulamıyorsan bilmediğini söyle ve bir insanla iletişime geçilmesini öner." Bu iki cümleyle sohbet botu ne pahasına olursa olsun yanıt vermeye çalışmayı bırakır — bilmiyorsa bunu kabul eder.

4 kalite seviyesi — sisteminiz nerede duruyor?

• Seviye 1 — genel sohbet botu bileşeni: RAG yok, yalnızca eğitim verisi. Sık sık uydurur; bilgisi dil modelinin bilgi kesim tarihinde kalır.
• Seviye 2 — anahtar kelime araması + genel dil modeli: şirket belgelerinde arar, ama yalnızca BM25 ile. Erişim isabetsiz, uydurma sık.
• Seviye 3 — vektör RAG: gömme tabanlı erişim + dayanaklandırma istemi. 2026'da pazarın asgari standardı budur.
• Seviye 4 — hibrit RAG + ince ayar: vektör + anahtar kelime + yeniden sıralayıcı + şirkete özel ince ayar. Kurumsal düzey, %90+ doğru yanıt oranı.

İşe yarayıp yaramadığı nasıl ölçülür?

Bir RAG sisteminin kalitesini üç metrik gösterir: (1) yanıt kalitesi — rastgele seçilen 100 yanıtı 0–5 ölçeğinde elle puanlayın; (2) kapsam — soruların ne kadarı esaslı bir yanıt aldı ("bilmiyorum" değil); (3) gecikme — ortalama ve 95. yüzdelik. Bunlardan herhangi biri kötüleşirse sistemin bakıma ihtiyacı vardır: yeni belgelerin indekslenmesi, gömme modelinin güncellenmesi veya dayanaklandırma sözleşmesinin iyileştirilmesi.

Nortinia AI Chat, Macaristan'daki bir veri merkezinde barındırılan hibrit bir RAG mimarisi (Seviye 4) üzerine kurulu. Kendi belgeleriniz üzerinde, ölçülebilir yanıt kalitesiyle 14 günlük bir POC başlatabiliriz.

Nortinia AI Chat hakkında daha fazlasını buradan okuyun: /ai-termekek/nortinia-ai-chat