RAG Sistemi Nasıl Kurulur: Pratik Rehber

İç destek veri kümemizde tek bir değişiklik, modeli hiç değiştirmeden yanıt doğruluğunu %71'den %89'a çıkardı: 20 aday parça getirip bunları 5'e yeniden sıraladık. Bu tek sayı, tüm rehberin özeti. RAG sistemi kurmak için belgelerinizi parçalara bölersiniz, her parçayı bir embedding vektörüne çevirirsiniz, bu vektörleri bir veritabanında saklarsınız, soruya en uygun parçaları getirir ve bunları bağlam olarak dil modeline (LLM) verirsiniz. Kazanç, seçtiğiniz modelde değil, getirme kalitesinde gizli.

RAG sistemi nedir ve neden kurulur?

RAG (retrieval-augmented generation), sorgu anında bilgi tabanınızdan ilgili metni çekip dil modeline veren bir mimaridir; böylece yanıt, kontrol ettiğiniz gerçeklere dayanır. Halüsinasyonu azaltır, yeniden eğitim yapmadan bilgiyi güncel tutar ve kaynak göstermenizi sağlar.

Modelin eğitimde görmediği bilgiye ihtiyaç duyduğunuzda RAG kurarsınız: iç wikiler, ürün dokümanları, sözleşmeler, destek kayıtları. İnce ayar (fine-tuning) üslup öğretir; RAG ise gerçekleri sağlar. Temmuz 2026 itibarıyla, sınırı Claude Opus 4.8 ve GPT-5.5 zorlarken, RAG hâlâ özel bir veri kümesini bir sohbet botunun ya da yapay zeka ajanının arkasına koymanın en ucuz ve en hızlı yolu. İkisi arasında kararsızsanız RAG mi ince ayar mı karşılaştırmamıza göz atın.

RAG sistemi nasıl kurulur: 8 adım

Üretimde çalıştırdığımız uçtan uca hat aşağıda. Her adım, vereceğiniz bir karara denk geliyor.

1. Kaynakları topla ve temizle. PDF, HTML, Markdown ve veritabanı satırlarını düz metne dönüştür. Menüleri, tekrarlayan başlıkları ve gereksiz metni ayıkla; çöp girerse çöp geri gelir.
2. Belgeleri parçala. Metni 300–800 token'lık parçalara böl ve %10–15 örtüşme bırak ki cümleler ortadan kesilmesin.
3. Embedding üret. Her parçayı bir embedding modelinden geçirip vektöre çevir (modele göre 1.024 ile 3.072 boyut arası).
4. Vektörleri veritabanına yaz. Embedding'leri metadata (kaynak, başlık, URL) ile birlikte bir vektör deposuna yükle.
5. Sorguyu embedding'e çevir. Çalışma anında kullanıcının sorusunu aynı modelle vektöre dönüştür.
6. En iyi k parçayı getir. Benzerlik araması yap, ideal olarak anahtar kelime aramasıyla birleştir (hibrit).
7. Sonuçları yeniden sırala. Bir cross-encoder ile adayları yeniden sırala ki en isabetli eşleşmeler başa gelsin.
8. Kaynağa dayalı yanıt üret. En iyi parçaları prompt'a ekle, modele yalnızca bu bağlamdan yanıt vermesini söyle ve kaynakları döndür.

2, 6 ve 7. adımları doğru kurarsanız kalite, LLM'i değiştirmekten çok daha fazla sıçrar. Çoğu ekip zamanını en pahalı modeli seçmeye harcar; oysa asıl kazanç, doğru parçaların modele doğru sırada ulaşmasında saklıdır. Önce hattı sağlamlaştırın, model yükseltmesini en sona bırakın.

Hangi bileşenlere ihtiyacınız var?

Çalışan bir RAG sisteminin beş temel parçası var. Her birini ölçeğe, bütçeye ve ne kadar kendi sunucunuzda barındırmak istediğinize göre seçin. Temmuz 2026'da sıfırdan bir kurulumda yapacağımız tercihler şöyle.

Zaten Postgres kullanıyorsanız pgvector ile başlayın; bu size ayrı bir servis kurma zahmetini kazandırır ve 0.8 sürümünden beri gelen artımlı indeks taramaları, tipik donanımda 1–5 milyon vektörü rahatça kaldırır. Birkaç milyon vektörü aştığınızda ya da en hızlı filtreli aramaya ihtiyaç duyduğunuzda Qdrant veya Pinecone'a geçin. Embedding tarafında, Voyage'ın voyage-3-large modeli milyon token başına yaklaşık 0,18 dolara getirme kıyaslamalarını domine ederken, OpenAI'ın text-embedding-3-large modeli 0,13 dolar civarında Matryoshka boyut kırpma sunar; kaliteye mi ekosistem uyumuna mı öncelik verdiğinize göre seçin.

RAG için belgeler nasıl parçalanır?

Önce yapıya, sonra boyuta göre parçalayın. Başlık ve paragraflardan bölün ki her parça tek bir tutarlı fikir taşısın; ardından uzunluğu 300–800 token ile sınırlayıp %10–15 örtüşme bırakın. Sabit boyutlu bölme hızlıdır ama cümleleri ikiye böler ve getirmeyi bozar. Anlamsal ve özyinelemeli (recursive) bölücüler biraz daha efor karşılığında daha iyi geri çağırma (recall) verir. Bir vektörün tam olarak neyi temsil ettiği kafanızda net değilse embedding rehberimiz temelleri anlatıyor.

LangChain ve pgvector ile çalışan minimal bir veri alma (ingestion) hattı:

from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain_openai import OpenAIEmbeddings
from langchain_postgres import PGVector

splitter = RecursiveCharacterTextSplitter(
    chunk_size=600,        # parça başına ~600 token
    chunk_overlap=80,      # ~%13 örtüşme
    separators=["\n\n", "\n", ". ", " "],
)
chunks = splitter.split_documents(raw_docs)

embeddings = OpenAIEmbeddings(model="text-embedding-3-large")

store = PGVector(
    embeddings=embeddings,
    collection_name="docs",
    connection="postgresql+psycopg://user:pass@localhost:5432/rag",
)
store.add_documents(chunks)   # tek çağrıda embedding + kayıt

Bu, veri alma işidir. Her sorguda değil, yalnızca belgeler değiştiğinde çalıştırın.

Çalışma anında getirme ve üretim nasıl işler?

Çalışma anında soruyu embedding'e çevirir, en yakın parçaları çeker, yeniden sıralar ve kazananları katı talimatlarla LLM'e verirsiniz: yalnızca bağlamdan yanıt ver. Hibrit arama (yoğun vektör artı BM25 anahtar kelime), hem anlamı hem de embedding'lerin kaçırdığı hata kodu veya stok kodu gibi birebir terimleri yakalar.

from langchain_cohere import CohereRerank

# 1. Geniş bir aday kümesi getir
candidates = store.similarity_search(question, k=20)

# 2. En iyi birkaç tanesine indir
reranker = CohereRerank(model="rerank-v3.5", top_n=5)
top_chunks = reranker.compress_documents(candidates, query=question)

# 3. Kaynağa dayalı yanıt üret
context = "\n\n".join(c.page_content for c in top_chunks)
prompt = f"""Yalnızca aşağıdaki bağlamı kullanarak yanıtla. Yanıt
bağlamda yoksa bilmediğini söyle. Kaynak başlıklarını belirt.

Bağlam:
{context}

Soru: {question}"""
answer = llm.invoke(prompt)

20 aday getirip 5'e indirmek, kullandığımız en yüksek getirili numaradır; girişteki %71'den %89'a sıçrama tam da budur. Nisan 2026'da 100'den fazla dili kapsayan tek bir çok dilli model olarak çıkan Cohere Rerank 3.5, soru ile parçayı ayrı ayrı değil birlikte değerlendirir; benzerlik aramasının kaçırdığı ince farkları bu yüzden yakalar. Prompt'a koyduğunuz parça sayısını da abartmayın: beş isabetli parça, yirmi vasat parçadan her zaman daha iyidir ve daha ucuza gelir.

Üretimde ne bozulur ve nasıl düzeltilir?

Neredeyse her projede karşımıza çıkan üç arıza var.

• Boş ya da yanlış getirme. Genelde kötü parçalama veya eksik metadata filtresi. Her sorgu için getirilen parçaları logla ve gözle bak; deseni hızla yakalarsın.
• Model bağlamı yok sayıp ezberden yanıtlıyor. Prompt'u sıkılaştır ("YALNIZCA bağlamdan yanıtla") ve en yüksek yeniden sıralama skoru bir eşiğin altındaysa "bilmiyorum" döndüren bir koruma ekle. Daha fazla taktik için LLM halüsinasyonlarını azaltma rehberimize bakın.
• Bayat veri. Belgeler değişir ama indeksin değişmez. Artımlı yeniden embedding'i zamanlanmış çalıştır ve içerik hash'i sakla ki yalnızca değişeni yeniden embedle.

Ayar yapmadan önce kaliteyi ölç. Gerçek sorular ve bilinen yanıtlardan küçük bir değerlendirme kümesi kurun; her değişiklikte getirme recall'ını ve yanıt sadakatini takip edin. Değerlendirme olmadan tahmin yürütmüş olursunuz. Ölçmeniz gereken metrikleri LLM çıktıları değerlendirme rehberimizde bulabilirsiniz.

Sıkça Sorulan Sorular

RAG sistemi kurmak ne kadar sürer?

Çalışan bir prototip bir-iki gün sürer: belgeleri al, barındırılan bir modelle embedding çıkar, pgvector'a yaz ve getirme ile bir LLM çağrısını birbirine bağla. Üretime hazır hale getirmek (hibrit arama, yeniden sıralama, değerlendirme, izleme ve yeniden indeksleme) tek bir mühendis için genellikle iki-dört haftalık bir iştir.

RAG sistemi kurmak için vektör veritabanı şart mı?

Prototip için değil; birkaç bin vektörü bellekte ya da diskte FAISS ile tutabilirsiniz. Ancak metadata filtreleme, eşzamanlı kullanıcılar, kalıcılık ve milyonlarca vektör gerektiğinde pgvector, Qdrant veya Pinecone gibi gerçek bir vektör veritabanı kısa sürede kendini amorti eder. Basit başlayın, ölçek zorlayınca yükseltin.

RAG mı ince ayar mı seçmeliyim?

Gerçeklere dayalı, güncel veya kaynak gösterilebilir bilgi gerektiğinde RAG kullanın; çünkü indeksi yeniden eğitim yapmadan güncelleyebilirsiniz. Üslup, biçim ya da modelin kötü yaptığı dar bir görevi öğretmek için ince ayar kullanın. Birçok üretim sistemi ikisini birleştirir: davranış için ince ayar, gerçekler için RAG.

RAG sisteminde halüsinasyonu nasıl azaltırım?

Daha çok aday getirin ve agresif biçimde yeniden sıralayın, modele yalnızca bağlamdan yanıt vermesini söyleyin ve getirme güveni düşükken yanıt vermeyi reddedin. Kaynak göstermek de modeli gerçeklere bağlar ve kullanıcının doğrulamasını sağlar. Bu yöntemler birlikte, sadece LLM'i yükseltmekten çok daha fazla halüsinasyon keser.