RAG Sistemleri Kurmak: Pratik Rehber ve Gerçek Dünya Örnekleri

Şirketinizin binlerce sayfalık dokümanı var ama çalışanlarınız hâlâ ihtiyaç duydukları bilgiyi bulmak için saatlerce arama yapıyor. Ya da müşteri hizmetleri ekibiniz aynı soruları tekrar tekrar yanıtlamaktan bunalıyor. RAG (Retrieval-Augmented Generation) sistemleri tam da bu sorunlara çözüm sunuyor.

Son altı ayda 150'den fazla Türk şirketiyle yaptığımız görüşmelerde, en çok talep edilen AI uygulamalarından biri RAG sistemleri oldu. Ancak çoğu şirket "nereden başlayacağını" bilemiyor. Bu rehberde, RAG sistemini sıfırdan kurmak için gereken her adımı, gerçek örneklerle açıklıyoruz.

RAG Sistemi Nedir ve Neden Bu Kadar Popüler?

RAG, büyük dil modellerinin (LLM) sınırlarını aşmanın en etkili yollarından biri. Geleneksel chatbot'lar sadece eğitim verilerindeki bilgileri kullanabilirken, RAG sistemleri gerçek zamanlı olarak şirketinizin kendi dokümanlarından bilgi çekip yanıt üretebiliyor.

Düşünün: ChatGPT'ye şirketinizin 2024 yılı bütçe planını sorduğunuzda bilmiyor. Ama RAG sistemi, o dokümanı bulup size detaylı analiz sunabiliyor.

RAG'in Temel Bileşenleri

1. Doküman İşleme: PDF, Word, Excel dosyalarını parçalara ayırma
2. Embedding Oluşturma: Metinleri sayısal vektörlere dönüştürme
3. Vektör Veritabanı: Bu vektörleri depolama ve arama
4. LLM Entegrasyonu: Bulunan bilgileri kullanarak yanıt üretme

Hangi Durumda RAG Sistemi Kurmalısınız?

RAG sistemi kurmadan önce, gerçekten ihtiyacınız olup olmadığını değerlendirin. Şu durumlardan en az üçü varsa, RAG sistemi kurma zamanı gelmiş:

• Büyük doküman arşiviniz var (1000+ sayfa)
• Çalışanlar bilgi bulmak için günde 30+ dakika harcıyor
• Müşteri hizmetleri aynı soruları tekrar ediyor
• Yeni çalışanların adaptasyon süreci 2+ hafta
• Compliance dokümanlara erişim kritik

Örneğin, İstanbul'da faaliyet gösteren bir hukuk firması, 15.000 sayfalık içtihat arşivini RAG sistemiyle organize etti. Avukatların araştırma süresi %70 azaldı, müvekkil memnuniyeti %40 arttı.

RAG Sistemi Kurulum Adımları: Pratik Rehber

1. Doküman Toplama ve Hazırlık

İlk adım, sisteme besleyeceğiniz dokümanları toplamak. Ancak bu sadece dosyaları bir klasöre atmak değil.

Doküman Kategorileri:

• Prosedür dokümanları: İş süreçleri, talimatlar
• Teknik dokümanlar: API dokümantasyonları, manuel'ler
• İnsan kaynakları: Personel el kitabı, politikalar
• Satış materyalleri: Ürün katalogu, fiyat listeleri
• Yasal dokümanlar: Sözleşmeler, compliance

Kalite Kontrol Listesi:

• [ ] Dosyalar güncel mi? (6 aydan eski olanları işaretleyin)
• [ ] OCR gerekli mi? (Taranmış PDF'ler için)
• [ ] Hassas bilgiler temizlendi mi?
• [ ] Dosya formatları destekleniyor mu?

2. Teknik Altyapı Seçimi

RAG sistemi için birçok araç var. Bütçenize ve teknik kapasitenize göre seçim yapın:

Başlangıç Seviyesi (Aylık $50-200):

• Pinecone + OpenAI API: En kolay kurulum
• Weaviate Cloud: Açık kaynak, esnek
• Supabase Vector: PostgreSQL tabanlı

Kurumsal Seviye (Aylık $500+):

• Azure Cognitive Search: Microsoft ekosistemi
• AWS Kendra: Amazon'un arama çözümü
• Google Vertex AI Search: Google Cloud entegrasyonu

Kendi Sunucunuzda (Tek seferlik maliyet):

• Chroma DB: Basit, hızlı başlangıç
• Qdrant: Yüksek performans
• Milvus: Büyük ölçek

3. Embedding Model Seçimi

Embedding modeli, metinlerinizi sayısal vektörlere dönüştürür. Türkçe için özel dikkat gerekli:

Türkçe İçin Önerilen Modeller:

• OpenAI text-embedding-3-large: En iyi performans, ücretli
• multilingual-e5-large: Ücretsiz, iyi kalite
• LaBSE: Google'ın çok dilli modeli
• Turkish-BERT: Türkçeye özel, akademik projeler için

Test Sonuçları (Türkçe Dokümanlar):

• OpenAI: %87 doğruluk, $0.13/1M token
• E5-large: %82 doğruluk, ücretsiz
• LaBSE: %79 doğruluk, ücretsiz

4. Doküman İşleme Pipeline'ı

Dokümanları sisteme yüklemeden önce işlemeniz gerekiyor:

# Örnek Python kodu (basitleştirilmiş)
def process_document(file_path):
    # 1. Dokümanı oku
    text = extract_text(file_path)
    
    # 2. Parçalara ayır (chunking)
    chunks = split_text(text, chunk_size=1000, overlap=200)
    
    # 3. Her parça için embedding oluştur
    embeddings = []
    for chunk in chunks:
        embedding = get_embedding(chunk)
        embeddings.append(embedding)
    
    # 4. Vektör veritabanına kaydet
    save_to_vector_db(chunks, embeddings)

Chunking Stratejileri:

• Sabit boyut: Her parça 1000 karakter
• Cümle bazlı: Cümle sonlarında kes
• Paragraf bazlı: Doğal bölümleri koru
• Semantic chunking: Anlam bütünlüğüne göre

5. Vektör Veritabanı Kurulumu

Vektör veritabanı, embedding'lerin depolandığı ve arandığı yer:

Pinecone Örnek Kurulum:

import pinecone

# Bağlantı kur
pinecone.init(api_key="your-api-key")

# Index oluştur
pinecone.create_index(
    name="company-docs",
    dimension=1536,  # OpenAI embedding boyutu
    metric="cosine"
)

# Veri yükle
index = pinecone.Index("company-docs")
index.upsert(vectors=embedding_data)

Performans Optimizasyonu:

• Index boyutunu doğru hesaplayın
• Batch işlem kullanın (1000'li gruplar)
• Metadata filtreleme ekleyin
• Düzenli backup alın

RAG Sistemi Nasıl Çalışır? Adım Adım Süreç

Kullanıcı bir soru sorduğunda sistem şu adımları izliyor:

1. Soru Analizi ve Embedding

Kullanıcının sorusu önce embedding'e dönüştürülür:

Soru: "2024 yılı pazarlama bütçesi ne kadar?"
Embedding: [0.123, -0.456, 0.789, ...] (1536 boyutlu vektör)

2. Benzerlik Araması

Bu embedding, vektör veritabanında benzer içerikler aranır:

# En yakın 5 doküman parçasını bul
results = index.query(
    vector=question_embedding,
    top_k=5,
    include_metadata=True
)

3. Bağlam Oluşturma

Bulunan doküman parçaları birleştirilerek bağlam oluşturulur:

Bulunan bilgiler:
- 2024 pazarlama bütçesi: 2.5M TL (Bütçe Dokümanı, Sayfa 12)
- Dijital pazarlama: %60 (1.5M TL)
- Geleneksel medya: %40 (1M TL)

4. LLM ile Yanıt Üretimi

Bağlam ve soru LLM'e gönderilir:

prompt = f"""
Bağlam: {context}
Soru: {question}
Lütfen sadece verilen bağlamı kullanarak yanıt ver.
"""

response = openai.chat.completions.create(
    model="gpt-4",
    messages=[{"role": "user", "content": prompt}]
)

5. Kaynak Referansları

Yanıt, hangi dokümanlardan geldiği bilgisiyle sunulur:

2024 yılı pazarlama bütçemiz 2.5 milyon TL olarak planlandı. 
Bu bütçenin %60'ı (1.5M TL) dijital pazarlamaya, 
%40'ı (1M TL) geleneksel medyaya ayrıldı.

Kaynak: 2024 Bütçe Planı, Sayfa 12

Gerçek Dünya Örnekleri: Türk Şirketlerinden Başarı Hikayeleri

Örnek 1: E-ticaret Şirketi - Müşteri Hizmetleri RAG'i

Durum: Günde 500+ müşteri sorusu, %40'ı tekrar eden sorular Çözüm: Ürün katalogları, iade politikaları, kargo bilgileri için RAG sistemi Sonuç:

• Yanıt süresi: 5 dakikadan 30 saniyeye
• Müşteri memnuniyeti: %73'ten %91'e
• Personel verimliliği: %50 artış

Sistem Detayları:

• 25.000 ürün açıklaması
• 150 sayfa politika dokümanı
• Pinecone + OpenAI GPT-4
• Slack entegrasyonu

Örnek 2: İmalat Firması - Teknik Doküman RAG'i

Durum: 200+ makine için 15.000 sayfa teknik doküman Çözüm: Bakım talimatları, arıza çözümleri için RAG sistemi Sonuç:

• Arıza çözüm süresi: %60 azalma
• Yeni teknisyen eğitim süresi: 4 haftadan 1 haftaya
• Makine duruş süresi: %35 azalma

Sistem Detayları:

• PDF, CAD dosyaları, video transkriptleri
• Azure Cognitive Search
• Teams entegrasyonu
• Mobil erişim

Örnek 3: Hukuk Bürosu - İçtihat Araştırma RAG'i

Durum: Avukatlar günde 2-3 saat içtihat araştırması yapıyor Çözüun: Mahkeme kararları, kanun metinleri için RAG sistemi Sonuç:

• Araştırma süresi: %75 azalma
• Dava hazırlık kalitesi: %40 artış
• Müvekkil faturalandırılabilir saat: %25 artış

Sistem Detayları:

• 50.000+ mahkeme kararı
• Kanun metinleri ve yönetmelikler
• Turkish-BERT embedding
• Weaviate vektör veritabanı

RAG Sistemi Kurmanın Maliyeti Nedir?

Başlangıç Maliyetleri

Geliştirme (Tek seferlik):

• Basit sistem: 50.000-100.000 TL
• Orta seviye: 100.000-250.000 TL
• Kurumsal: 250.000-500.000 TL

Aylık İşletim Maliyetleri:

• Vektör veritabanı: $50-500
• LLM API'leri: $100-1000 (kullanıma göre)
• Hosting: $20-200
• Toplam: 2.000-20.000 TL/ay

ROI Hesaplama Örneği

Orta ölçekli bir şirket için (100 çalışan):

• Yatırım: 150.000 TL (kurulum) + 5.000 TL/ay (işletim)
• Tasarruf: 20 saat/hafta × 50 çalışan × 200 TL/saat = 200.000 TL/ay
• Geri dönüş süresi: 1.5 ay

RAG Sistemi Kurarken Yapılan Yaygın Hatalar

1. Veri Kalitesini Göz Ardı Etmek

Hata: Eski, yanlış, düzensiz dokümanları sisteme yüklemek Sonuç: Yanıtlar güvenilmez, kullanıcı güveni azalır Çözüm: Doküman temizleme ve kalite kontrol süreci oluşturun

2. Chunking Stratejisini Yanlış Seçmek

Hata: Çok büyük veya çok küçük parçalar oluşturmak Sonuç: Bağlam kaybı veya alakasız bilgiler Çözüm: A/B test yaparak optimal boyutu bulun (genelde 500-1500 karakter)

3. Embedding Model Uyumsuzluğu

Hata: İngilizce model ile Türkçe dokümanları işlemek Sonuç: Düşük arama kalitesi, yanlış sonuçlar Çözüm: Çok dilli veya Türkçe'ye özel modeller kullanın

4. Güvenlik Önlemlerini Atlamak

Hata: Hassas bilgileri filtrelemeden sisteme yüklemek Sonuç: Veri sızıntısı riski, compliance ihlalleri Çözüm: Veri sınıflandırma ve erişim kontrolleri uygulayın

5. Kullanıcı Deneyimini İhmal Etmek

Hata: Sadece teknik altyapıya odaklanmak Sonuç: Düşük kullanım oranları, benimseme direnci Çözüm: Kullanıcı testleri yapın, arayüzü sadeliğe odaklayın

RAG Sistemi Performansını Nasıl Ölçersiniz?

Teknik Metrikler

Retrieval Kalitesi:

• Precision@K: İlk K sonuçta kaç tanesi doğru?
• Recall@K: Tüm doğru cevapların kaçı ilk K'da?
• MRR (Mean Reciprocal Rank): Doğru cevap kaçıncı sırada?

Generation Kalitesi:

• BLEU Score: Referans cevapla benzerlik
• ROUGE Score: Özetleme kalitesi
• BERTScore: Semantic benzerlik

İş Metrikleri

Verimlilik:

• Ortalama yanıt süresi
• Soru başına maliyet
• Kullanıcı başına günlük soru sayısı

Memnuniyet:

• Kullanıcı puanlaması (1-5)
• Yanıt doğruluğu oranı
• Sistem kullanım oranı

ROI:

• Zaman tasarrufu (saat/ay)
• Personel maliyet azalması
• Müşteri memnuniyeti artışı

RAG Sisteminin Geleceği ve Yeni Trendler

1. Multimodal RAG

Sadece metin değil, görsel, ses, video içerikleri de işleyebilen sistemler. Örneğin, teknik çizimleri de anlayabilen RAG'ler.

2. Real-time RAG

Canlı veri akışlarını (sosyal medya, haberler, CRM güncellemeleri) gerçek zamanlı işleyen sistemler.

3. Federated RAG

Birden fazla organizasyonun verilerini paylaşmadan birlikte kullanabildiği sistemler. GDPR uyumlu veri işleme.

4. Edge RAG

Bulut yerine yerel sunucularda çalışan, düşük latency ve yüksek güvenlik sağlayan sistemler.

Sonuç: RAG Sistemi Kurma Yolculuğunuza Başlayın

RAG sistemleri, şirketinizin kurumsal bilgisini AI'ın gücüyle birleştirmenin en etkili yolu. Ancak başarılı bir RAG sistemi kurmak, sadece teknolojiyi bir araya getirmek değil — doğru stratejik planlama, kaliteli veri hazırlığı ve kullanıcı odaklı tasarım gerektirir.

Bugün Başlayabileceğiniz Adımlar:

1. Mevcut dokümanlarınızı envantere çıkarın
2. Pilot proje için 1-2 use case belirleyin
3. Teknik ekibinizle altyapı seçeneklerini değerlendirin
4. Bütçe ve zaman planı oluşturun
5. Küçük bir prototiple başlayın

Unutmayın: En iyi RAG sistemi, mükemmel teknoloji ile değil, kullanıcılarınızın gerçek ihtiyaçlarını çözen sistemdir. Büyük hayaller kurun ama küçük adımlarla başlayın.

RAG sistemleri hakkında daha fazla bilgi için use cases sayfamızı inceleyebilir, diğer AI implementation rehberlerimizi blog sayfamızdan takip edebilirsiniz.

AI stratejinizi birlikte oluşturmak ister misiniz? Ücretsiz görüşme ayarlayın.