Yapay Zeka Ajanları

RAG & LLM Entegrasyonu

Kurumsal dokümanlarınızdan kaynak göstererek cevap veren RAG sistemleri — erişim kalitesi test setiyle ölçülür, yetki kuralları korunur; planlama bandı 4–12 hafta.

Ön görüşme planlayın30 dk · aynı iş günü dönüş

ya da formu doldurun

Projenizi anlatın, aynı iş günü dönelim

Bilgileriniz yalnız talebinize cevap vermek için kullanılır (KVKK m. 5/2-c). Aydınlatma metni

RAG (retrieval-augmented generation) entegrasyonu, bir dil modelinin cevap yazmadan önce sizin doküman havuzunuzdan ilgili parçaları bulup bağlama koymasını sağlayan sistemi kurmaktır; model böylece kendi hafızasından değil, kaynağını gösterebildiği belgeden cevap verir. GG Tech Teknoloji'nin RAG & LLM Entegrasyonu hizmeti modelden önce erişimi tasarlar ve ölçer: dokümanların nasıl bölüneceği, Türkçe aramanın nasıl yapılacağı, kimin hangi belgeyi görebileceği ve doğru parçanın gelip gelmediğini gösteren test seti. Planlama bandımız 4–12 hafta.

GG Tech Teknoloji tahmin modeli — RAG & LLM Entegrasyonu · Son gözden geçirme: 2026-10-14
Tipik ekip1 AI mühendisi + 1 backend geliştirici
Takvim bandı4–12 hafta
Faz dağılımı%20 veri kaynağı analizi · %40 pipeline geliştirme · %25 eval ve kalite · %15 devreye alma

Maliyeti büyütenler

  • Kaynak çeşitliliği ve veri kirliliği
  • Kullanıcı bazlı erişim kontrolü
  • Güncelleme sıklığı
  • Halüsinasyon toleransı

Bütçe yetersizliği sinyalleri

  • Eval seti yok
  • "Demo'da çalışıyor" standardı

Bunlar GG Tech Teknoloji planlama bantlarıdır, teklif değildir; başlangıç fiyatları ilgili hizmet sayfalarında. Her proje farklıdır; bu yüzden bantlar bilinçli olarak geniş tutulmuştur. Kıdemli, odaklanmış bir ekip ve tipik kapsam varsayılır; projeniz ayrıca değerlendirilir.

Kimler için?

  • Çalışanları aynı soruların cevabını iç dokümanlarda, wiki'de ve eski e-postalarda arayan şirketler.
  • Destek ekibine ürün belgelerinden kaynak göstererek cevap taslağı hazırlatmak isteyen ekipler.
  • Mevzuat, sözleşme ya da teknik şartname gibi sık güncellenen metinlerle çalışan hukuk, satın alma ve mühendislik birimleri.
  • Verisinin kurum dışına çıkmasını istemeyen ve yetki kurallarının asistanda da geçerli olmasını şart koşan kurumlar.

Ne zaman doğru seçim değil?

  • Asıl ihtiyaç modelin üslubunu ya da çıktı biçimini değiştirmekse (her cevabın sabit bir JSON şemasında dönmesi gibi): bu RAG'in değil, fine-tuning'in işidir.
  • Doküman havuzu birkaç sayfaysa ve nadiren değişiyorsa: metni doğrudan isteme koymak, bir arama katmanı kurmaktan ucuzdur.
  • Kaynak belgeler çelişkili ve sahipsizse: RAG dağınıklığı düzeltmez, yalnız daha hızlı yayar; önce içerik sahipliği netleşmelidir.

Nasıl çalışıyoruz?

  1. 1

    Doküman ve yetki envanteri

    Hangi kaynakların gireceği (PDF, wiki, destek kayıtları, veritabanı), ne sıklıkla değiştikleri ve kimin hangisini görebileceği listelenir. Yetki sonradan eklenirse asistan, kullanıcının göremeyeceği bir belgeden cevap verebilir.

  2. 2

    Altın soru seti

    Gerçek kullanıcı sorularından 50–100 soruluk bir set hazırlanır; her sorunun cevabının hangi belgenin hangi bölümünde olduğu elle işaretlenir. Sonraki bütün kararlar bu setle ölçülür.

  3. 3

    Bölme (chunk) ve metadata

    Dokümanlar önce kendi başlık yapısına göre, gerekirse sabit boyutla ikinci kez bölünür; tablolar ve kod blokları parçalanmaz. Her parçaya kaynak, başlık yolu ve tarih eklenir.

  4. 4

    Türkçe için hibrit arama

    Anlamsal arama ile anahtar kelime araması yan yana kurulur ve anahtar kelime tarafına kök bulma eklenir. Hangisinin önce çalışacağına ve yeniden sıralamanın gerekip gerekmediğine altın setin sonuçlarıyla karar verilir.

  5. 5

    Cevap katmanı ve atıf

    Model yalnız getirilen parçalarla cevap verir, kullandığı belgeyi gösterir, bulamadığında bilmediğini söyler. Model seçimi maliyete, gecikmeye ve verinin kurum dışına çıkıp çıkamayacağına göre yapılır.

  6. 6

    Canlıda izleme

    Cevapsız kalan sorular, düşük puan alan cevaplar ve güncellenen belgeler izlenir. Yeni bir belge geldiğinde yeniden eğitim değil, yalnız yeniden indeksleme yapılır.

Ne teslim ediyoruz?

RAG & LLM Entegrasyonu

Kaynak ve yetki envanteri
Altın soru seti ve erişim ölçüm raporu (recall@k, MRR)
İndeksleme hattı: bölme, metadata, gömme, güncelleme
Hibrit arama ve gerekirse yeniden sıralama katmanı
Kaynak gösteren cevap API'si ya da asistan arayüzü
İzleme panosu ve yeniden indeksleme prosedürü

Süreyi ve maliyeti ne belirler?

Tahmin modelimizde RAG ve LLM entegrasyonunun takvim bandı 4–12 haftadır. Süreyi en çok dört şey belirler: kaynak çeşitliliği ve verinin kirliliği, kullanıcı bazlı erişim kontrolü, dokümanların güncellenme sıklığı ve yanlış cevaba ne kadar tahammül edildiği. Eval seti olmadan kurulan ve "demoda çalışıyor" ölçütüyle kabul edilen bir RAG, bütçenin yanlış yere gittiğinin en açık işaretidir. Kendi verinizle çalışan asistan kurulumu 10.000 $'dan (≈ 495.000 TL) başlar (KDV hariç); kesin bütçeyi kaynak envanterinden sonra yazılı teklifle veriyoruz. Bantların nasıl okunacağı Maliyet Faktörleri sayfasında.

Maliyet faktörlerini inceleyin

Üretimden kanıt

2

arama yöntemi yan yana: pgvector ile anlamsal, GIN indeksinde anahtar kelime (iç aracımızdaki bilgi tabanı asistanı)

1536

boyutlu gömme vektörü; benzerlik kosinüs mesafesiyle HNSW indeksinde aranıyor (aynı asistan)

3

açık ağırlıklı model arasında geçiş: Llama 3.1 70B, DeepSeek R1 14B, Gemma 3 27B (GG AI Asistan, kendi ürünümüz)

Bilgi tabanı asistanının ayrıntıları "RAG mi fine-tuning mi?" yazımızda anlatılıyor. GG AI Asistan kendi ürünümüzdür, müşteri işi değildir (Eylül 2026).

Vakayı oku

Sık sorulan sorular

RAG mi, fine-tuning mi?

Bilgi eklemek istiyorsanız RAG, modelin davranışını ya da çıktı biçimini değiştirmek istiyorsanız fine-tuning. Sık değişen bir doküman kümesinde fine-tuning her güncellemede yeniden eğitim demektir; RAG'de aynı güncelleme yeni parçanın indekslenmesinden ibarettir. RAG ayrıca cevabın hangi belgeden geldiğini gösterebilir. İkisi rakip değildir: çoğu üretim sisteminde bilgi RAG'den, üslup istemden gelir.

Türkçe dokümanlarda RAG'i ne zorlaştırır?

Üç şey. Sondan eklemeli yapı: "yazılımın" ile "yazılımlarımızdan" aynı kökten gelir ama kök bulmayan bir anahtar kelime araması onları farklı terim sayar. Gömme modellerinin dil dengesi: çok dilli modeller İngilizce ağırlıklı eğitildiği için model seçimi Türkçe test sorularıyla ölçülmelidir. Karakter dönüşümü: "İ/ı" yanlış yerel ayarla küçültülürse eşleşme sessizce kaçar. Türkçe metin aynı karakter sayısında daha çok token da ürettiğinden chunk boyutu gerçek tokenizer ile ölçülmelidir.

Verilerimiz dışarı çıkmadan RAG kurulabilir mi?

Evet. Gömme, arama ve dil modeli kurum içindeki ya da sizin bulut hesabınızdaki sunucularda çalışabilir; o durumda doküman içeriği bir dış API'ye gönderilmez. Kendi ürünümüz GG AI Asistan bu kapalı devre ilkeyle tasarlandı ve açık ağırlıklı modeller arasında geçiş yapabiliyor. GG Tech, ISO/IEC 27001 bilgi güvenliği ve ISO/IEC 42001 yapay zeka yönetim sistemi belgelerine sahip.

RAG için ayrı bir vektör veritabanı gerekir mi?

Şart değil. PostgreSQL'in pgvector eklentisi vektörleri saklar ve HNSW indeksiyle benzerlik araması yapar; küçük ve orta ölçekli doküman havuzlarında çoğu zaman yeterlidir. Kendi iç aracımızdaki bilgi tabanı asistanında 1536 boyutlu vektörler böyle tutuluyor; anlamsal arama üçten az sonuç döndürdüğünde ayrı bir GIN indeksindeki anahtar kelime eşleşmesi devreye giriyor.

Bir RAG sisteminin iyi çalıştığını nasıl anlarız?

Modelin cevabından önce erişimi ölçerek. Altın setteki her soru için doğru parçanın ilk birkaç sonuçta gelip gelmediğine (recall@k) ve kaçıncı sırada geldiğine (MRR) bakılır; bu ölçüm dil modeli devre dışıyken yapılır. Böylece hatanın arama katmanında mı, cevap üretiminde mi olduğu ayrılır. Erişim doğruysa cevap kalitesi büyük ölçüde onu izler.

Hangi dil modelini kullanıyorsunuz?

Tek bir modele bağlı değiliz. Seçim; verinin kurum dışına çıkıp çıkamayacağına, gecikme hedefine, sorgu başına maliyete ve Türkçe test sorularındaki sonuca göre yapılır. Kapalı devre gerekiyorsa açık ağırlıklı modeller (GG AI Asistan'da Llama, DeepSeek ve Gemma aileleri), gerekmiyorsa ticari API'ler değerlendirilir; karar gerekçesiyle birlikte yazılı teslim edilir.

Son güncelleme:

Projenizi konuşalım, aynı iş günü dönelim.

30 dakikalık ön görüşme: kapsam, takvim bandı ve doğru ekip.

Clutch 5.0 · 20 kişilik ekip · Çekmeköy Belediyesi, NSC Soft, UKX

WhatsApp'tan yazın
Görüşme planlaWhatsApp