Yapay Zeka Ajanları

AI ajanı bir hedefe ulaşmak için çok adımlı plan kurar, harici araçları (API, veritabanı, dosya) kullanır ve adımlar boyunca durumunu korur. Chatbot tek seferlik soru-cevap döngüsünde çalışır; araç kullanmaz, durum tutmaz. Ajanlar canlı iş akışlarında insan denetimi altında otonom çalışabilir; chatbot'lar bilgi alışverişiyle sınırlı kalır.

RAG sık güncellenen içerik için doğru seçimdir: kurum dokümantasyonu, ürün bilgi tabanı, mevzuat. İnce ayar ise kalıcı üslup ya da davranış değişikliği gerektiğinde kullanılır: alana özgü ton, biçim kuralları, terminoloji. B2B senaryolarının çoğunda RAG yeterlidir ve operasyonel riski daha düşüktür: yanlış bilgi kaynağı güncelleyerek düzelir, ince ayarda yeniden eğitim gerekir. İkisi birlikte de kullanılabilir: ince ayarlı model ve üzerinde bir RAG bilgi katmanı.

Bağlama göre seçiyoruz. LangGraph durum makinesine dayalı, öngörülebilir akışlar için uygundur. AutoGen grup sohbeti ve tartışma kalıplarında güçlüdür. CrewAI rol tabanlı hızlı bir başlangıç sağlar ama büyük ölçekte sınırlı kalır. Karmaşık canlı sistemlerde model sağlayıcılarının SDK'ları üzerine yazılmış özel orkestratörleri tercih ediyoruz; gözlemlenebilirlik ve maliyet kontrolü bu şekilde daha iyi olur.

Üç katman vardır: konuşmayı metne çeviren STT (örneğin Whisper, Deepgram), akıl yürüten dil modeli (Claude, GPT, Gemini; işe ve gecikme ihtiyacına göre) ve metni sese çeviren TTS (örneğin ElevenLabs, Cartesia). Düşük gecikme için her katmanda akış (streaming) gerekir. Canlı kullanımda kullanıcının ajanın sözünü kesmesi, ajanın dış sistemleri çağırması (function calling) ve konuşmanın algılanması (VAD) ayrıca ele alınır.

Temel kaldıraçlar: değerlendirme (eval) altyapısı, istem önbelleği (prompt caching), işi zorluğuna göre küçük ve büyük model arasında dağıtan model yönlendirme, tekrarlanan araç çağrılarını önleme ve ajan döngüsüne bütçe sınırı. Önce token harcaması, döngü sayısı ve araç çağrısı sayısı için başlangıç değeri alınır; her iyileştirmenin etkisi aynı metriklerle önce / sonra karşılaştırılarak doğrulanır.

Üç katmanda: (1) Risk sınıflandırması: sistemin EU AI Act'e göre sınırlı riskli, yüksek riskli ya da yasaklı kategoride olup olmadığı belirlenir. (2) Veri yönetişimi: KVKK için veri en aza indirme, yurt dışına aktarım kuralları ve yalnızca otomatik işlemeyle ortaya çıkan aleyhe sonuca itiraz hakkı (KVKK md. 11) gözetilir. (3) Operasyonel kontroller: denetim kaydı, model kartı, insan denetimi noktaları ve olay müdahale planı. Yüksek riskli sistemlerde yanlılık (bias) ve dayanıklılık testleri eklenir. GG Tech Teknoloji'nin ISO/IEC 42001 Yapay Zeka Yönetim Sistemi belgesi vardır.