Yapay zeka ajanı nedir?

Bir ajanı ajan yapan dört parça

• Dil modeli: talebi anlar, planı kurar ve her adımda ne yapılacağına karar verir.
• Araçlar: ajanın dokunabildiği sistemler; bir API, veritabanı sorgusu, e-posta gönderimi ya da takvim kaydı. Her araç ne yaptığı, hangi parametreyi aldığı ve hangi yetkiyle çalıştığıyla tanımlanır.
• Bellek: işin o ana kadarki durumu. Ajan adımlar arasında neyi bildiğini ve neyi bitirdiğini unutursa aynı işi tekrarlar ya da yarım bırakır.
• Döngü: ajan bir aracı çağırır, sonucu okur, planını gerekirse değiştirir ve hedefe ulaşana ya da durması söylenene kadar devam eder.

Chatbot, RAG asistanı ve ajan arasındaki fark

Chatbot tek seferlik soru-cevap döngüsünde çalışır. RAG asistanı cevabını kurumun kendi belgelerine dayandırır ama yine yalnız cevap verir. Ajan ise bir sistemde işlem yapar: siparişi günceller, randevuyu oluşturur, raporu çekip ilgili kişiye gönderir. İhtiyaç yalnız doğru cevapsa ajan kurmak gereksiz karmaşıklıktır; RAG asistanı yeterlidir.

Riskin olduğu yer: yetki

Ajanın hatası bir cümle değil bir işlemdir. Bu yüzden üretimdeki ajanlarda okuma ve yazma araçları ayrılır, geri alınamayan eylemler (ödeme, silme, dışarıya giden mesaj) insan onayına bağlanır ve her çıktı yayımlanmadan önce ayrı bir denetimden geçer. Ajanın ne kadar serbest çalışacağı iş türüne göre seçilir: kendi başına yapar, taslak hazırlayıp onaya düşürür ya da yalnız bildirir.

Kalite nasıl ölçülür

Demoda iyi görünen ajan canlıda farklı davranabilir. Güvenilir yol, gerçek örneklerden bir test seti hazırlamak ve ajanı her değişiklikte bu setle yeniden ölçmektir. Başarı ölçütü izlenim değil; setteki sonuç ve canlıda izlenen maliyet, döngü sayısı ve araç çağrılarıdır.