Bir hedefi küçük adımlara ayırıp kullanabildiği araçlarla ilerleyen sistemlere yapay zeka ajanları denir. Örneğin bir ajan, elindeki stok bilgisini okuyabilir, uygun malzemeyi seçebilir ve yetkisi varsa bir rezervasyon kaydı oluşturabilir. Bunu yapabilmesi, ilgili sisteme bağlanmasına ve o işlem için izin verilmesine bağlıdır.

Ekranda "Beş karton ayırabilirsiniz" yazmasıyla stok listesinde gerçekten beş kartonun ayrılması farklı sonuçlardır. Ajan kavramını anlamak için bu farkı izlemek yeterli bir başlangıçtır. Uzun bir cevap veya ayrıntılı bir plan, dışarıdaki bir işin tamamlandığını tek başına göstermez.

Sohbet yanıtından araçla iş yapmaya

Bir sohbet uygulamasından atölye hazırlık planı istediğinizde, gelen metni okuyup uygulamayı siz üstlenebilirsiniz. Araç kullanabilen bir ajan ise kendisine verilen hedef doğrultusunda sonraki adımı seçebilir ve bağlı yazılıma bir işlem isteği gönderebilir. Ardından dönen sonucu değerlendirerek devam eder veya durur.

Microsoft'un Türkçe ajan sorumluluk modeli, planlama döngüsünü ve araçlar üzerinden yapılan işlemleri ayrı katmanlar olarak ele alıyor. Kullanıcı açısından soru somut: Sistem hangi işe karar veriyor, hangi aracı gerçekten çağırabiliyor? Ürünün belgelerinden ve bağlantı ayarlarından bu iki sınırı öğrenmeniz gerekir. Aynı görev tanımı, farklı izinlerle kurulmuş sistemlerde farklı sonuç verebilir.

Bir sohbet arayüzü de araç kullanan bir sistemi barındırabilir. Bu yüzden baloncuklara veya ürün adına bakarak karar vermeyin. "Hangi kaynağı okuyabiliyor, hangi işlemi yapabiliyor?" diye sorun. Sohbet robotunun metin üretmesi ile bu metinden sonra başka bir sistemde işlem yürütülmesi ayrı aşamalardır.

Hayalî bir stok rezervasyonunu izleyelim

Bir el işi atölyesi için hazırlanmış deneme yazılımı düşünelim. Aşağıdaki sayılar ve işlemler tamamen hayalîdir; gerçek bir ürün testinin sonuçları değildir. Yazılımda sekiz kırmızı karton var. Hedefimiz, bunların beşini cumartesi grubuna ayırmak olsun. Buradaki ayırma, kartonları fiziksel olarak taşımak değil, yazılımda rezervasyon oluşturmaktır.

Ajan önce kullanılabilir miktarı okur. Beş karton ayırmaya yetecek stok varsa ilgili rezervasyon aracını çağırır. Araçtan başarı sonucu geldikten sonra kaydı yeniden okuyarak cumartesi grubuna beş karton ayrıldığını ve kullanılabilir miktarın üçe düştüğünü kontrol eder. Bu örnekte hedefin bittiği yer, kontrol edilmiş rezervasyon kaydıdır.

Şimdi araca giden isteğin zaman aşımına uğradığını varsayalım. "Yanıt gelmedi" bilgisi, işlemin kesinlikle yapılmadığını göstermez. Kaydı okumadan aynı isteği tekrarlamak ikinci bir rezervasyon yaratabilir. Böyle bir durumda sonucu belirsiz bırakmak ve mevcut kaydı kontrol etmek gerekir. Sadece sohbette "Tamamlandı" yazmak sorunu çözmez.

Stokta yalnızca dört karton kalmışsa hedef başlangıçtaki koşullarla tamamlanamaz. Ajanın beşinci kartonu varmış gibi kaydetmesi veya başka renge kendiliğinden geçmesi doğru olmaz. Önceden tanımlanan sınırda durup eksikliği bildirmesini bekleriz. Kullanıcı yeni bir seçim yaparsa görev o karara göre değişir.

Verilen hedef, sınırsız izin anlamına gelmez

"Atölyeyi hazırla" gibi geniş bir hedefin içinde birbirinden farklı işler saklanır. Malzeme listesini okumakla yeni sipariş vermek aynı yetki değildir. Deneme görevinde yalnızca belirlenen stok kaydını okuma ve cumartesi rezervasyonunu oluşturma izni tanımlayabiliriz. Başka grupların kayıtlarını silmek bu görevin dışında kalır.

Microsoft'un ajanlar için sorumluluk modeli, araç izinlerini ihtiyaçla sınırlamayı ve yapılan işlemleri kaydetmeyi öneriyor. Silme veya dışarıya gönderim gibi etkili işlemlerde insan kontrol noktalarını da vurguluyor. Uygulamada bu sınırları yalnızca sohbet talimatına yazmakla yetinmeyin; kullanılan sistemin izinlerini de inceleyin.

Deneme yaparken kişisel bilgi içermeyen küçük bir kopyayla başlayın. Hangi kaydın değişebileceğini önceden belirleyin ve başlangıç durumunu saklayın. Bu, istenmeyen bir değişikliği fark etmeyi kolaylaştırır; ajanın her durumda doğru davranacağına dair garanti vermez.

Sonuç metnini kayıtla karşılaştırın

İş bittiğinde "Neler yaptın?" sorusuna gelen açıklamayı okuyun, ardından değişmesi gereken asıl kaydı açın. Örneğimizde grup adı ve ayrılan miktar eşleşmeli; başka grubun rezervasyonu değişmemelidir. Başarılı görünen araç çağrısı bile yanlış gruba yazılmışsa hedef karşılanmış sayılmaz.

Belgeden bilgi bulma aşamasını ayrıca anlamak isterseniz RAG açıklamasına bakabilirsiniz. Bir belgeyi bulmak, o belgedeki öneriyi uygulamak için otomatik izin sağlamaz. Okunan metindeki yeni bir talimat da sizin verdiğiniz görevin yerini almamalıdır.

Yapay Zeka'da yanıtların altındaki kaynakları açıp kontrol edebilirsiniz. Bu özellikten uygulamanın başka yazılımlardaki stok kayıtlarını değiştirdiği sonucunu çıkarmayın. Bir aracın işlem yaptığını söylemek için desteklenen bağlantısını ve gerçekleşen değişikliği görmek gerekir. Bizim deneme görevimizin son kontrolü de hâlâ aynıdır: cumartesi grubuna ayrılan beş karton ve geriye kalan üç karton, asıl kayıtta görünmelidir.