Yapay zeka otomasyonu ile ajanlar arasında nasıl seçim yapılır?
Yayın: · yapayzeka.org.tr
Kısa yanıt
Yapay zeka otomasyonu ile ajan arasında seçim, işin adımlarının ne kadar önceden belirlenebildiğine bağlıdır. Açık kurallı işte sabit akışı, tek bir adım yorum gerektiriyorsa o adıma model eklemeyi değerlendirin. Ajan seçeneği, çalışma sırasında yeni adım ve araç seçimi gerektiren işler içindir.
Karar sırası önceden yazılabiliyorsa
Kural tabanlı otomasyonda girdi ile yapılacak işlem arasındaki eşleşme önceden tarif edilir. Örneğin kurgusal bir satın alma sürecinde formdaki bölüm bilgisine göre talebin o bölümün yöneticisine gönderildiğini düşünelim. Eşleşme belliyse her talepte yeniden yorum yapacak model aranmaz. Eksik formu çalışana geri göndermek gibi zorunlu alan kontrolleri de aynı kurallı düzenin parçasıdır. İşin karmaşıklığını tartışmadan önce hangi kararların bu şekilde tarif edildiğine bakmak gerekir.
İstisnaları da kurallı seçeneğin incelemesine katın. Başka birime ait görünen talepte karar her seferinde aynıysa bu eşleşmeyi akışa eklemek mümkündür. Yanıt, üzerinde anlaşılmamış bir şirket kararı yüzünden değişiyorsa süreç sahibinin hangi durumda ne istediğini açıklaması gerekir. Bu karar kuruma aittir. Denemede hangi durumların insan incelemesine ayrılacağı yazıldığında teknoloji seçenekleri, kurumun henüz çözmediği sorularla karışmadan aynı iş üzerinde karşılaştırılır.
İncelemeye, kullanılan iş yazılımının bu yönlendirmeyi yapıp yapamadığına bakarak başlayın. Sorun formun yanlış doldurulmasıysa daha açık alan adları veya giriş kontrolü gerekip gerekmediğini araştırın. Yeni sistemin gerekçesi bu incelemede görülmelidir. Bizce eldeki çözüm de karşılaştırmaya girmeli, çünkü yeni bağlantı ve bakım sorumluluğu eklemeden karşılanan bir ihtiyaç için ayrı uygulama işletmek gereksiz iş yaratır.
Yorum gereken adımı akışın içinde tutmak
Satın alma talebinin serbest metinle geldiği ve açıklamadan konu önerisi istendiği bir örnekte model, sırası önceden belirlenmiş akışın tek bir adımında yorum yapar. Sonraki yönlendirmeyi yazılı kural veya görevli kişi üstlenir. Anthropic'in iş akışı ile ajan ayrımı da buradadır: Akış önceden tanımlanmış yolu izlerken ajan süreç ve araç seçimini çalışma sırasında yönlendirir.
Yorum adımının beklenen çıktısını açıkça tarif edin. Örneğin konu izin verilen listeden seçilecek ve listeye uymayan talepler insan incelemesine gidecekse denemede doğru yanıtla birlikte bu sınırın uygulanışına da bakın. Çünkü açıklama anlaşılamadığında yeni bir birim adı üretmekle talebi görevliye bırakmak farklı sonuçlar doğurur. Süreç sahibinin hangi davranışı kabul edeceği, adayların gösteriminden önce belli olmalıdır.
Yapay zeka kullanılan bir adımın çevresindeki basit kontrolleri korumak işe yarar. Talep sahibinin kimliği ve gerekli alanların dolu olup olmadığı kullanılan sistemden öğrenilebiliyorsa bunları modelden yeniden tahmin etmesini istemeye gerek yoktur. Böyle bir ayrım, hata çıktığında nereden kaynaklandığını araştırmayı da kolaylaştırır: Giriş kaydı mı eksikti, konu önerisi mi yanlıştı, yoksa yönlendirme kuralı mı güncel değildi? Tek bir sonuç ekranı bu farklı sorunları gizleyebilir.
Ajanın seçtiği yol gerçekten gerekli mi?
Diyelim ki satın alma açıklaması eldeki stokla karşılaştırılacak ve uygun kaynak bulunamazsa talep sahibinden bilgi istenecek. Adımlar her talepte değişiyorsa sonraki aracı çalışma sırasında seçen ajan yaklaşımını, adımların neden değiştiğini de araştırarak incelemeye alın. Dağınık belgeler veya tarif edilmemiş onaylar yüzünden karışan bir işte önce bu eksikleri gidermek gerekir, çünkü bunlar tamamlandıktan sonra sabit akışın yeterli olup olmadığı daha açık değerlendirilir.
Anthropic, ajan kurarken önce ihtiyacı karşılayan en basit çözümü değerlendirmeyi önerir. Seçim toplantınızda bunun karşılığı, ajanın hangi ek kararı vermesinin gerekli olduğunu açıklamaktır. Eğer cevap yalnızca metni okumaksa sabit akışın içindeki model adımı da adaydır, ama araç seçimini devretmeniz gerekiyorsa erişim sınırları ve durdurma düzeni ayrıca incelenir. Ajanın hedef ve yetki bileşenlerini anlatan rehber, bu kapsamı yazarken kullanılabilir.
Talebin giriş kontrolü kurallı kalırken dar bir araştırma görevini ajana vermek de mümkündür. Bu tasarımda ajanın hangi kaydı teslim alacağı, neyi geri vereceği ve sonucu kimin kesinleştireceği iş akışında yazılı olmalıdır. Teknik ekip ve süreç sahibi, ürün adının yanında bu teslim noktasını da gördüğünde denemenin kapsamını birlikte belirler.
Karşılaştırmayı aynı iş örnekleriyle bitirin
Karşılaştırmada bütün adaylara aynı iş örneklerini vermek için süreç sahibinin seçtiği olağan talebi ve eksik girdili veya sorumlusu belirsiz talebi her düzende deneyin. Bu karşılaştırma, bir seçeneğin yalnızca kolay örnek üzerinden başarılı gösterilmesini önler. Beklenen sonuçlar da deneme başlamadan yazılır. İşin nasıl tamamlandığını incelemek de seçim gerekçesini netleştirir. Hangi yaklaşımın nerede yardım istediği ve düzeltmenin hangi adımda yapıldığı, akıcı bir gösterimin ötesinde bilgi verir.
NIST AI RMF 1.0'a göre karşılaştırmada, insanların aynı işi yaparken elde ettiği temel ölçümler dikkate alınmalıdır. Siz de denemede yalnızca üretim süresine bakmayın; çıktıyı kontrol edip düzeltmek için gereken iş, toplam değerlendirmeye dahil olsun. İyi görünen öneriyi onaylamak için çalışan bütün kaynakları baştan okumak zorundaysa beklenen kolaylık henüz gösterilmemiştir ve bu gözlemi sayısal hedef uydurmadan, kullanılan görev ve kontrol koşuluyla birlikte kaydetmek mümkündür.
Bakım sorumluluğu da seçim kaydında yer bulmalıdır. Şirketin birim eşleşmeleri değiştiğinde kuralı kim güncelleyecek? Kaynak belge yenilendiğinde hangi örnekler yeniden denenecek? Süreç sahibiyle teknik ekibin yanıtları birlikte yazması, bakım görevlerini netleştirir. Süreç henüz tarif edilemiyorsa süreç haritalama modülünün kapsamı bu hazırlığa yöneliktir. Son karar notunda seçilen yaklaşımın hangi adım için tercih edildiği açıkça bulunsun.
Bir seçenekte çalışan yalnızca konu önerisini düzeltirken diğerinde yapılan işlemleri tek tek araştırıyorsa benzer son metinlerin gerektirdiği inceleme işi de farklıdır, bu yüzden aynı çıktı için oluşan farklı kontrol yüklerini karar kaydında açıklayın. Seçimin gerekçesine bu yükü de dahil edin.
Kaynaklar
- Anthropic, Building effective agents19 Aralık 2024
- NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0)26 Ocak 2023