Fine tuning nedir, hangi durumda RAG yerine seçilir?
Yayın: · yapayzeka.org.tr
Kısa yanıt
Fine tuning, Türkçesiyle ince ayar, önceden eğitilmiş bir modelin örnekler üzerinden ek eğitimle uyarlanmasıdır. Biçim ve üslup gibi davranış ihtiyaçlarında değerlendirilebilir; güncel şirket bilgisini kaynaklarıyla sunmak için RAG daha uygun bir başlangıç olabilir.
Kararı modelin yaptığı hatadan çıkarın
İnce ayar, hazır bir modelin eğitimini seçilmiş örneklerle sürdürerek davranışını belirli bir işe uyarlamaktır. Seçim yaparken önce hatanın türüne bakın. Model şirketin güncel bakım koşulunu bilmiyorsa bilgiye erişim sorunu vardır; doğru koşulu gördüğü hâlde sonucu uygulamanın beklediği biçimde veremiyorsa uyarlama ihtiyacı farklıdır. Aynı çözümü iki soruna birden uygulamaya çalışmak, hangi değişikliğin işe yaradığını görmeyi zorlaştırır.
Meta'nın Ağustos 2024 tarihli teknik yazısı, dış bilgi gereksinimiyle özel üslup ve davranış gereksinimini ayrı sorularla değerlendirir. İlk görüşmede bu ayrımı yapabilmek için ekibin beğenmediği cevapları toplayıp yanlarına beklenen davranışı yazmasını öneririz. 'Daha kurumsal olsun' gibi geniş bir istek yerine, hangi cümlenin neden düzeltilmesi gerektiğini görmek ince ayar kararını somutlaştırır.
Biçim ve üslup için örneklerin kalitesi
OpenAI'nin Ağustos 2023 tarihli ince ayar duyurusu, talimatlara uyumun yanında yanıt biçimi ve özel üslubu kullanım alanları arasında sayar. Buradaki biçim, örneğin bir uygulamanın beklediği alanlarla cevap verme ihtiyacıdır. Bir müşteri talebini önceden tanımlı kategorilerden birine atamak da dar görev örneği olarak değerlendirilebilir. Sağlayıcının geçmiş bir duyurusu, bütün modellerin aynı uyarlama seçeneklerini sunduğu şeklinde yorumlanmamalı.
Diyelim ki destek ekibi her talep için kategori ve kısa gerekçe istiyor ama örneklerin bir kısmında kategori adları değişiyor, bir kısmında gerekçe hiç bulunmuyor. Böyle bir örnek kümesiyle eğitim hedefi tutarsız kalır. Önce iş sahiplerinin beklenen cevap üzerinde anlaşması gerekir. İyi ve hatalı örnekleri karşılaştırmak, hangi ayrımın öğretileceğini tarif etmeyi kolaylaştırır. Modelin belirsizliği çözmesini beklemek yerine örneklerdeki belirsizliği gidermek gerekir.
Bizce bu noktada talimatı ve talimata eklenen örnekleri denemek makul ilk adımdır. Meta da ek eğitimden önce bağlam içinde örnek vermenin denenmesini önerir. Talimatla kabul edilen davranış elde ediliyorsa ince ayarın ek bakımını üstlenmek için somut bir gerekçe kalmayabilir. Denemelerde süren hataları kaydedin. Daha sonra uyarlama denendiğinde iyileşmeyi aynı görevler üzerinde ölçmek gerekir.
Güncel bilgi ve kaynak için RAG
Meta'nın karşılaştırmasında dinamik bilgi ve kaynak gösterme ihtiyacını karşılayan bir seçenek olarak tartışılan RAG, cevap hazırlanırken kaynakları arayıp modele sunduğu için değişen belge koleksiyonlarında değerlendirilebilir. Ürün koşulları değiştiğinde belgeyle arama dizinini yenileme işi doğar. RAG nedir? yazısında aramadan yanıt üretimine uzanan akış açıklanıyor. Çözüm seçerken bu akıştaki hangi adımın başarısız olduğunu görmek yararlı olur.
Örnek destek işinde kategori biçimi doğru olabilir, fakat asistan iptal koşulunu eski bir metinden alabilir. Bu durumda önce kaynak seçimini incelemenizi öneririz. Geçerli belge dizinde bulunuyor mu, arama o parçayı getiriyor mu, model cevabı kaynağın sınırları içinde tutuyor mu? İnce ayar denemesine geçmeden bu soruları ayırmak gerekir; eksik belgenin yerini davranış örnekleriyle doldurmaya çalışmak güncelleme sorumluluğunu da belirsiz bırakır.
Kaynak gösterme için kabul ölçütünü, kullanıcının cevabın dayandığı bölümü açabilmesini ve açıklamanın belgeyle çelişmemesini kontrol edecek kadar açık yazın. RAG ve ince ayar birlikte kullanılabilir. Örneğin bilgi aramayla getirilirken yanıtın üslubu için ek eğitim denenebilir. Bu birleşimi seçmeden önce, yalnızca arama ve iyi bir talimatla elde edilen sonuca göre ne kazandırdığını ayrı bir denemeyle ölçün.
Maliyet hesabında eğitim ve bakım işleri
İnce ayarın maliyeti, örnekleri hazırlama ve inceleme işiyle başlar. OpenAI'nin yukarıda anılan duyurusu maliyeti ilk eğitim ve modelin kullanımı olarak ayırır. Kurum içi hesapta başarısız denemeleri incelemek ve yeni sürümü değerlendirmek için ayrılan süre de yer alır. Eğitim verisinin hazırlanmasını mevcut ekibin boş zamanında yapacağı varsayımına bağlamayın; kabul edilen yanıtı tanımlayacak çalışanların bu işe ayıracağı süreyi de planlamak gerekir.
RAG tarafında belge aktarımı ve gömme üretimi yanında arama altyapısı işletilir. AWS'nin açıklaması bu bileşenleri tarif eder. Belge değişince ilgili kayıtların yenilenmesi de gerekir. Kapsam küçükken bile bu düzeni kimin sürdüreceğini sorun, çünkü teklifin yalnızca kurulumu anlatması bakım yükünü görünmez bırakabilir. Kurumsal bilgi tabanı hazırlığı yazısında, bu işte içerik sahipliğinin neden ayrıca düzenlenmesi gerektiği açıklanıyor.
İki yönteme aynı sorumluluk tablosuyla bakın. İnce ayarda hangi örneklerin değiştiğini onaylayacak kişiyle RAG'de hangi belgenin geçerli olduğunu onaylayacak kişi farklı olabilir. Teknik ekibin görevini de açık yazın. Bir yöntem için daha kısa talimat kullanılabilmesi tek başına toplam maliyet üstünlüğü göstermez; kullanım hacmiyle bakım işini aynı kapsamda değerlendirmek, kararın daha sonra yeniden ele alınmasını kolaylaştırır.
Denemeyi geçme koşulunu önce yazın
Karşılaştırmada aynı görevleri kullanın. Eğitimde kullanılmayan örnekler için iş sahibinin kabul edeceği yanıtı ve kabul etmeyeceği hatayı baştan belirlemesini öneririz, çünkü denemeden sonra yalnızca daha hoş görünen cevabı seçmek sonucu tartışmaya açık bırakır. Güncel bilgi isteyen görevle sabit biçim isteyen görevin başarısını ayrı kaydedin. Tedarikçiden bu ayrımı gösteren bir sonuç tablosu istemek, genel bir doğruluk iddiasından daha açıklayıcıdır.
İlk karar kaydında seçilen yaklaşımın nedenini ve yeniden değerlendirme koşulunu belirtin. Kaynaklar bulunamıyorsa bilgi tabanı işi, çıktı biçimi sürekli bozuluyorsa uyarlama denemesi açılabilir. Ekip, ilk iş olarak başarısız cevapların yanına hatanın yerini yazabilir. Bilgi eksikliğiyle davranış sorununu ayıran bu kayıt, sonraki bütçe görüşmesinde hangi işin satın alınacağını da somutlaştırır. Kabul edilmeyen hata sürüyorsa kapsamı daraltın ve ilgili görevi insan incelemesinde tutun.