Yapay zeka projelerinde veri kalitesi nasıl ölçülür?
Yayın: · yapayzeka.org.tr
Kısa yanıt
Veri kalitesi, verinin kullanılacağı iş için tanımlanan kurallara ne ölçüde uyduğuyla ölçülür. Doğruluk, tamlık, tutarlılık, güncellik ve benzersizlik ayrı ayrı izlenir. Her ölçümde incelenen kayıt grubu ve düzeltme sorumlusu da belirtilir.
Ölçüm kuralını kullanılacak işe bağlayın
Veri kalitesi, kullanılacak işin gerektirdiği kuralları tanımlayıp verinin bu kurallara uyumunu ölçerek değerlendirilir. Gereksinim işe göre değişir. Müşterinin teslimat adresi sevkiyat için gerekirken ürünlere yönelik genel talep eğilimini inceleyen bir çalışmada bu alan kullanılmıyorsa, adres eksikliğinin göreve etkisi de farklıdır. Şirketin bütün verisini tek puana indirmek bu farkı gizler, bu yüzden önce hangi kararın destekleneceğini yazmak gerekir.
ISO/IEC 25012, yapılandırılmış veriler için tanımladığı genel kalite modeliyle kalite gereksinimlerini ve ölçümlerini belirlemeye temel oluşturur. Birleşik Krallık'ın veri kalitesi çerçevesi ise DAMA UK boyutlarını açık tanımlarla anlatır. Buradaki ölçüm önerileri bu kavramlardan yararlanır. Bunları standarda uygunluk denetimi gibi sunmak yerine, ilk yapay zeka projesinin kullanacağı kayıtlarda hangi sorunun bulunduğunu ve bu sorunun görevi nasıl etkilediğini göstermek için kullanın.
Doğruluk için güvenilir kaynağa dönmek
Doğruluk, kaydın anlattığı gerçeği doğru temsil etmesidir. Alanın dolu olması yeterli kanıt değildir. Kanada'nın veri kalitesi rehberi, içeriği güvenilir kaynaklarla kontrol etmeyi ve alan uzmanlarıyla kavramları gözden geçirmeyi önerir. Şirket içi ölçümde kontrol edilecek alanı ve doğrulama kaynağını belirtin; aksi hâlde bir ekip ERP kaydını, başka bir ekip farklı bir tabloyu doğru kabul edebilir.
Diyelim ki ürün destek asistanı cihazın garanti kapsamını açıklayacak. Ürün kartındaki koşulu, ürün sorumlusunun onayladığı geçerli belgeyle karşılaştırın ve kontrol edilen kayıtlarda doğru bulunanların payını hesaplayın. Bu bir ölçüm önerisidir. Raporda payın hangi kayıtlara ait olduğu ve kayıtların nasıl seçildiği yazılmalı, çünkü örnek grupta bulunan sonuç incelenmeyen ürünlerin de doğru olduğunu söylemez. Kaynağı tartışmalı kayıtları kullanıma açmak için ürün sorumlusunun kararını beklemek gerekir.
Tamlıkta gerekli alanları ayırmak
Tamlık, beklenen kayıtların ve gerekli alanların bulunmasıdır. Önce gerekliliği tanımlamak gerekir. Örnek ürün asistanında model kodunun eksik olmasıyla kullanılmayan bir tanıtım alanının boş olması aynı sonucu doğurmaz; zorunlu alan listesini bu yüzden iş sahibi onaylar. GOV.UK çerçevesi de tam bir veri kümesinin yanlış değerler içerebileceğini açıklar. Bu yüzden boşluk kontrolüyle doğruluk kontrolünü ayrı kaydedin.
Tamlık ölçümünde, zorunlu alanı dolu kayıtların payını izleyin. Hesabın kapsamını açık tutun. Belirli bir ürün grubunda kullanılmayan alanı eksik sayarsanız hata listesine düzeltilmesi gerekmeyen kayıtlar da girer, bu yüzden boşluğun geçerli bir nedeni mi yoksa veri giriş hatası mı olduğu ayrıca gösterilmeli. Yapay zekanın boş alana tahmin yazması, kaynak eksikliğini gidermez.
Tutarlılıkta çelişen değerleri bulmak
Tutarlılık, aynı varlığı anlatan değerlerin birbiriyle çelişmemesidir. Önce kaynaklar arasında farklı adlarla tutulan alanların aynı anlama gelip gelmediğine bakın. Ürün kartındaki garanti başlangıcı satış tarihini, servis kaydındaki alan ise kurulum tarihini anlatıyorsa yalnız değerleri eşleştirmek yanlış bir kontrol olur. Ölçümden önce her alanın tanımını yazın; aynı kelimeyi kullanan ekiplerin aynı kavramı kastettiği doğrulansın.
Karşılaştırılabilir kayıtlar için tanımlanan kontrol, uyuşmayan değerleri hata listesine çıkarır. Diyelim ki aynı modelin ağırlığı farklı sistemlerde farklı görünüyor. Kilogramla gramın karıştığı bir durumda sayıları değiştirmeden önce birim eşlemesini incelemek gerekir, çünkü görülen farkın nedeni yanlış değer yerine farklı gösterimdir. Düzeltmenin hangi sistemde yapılacağına alan sahibi karar verir. ERP ve CRM entegrasyonu hazırlanırken bu anlam eşlemesi bağlantı çalışmasının da girdisi olur.
Güncellikte kabul edilen gecikmeyi tanımlamak
Güncellik için verinin hangi dönemi anlattığıyla ne zaman kullanıma açıldığı birlikte değerlendirilir. GOV.UK ve Kanada rehberleri, zaman gereksiniminin kullanım amacına bağlı olduğunu vurgular. Şirket içinde bir güncellemenin ne kadar gecikebileceğine iş sahibi karar verir. Müşteriyle paylaşılacak stok bilgisiyle dönem sonu eğilim analizinin ihtiyacı farklıysa, her alana aynı yenileme süresini vermek yerine bu işlerin gerektirdiği gecikme sınırlarını ayrı tanımlamak gerekir.
Ölçümde, tanımlanan yenileme sınırını aşan kayıtların payını gösterin. Yükleme tarihiyle geçerlilik tarihini ayırın. Örnek ürün asistanında eski garanti belgesini bugün yeniden yüklediğinizi düşünün; kontrol yalnız yükleme zamanına bakıyorsa eski koşullar güncel görünür ve kaynak belgenin geçerlilik bilgisi gözden kaçar. Bu bilgiyi de kayda eklemek, yenilenmesi gereken içeriği ayırmaya yardımcı olur. Bilgi tabanı hazırlığı yazısında sürüm sahipliği ayrıca ele alınıyor.
Benzersizlik ve tekrar kayıtlarının etkisi
Bu boyut, aynı varlığın gereksiz tekrarlarla temsil edilmemesini anlatır. İlk adım, tekrarı belirleyecek anahtarı seçmektir. Ürün adını tek başına kullanmak farklı modelleri birleştirebilir; ürün kodunun kullanıldığı yerde ise kod değiştirme geçmişinin nasıl ele alınacağı sorulmalı. GOV.UK çerçevesi tekillik boyutunu kayıt tekrarları üzerinden açıklar. Kurumun ölçümünde hangi kayıtların aynı varlık sayıldığı belirtilmezse sonuç sonradan karşılaştırılamaz.
Bulunan tekrar kümelerini inceleyip hangi kaydın korunacağını ürün sorumlusuyla kararlaştırın. Geçmiş bağlantıları da kontrol edin. Örneğin eski kodla verilen servis kayıtları yeni ürün kartına bağlanacaksa, birleştirmeden sonra destek asistanının bu işlemleri bulup bulmadığı denenmeli ve önceki eşleme düzeltme kaydında saklanmalı. Kaydı silme kararı verildiğinde hangi bilginin kaybolacağı, hangi bilginin başka kayıt üzerinden erişilebilir kalacağı bu denemede görünür olsun.
Ölçümden sonra düzeltmeyi kim üstlenir?
Ölçümü yapan ekiple düzeltmeyi onaylayan kişi için ayrı görevler tanımlayın. BT eksik alanları listelerken ürün sorumlusu doğru değerin hangi belgeye göre yazılacağını belirler. Kalite kaydında kuralın adı ve incelenen veri grubu yanında hata adediyle düzeltme sorumlusu bulunsun. Aynı kapsamda yeniden kontrol yapıldığında düzeltilen kayıtların durumu izlenir, ancak veri kümesinin kapsamı değişmişse karşılaştırmada bu farkın da belirtilmesi gerekir.
İlk çalışma için yapay zeka uygulamasının gerçekten kullandığı bir kayıt grubunu seçin. En çok kaydı etkileyen sorunları ve en pahalı yanlış cevaba yol açacak sorunları ayrı değerlendirin. Örnek ürün asistanında az sayıdaki yanlış garanti koşulu önce ele alınabilir; boş tanıtım alanları daha sonraya bırakılabilir. Ürün sorumlusu düzeltilen koşulları onayladıktan sonra çıktı değerlendirme setindeki ilgili soruları yeniden çalıştırıp cevabın geçerli kaynağa uyduğunu kontrol edin.
Kaynaklar
- ISO, ISO/IEC 25012:2008, Data quality modelAralık 2008
- GOV.UK, The Government Data Quality Framework3 Aralık 2020
- Kanada Hükümeti, Guidance on Data Quality10 Ocak 2024