Özet. Yazılım kalite faaliyetleri içerisinde hataların giderilmesi için gerçekleştirilen test faaliyetleri önemli bir yer tutmaktadır. Bazı test faaliyetleri neticesinde dahi hataların tespit edilemediği durumlar olabilir. Bu nedenle yazılım hatalarının ve kusurlarının tespit edilebilmesi için etkin yöntemlere ihtiyaç vardır. Koddaki hatalı olabilecek yerler kodun özellikleri incelenerek tespit edilebilirse hataların daha erken bulunması ve müdahale edilmesi mümkün olacaktır. Hata kestirim faaliyetleri de bu amaca hizmet ederek, yazılımdaki hataların otomatik bir şekilde ve erken safhada tespitini amaçlamaktadır. Devam eden araştırma çalışmasında, belli başlı hata kestirim yöntemleri incelenmiş ve hata kestirimi için etkin bir model geliştirilmesi amaçlanmıştır. Modelin oluşturulması için lojistik regresyon analizi tabanlı yöntemler üzerinde durulmuştur. Ortaya konulan modelin oluşturulmasında ve sınanmasında açık bir hata veritabanından faydalanılmıştır. Ayrıca model Provus - A Mastercard Company bünyesinde geliştirilen yazılımların kodları üzerine uygulanmış ve hata kestirimi konusunda belirli bir seviyede başarı elde edilebilmiştir. Anahtar Kelimeler: Yazılım kalite yönetimi, Yazılım Hataları, Hata kestirimi, Veri analizi, Lojistik regresyon analizi
Geliştirilen yazılımların bazı hatalar içermesi doğaldır. Önemli olan bu hataların tespit edilebilmesidir. Hataların tespitinde testler önemli bir yer tutmaktadır ancak her zaman bu yeterli olmamaktadır. Testte tespit edilemeyen hataların sonradan tespit edilmesi veya yazılımdaki hataların mümkün olduğunca erken tespit edebilmesi için etkin yöntemlere ihtiyaç vardır.
Yazılım hatalarının, yazılım geliştirme faaliyetlerinin erken safhalarında tespit
edilmesinin daha az masraflı olduğu bilinmektedir. Araştırmalar göstermiştir ki, bir
hatanın düzeltilmesi yazılımın teslimi sonrasına kalırsa, aynı hatanın yazılımın
geliştirme safhasında düzeltilmesine göre maliyet yüz kat daha artmaktadır [
Bu çalışmanın amacı, yazılımdaki hataların kodun özellikleri incelenerek tespit edilmesi ve hatalı sınıf/dosyaların otomatik bir şekilde ayırt edilebilmesidir. Bu amaçla kodların bazı metrikleri üzerinden lojistik regresyon analizi ile modülün hatalı olma ihtimali tespit edilecektir. 2
Yazılım mühendisliği alanında yapılmış çalışmalar incelendiğinde, sistemdeki yazılım
kusurlarının tespiti ve kestirimi üzerine birçok araştırma yapıldığı görülmektedir [
Hata kestirim faaliyetlerinin kod seviyesinde tespiti yönünde çok çeşitli
yaklaşımlar bulunmaktadır. Bu yaklaşımlar hem yöntem hem de başarım açısından farklılıklar
göstermektedirler [
Bu alanda yapılan çalışmalarda kullanılan farklı yaklaşımlar Marco D'Ambros ve
diğerleri tarafından beş ana gurupta toplanmıştır [
Kaynak Kod Metrikleri Çalışmamızda temel olarak kaynak kod metriklerini değerlendirilmesine yönelik bir yöntem kullanılmıştır. Kaynak kod metrikleri yöntemi, çeşitli yazılım metrik değerlerinin bir arada kullanılması ile bir model oluşturulması ve bu modelin yazılımdaki hatalarla bağlantısının bulunması esasına dayanır. Literatürdeki birçok çalışma CK (Chidamber & Kemerer) metriklerini kullanmaktadır. Buna ek olarak nesne tabanlı metrikler (Object-Oriented Programming - OOP), kaynak kod satır sayısı (Line of Code - LOC) gibi metrikler de kullanılmaktadır.
Ek olarak OOP metriklerinin CK metrikleri ile birleşimi de hata kestiriminde tercih
edilmektedir. CK metrikleri üzerinden hata kestirimi yapan Chidamber & Kemerer
modeli ve Gyimothy ve diğerlerinin LOC tabanlı hata kestirim yaklaşımı buna örnek
olarak verilebilir [
Süreç metrikli tabanlı yaklaşımda hatalara değişikliklerin sebep olduğu tezinden yola
çıkılır ve değişikliklerin sayısı, son zamanlardaki değişiklerin sıklığı, değişikliklerin
kaç farklı yazılımcı tarafından yapıldığı vb. değerler incelenir. Buradaki yaklaşımın
temel mantığı özellikle farklı kişiler tarafından, çok ve sık değişiklik yapılan kodlarda
hataların çok olduğu gerçeğidir. Bu yaklaşıma Moser ve diğerlerinin çalışmaları
örnek olarak verilebilir [
Önceki Kusurlar
Geçmişteki hatalardan yola çıkarak gelecekteki hataların tahmin edilebileceği
düşüncesinden yola çıkılmıştır. Zimmermann ve diğerleri çalışmalarında geçmişteki kod
kusurlarının bulunduğu yerlerin bir hata veritabanı oluşturularak belirlenmesinin
önemine değinmişlerdir [
Kompleks değişikliklerin basit değişikliklere kıyasla hataya daha açık olduğu tezine
dayanır. Hassan tarafından yapılan çalışma bu yaklaşıma örnek olarak verilebilir [
Veri Analizi Yöntemleri Yazılım hata kestiriminde kullanılan çeşitli yöntemlerden biri de veri analizidir. Çalışmamızda, veri analizi yöntemlerinden lojistik regresyon analizi üzerine odaklanılmıştır..
Lojistik regresyon analizinde temel amaç bir regresyon denklemi oluşturarak,
bireylerin hangi grubun üyesi olduğunu kestirmektir [
Regresyon analizi, aralarında sebep-sonuç ilişkisi bulunan iki veya daha fazla
değişken arasındaki ilişkiyi belirlemek ve ölçmek için kullanılır. Hayatın içindeki birçok
olayda sebep sonuç ilişkisine rastlamak mümkündür. Örneğin, yaş ile boy, şehir
nüfusu ile suç oranı, hayvana verilen yem miktarı ile alınan süt miktarı, çalışanın iş yükü
ile stres gibi çeşitli değişkenler arasında ilişki ortaya koymak mümkündür. [
Değişkenler arasındaki bu ilişkiyi kullanarak o konu ile ilgili tahminler ya da kestirimler yapabilmek amacıyla regresyon analizi kullanılır. 3.2
Doğrusal regresyon analizi ile Lojistik regresyon analizi değişkenlerin ölçüm biçimi
yönünden farklılık gösterir. Doğrusal regresyon analizinde bağımlı değişken ve
bağımsız değişkenler sayısal (kesikli ya da sürekli) olarak belirtilir. Örneğin, yaş ile kan
basıncı arasında bir ilişki aranacaksa; hem yaş, hem de kan basıncı sayısal olarak
belirtilmelidir. Lojik regresyonda ise bağımlı değişkenler nitelik ve kategorik
bakımdan nitel olarak değerlendirilirler. Cinsiyetin erkek ya da kadın olması buna örnek
verilebilir. Lojik regresyonda bağımsız değişkenler sayısal ya da nitel değerler
alabilirler [
Aşağıdaki örnekte 200 öğrenci, bir kurs bitiminde geçti/kaldı şeklinde
değerlendirilmiştir. Bu kursa girişte de bir ölçme sınavı uygulanmıştır [
Şekil 1. Öğrenci giriş sınavı ile kurs geçme arasındaki ilişki araştırması örneği [
Uygulamalı sosyal bilimlerde karşılaşılan ve araştırılan olaylara ilişkin elde edilen
verilerde, çoğunlukla bağımlı değişkenin iki mümkün değerinden birine sahip
olabileceği varsayılmaktadır. Örneğin bir kişi okuldan mezun olmuştur ya da olmamıştır, bir
işçi çalışıyordur ya da işsizdir, bir kişi bir gruba üyedir ya da değildir, bir hasta
tedaviye cevap verebilir ya da vermeyebilir. İki olası ve farklı değer içeren bu tür verilere
iki değerli veriler denilmektedir. İki değerli veya ikili değişkenler literatürde (0;1)
değişkenleri olarak da adlandırılmaktadır. İki değerli değişkenler ile çalışan bir
araştırmacının hedefi, bağımsız değişkenlerin koşullu bir kümesine bağımlı olarak, başarı
veya başarısızlık olasılığının kestirilmesidir [
Lojistik regresyon analizi, bağımlı değişkenin ölçüldüğü ölçek türüne ve bağımlı
değişkenin seçenek sayısına göre üçe ayrılmaktadır [
tel veri tipinde olduğunda kullanılır. Örneğin, hafif/orta/şiddetli, çok etkili/orta derecede, etkili/etkisiz vb. Çok Kategorili/Düzeyli (Multinominal) İsimsel Lojistik Regresyon Analizi: Bağımlı değişken ikiden çok düzeyli sıralı olmayan nitel veri tipinde olduğunda kullanılır. Örneğin, çalışıyor/çalışmıyor/emekli vb.
Lojistik regresyon, bağımsız değişkenin sayısına göre “tek değişkenli lojistik
regresyon” ve “çok değişkenli lojistik regresyon” olarak da sınıflandırılmaktadır. Lojistik
regresyon yönteminin hedefi, bağımlı değişkenin sonucunu tahmin edebilecek en sade
modeli bulmaktır. Lojistik regresyon analizi sonucunda elde edilen modelin uygun
olup olmadığı “model ki-kare” testiyle, her bir bağımsız değişkenin modelde
varlığının anlamlı olup olmadığı ise Wald istatistiği ile sınanır [
Lojistik regresyon ile ilgili bazı terimler bu bölümde verilmiştir:
x Odds: Başarı ya da görülme olasılığının (p), başarısızlık ya da görülmeme
olasılığına (1 - p) oranıdır.
x Bahis Oranı (Odds Ratio, OR): İki “odds”un birbirine oranıdır.
x Lojit: Bahis oranının doğal logaritmasıdır. Bahis oranı asimetriktir. Bu
değerin doğal logaritması alınarak simetrik hale dönüştürülür Lojit katsayıları
(lojit) doğrusal regresyon analizindeki “β” katsayısının karşılığıdır.
x En Çok Olabilirlik Yöntemi (Maksimum Likelihood Estimation):
Lojistik regresyonda model kestiriminde en küçük kareler (ordinary least square)
yöntemi yerine, en çok olabilirlik (maximum likelihood) yöntemi kullanılır.
Lojistik regresyonun istatistiksel modeli aşağıda verilmiştir. “β”katsayılarının
hesaplanması bölümün devamında anlatılmaktadır.
(1)
Buradan yola çıkarak p, yani bir kategoriye ait olma olasılığı aşağıdaki şekilde
bulunur:
Lojistik regresyon analizi uygulanırken bazı noktalara dikkat edilmelidir. Uygun tüm
bağımsız değişkenler modele dâhil edilmelidir. Bazı değişkenlerin modele dâhil
edilmemesi hata teriminin büyümesine ve modelin yetersizliğine neden olabilir. Uygun
olmayan tüm bağımsız değişkenler de dışlanmalıdır. Nedensel olarak uygun olmayan
değişkenlerin modele dâhil edilmesi; modeli karmaşık hale getirebilir, modelin
yorumlanmasını zorlaştırabilir, bu değişkenlerin bağımlı değişken üzerinde pay
sahibiymiş gibi yanlış izlenim vermesine neden olabilir [
Örnek olarak, yaşı 60 yaşından büyük olanları yaşlı, küçük olanları genç kabul ederek, hastalığa yakalanma ile yaşlılık arasındaki ilişkiyi Tablo 1’deki örnek veri setine göre inceleyebiliriz. Burada bağımlı değişken, hasta olup olmama, bağımsız değişken ise yaşlılık durumu olacaktır.
Tablo 1. Yaşlılığa göre hastalığa yakalanma verisi Yaşlılık (A) Genç (<60) Yaşlı (>60)
Hasta
Değil
Toplam 22 21 51 6 73 27 Bu veriden yola çıkarak aşağıdaki lojik regresyon hesaplamaları yapılabilir: Odds(genç)=22/51=0,431 y=ln(0,431) = -0,841 Odds(yasli)=21/6=3,5
y=ln(3,5)=1,253
Bahis Oranı =3,5/0,431=8,121
Buradaki bahis oranı değerinin anlamı şudur; yaşı 60’tan büyük olanların hasta olma oranları, yaşı küçük olanlara göre 8,121 kat daha fazladır.
Modeli yaşlı olma parametresine göre kurarak A: yaşlı olup olmama (1/0) değerini alır.
b0= ln(0,431) = -0,841 b1= ln(3,5)-ln(0,431) = 1,253 - (-0,841) =2,094 y = -0,841+2,094A Lojistik regresyon modeli bu durumda aşağıda gösterilmiştir:
p=exp(-0,841+2,094A) / ( 1 + exp(-0,841+2,094A) ) Örneğin A=1 yani yaşlı birisi, %77,8 oranında hasta olacaktır.
p=exp(-0,841+2,094 . 1) / ( 1 + exp(-0,841+2,094.1) )
Çalışmamızda Marco D'Ambros tarafından hazırlanmış hata kestirimi veritabanından
faydalanılmıştır [
Buradaki metriklerin tamamının kullanılmaması ve sadece belli metriklerin tercihi,
bu verilerin Provus firmasından elde edilebilen verilerle uyumlu olması amacıyla
yapılmıştır. Ayrıca elde edilen 30’a yakın metriğin tamamının bir model oluşturmada
kullanılması hem pratikte hem de modelin başarısı için mümkün değildir. Yapılan
araştırmalarda da 3 farklı metriğin hata kestirim modellerinde yeterli bir sayı olduğu
ortaya konmuştur [
Veritabanının seçilen örnek metrikleri içeren bir kesiti Tablo 2’de görülmektedir.
Tablo 2. Kullanılan veri setinden örnek bir kesit Dosya/Sınıf İsmi IndexBinaryFolder CachedIndexEntry ASTNode MemberTypeBinding CodeSnippetParser Location SingleMemberAnnotation NLSTag
FAN-IN
1
1
102
─ FAN-IN değeri mevcut sınıfa referans veren diğer sınıfların sayısını gösterir.
─ WMC (İng. Weighted Method Count) CK metriklerinden birisidir [
Lojistik Regresyon Uygulaması
Söz konusu hata kestirimi veritabanı R dili ve R-Studio aracı kullanılarak lojistik
regresyon analizine tabi tutulmuştur [
Bir kod dosyasında hata olup olmama durumunun diğer niteliklerle bağlantısı üzerine lojistik regresyon modeli oluşturulmuştur. Modelin katsayıları Tablo 3’te verilmiştir. Burada Z değeri, Wald z istatistik testi değeridir. Tahmin katsayı değerinin, standart hata değerine bölünmesiyle elde edilir. Karşılık gelen katsayıların istatistiksel olarak anlamlı olup olmadığını test etmek için kullanılır. Pr(>|z|) ise, Z değerine karşılık gelen olasılık değeridir. Değerin küçük olması istatistiğin anlamlı olduğunu gösterir. Son sütunda da değerin ne kadar anlamlı olduğu simgesel olarak gösterilmiştir.
Tablo 3. Lojistik Regresyon Modeli Hesaplama Sonuçları ve Katsayıları (Sabit Terimi) FAN-IN WMC NOA NOM
Buradan yola çıkarak, kod dosyasının hatalı kategorisine ait olma olasılığı aşağıdaki şekilde hesaplanabilir:
Tablo 3’te verilen katsayı tahmin değerleri için R dilindeki confint fonksiyonu ile hesaplanmış, % 95 güven aralığı değerleri Tablo 4’de gösterilmiştir.
Tablo 4. Lojistik Model Güven Aralıkları (Sabit Terimi) FAN-IN WMC NOA NOM
% 2,5 -2,365867297 0,001400130 0,004435944 0,017189900 0,005270617
% 97,5 -2,136243951 0,013165179 0,009051245 0,033108933 0,025742899
Burada katsayıların eksponansiyeli alınarak, bahis oranı (odds ratio, OR) değerleri de yorumlanmış ve Tablo 5’te gösterilmiştir.
Tablo 5. Lojistik Model Bahis Oranı Değerleri (Sabit Terimi) 0,105288
FAN-IN 1,007309
WMC 1,006766
NOA 1,025468
NOM 1,015628
Tablo 5'deki sonuçlara bakarak, diğer değişkenler sabit tutulmak üzere değişkenlerdeki değişimin ihtimaller üzerindeki etkisi hakkında aşağıdaki yorumlar yapılabilir: ─ FAN-IN değerindeki 1 birim artış, kabul ihtimalini %0,73 arttırır. ─ WMC değerindeki 1 birim artış, kabul ihtimalini %0,67 arttırır. ─ NOA değerindeki 1 birim artış, kabul ihtimalini %2,55 arttırır. ─ NOM değerindeki 1 birim artış, kabul ihtimalini %1,56 arttırır.
Lojistik regresyon denkleminin elde edilmesinden sonra, test için ayrılan verinin modele göre nasıl sonuç verdiği kıyaslanmıştır. Modelin %84 oranında başarılı olduğu görülmüştür. Test sonuçları Tablo 6’da verilmiştir.
Tablo 6. Lojistik Model Test Sonuçları Test Veri Sayısı Başarılı Başarısız Başarı Oranı 573 486 87 % 84,817
Modelin Kullanımı Çalışmamızda bir sonraki adım, modelin Provus bünyesinde geliştirilen yazılımların kodları üzerine uygulanmasıdır. Çalışmada kullanılan, hata veritabanı genelde popüler açık kaynak kodlu bazı projelerin kodlarından derlenmiştir. Bu veri seti üzerinden oluşturulan modelin, tamamen farklı bir kod ortamında sınanması ve başarısının görülmesi önemlidir. Bu nedenle Provus bünyesinde geliştirilen bir proje üzerinde uygulama gerçekleştirilmiştir. 6.1
Provus bünyesinde geliştirilmekte olan ATM yönetim sistemi yazılımı birçok farklı
modülden oluşan büyük ölçekli bir yazılımdır. Bu yazılım 7-24 ATM’lerle iletişim
halinde çalışan canlı bir sistemdir [
İncelenen sınıflar ve projede gerçekleştirdikleri işlevler aşağıda verilmiştir: ─ FileUtil: Projenin ortak kütüphanesinde bulunan bir sınıftır. Genel dosya okuma ve yazma işlemleri bu sınıftan yönetilir. ─ MailMessageHelper: Tüm modüller tarafından e-posta göndermek için ortak olarak kullanılır. ─ ProvusScheduledThreadPool: Paralel gerçekleştirilecek işlemlerin yönetilmesinde kullanılan, yoğun iş yüklerini yöneten temel sınıflardır. ─ ModuleInitializer: Modüllerin ilklendirme işlemlerini yöneten ortak sınıflardır.
Projenin ortak kütüphanesinde bulunur. ─ ConfigUtil: Projelerin kullandığı ayar dosyalarının okunması ve değerlerinin ortak bir hafıza alanında tutulmasını yöneten sınıftır. ─ EjournalParser: ATM’ler üzerinden alınan jurnal denilen log dosyalarının işlenmesini yöneten ana sınıftır. ─ DieboldEJournalDownloadAtmRunner: Diebold marka ATM’lerdeki jurnal denilen log dosyalarının ATM’den alınması işlemlerinin yönetildiği sınıftır. ─ PAYSFTPClient: Projelerdeki ATM’ye FTP ile bağlanma gibi temel işlemleri yürüten sınıftır. 6.2
Söz konusu Provus bünyesinde geliştirilen proje kodlarından modele uyumlu metrik
değerlerinin elde edilmesinde Eclispe IDE [
İlk Sonuçlar ve Bulgular Elde edilen örnek veri seti ve modele göre hesaplanan hata ihtimali oranı Tablo 7’de görülmektedir. İncelenen her bir dosya için Tablo 3’te verilen modele uygun metrik değerleri çıkartılmış ve modelin sonucunda tespit edilen hata ihtimali oranı ve gerçekte dosyada hata bulunup bulunmadığı bilgisi verilmiştir.
Tablo 7. Elde Edilen Modelin Provus Proje Kodlarına Uygulanması Dosya/Sınıf İsmi FileUtil MailMessageHelper ProvusScheduledThreadPool ModuleInitializer ConfigUtil EjournalParser DieboldEJournalDownloadAtmRunner PAYSFTPClient
Tablo 7’de verilen dosya/sınıflar için hata ihtimalleri incelendiğinde FileUtil ve EjournalParser sınıflarında diğerlerinden çok yüksek olarak %50 üzeri bir hata oranı tespit edilmiştir. Bu sınıflarda gerçekten de raporlanan hatalar mevcuttur. Bu iki sınıf dışında PAYSFTPClient sınıfında da raporlanmış bir hata olmasına rağmen, model tarafından hata ihtimali %25 gibi daha düşük bir değer olarak gösterilmiştir. Diğer sınıflar için modelin tespit ettiği düşük hata oranları, gerçek sonuçlarla uyumluluk göstermektedir. 7
Bildiride konu edilen araştırma çalışması devam etmektedir. Yapılan temel çalışmada kayda değer bir ilerleme kaydedilmiştir. Bununla birlikte daha farklı ve çeşitli metrikleri dikkate alan bir model kurmak amacıyla çalışmaların ilerletilmesi düşünülmektedir.
Yapılan çalışmalarda hem modelin oluşturulmasında, hem de test için eldeki veri setlerinin önemi kritiktir. Bunun için daha çeşitli projelerden kodların analiz edilerek bunların metrikleri değerlendirilmelidir. Ayrıca modelden edilen başarımın daha farklı yazılım hata kestirimi yöntemlerinin başarımlarıyla kıyaslanması faydalı olacaktır.
Yapılacak çalışmanın neticesinde kodun analizi ve hata kestiriminin otomatik hale getirilmesi için, çalışmada ortaya konacak nihai modelin bir yazılım veya araç haline getirilmesi düşünülebilir. Çalışmamız Provus – A Mastercard Company tarafından desteklenmiştir. Çalışmaya konu olan model, firma bünyesinde geliştirilen yazılımların kodları üzerine uygulanmıştır. 9
Kaynakça