<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Archiving and Interchange DTD v1.0 20120330//EN" "JATS-archivearticle1.dtd">
<article xmlns:xlink="http://www.w3.org/1999/xlink">
  <front>
    <journal-meta />
    <article-meta>
      <title-group>
        <article-title>Yazılım Kalite Maliyetleri Üzerine Bir Çalışma - Farklı Sektörlerden Proje İncelemeleri</article-title>
      </title-group>
      <contrib-group>
        <contrib contrib-type="author">
          <string-name>Murat Salmanoğlu</string-name>
          <xref ref-type="aff" rid="aff2">2</xref>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Banu Deniz Yanık</string-name>
          <email>deniz.yanik@tubitak.gov.tr</email>
          <xref ref-type="aff" rid="aff3">3</xref>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Feyza Nur Demir</string-name>
          <email>demirfeyzanur08@gmail.com</email>
          <email>demirors@metu.edu.tr</email>
          <xref ref-type="aff" rid="aff0">0</xref>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Zeynep Gürel</string-name>
          <email>gurellzeynep@gmail.com</email>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Onur Demirörs</string-name>
          <xref ref-type="aff" rid="aff2">2</xref>
        </contrib>
        <aff id="aff0">
          <label>0</label>
          <institution>Comodo Yazılım A.Ş.</institution>
          ,
          <addr-line>Ankara</addr-line>
          ,
          <country country="TR">Turkey</country>
        </aff>
        <aff id="aff1">
          <label>1</label>
          <institution>Comodo Yazılım A.Ş.</institution>
          ,
          <addr-line>Ankara</addr-line>
          ,
          <country country="TR">Turkey</country>
        </aff>
        <aff id="aff2">
          <label>2</label>
          <institution>Middle East Technical University</institution>
          ,
          <addr-line>Ankara</addr-line>
          ,
          <country country="TR">Turkey</country>
        </aff>
        <aff id="aff3">
          <label>3</label>
          <institution>TUBİTAK-BİLGEM-YTE</institution>
          ,
          <addr-line>Ankara</addr-line>
          ,
          <country country="TR">Turkey</country>
        </aff>
      </contrib-group>
      <fpage>146</fpage>
      <lpage>159</lpage>
      <abstract>
        <p>Graduate and PhD students of METU Informatics Institute have calculated cost of quality of real projects in their own organization as an assignment and analyzed their findings. This study examines the results of these analyses and this type of assignments on industry and on Professional viewpoints of the students who are also participants in the industry. Anahtar kelimeler: Kalite maliyeti, yazılım kalitesi, süreç iyileştirme</p>
      </abstract>
    </article-meta>
  </front>
  <body>
    <sec id="sec-1">
      <title>Giriş</title>
      <p>Kalite maliyetlerinin doğru olarak hesaplanabilmesi, ürün geliştirmesi yapan
kurumlarda, üretim ve kontrol ile ilgili olarak yürütülecek maliyet analizlerinin
sağlıklı olarak yapılabilmesini sağlayacaktır. Bununla birlikte kurumların süreçleriyle
ilgili iyileştirme noktalarının belirlenebilmesi için gerekli olan nitel girdilerin önemli
bir kısmı da kalite maliyetlerinin hesaplanmasıyla sağlanacaktır. Kalite maliyetlerinin
doğruluğu, kurumların kalite birimlerinin yanı sıra projelerde geliştirme ve yönetim
faaliyetlerinde aktif olarak görev alan tüm paydaşların bu konuda yeterli teorik ve
pratik bilgiye sahip olması ile doğru orantılıdır.</p>
      <p>Bu araştırma kapsamında, ODTU Enformatik Enstitüsü’nde verilen yazılım süreç
iyileştirme ve yazılım kalite yönetimi dersleri kapsamında kalite maliyetleri ile ilgili
teorik eğitim alan öğrencilerin kendi kurumlarında yaptıkları analizler ve bunların
sonuçları incelenmiştir.</p>
      <p>Araştırmanın iki temel noktada fayda sağlaması hedeflenmektedir. İlk faydası,
öğrencilerin teorik bilgileri gerçek ortamları ve verileri kullanarak ne kadar etkin
ölçebildiklerinin ve bu ölçümlerden ne kadar doğru çıkarımlar yapabildiklerinin
analiz edilmesidir. Yapılacak bu çıkarımlar daha sonraki dönemlerde verilecek
eğitimlerde girdi olarak kullanılarak, ilgili sektörlerde paydaş olarak görev alan ve
alacak olan öğrencilerin kalite maliyeti konusundaki bilinçlerinin arttırılması
sağlanacaktır. Bu çalışmanın ikinci faydası ise, ileride yapılacak olan akademik ve
pratik çalışmalar için Türkiye’de hali hazırda kolaylıkla ulaşılamayan sektör temelli
kalite maliyetleri ve bu maliyetlerin projenin temel maliyetleriyle kıyaslanmasına
yönelik temel seviyede verilerin sağlanacak olmasıdır.</p>
      <p>Çalışmanın ilerleyen kısımlarında öncelikle kalite maliyetleri ve kullanım
amaçlarıyla ilgili temel bilgiler verilmiş ve daha önce kalite maliyetleri konusunda
yapılmış olan çalışmalar özetlenmiştir. Analiz başlığında, toplanan verilerle ilgili
yapılan analizler ve ulaşılan sonuçlar, sonuç bölümünde ise çalışmanın sonucunda
ulaşılan çıktılar açıklanmıştır.
2</p>
    </sec>
    <sec id="sec-2">
      <title>Kalite Maliyeti ve Kullanım Amaçları</title>
      <p>
        Kalite maliyeti, ismi dolayısıyla ürünü kaliteli bir biçimde ortaya çıkarmanın maliyeti
gibi görünse de; aslında ürünü kaliteli bir biçimde üretmemekten ortaya çıkan
maliyettir [
        <xref ref-type="bibr" rid="ref1">1</xref>
        ]. Bu yüzden maliyeti düşürmek için iş ilk yapıldığı anda doğru şekilde
yapılmalıdır [
        <xref ref-type="bibr" rid="ref2">2</xref>
        ]. Kalite maliyeti ölçümü, bazı görüşlere göre gereksiz ve pahalı bir
aktivite olarak görünse de; süreçlerin performansını iyileştirmek açısından büyük
önem taşır [
        <xref ref-type="bibr" rid="ref3">3</xref>
        ].
      </p>
      <p>
        Crosby’nin verdiği bir örneğe göre, 1967 ve 1977 yılları arasında Bilişim
Sistemlerinde kalite maliyeti yüzde 5 oranında düşürülmüştür. Bu kazanç 1968’de
30$ milyon, 1971’de 157$ milyon, 1973’de 328$ milyon ve 1976’da 530$ milyon
olarak gözlemlenmiş ve bu rakamlar “hata önleme” çalışmaları ile elde edilmiştir [
        <xref ref-type="bibr" rid="ref2">2</xref>
        ].
      </p>
      <p>
        Kaliteli yazılım ürünleri geliştirmek ile ilişkili maliyetler üç kategoride
incelenmiştir [
        <xref ref-type="bibr" rid="ref1">1</xref>
        ]:
1. Uyumsuzluk Maliyetleri
─ Dış Başarısızlık Maliyetleri; süreç iyileştirme planı çerçevesinde ele alınan her
türlü önleme ve değerlendirme faaliyetlerine rağmen, ürün müşteriye teslim
edildikten sonra ortaya çıkan başarısızlıkların toplam maliyetleridir.
─ İç Başarısızlık Maliyetleri; süreç iyileştirme planı çerçevesinde ele alınan her
türlü önleme ve değerlendirme faaliyetlerine rağmen, ürün müşteriye teslim
edilmeden önce ortaya çıkan başarısızlıkların toplam maliyetleridir.
2. Ölçme ve Değerlendirme Maliyetleri; girdi, yan ürün ve nihai ürün hatalarını
belirlemeye yönelik ve hizmetlerin istenilen ölçülere, prosedürlere uygunluğunu
denetleyen faaliyetlerin maliyetleridir.
3. Önleme Maliyetleri; hataları oluşmadan önlemeye yönelik tüm paydaşların
görevlerini ilk seferde doğru yapmalarının sağlanması için gerekli sistem, makine
ve kişilerin maliyetidir.
2.1
      </p>
    </sec>
    <sec id="sec-3">
      <title>Kalite Maliyeti Hesaplama Örneği [1]:</title>
      <p>Tablo 1’de verilen örnek projede harcanan işgüçleri saat cinsinden ele alınmıştır.
Kalite maliyeti saat bazında ve kategorilerine ayrılarak incelenmiştir.</p>
      <p>Tablo 1 - Örnek bir projede kalite maliyeti hesabı</p>
      <sec id="sec-3-1">
        <title>Harcanan zaman (Saat)</title>
      </sec>
      <sec id="sec-3-2">
        <title>Kalite</title>
      </sec>
      <sec id="sec-3-3">
        <title>Maliyeti Parçası mı?</title>
        <p>Evet
10
25
5
6
6
2
20
10
5
18
Hayır</p>
        <sec id="sec-3-3-1">
          <title>Evet</title>
        </sec>
        <sec id="sec-3-3-2">
          <title>Evet</title>
          <p>Hayır</p>
        </sec>
        <sec id="sec-3-3-3">
          <title>Evet</title>
        </sec>
        <sec id="sec-3-3-4">
          <title>Evet</title>
        </sec>
        <sec id="sec-3-3-5">
          <title>Evet</title>
        </sec>
        <sec id="sec-3-3-6">
          <title>Evet</title>
          <p>Hayır</p>
        </sec>
      </sec>
      <sec id="sec-3-4">
        <title>Proje Aktivitesi</title>
        <sec id="sec-3-4-1">
          <title>Eğitim</title>
          <p>Gereksinimlerin
Toplanması
Gereksinimlerin
Gözden Geçirilmesi
Gereksinimler
Üzerinde Yeniden
Çalışma
Kodlama
Kodların Gözden
Geçirilmesi
Kod Üzerinde
Yeniden Çalışma
Test Aktiviteleri
Test Üzerinde
Yeniden Çalışma</p>
          <p>Devreye Alma
Bu analiz doğrultusunda Kalite Maliyeti hesaplaması şu şekilde gerçekleşir:
 Önleme Maliyeti = 10 saat
 Ölçme ve Değerlendirme Maliyeti = 5 + 6 + 10 = 21 saat
 Uyumsuzluk Maliyeti = 6 + 2 + 5 = 13 saat
 Kalite Maliyeti = Önleme Maliyeti + Ölçme ve Değerlendirme Maliyeti +
Uyumsuzluk Maliyeti = 44 saat</p>
        </sec>
      </sec>
      <sec id="sec-3-5">
        <title>Kalite Maliyeti</title>
      </sec>
      <sec id="sec-3-6">
        <title>Bileşenleri</title>
        <p>Önleme Maliyeti</p>
        <sec id="sec-3-6-1">
          <title>Uygulanabilir Değil Ölçme ve Değerlendirme Maliyeti</title>
        </sec>
        <sec id="sec-3-6-2">
          <title>Başarısızlık Maliyeti</title>
        </sec>
        <sec id="sec-3-6-3">
          <title>Uygulanabilir Değil Ölçme ve Değerlendirme Maliyeti</title>
        </sec>
        <sec id="sec-3-6-4">
          <title>Başarısızlık Maliyeti Ölçme ve Değerlendirme Maliyeti</title>
        </sec>
        <sec id="sec-3-6-5">
          <title>Başarısızlık Maliyeti</title>
        </sec>
        <sec id="sec-3-6-6">
          <title>Uygulanabilir Değil</title>
        </sec>
      </sec>
    </sec>
    <sec id="sec-4">
      <title>Kalite Maliyeti ile İlgili Çalışmalar</title>
      <p>
        Yazılım kalite maliyetlerinin ölçülmesi, izlenmesi ve etkin bir şekilde yönetilmesini
kapsayan çalışmalar [
        <xref ref-type="bibr" rid="ref4">4</xref>
        ] son 50 yıl içerisinde hatırı sayılır sayıda artmıştır. Bu
çalışmalar teorik modellerden, hesaplama yaklaşımlarına ve yazılım yaşam
döngüsüne göre oluşabilecek farklılıklardan; metriklerin hesaplanma yöntemlerine ve
bu metriklerin süreç iyileştirmeye olan etkisine kadar birçok şekilde [
        <xref ref-type="bibr" rid="ref5">5</xref>
        ]
yapılmaktadır. Her ne kadar çalışmaların sayısı ve çeşitliliği hızlı bir şekilde artıyor
olsa da; endüstri verilerinin kıyaslama ve dayanak noktası oluşturmak adına
kullanıldığı ve yayımlandığı çalışmaların sayısı yeterli değildir. Oysa ki endüstride
kalite ve kalite maliyetlerinin etkin kurgulanması konularının her zaman biraz daha
bulanık olduğu, takvim ve maliyet sıkışıklıklarında arka planda kalan konular olma
olasılığının yüksek olduğu [
        <xref ref-type="bibr" rid="ref6">6</xref>
        ] bilinen bir zafiyettir.
      </p>
      <p>
        Bu konuda yapılan çalışmaların sayısı çok olmasa da; alanında başarılı olarak
kurgulanmış ve ilgili alanda kendinden sonraki çalışmalara referans olacak nitelikte
çalışmalar [
        <xref ref-type="bibr" rid="ref7">7</xref>
        ] da varlık bulmaktadır. Makalenin bu kısmında bu çalışmaların
bazılarına yer verilecektir.
      </p>
      <p>
        Reifer [
        <xref ref-type="bibr" rid="ref8">8</xref>
        ] yaptığı çalışmasında endüstride başarılı bir şekilde tanımlanmış ve
birden çok veri tabanında kayıtlı 1800 projeden seçtiği 600 projeye ait analizlerine yer
vermiştir. Çalışmasında yazılım yaşam döngüsünün fazlarına göre, proje büyüklüğü
ve üretkenliklerine göre çalışma alanı bazında projelerin dağılımlarına yer vermiştir.
Bu noktada çarpıcı olan analizlerden biri, kalite maliyetlerini direk etkileyecek olan
Hata Yoğunluğu [
        <xref ref-type="bibr" rid="ref8">8</xref>
        ] (bin kod satırdaki hata sayısı) ölçümünün çalışma alanlarına göre
dağılımıdır. Bu çalışma sayesinde çalışma alanına özgü olarak, projelerin doğası
gereği sahip olacağı hata sayısı ve kalite gereksinimlerine dair bir fikir elde etmek
mümkündür. Örneğin, Savunma ve Uzay çalışma alanlarında gerçekleştirilen
projelerin hata yoğunluğunun diğer alanlara göre 16 kat daha önemli olduğu Şekil
1’de gözlemlenebilmektedir.
      </p>
      <p>Hata Yoğunluğunun Alana Göre Dağılımı
8
0,4</p>
      <p>
        6
Şekil 1 - Hata yoğunluğunun alana göre dağılımı [
        <xref ref-type="bibr" rid="ref8">8</xref>
        ]
7,33
      </p>
      <sec id="sec-4-1">
        <title>Bilişim Teknolojileri</title>
      </sec>
      <sec id="sec-4-2">
        <title>Savunma</title>
      </sec>
      <sec id="sec-4-3">
        <title>Telekom</title>
      </sec>
      <sec id="sec-4-4">
        <title>Uzay Kamu (Web / Otomasyon)</title>
        <p>%35
%30
%25
%20
%15
%10
%5
%0
%22,66</p>
        <p>Bilişim</p>
        <p>
          Teknolojileri
Tan’ın [
          <xref ref-type="bibr" rid="ref9">9</xref>
          ] yaptığı çalışmada ise, 530 farklı çalışma alanından seçilmiş projelerinin
işgücü dağılımları incelenmiştir. Bu kapsamda entegrasyon ve kalifikasyon testlerine
ait verilerin dağılımının, alana özgü olarak dağılımlarını incelemek mümkündür. Bu
çalışma sayesinde alanlara özgü yapılan test faaliyetleri hakkında fikir sahibi
olunabilir. Şekil 2 incelendiğinde ise veriler üzerinde Uzay alanına ait son
entegrasyon ve kalifikasyon testlerine ayrılan eforun, diğer alanlarda ayrılan eforun
yarısı kadar olduğu gözlemlenmektedir.
        </p>
        <p>Uyumsuzluk Maliyetlerinin Alana Göre Dağılımı
%32,32</p>
        <p>%31,51
%25,62
Savunma</p>
        <p>Telekom</p>
        <p>
          Kamu (Web /
Otomasyon)
%16,30
Uzay
Şekil 2 - Uyumsuzluk maliyetlerinin alana göre dağılımı [
          <xref ref-type="bibr" rid="ref9">9</xref>
          ]
Bu kapsamda ISBSG Rev.9 [
          <xref ref-type="bibr" rid="ref10">10</xref>
          ] ile analiz edilip filtrelenen 740 proje incelenmiştir.
Seçilen projelere ait test faaliyetleri özelinde ayrılan işgücünün toplam işgücüne
oranları hesaplanmış ve Şekil 3’te özetlenmiştir. Bu çalışmada da, bir önceki
çalışmada olduğu gibi alanlara özgü yapılan test faaliyetleri hakkında fikir sahibi
olunabilir. Verilere bakıldığında Enerji sektörüne ait ilk kez işgücü verisinin varlığı
gözlemlenmiştir ve Şekil 3 incelendiğinde ise, veriler üzerinde Savunma alanına ait
son test faaliyetlerinin, diğer alanlarda ayrılan işgücünün yaklaşık yarısı kadar olduğu
gözlemlenmektedir.
        </p>
        <p>ISBSG Uyumsuzluk Maliyet Oranları
%22,77
%11,05
%16,75</p>
        <p>
          %14,13
%21,67
Yapılan literatür taraması sonucunda, Türkiye’de yazılım projelerinde kalite
maliyetini araştıran az sayıda çalışmaya rastlanmıştır. Türkiye’de yapılmış yazılım
süreci iyileştirme faaliyetlerinde yazılım kalite maliyetini inceleyen çalışmalar
[
          <xref ref-type="bibr" rid="ref11">11</xref>
          ][
          <xref ref-type="bibr" rid="ref12">12</xref>
          ][
          <xref ref-type="bibr" rid="ref13">13</xref>
          ] bu kapsamda açıklanacaktır. Bunlardan ikisi özel sektörde, [
          <xref ref-type="bibr" rid="ref11">11</xref>
          ][
          <xref ref-type="bibr" rid="ref12">12</xref>
          ]
diğeri ise kamu projesinde uygulanmış bir vaka incelenmesidir [
          <xref ref-type="bibr" rid="ref13">13</xref>
          ]. Her üç çalışmada
da kalite maliyetleri Knox’un modeli referans alınarak hesaplanmıştır [
          <xref ref-type="bibr" rid="ref14">14</xref>
          ]. Knox
yazılım kalite maliyeti kapsamındaki sınırlı veri havuzu nedeni ile üretim sektöründe
gelişmekte olan kalite maliyet modelini kullanmış̧ ve Software Engineering Institute
(SEI)’a ait Geliştirme için Yetenek Olgunluk Modeli Entegrasyonu (CMMI-DEV)
sürüm 1,2’yi [
          <xref ref-type="bibr" rid="ref15">15</xref>
          ] kalite maliyet modeline adapte ederek teorik bir Yazılım Kalite
Maliyet Modeli oluşturmuştur [
          <xref ref-type="bibr" rid="ref12">12</xref>
          ] [
          <xref ref-type="bibr" rid="ref14">14</xref>
          ]. Ülkemizde yapılan vaka incelemelerinde
toplam kalite maliyetlerinin toplam proje maliyetine oranı incelenmiştir. Toplam
yazılım kalite maliyeti; uyum ve uyumsuzluk maliyetlerinin toplamı olarak iki grupta
değerlendirilmiştir. Kaliteyi sağlama maliyetleri önleme ve değerlendirme maliyetleri
toplamından oluşurken, kalitesizlik maliyeti iç ve dış hata maliyetleri toplamından
oluşmaktadır [
          <xref ref-type="bibr" rid="ref2">2</xref>
          ][
          <xref ref-type="bibr" rid="ref16">16</xref>
          ].
        </p>
        <p>
          Yapılan araştırmaların sonuçları incelendiğinde, Kaynak ve Canberi tarafından
özel sektörde yapılan çalışmanın ilk uygulamasında toplam kalite maliyeti, toplam
proje maliyetinin %35’ine ulaşırken; dış hatalardan kaynaklanan maliyet toplam proje
maliyetinin %17’sine ulaşmıştır. İkinci uygulamada ise kalitenin sağlanmasına
yönelik harcanan işgücü toplamının toplam proje maliyetinin %17’sine ulaştığı
belirtilmiştir [
          <xref ref-type="bibr" rid="ref12">12</xref>
          ]. Özel sektörde yürütülen bir diğer çalışma ise Aksu ve Karagöz
tarafından gerçekleştirilmiştir. Bu çalışmada kalite maliyeti hesaplaması yapılırken,
Knox modelinin yanı sıra Hagan’ın tanımlamış olduğu ölçümler [
          <xref ref-type="bibr" rid="ref17">17</xref>
          ] de
kullanılmıştır. Sonuç kısmında toplam yazılım kalite maliyeti 87,817 (adam-ay)
olarak hesaplanmış ve bu toplamın %43’ünü uyum maliyetleri oluştururken, %57’sini
uyumsuzluk maliyetlerinin oluşturduğu belirtilmiştir. Toplam yazılım kalite maliyeti
oranı, toplam yazılım kalite maliyeti oranının proje işgücüne oranı olarak hesaplanmış
ve bunun %59,61 olduğu belirtilmiştir. Son olarak bir kamu kurumunda yürütülen iki
yazılım projesinde Demirörs, Yıldız, ve Güceğlioğlu tarafından bir çalışma
yürütülmüş ve dış hatalardan kaynaklanan kalite maliyeti incelenmiştir [
          <xref ref-type="bibr" rid="ref13">13</xref>
          ]. Sonuç
kısmında, dış hatalardan kaynaklanan kalite maliyetinin toplam proje geliştirme
işgücüne oranı incelenmiş ve bu oranın ilk proje için %6,29, ikinci proje için %21,27
olduğu ifade edilmiştir.
4
        </p>
      </sec>
    </sec>
    <sec id="sec-5">
      <title>Analiz</title>
      <p>Kalite maliyetiyle ilgili yürütülen çalışmanın verilerinin toplanabilmesi için Orta
Doğu Teknik Üniversitesi Enformatik Enstitüsü öğrencileri ile çalışılmıştır. Yazılım
yönetimi bölümünde verilen Yazılım Süreç İyileştirme dersi ile Bilişim Sistemleri
bölümünde verilen Yazılım Kalite Yönetimi dersini alan öğrencilerinden çalıştıkları
kurumlarda yürütülen bir projeyle ilgili kalite maliyeti verilerini toplamaları
istenmiştir. Hepsi yüksek lisans ya da doktora yapan ve yazılım geliştirme çalışmaları
yürütülen kurumlarda çalışan öğrenciler 2 ya da 3 kişilik gruplar halinde çalışmış,
farklı kuruluşlarda görev alan öğrencilerden oluşan gruplarda öğrencilerden birisinin
kuruluşuna ait bir proje ele alınmıştır.</p>
      <p>Öğrencilerden istenen kalite maliyeti bilgileri içerisinde aşağıdaki bilgiler
bulunaktadır:
 Çalıştıkları kuruluşlarla ilgili bilgiler</p>
      <p>─ Sektör, büyüklük, iş alanı
 Verilerini topladıkları proje ile ilgili bilgiler
─ Sektör, tür, kısa özet, fonksiyonel büyüklük, süre, proje bitişinden bugüne geçen
süre, bütçe, ekip büyüklüğü, geliştirme yaşam döngüsü
 Kalite maliyeti hesaplamasıyla ilgili bilgiler
─ Varsayımlar, kısıtlar, olası iyileştirme önerileri, bulgularla ilgili yorumlar,
karşılaşılan zorluklar, katma değerli görevler, önleme maliyetleri, değerlendirme
maliyetleri, iç hata maliyetleri, dış hata maliyetleri
Dersi alan gruplardan 8 tanesi istenen bilgileri ulaştırmıştır. Bu çalışmada da teslim
edilen 8 projenin verileri üzerinden analizler gerçekleştirilmiş ve sonuçları
özetlenmiştir. Farklı gruplardan gelen bilgiler içerisinde verilerin çözünürlüğü ve
birimleri arasında farklılıklar olabilmektedir, böyle durumlarda bazı varsayımlar
kullanılarak verilerin eşleştirilmesi sağlanmıştır. Makalenin ilgili kısımlarında hangi
sorularda bu şekilde zorluklarla karşılaşıldığı ve bulunan çözüm yöntemleri
açıklanmıştır.</p>
      <p>Toplanan projelerin ait olduğu kuruluşlarla ilgili özet bilgi Tablo 2’de, projelerle
ilgili özet bilgiler de Tablo 3’de verilmiştir. Farklı büyüklüklerdeki kamu, uzay,
telekomünikasyon, enerji, bilgi teknolojileri ve savunma sektörlerinde faaliyet
gösteren 8 farklı kuruluştan 8 farklı proje bilgisi toplanmıştır. Çalışma sırasında
projelerle ilgili analizlerde proje büyüklüklerini nesnel olarak kıyaslayabilmek için
projelerin fonksiyonel büyüklüğünün kullanılması düşünülmüş ancak projelerin
çoğunluğundan bu bilgi alınamamıştır. Büyüklük için kullanılabilecek bir diğer ölçü</p>
      <sec id="sec-5-1">
        <title>Grup Tür</title>
        <p>1
2
3
4
5
6
7
8</p>
        <p>Ağ temelli
uygulama
Uydu
Gerçek zamanlı
Veri göçü ve
uygulaması
Test
Gerçek zamanlı
Konfigürasyon
yönetimi</p>
        <p>Gerçek zamanlı
olarak proje bütçesi düşünülmüş, ancak üç proje için toplam proje bütçesi
hesaplanamadığından projeleri birbirleriyle kıyaslarken tüm projeler için de elimizde
veri olarak bulunan proje süresi kullanılmıştır. Harcanan işgücünü doğrudan
yansıtmadığı için proje süresinin karşılaştırma amaçlı kullanılması bu araştırmanın
iyileştirilmesi gereken noktalarından birisidir, tamamlanmadıkları için toplam bütçe
bilgilerine ulaşılamayan projeler tamamlandıklarında, araştırma elde edilen yeni
veriler ışığında güncellenebilir.</p>
        <p>Tablo 2 - Verilerin toplandığı kurumlara ait özet bilgi</p>
      </sec>
      <sec id="sec-5-2">
        <title>Grup</title>
      </sec>
      <sec id="sec-5-3">
        <title>Sektör</title>
        <p>Çalışan Sayısı</p>
      </sec>
      <sec id="sec-5-4">
        <title>Ana İş Alanı</title>
        <p>Kamu
Uzay</p>
        <sec id="sec-5-4-1">
          <title>Enerji BT Telekomünikasyon</title>
        </sec>
        <sec id="sec-5-4-2">
          <title>Savunma</title>
          <p>Telekomünikasyon
BT
200
250
100
300
70
500</p>
          <p>Yazılım</p>
        </sec>
        <sec id="sec-5-4-3">
          <title>Donanım</title>
          <p>Yazılım
Yazılım</p>
        </sec>
        <sec id="sec-5-4-4">
          <title>Telekomünikasyon altyapısı</title>
        </sec>
        <sec id="sec-5-4-5">
          <title>Enerji perakende satışı 18.000</title>
        </sec>
        <sec id="sec-5-4-6">
          <title>Telekomünikasyon altyapısı 170</title>
        </sec>
        <sec id="sec-5-4-7">
          <title>Online güvenlik</title>
        </sec>
        <sec id="sec-5-4-8">
          <title>Tablo 3 - Projelerle ilgili bilgiler</title>
        </sec>
      </sec>
      <sec id="sec-5-5">
        <title>Proje</title>
        <p>
          süresi (Ay)
15
182
4
95
7
12
15
28
Çevik
Çağlayan
Çevik
Çağlayan
Çağlayan
Çağlayan
Çağlayan
Çevik
Tablo 4’de projelere ait kalite maliyeti verileri görülebilir. Bu tabloda verilen
maliyetler hesaplanırken Türk Lirası olarak iletilen veriler olduğu gibi kullanılmış,
kişi-gün ya da kişi-ay olarak iletilen veriler ise Türk Lirası’na çevrilmiştir. Çevirme
işleminde; 1 kişi-ay 20 kişi gün, 1 kişi-gün ise 8 kişi-saat olarak alınmış, bulunan
değerler Türkiye’deki yazılım mühendisi maaşlarının ortalaması olan aylık 3682 USD
[
          <xref ref-type="bibr" rid="ref18">18</xref>
          ] ile çarpılmıştır. Elde edilen değerler 2,5 TL/USD ile çarpılmış ve TL değerler
olarak eklenmiştir.
        </p>
        <p>Farklı kurumlara ait farklı büyüklükteki projelere ait kalite maliyeti verileri ile
ilgili yorum yapabilmek için Tablo 5’de bulunan oransal dağılımları kullanmak daha
anlaşılır olacaktır. Tablo 5’de ayrıca Tablo 4’den farklı olarak kalite maliyeti
kalemleri uyum ve uyumsuzluk maliyetleri olarak ikiye ayrılmıştır, bu dağılım Tablo
6’da ayrıca sadeleştirilerek verilmiştir. Uyum maliyetleri yazılımda oluşabilecek
hataların oluşmadan önce tespit edilmesini ve böylece oluşabilecek daha yüksek
maliyetleri azaltmayı hedefleyen çalışmaları içerir, önleme ve değerlendirme
maliyetleri uyum maliyetlerini oluşturur. Uyumsuzluk maliyetleri ise uyum
maliyetleri kapsamına giren çalışmalarla tespit edilememiş ve daha sonra iç veya dış
hata olarak karşılaşılmış hataları düzeltme maliyetlerini içerir. Teorik olarak uyum
maliyetleri kapsamındaki aktivitelere harcanacak işgücü ve maliyet hataları
oluşmadan önleyeceği için hata maliyetlerini azaltacaktır. Aynı hatanın yazılım
geliştirme çalışmalarının ilk aşamalarında tespit edilerek ortadan kaldırılması,
ilerleyen aşamalarda ortadan kaldırılmasına göre çok daha düşük maliyet yaratacağı
da bilinmektedir.</p>
      </sec>
      <sec id="sec-5-6">
        <title>Proje</title>
      </sec>
      <sec id="sec-5-7">
        <title>Gr. süresi (Ay)</title>
        <sec id="sec-5-7-1">
          <title>Tablo 4 - Proje kalite maliyetleri</title>
          <p>11,12
78,76
87,84
23,49
0,00
41,43
0,00
9,52
6,30
Grup</p>
          <p>Uyum
maliyetleri
(%)
39,43
10,25
88,88
58,57
21,24
2,63
70,22
66,67
25,72
15,46
60,57
11,12
41,43
78,76
97,37
29,78
33,33
74,28
57,53
16,75
Tablo 6 - Uyum ve uyumsuzluk maliyetlerinin dağılımı</p>
        </sec>
      </sec>
      <sec id="sec-5-8">
        <title>Uyumsuzluk maliyetleri (%) Toplam kalite maliyeti (%)</title>
        <p>100,00</p>
      </sec>
      <sec id="sec-5-9">
        <title>Toplam Kalite Maliyetinin</title>
      </sec>
      <sec id="sec-5-10">
        <title>Toplam Proje Bütçesine Oranı (%)</title>
        <p>52,38
39,98
189,06
30,41
72,46
Uyum ve uyumsuzluk maliyetlerinin oranları incelendiğinde, yaklaşık %60-%40
oranlarında ayrılan 1. ve 3. grup haricinde oranların birbirine yaklaşmadığı
gözlenmektedir. Uyum maliyetlerine dahil olan aktivitelere yeterince önem veren
organizasyonlarda uyumsuzluk maliyetlerinin düşürülebileceği çıkarımı bu verilerle
desteklenmektedir.</p>
        <p>Şekil 4 ve Şekil 5’de dağılımlar grafiksel olarak da incelenebilir. Veriler içerisinde
iki uç örnek olarak göze çarpan 2. ve 5. projelerin detaylarına baktığımızda; 2. proje
toplam bütçesi 84.961 TL’ olan, 60 aylık bir projedir ve toplam kalite maliyeti proje
bütçesinin %52’si kadardır. 5. proje ise 120.000 TL bütçeli 4 aylık bir projedir ve
toplam kalite maliyeti proje bütçesinin 2 katından fazla olmuştur. 2. projenin kalite
maliyetlerinin %90’a yakını uyum maliyetlerine harcanmış, yaklaşık %10’luk bir
uyumsuzluk maliyeti oranı ile toplam 44.000 TL kalite maliyeti olmuştur. 5. projede
ise proje bütçesi 120.000 TL iken hata maliyetleri toplamı 200.000 TL’nin
üzerindedir. Bu hata maliyetlerinin sadece %2,6’sı uyum maliyeti, çok büyük
çoğunluğu uyumsuzluk maliyetidir. Benzer şekilde diğer projelerin detayları da
incelendiğinde uyum maliyetleri uyumsuzluk maliyetlerine göre yüksek olan
projelerde, proje büyüklerine göre kıyaslandığında, uyum maliyetleri daha düşük olan
projelere göre daha düşük toplam kalite maliyeti oluştuğu görülecektir.
%100,00
r
a
lan %50,00
r
O</p>
        <p>%0,00
%100,00
%80,00
ra%60,00
l
n
ra%40,00
O
%20,00
%0,00</p>
        <p>Projelere Göre Kalite Maliyetinin Dağılımı
1
2
3
6
7</p>
        <p>8
4 5</p>
        <p>Gruplar
Şekil 4 - Projelere göre kalite maliyetlerinin oransal dağılımı</p>
        <p>Uyum ve Uyumsuzluk Maliyetlerinin Dağılımı
Önleme maliyeti</p>
        <sec id="sec-5-10-1">
          <title>Değerlendirme maliyeti İç hata maliyeti</title>
        </sec>
        <sec id="sec-5-10-2">
          <title>Dış hata maliyeti</title>
        </sec>
        <sec id="sec-5-10-3">
          <title>Uyum maliyetleri</title>
        </sec>
        <sec id="sec-5-10-4">
          <title>Uyumsuzluk</title>
          <p>maliyetleri
1
2
3
4 5
Gruplar
6
7</p>
          <p>8
Şekil 5 - Uyum ve uyumsuzluk maliyetlerinin dağılımı
Toplanan kalite maliyeti verileri projelerin ait olduğu sektörlere göre incelendiğinde;
uyum maliyeti oranları en yüksek projeler olan 2., 3., 6., ve 7. projelerin uzay,
telekomünikasyon ve savunma sektörlerine ait projeler olduklarını görüyoruz. Kritik
öneme sahip ürünler üreten bu sektörlerde üretilen ürünler, sonradan ortaya
çıkabilecek hatalara karşı çok daha duyarlıdır. Bu duyarlılık, ilgili sektörlerin, yazılım
geliştirme süreçlerini hataları oluşmadan önleyebilecek şekilde oluşturmaya itmiş
olabilir.</p>
          <p>Öğrencilerden kalite maliyetlerinin yanı sıra, bulgularla ilgili yorumları ve
ulaştıkları olası iyileştirme önerilerini de iletmeleri istendi. Tüm projeler için olmasa
da çoğu projede öğrencilerin sorunları doğru gözlemlediği ve iyileştirmeye yönelik
faydalı çıkarımlara ulaştıkları görüldü. Bu bulgular yorumlanırken, öğrencilerin bu
çıkarımları diğer projelerden haberdar olmadan sadece kendi projelerinde ulaştıkları
bilgilerle yaptıkları göz önünde bulundurulmalıdır.</p>
          <p>Çalışma içerisinde birbirleri ile karşılaştırdığımız 2. ve 5. Projelerle ilgili gelen
yorumlar incelendiğinde:
2. projenin bir uydu projesi olduğu, bu nedenle dış hataya yer olmadığı, bunun
sağlanması için de uyum maliyetlerine dahil olan önleyici aktivitelere oldukça önem
verildiği belirtilmiştir. İyileştirme önerisi olarak da, kuruluş içerisinde kalite
maliyetlerinin daha da aşağı çekilebilmesi için süreç iyileştirme çalışmaları yapılması
önerilmiştir.</p>
          <p>5. projede ise bizim yorumlarımızla da paralel olarak, proje içerisinde gözden
geçirme ve denetleme çalışmalarına zaman kısıtları nedeniyle yeteri önem
verilemediği, bunun sonucunda da hata maliyetlerinin arttığı yorumu yapılmış,
iyileştirme amaçlı olarak gözden geçirme çalışmalarına daha çok kaynak aktarılması
gerektiği önerilmiştir.</p>
          <p>Öğrencilerden gelen diğer yorumlar da kalite maliyeti değerleri hesapladıklarında
önleyici faaliyetler için kaynaklar arttırıldığında ya da süreçler düzenlendiğinde,
kalite maliyetlerinin önemli ölçüde azalabileceği sonucuna ulaştıklarını göstermiştir.</p>
          <p>Öğrencilerin çalışma sırasında karşılaştıkları zorluklar sorulduğunda, genel olarak
kuruluşlarda doğru işgücü kayıtlarına ulaşmanın zorluğundan bahsedilmiştir. Efor
kayıtlarını düzenli tutan organizasyonlarda bile istenen kırınımlarda verileri çıkartmak
için önemli bir çaba gerekmektedir. Kuruluşlarda kalite maliyeti konusunda bilinç
arttıkça, tutulan veriler de kalite maliyeti hesaplamalarını kolaylaştıracak şekilde
iyileştirilebilir.</p>
          <p>Analiz sonucunda öğrencilerin kuruluşlarındaki projeleri değerlendirmeleri
sağlanmış, toplanan verilerin literatürde verilen sonuçları desteklediği görülmüştür.
Bu analizle sadece literatürdeki bilgilerin doğruluğundan emin olunmakla
kalınmamış; dersleri alan öğrencilerin gerçek projelerle uygulama yapması ve
önleyici kalite aktivitelerinin önemini birinci elden görmeleri de sağlanmıştır.</p>
          <p>Gelecek bölümde analiz sonuçları detaylı olarak yorumlanacak, çalışmanın
iyileştirmeye açık noktalarından ve ilerleyen dönemlerde çalışmaya nasıl
edilebileceğinden bahsedilecektir.
5</p>
        </sec>
      </sec>
    </sec>
    <sec id="sec-6">
      <title>Sonuç</title>
      <p>Bu çalışmanın sonuçları üç temel çıktı ile özetlenebilir:
 Öğrencilerin organizasyonlarında yürüttükleri çalışma ile öğrendikleri teorik
bilgileri gerçek ortamda uygulamaları ve çıktılarının faydalarını birinci elden
öğrenmeleri sağlanmış,
 Türkiye’de faaliyet gösteren farklı sektörlere mensup kuruluşlardan kalite
maliyetleri ile ilgili temel veriler toplanmış ve analiz edilmiş,
 Önleyici faaliyetlere yeterli kaynak ayrıldığı takdirde kalite maliyetlerinin
azalabileceği gösterilmiştir.</p>
      <p>Çalışmaya dahil edilen farklı sektörlerden toplam 8 proje, detaylı istatistiksel
analizlerin yürütülmesi ve anlamlı sonuçlara ulaşılması için yeterli değildir. Ancak,
keşif niteliğindeki bir çalışmanın sonuçları olarak incelendiğinde, ulaşılan sonuçlar
kalite maliyetlerinin önleyici faaliyetlere yeterli kaynak ayırılarak önemli ölçüde
azaltılabileceğini göstermektedir. Kalite maliyetlerinin azalması organizasyonlar için
proje maliyetlerinin azalmasının yanı sıra; ürün kalitesinin, müşteri memnuniyetinin
ve ilişkili olarak karlılığın artması anlamına gelmektedir.</p>
      <p>Yürütülen çalışma Türkiye’deki farklı sektörlerdeki durumu sergilemeyi
amaçlayan bir ön çalışma olarak görülebilir. İlerleyen zamanda çalışmanın farklı
öğrenci grupları ile tekrarlanarak örnek setinin arttırılması ve istatistiksel olarak
anlamlı sonuçlara ulaşılması hedeflenmektedir.</p>
      <p>Teşekkürler. Çalışmaya gerçek proje analizleri ile destek veren ODTU
Enformatik Enstitüsü öğrencilerine teşekkür ederiz: Şifa Serdar Özen, Fatma
Ferda Sönmez, Berkhan Deniz, Emra Aşkaroğlu, Dilruba Başak Aydın, Elif
Yasemin Çetinkaya, Fatih Ünver, Alper İnce, Ayça Öner Yılmaz, İlkyaz Özer,
Arda Kanaatkar, Beril Oğuz Taşdemir, Burcu Özsan, Burcu Ural, Mertcan
Demir, Naim Türkdoğan, Betül Ağaç, Ertuğrul Bolat, Nil Kural, Hazal Demiral.
Kaynaklar</p>
    </sec>
  </body>
  <back>
    <ref-list>
      <ref id="ref1">
        <mixed-citation>
          1.
          <string-name>
            <given-names>P.</given-names>
            <surname>Mahmood and M. M. S. Beg</surname>
          </string-name>
          , “
          <article-title>Measuring Cost of Quality(CoQ)- on SDLC projects is indispensible for effective Software Quality Assurance,”</article-title>
          <string-name>
            <given-names>Int. J. Soft</given-names>
            <surname>Comput</surname>
          </string-name>
          . Softw. Eng., vol.
          <volume>2</volume>
          , pp.
          <fpage>1</fpage>
          -
          <lpage>15</lpage>
          ,
          <year>2012</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref2">
        <mixed-citation>
          2.
          <string-name>
            <surname>P. B. Crosby</surname>
          </string-name>
          , Quality is Free:
          <article-title>The Art of Making Quality Certain</article-title>
          .
          <string-name>
            <surname>McGraw-Hill</surname>
          </string-name>
          ,
          <year>1979</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref3">
        <mixed-citation>
          3.
          <string-name>
            <given-names>C. Y.</given-names>
            <surname>Laporte</surname>
          </string-name>
          ,
          <string-name>
            <given-names>M.</given-names>
            <surname>Doucet</surname>
          </string-name>
          , and E. Palza-vargas,
          <source>“Measuring the Cost of Software Quality of a Large Software Project at Bombardier Transportation : A Case Study,” Softw. Qual. Manag.</source>
          , vol.
          <volume>14</volume>
          , no.
          <issue>3</issue>
          ,
          <year>2012</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref4">
        <mixed-citation>
          4.
          <string-name>
            <given-names>L. M.</given-names>
            <surname>Karg</surname>
          </string-name>
          ,
          <string-name>
            <given-names>M.</given-names>
            <surname>Grottke</surname>
          </string-name>
          ,
          <article-title>and</article-title>
          <string-name>
            <given-names>A.</given-names>
            <surname>Beckhaus</surname>
          </string-name>
          , “
          <article-title>A systematic literature review of software quality cost research,”</article-title>
          <string-name>
            <given-names>J.</given-names>
            <surname>Syst</surname>
          </string-name>
          . Softw., vol.
          <volume>84</volume>
          , pp.
          <fpage>415</fpage>
          -
          <lpage>427</lpage>
          ,
          <year>2011</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref5">
        <mixed-citation>
          5.
          <string-name>
            <given-names>A.</given-names>
            <surname>Schiffauerova</surname>
          </string-name>
          and
          <string-name>
            <given-names>V.</given-names>
            <surname>Thomson</surname>
          </string-name>
          , “
          <article-title>A review of research on cost of quality models and best practices,”</article-title>
          <string-name>
            <given-names>Int. J.</given-names>
            <surname>Qual</surname>
          </string-name>
          . Reliab. Manag., vol.
          <volume>23</volume>
          , pp.
          <fpage>647</fpage>
          -
          <lpage>669</lpage>
          ,
          <year>2006</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref6">
        <mixed-citation>
          6.
          <string-name>
            <given-names>C.</given-names>
            <surname>Jones</surname>
          </string-name>
          and
          <string-name>
            <given-names>O.</given-names>
            <surname>Bonsignour</surname>
          </string-name>
          ,
          <article-title>The economics of software quality</article-title>
          .
          <year>2011</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref7">
        <mixed-citation>
          7.
          <string-name>
            <given-names>A.</given-names>
            <surname>Schiffauerova</surname>
          </string-name>
          and
          <string-name>
            <given-names>V.</given-names>
            <surname>Thomson</surname>
          </string-name>
          , “
          <article-title>Cost of Quality : A Survey of Models and Best Practices</article-title>
          ,” Time, pp.
          <fpage>1</fpage>
          -
          <lpage>15</lpage>
          ,
          <year>1979</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref8">
        <mixed-citation>
          8.
          <string-name>
            <given-names>D. J.</given-names>
            <surname>Reifer</surname>
          </string-name>
          and
          <string-name>
            <given-names>R.</given-names>
            <surname>Consultants</surname>
          </string-name>
          , “Industry Software Cost , Quality and Productivity Benchmarks,” Quality, no.
          <source>April</source>
          , pp.
          <fpage>1</fpage>
          -
          <lpage>12</lpage>
          ,
          <year>2004</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref9">
        <mixed-citation>
          9.
          <string-name>
            <given-names>T.</given-names>
            <surname>Tan</surname>
          </string-name>
          , “
          <article-title>DOMAIN-BASED EFFORT DISTRIBUTION MODEL FOR SOFTWARE COST ESTIMATION</article-title>
          ,” UNIVERSITY OF SOUTHERN CALIFORNIA,
          <year>2012</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref10">
        <mixed-citation>
          10. “
          <article-title>ISBSG Dataset Release 9</article-title>
          .” [Online].
          <source>Available: www.ISBSG.org.</source>
        </mixed-citation>
      </ref>
      <ref id="ref11">
        <mixed-citation>
          11.
          <string-name>
            <surname>Ü. Aksu</surname>
            and
            <given-names>A.</given-names>
          </string-name>
          <string-name>
            <surname>Karagöz</surname>
          </string-name>
          , “Bir Süreç İyileştirme Programında Yazılım Kalite Maliyeti Kullanımı,” in UYMS,
          <year>2011</year>
          , pp.
          <fpage>245</fpage>
          -
          <lpage>251</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref12">
        <mixed-citation>
          12.
          <string-name>
            <given-names>O.</given-names>
            <surname>Kaynak</surname>
          </string-name>
          and
          <string-name>
            <given-names>M. H.</given-names>
            <surname>Canberi</surname>
          </string-name>
          , “
          <string-name>
            <surname>PROJE YAŞAM DÖNGÜSÜNÜN PROJE KALİTE MALİYETİNE</surname>
            <given-names>ETKİSİ</given-names>
          </string-name>
          ,” in UYMS,
          <year>2009</year>
          , pp.
          <fpage>239</fpage>
          -
          <lpage>242</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref13">
        <mixed-citation>
          13.
          <string-name>
            <given-names>O.</given-names>
            <surname>Demirors</surname>
          </string-name>
          ,
          <string-name>
            <given-names>O.</given-names>
            <surname>Yildiz</surname>
          </string-name>
          ,
          <article-title>and</article-title>
          <string-name>
            <given-names>a. S.</given-names>
            <surname>Guceglioglu</surname>
          </string-name>
          , “
          <article-title>Using cost of software quality for a process improvement initiative</article-title>
          ,
          <source>” Proc. 26th Euromicro Conf. EUROMICRO 2000. Informatics Invent. Futur.</source>
          , vol.
          <volume>2</volume>
          , pp.
          <fpage>286</fpage>
          -
          <lpage>291</lpage>
          ,
          <year>2000</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref14">
        <mixed-citation>
          14. S. T. Knox, “
          <article-title>Modeling the cost of software quality</article-title>
          ,
          <source>” Digit. Tech. J.</source>
          ,
          <source>vol. 5</source>
          , pp.
          <fpage>9</fpage>
          -
          <lpage>9</lpage>
          ,
          <year>1993</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref15">
        <mixed-citation>
          15.
          <string-name>
            <surname>Team</surname>
            ,
            <given-names>CMMI</given-names>
          </string-name>
          <string-name>
            <surname>Product</surname>
          </string-name>
          .
          <article-title>CMMI for Development (CMMI-DEV</article-title>
          ,
          <year>V1</year>
          . 2). CMU/SEI-2006
          <source>TR-008</source>
          , Software Engineering Institute, Carnegie Mellon University,
          <year>2006</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref16">
        <mixed-citation>
          16. D. Houston, “
          <article-title>Cost of Software Quality: Selling Software Process Improvement to Managers</article-title>
          .,” Softw. Qual. J.,
          <year>1998</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref17">
        <mixed-citation>
          17. J. T. Hagan, “
          <article-title>Principles of quality costs: principles, implementation</article-title>
          , and use,” Asq Pr,
          <year>1990</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref18">
        <mixed-citation>
          18. “Payscale.” [Online]. Available: http://www.payscale.com/research/TR/Job=Software_Engineer/Salary. [Accessed:
          <fpage>11</fpage>
          - May-2015].
        </mixed-citation>
      </ref>
    </ref-list>
  </back>
</article>