<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Archiving and Interchange DTD v1.0 20120330//EN" "JATS-archivearticle1.dtd">
<article xmlns:xlink="http://www.w3.org/1999/xlink">
  <front>
    <journal-meta />
    <article-meta>
      <title-group>
        <article-title>Uygulama Geliştirme ve Yaygınlaştırma Süreçlerindeki Performans Değerlendirmesinde AHP Yönteminin Uygulanması</article-title>
      </title-group>
      <contrib-group>
        <contrib contrib-type="author">
          <string-name>Hayriye Göksu</string-name>
          <xref ref-type="aff" rid="aff0">0</xref>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <aff id="aff0">
          <label>0</label>
          <institution>Anahtar Kelimeler. Yazılım Kalite Yönetimi, Yazılım Kalite Sınama</institution>
          ,
          <addr-line>Yazılım Ölçütleri</addr-line>
        </aff>
        <aff id="aff1">
          <label>1</label>
          <institution>Yıldız Teknik Üniversitesi Davutpaşa Kampüsü Teknoloji Geliştirme Bölgesi Ziraat Teknoloji A.Ş. No: 163 34220 Esenler</institution>
          ,
          <addr-line>İstanbul</addr-line>
        </aff>
      </contrib-group>
      <fpage>294</fpage>
      <lpage>303</lpage>
      <abstract>
        <p>Özet. Günümüzde bilgi teknolojileri üreten şirketlerin önemli problemlerinden biri yazılım kalitesini objektif ve nicel olarak tanımlamak ve ölçmektir. Yazılım kalitesinin değerlendirilmesinde birçok kriter olduğu gibi çeşitli modeller de yer almaktadır. Bu kriter ve modellerle yapılan değerlendirmeler sonucunda, yazılımın kalite düzeyinin belirlenmesi, yazılımlar arasında kalite karşılaştırmaları yapılması, hataların analiz edilmesi ve çalışan performansının ölçülmesi konularında çıkarımlar elde edilmektedir. Bu çalışmada Ziraat Teknoloji A.Ş. firmasında bulunan farklı uygulama geliştirme bölümlerinin ürettiği yazılımların karşılaştırılması ve bölümlerin elde edilen sonuçlara göre sıralanıp, performans değerlendirmelerinin yapılması için AHS(Analitik Hiyerarşi Süreci)[1] yönteminin ve tasarlanan yapıya özgü hesaplamaların kullanılması amaçlanmıştır. AHS yöntemi kullanılarak, uygulama yaygınlaştırmaları öncesinde yapılan kod ve ekran gözden geçirme çalışmalarında tespit edilen bulgu tiplerinin oranlarına ve veri yapısı hata oranlarına göre bölümlerin aldıkları puanlar, kriterleri bulgu çözüm durumu, alt kriterleri bulgu karakteri olan bir hiyerarşi modeli ile değerlendirilmiş, tasarlanan yapıya özgü hesaplamaların bu sonuçlara uygulanması ile yazılım kalitesi ölçülüp uygulama geliştirme bölümlerinin genel performansları karşılaştırılmıştır.</p>
      </abstract>
    </article-meta>
  </front>
  <body>
    <sec id="sec-1">
      <title>-</title>
      <p>Giriş
Yazılım mühendisliğinde kalite yönetimi son yıllarda proje maliyetlerinin büyümesi
ile birlikte en çok konuşulan konulardan biri haline gelmiştir. Yazılım dünyasında
kalite soyut ve öznel bir olgu olmakla birlikte, hissedilebilen ancak tanımlanamayan
bir kavram olarak karşımıza çıkmaktadır. Bir disiplin içerisinde kalitenin tam olarak
tanımlanabilmesi için gelişmiş ölçme araçlarına ve tutarlı karşılaştırmalar için tanımlı
referans noktalarına ihtiyaç duyulmaktadır. Ölçme yapabilmek için de varlıkların
özelliklerinin sayısallaştırılması gerekmektedir[2].</p>
      <p>Bu bakımdan yazılım kalite yönetimi ve ölçme alanında yapılan bu çalışmada
Ziraat Teknoloji A.Ş.’de uygulama geliştirme bölümlerince gerçekleştirilen
yazılımlarda karşımıza çıkan kod gözden geçirme, kullanıcı ara yüzü denetimi, veri
yapısı ve mimarisi ile ilgili yapılan çalışmalar üzerinden bölümlerin başarı oranlarının
ölçülebilmesi hedeflenmiştir. Kod gözden geçirme ve kullanıcı ara yüzü denetimi ile
ilgili performans ölçümü, kontrol listelerine göre oluşturulan bulgu(standart dışı
kullanımlar) tipleri üzerinden gerçekleştirilmiştir. Bulgu tipleri ekiplerin geçmiş
deneyimlerinden yararlanılarak belirlenmiştir. Bölümlerin farklı yaygınlaştırma türlerinde
değişen kategorilerde performans ölçümlerinin yapılabilmesi amacıyla AHS yöntemi
ve tasarlanan yapıya özgü bazı ek hesaplamalar yapılmıştır.</p>
      <p>Bu çalışma üç bölümden oluşmaktadır. Veri Yapısı bölümünde, çalışmada
kullanılan verinin yapısı ifade edilmektedir. Metodoloji bölümünde, AHS yönteminin
ve tasarlanan sisteme özgü hesaplamaların, veri üzerine uygulanması bulunmaktadır.
Üçüncü bölümde ise elde edilen sonuçlar yer almaktadır.
2</p>
    </sec>
    <sec id="sec-2">
      <title>Veri Yapısı</title>
      <p>Yazılım kalitesinin ölçülmesi amacıyla üç temel kontrol noktası göz önünde
bulundurulmaktadır. Bu kontrol noktaları kod gözden geçirme, kullanıcı ara yüzü denetimi,
veri yapısı ve mimarisinin kontrol edilmesidir. Kontrol noktalarının belirlenmesinde
yaygınlaştırılan nesne türleri baz alınmıştır. Kod gözden geçirmede yazılım kalitesi,
etkileşim, hata yönetimi, isimlendirme ve yazım standartlarına uygunluk
değerlendirilmektedir. Kullanıcı ara yüzü denetiminde, ekran düzeni ve yerleşimi, kontrol
bileşenlerinin kullanımı, kullanılabilirlik ve renklendirme göz önünde
bulundurulmaktadır. Bu amaçla kod kontrol listesi ve ekran kontrol listesine göre
bulgu(standartlara uyumsuzluk) ve uygunsuzluklar tespit edilmektedir. Veri yapısı ve
mimarisinin kontrol edilmesinde tablo ve elemanlarının isimlendirme standartlarına
uygunluğu, tablo tasarım hatalarının yapılmamış olması[2], tablolara eklenen
indekslerin hatalı olmaması, girilen açıklamaların hatasız ve eksiksiz olması ve ER
diyagram kontrolü yapılmaktadır. Ziraat Teknoloji A.Ş. Mimari ve Kontrol Bölümü
tarafından yapılan bu çalışmada, her bir yaygınlaştırılan yazılım parçası(App Kernel,
Common, UI Kernel, Contract, Entity, Interop, WCF Service, Operation, Stored
Function, Facade, Client Application, Stored Procedure, Batch Application, Screen,
User Library) nesne olarak değerlendirmekte ve bu nesnelerdeki bulgu sayıları
performans göstergesi olarak alınmaktadır. Bu sorgulamaların tümü bulgu olarak
adlandırdığımız bölümü ifade etmektedir.</p>
      <p>Ziraat Teknoloji A.Ş.’ de yaygınlaştırmalar Aylık Yaygınlaştırma, Haftalık Ara
Yaygınlaştırma, Acil Yaygınlaştırma ve Pilot Yaygınlaştırma isimleri ile
sınıflandırılmaktadır.</p>
      <p>Kod gözden geçirme, kullanıcı ara yüzü denetimi, veri yapısı ve mimarisinin
incelenmesi sonucunda elde edilen nesne başına düşen bulgu sayıları bölümlerin
yazılım performanslarını ölçmede kullanılır.</p>
    </sec>
    <sec id="sec-3">
      <title>Metodoloji</title>
      <p>Bu çalışmada bölümlerin performans değerlendirmelerinde esas alınan kategoriler,
Ağırlıklı Bulgu Çözüm Oranı Puanı(ABÇOP), Nesne Başına Bulgu Oranı
Puanı(NBBO), Bulgusuzluk Oranı(BZO), Kod Satır Değişiklik Puanı(KSDP) olarak
belirlenmiştir. Bu kategoriler yaygınlaştırma türü bazında değişkenlik
gösterebilmektedir. Şekil 1’ de yaygınlaştırma türlerine göre belirlenen kategoriler yer
almaktadır.</p>
      <p>Kod gözden geçirme, kullanıcı ara yüzü denetimi, veri yapısı ve mimarisinin
incelenmesi sonucunda elde edilen veri, bölümlerin yazılım performanslarını ölçmede
kullanılmıştır.</p>
      <p>Şekil. 1. Kod Gözden Geçirme Değerlendirme
3.1</p>
      <sec id="sec-3-1">
        <title>Ağırlıklı Bulgu Çözüm Oranı Puanı(ABÇOP) Hesaplaması</title>
        <p>Değerlendirmede esas alınan kategorilerden biri olan ABÇOP hesaplanmasında AHS
yöntemi kullanılmıştır.</p>
        <sec id="sec-3-1-1">
          <title>Tablo 1. Kategoriler</title>
        </sec>
        <sec id="sec-3-1-2">
          <title>Kalite</title>
          <p>Kısaltması
TGG
FGG
Kalite Kategorileri</p>
        </sec>
        <sec id="sec-3-1-3">
          <title>Kalite Kategori Açıklaması Tam Gözden Geçirme Farkları Gözden Geçirme Ana Kriterler</title>
          <p>Alt Kriterler
Nesnelerin ilk defa gözden geçirilmesi
Daha önce gözden geçirilmiş nesnenin farkına
bakılması
Gözden geçirilip gönderilen nesneler için girilen
bulguların çözülme durumlarıdır
Gözden geçirilip gönderilen nesneler için girişi
yapılan bulguların seviyeleridir</p>
        </sec>
      </sec>
      <sec id="sec-3-2">
        <title>AHS Yöntemi.</title>
        <p>AHS yöntemi, gruplara ve bireylere, karar verme sürecindeki nitel ve nicel faktörleri
birleştirme olanağı veren, güçlü ve kolay anlaşılır bir yöntem bilimidir. Bu yöntem,
karışık, anlaşılması güç veya yapısallaşmış sorunlar için genel bir çok kriterli karar
verme olanağı sağlar. Yöntemde her sorun için amaç, kriter, olası alt kriter seviyeleri
ve seçeneklerden oluşan bir hiyerarşi modeli kullanılır[3].</p>
        <sec id="sec-3-2-1">
          <title>Tablo 2. Kriterler</title>
          <p>Bu çalışmada amaç, kod gözden geçirme, kullanıcı ara yüzü denetimi sonucunda
ortaya çıkan bulguların çözümlenmesine dair çözüm puanlaması olarak belirlenmiştir.
Kriterler belirlenirken bulguların bölümler tarafından yanıtlanma durumu baz
alınmıştır. Mimari ve Kontrol Bölümü’nce gözden geçirilip gönderilen nesneler için
girilen bulgulara yönelik davranış durumları için 4 farklı kod(Tablo 2) belirlenmiştir.
Alt Kriterlerin belirlenmesinde ise bulguların yazılımdaki önem seviyesine göre
gruplandırılması esas alınmıştır. Alt kriterler, bulgular için belirtilen türler olup 4 farklı
durum koduna(Tablo 3) sahiptir. Seçenekler verisi olarak 26 farklı Uygulama
Geliştirme bölümü değerlendirilmiştir.(Şekil 2)
Şekil. 2. Bulgu çözüm oranı puanı hesaplaması - AHS hiyerarşisi</p>
        </sec>
        <sec id="sec-3-2-2">
          <title>Tablo 3. Alt kriterler</title>
          <p>Alt Kriter Kısaltması
C
Alt Kriter Kodu
Kritik
R
W
S
Önemli
Uyarı
Öneri</p>
        </sec>
        <sec id="sec-3-2-3">
          <title>Alt Kriter Açıklaması</title>
          <p>Düzeltilip sonucunun üretim ortamına
kadar taşınması gerekmektedir
Standartlara uymayan bir kullanım
vardır, düzeltilmelidir
Uyarı niteliğindedir, düzeltilmesinde
fayda vardır
Programlama pratikleri açısından
önerilen yöntemleri belirtir
TGG ve FGG Ağırlıklı Bulgu Çözüm Oranı Puanı(ABÇOP) Hesaplaması.
Genel olarak puan hesaplamalarında, yaygınlaştırma türlerine bağlı olarak iki farklı
değerlendirme yapılmıştır. Aylık, Haftalık Ara ve Pilot Yaygınlaştırma türlerinde
TGG ve FGG durumlarına göre C, A, P ve X ana kriterleri değerlendirmeye tabi
tutulurken, acil yaygınlaştırma türünde TGG ve FGG durumları için bir ayrıma
gidilmemiştir. Bulguların önemleri ve kontrol noktalarındaki deneyimler göz önüne
alınarak 1 ile 9 arasında öncelik puanları verilerek, her bir puan genel puan toplamına
bölünüp ağırlık puanı hesaplanmıştır(Tablo 4 ve Tablo 5).</p>
          <p>Tablo 4. Aylık, Haftalık ve Pilot Yaygınlaştırma türlerinde TGG ve FGG durumlarına göre C,
A, P ve X ana kriterleri için verilen öncelik puanları ve bu puanlara göre hesaplanan ağırlık
puanları</p>
        </sec>
        <sec id="sec-3-2-4">
          <title>Ana Kriterler Öncelik</title>
          <p>Puanları
C 8
A 2
P 3
X 6</p>
          <p>TGG</p>
          <p>Ağırlık
Puanları
0,421
0,105
0,158
0,316
Öncelik
Puanları
9
1
4
5</p>
          <p>FGG</p>
          <p>Ağırlık
Puanları
0,474
0,053
0,211
0,263
Tablo 5. Acil Yagınlaştırma türü için kabul edilen C, A, P ve X ana kriterleri için verilen
öncelik puanları ve öncelik puanlarına göre hesaplanan ağırlık puanları</p>
          <p>Tablo 6. Alt kriterlerin ağırlık puanları
Alt
Kriterler
C
R
W
S
Öncelik
Puanı
8
6
5
1</p>
          <p>C</p>
          <p>Ağırlık
Puanı
0,400
0,300
0,250
0,050</p>
        </sec>
        <sec id="sec-3-2-5">
          <title>Ana Kriterler</title>
          <p>Öncelik
Puanı
1
3
5
7</p>
          <p>A</p>
          <p>Ağırlık
Puanı
0,063
0,188
0,313
0,438
Öncelik
Puanı
1
2
6
8</p>
          <p>P</p>
          <p>Ağırlık
Puanı
0,059
0,118
0,353
0,471
Öncelik
Puanı
1
1
1
1</p>
          <p>X</p>
          <p>Ağırlık
Puanı
0,250
0,250
0,250
0,250
AHS yöntemi ile yapılan hesaplamalar sonucunda her bir bölümün her bir
yaygınlaştırma türünde TGG ve FGG ABÇOP’larını hesaplamak için Eşitlik 1, Eşitlik
2, Eşitlik 3 ve Eşitlik 4‘ den yararlanılmaktadır.
3.2</p>
        </sec>
      </sec>
      <sec id="sec-3-3">
        <title>Nesne Başına Bulgu Oranı(NBBO)</title>
        <p>NBBO hesaplamasında, belirlenen yaygınlaştırma döneminde ilgili bölümlerce
yaygınlaştırılan nesneler gözden geçirilir ve tespit edilen bulgu sayısına ile gözden
geçirilen nesne sayısına göre Eşitlik 5’ den yararlanılır. Bu oran değerlendirmeye
katılırken en düşük NBBO’ya sahip servis en başarılı olarak düşünülmüştür.
3.3</p>
      </sec>
      <sec id="sec-3-4">
        <title>Bulgusuzluk Oranı(BZO)</title>
        <p>
          BZO hesaplamasında, belirlenen yaygınlaştırma döneminde bölümlerce
yaygınlaştırılan bulgusuz nesneler göz önünde bulundurulur ve Eşitlik 6 kullanılır. Bu
oran değerlendirmeye katılırken en yüksek BZO’ya sahip servis en başarılı olarak
düşünülmüştür.
(
          <xref ref-type="bibr" rid="ref6">6</xref>
          )
3.4
        </p>
      </sec>
      <sec id="sec-3-5">
        <title>Kod Satır Değişiklik Puanı(KSDP) Hesaplaması</title>
        <p>KSDP, yaygınlaştırma dönemi içinde bölümlerce geliştirilen her kod satır sayısının,
nesne türüne göre belirlenen katsayıyla çarpılması ile elde edilir. Katsayılar,
nesnelerin içerisinde yer alan metotların toplam çağrılma sayıları ve nesnelerin katman
türüne göre belirlenmiş kod satır sayıları kullanılarak hesaplanır.
3.5</p>
      </sec>
      <sec id="sec-3-6">
        <title>Diğer Hesaplamalar</title>
        <p>
          Ekran kontrolleri için yaygınlaştırma türü bazında hesaplanan TGG ABÇOP, FGG
ABÇOP, NBBO ve BZO toplanarak sonuç puanı(Eşitlik 7) elde edilir.
Kod gözden geçirme için yaygınlaştırma türü bazında hesaplanan TGG ABÇOP, FGG
ABÇOP, NBBO ve BZO toplanarak sonuç puanı(Eşitlik 8) elde edilir.
Her bir servisin 4 farklı yaygınlaştırma türünden aldığı sonuç puanları, yaygınlaştırma
türü bazında 3 ile -1 arasındaki katsayılarla(Tablo 7) Eşitlik 9’ daki gibi işleme tabi
tutulup, ekran gözden geçirme ve kod gözden geçirme Genel Sonuç Puanı
hesaplanır(Eşitlik 9). Katsayıların belirlenmesi noktasında, yapılması beklenen
yaygınlaştırma türüne teşvik ön planda tutulup en yüksek katsayı ona verilmiş olup,
istenmeyen yaygınlaştırma türüne doğru katsayı azaltılmıştır.
(
          <xref ref-type="bibr" rid="ref7">7</xref>
          )
(
          <xref ref-type="bibr" rid="ref8">8</xref>
          )
(
          <xref ref-type="bibr" rid="ref9">9</xref>
          )
        </p>
        <p>Tablo 7. Yaygınlaştırma Türü Katsayıları
Yaygınlaştırma Türü Yaygınlaştırma Türü
Kısaltması
AYY
PİY
HAY
ACY</p>
        <sec id="sec-3-6-1">
          <title>Aylık Yaygınlaştırma Pilot Yaygınlaştırma Haftalık Yaygınlaştırma Acil Yaygınlaştırma</title>
        </sec>
        <sec id="sec-3-6-2">
          <title>Katsayı</title>
          <p>3
2
1
-1
Veri yapısı ve mimari ayrı olarak değerlendirilmekte olup, yapılan kontrollere göre
bölümlerin, reddedilen tablo sayısının onaya gelen tablo sayısına bölünmesi ile her bir
bölümün veri yapısı ve mimari tasarım uygunluk oranı bulunur. Elde edilen oran ile
yaygınlaştırma sürecinde tüm bölümlerden onaya gelen toplam tablo sayısına göre
normalizasyon yapılarak, ağırlıklı veri yapısı ve mimarisi puanı hesaplanır.
Bölüm
B5
B3
B26
B1
…
B22
Bölüm
B8
B1
B26
B11
…
B4
Bölüm
B3
B20
B16
B9
…
B19</p>
          <p>AYY
Puanı
6,214
4,203
9,663
6,646
…
4,622
AYY
Puanı
8,226
5,527
9,357
7,384
…
2,387
Uygulama geliştirme bölümleri için hesaplanan puanlar kod gözden geçirme(Tablo
8), ekran gözden geçirme(Tablo 9), veri yapısı ve mimarisi niteliklerine(Tablo 10)
göre sıralanarak, bölümlerin birbirlerine göre yazılım kalitesi ölçümü gerçekleştirilir.
Yazılım dünyasında soyut ve öznel bir olgu olan kalite kavramının, ölçülebilen bir
disiplin içerisinde tanımlanabilmesi için gelişmiş ölçme araçlarına ve tutarlı
karşılaştırmalar yapılabilmesi için tanımlı referans noktalarına ihtiyaç duyulmaktadır.
Ayrıca yazılım kalite değerlendirmesinin yapılabilmesi için karşılaştırma yapma
gereksinimi doğmaktadır.</p>
          <p>Bu nedenle, uygulama geliştirme bölümlerince gerçekleştirilen yazılımlarda
karşımıza çıkan kod gözden geçirme, kullanıcı ara yüzü denetimi, veri yapısı ve
mimarisi ile ilgili yaygınlaştırılan nesnelerdeki bulgu sayıları üzerinden ekiplerin
başarı oranlarının ölçülerek değerlendirilmesi, nesnel bir yaklaşım olmakla birlikte,
bölümler arasında kıyaslama yapmamızı da sağlamıştır. Hesaplama esnasında AHS
yöntemi ve tasarlanan sisteme özgü yapılan hesaplamalar bütünleşik şekilde
kullanılmıştır.</p>
          <p>AHS yönteminde kullanılan katsayılar, deneyimli çalışanların istekleri
doğrultusunda belirlenmiştir. Katsayı tespitinde uygun yöntemlerin kullanımına
ilişkin araştırmaların yapılması gerekmektedir.</p>
          <p>Gelecek çalışma olarak aynı nesnelerin, aynı yaygınlaştırma döneminde tekrar
gözden geçirilme durumu oluştuğunda ABÇOP hesaplaması için yeni bir yöntem
geliştirilmesi hedeflenmektedir. Ayrıca bulgu çeşitliliğinin artırılması ve bulgu
tespitinde mümkün olduğu kadar manuel gözden geçirmeden kaçınılarak otomatik
tespitlerin yapılması amaçlanmaktadır.</p>
        </sec>
      </sec>
    </sec>
    <sec id="sec-4">
      <title>Kaynaklar</title>
    </sec>
  </body>
  <back>
    <ref-list>
      <ref id="ref1">
        <mixed-citation>
          1.
          <string-name>
            <surname>Saaty</surname>
            ,
            <given-names>T. L.</given-names>
          </string-name>
          ,
          <article-title>How to make a decision: The Analytic Hierarchy Process</article-title>
          . Joseph M. Katz Graduate School of Business, University of Pittsburgh, Pittsburgh, PA
          <volume>15260</volume>
          , USA
        </mixed-citation>
      </ref>
      <ref id="ref2">
        <mixed-citation>
          2.
          <string-name>
            <surname>Jϕrgensen</surname>
          </string-name>
          , M.:“Software Quality Measurement”,
          <source>Advances in Engineering Software</source>
          , Vol.
          <volume>30</volume>
          , pp.
          <fpage>907</fpage>
          -
          <lpage>912</lpage>
          (
          <year>1999</year>
          )
        </mixed-citation>
      </ref>
      <ref id="ref3">
        <mixed-citation>
          3.
          <string-name>
            <surname>Saaty</surname>
            ,
            <given-names>T. L.</given-names>
          </string-name>
          <year>1980</year>
          .
          <article-title>The Analytic Hierarchy Process</article-title>
          ,
          <string-name>
            <surname>McGraw-Hill Book</surname>
          </string-name>
          Co., N.Y
        </mixed-citation>
      </ref>
      <ref id="ref4">
        <mixed-citation>
          4.
          <string-name>
            <surname>Lee</surname>
            ,
            <given-names>H.: Information</given-names>
          </string-name>
          <string-name>
            <surname>Processing</surname>
            &amp; Management,
            <given-names>January-February</given-names>
          </string-name>
          <year>1995</year>
          . Vol.
          <volume>31</volume>
          , pp.
          <fpage>59</fpage>
          -
          <lpage>67</lpage>
          , Seoul, Korea, ISSN:
          <fpage>0306</fpage>
          -
          <lpage>4573</lpage>
          (
          <year>2006</year>
          )
        </mixed-citation>
      </ref>
      <ref id="ref5">
        <mixed-citation>
          5.
          <string-name>
            <surname>Belton</surname>
            ,
            <given-names>V.</given-names>
          </string-name>
          and
          <string-name>
            <surname>Gear</surname>
            ,
            <given-names>T.</given-names>
          </string-name>
          <year>1982</year>
          .
          <article-title>On a Shortcoming of Saaty's Method of Analytic Hierarchies</article-title>
          . Omega Vol.
          <volume>11</volume>
          No.
          <issue>3</issue>
          ,
          <fpage>226</fpage>
          -
          <lpage>230</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref6">
        <mixed-citation>
          6.
          <string-name>
            <surname>Forman</surname>
            ,
            <given-names>E. H.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Saaty</surname>
            ,
            <given-names>T. L.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Selly</surname>
            ,
            <given-names>M. A.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Waldron</surname>
            ,
            <given-names>R.</given-names>
          </string-name>
          ,
          <year>1983</year>
          .
          <article-title>Expert Choice, Decision Support Software, McLean, VA</article-title>
          .
        </mixed-citation>
      </ref>
      <ref id="ref7">
        <mixed-citation>
          7.
          <string-name>
            <surname>Saaty</surname>
            ,
            <given-names>T. L.</given-names>
          </string-name>
          <year>1986</year>
          .
          <article-title>Axiomatic Foundation of the Analytic Hierarchy Process</article-title>
          , Management Science,
          <volume>32</volume>
          ,
          <fpage>841</fpage>
          -
          <lpage>855</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref8">
        <mixed-citation>
          8.
          <string-name>
            <surname>Saaty</surname>
            ,
            <given-names>T. L.</given-names>
          </string-name>
          <year>1990</year>
          .
          <article-title>An Exposition of the AHP in Reply to the Paper "Remarks on the Analytic Hierarchy Process"</article-title>
          ,
          <source>Management Science</source>
          , Vol.
          <volume>36</volume>
          , No.
          <volume>3</volume>
          ,
          <fpage>259</fpage>
          -
          <lpage>268</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref9">
        <mixed-citation>
          9.
          <string-name>
            <surname>Saaty</surname>
            ,
            <given-names>T. L.</given-names>
          </string-name>
          <year>1991a</year>
          .
          <article-title>How to Make a Decision: The Analytic Hierarchy Process</article-title>
          ,
          <source>European Journal of Operations Research</source>
          , Vol.
          <volume>48</volume>
          ,
          <fpage>9</fpage>
          -
          <lpage>26</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref10">
        <mixed-citation>
          10.
          <string-name>
            <surname>Saaty</surname>
            ,
            <given-names>T. L.</given-names>
          </string-name>
          <year>1991b</year>
          .
          <article-title>Rank and the Controversy About the Axioms of Utility Theory -- A Comparison of AHP and MAUT</article-title>
          ,
          <source>Proceedings of the 2nd International Symposium of The Analytic Hierarchy Process</source>
          , Pittsburgh, PA,
          <fpage>87</fpage>
          -
          <lpage>111</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref11">
        <mixed-citation>
          11.
          <string-name>
            <surname>Saaty</surname>
            ,
            <given-names>T. L.</given-names>
          </string-name>
          <year>1994a</year>
          .
          <article-title>How to Make a Decision: The Analytic Hierarchy Process</article-title>
          ,
          <source>Interfaces</source>
          ,
          <volume>24</volume>
          ,
          <fpage>19</fpage>
          -
          <lpage>43</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref12">
        <mixed-citation>
          12.
          <string-name>
            <surname>Saaty</surname>
            ,
            <given-names>T. L.</given-names>
          </string-name>
          <year>1994b</year>
          .
          <article-title>Fundamentals of Decision Making, RWS Publications</article-title>
          , Pittsburgh, PA
        </mixed-citation>
      </ref>
      <ref id="ref13">
        <mixed-citation>
          13.
          <string-name>
            <surname>Saaty</surname>
          </string-name>
          , Thomas L.,
          <year>1996</year>
          .
          <article-title>Decision Making with Dependence and Feedback</article-title>
          , RWS Publications, Pittsburgh, PA,
          <year>1996</year>
          .
        </mixed-citation>
      </ref>
      <ref id="ref14">
        <mixed-citation>
          14.
          <string-name>
            <surname>Saaty</surname>
            ,
            <given-names>T. L.</given-names>
          </string-name>
          <year>1980</year>
          .
          <article-title>The Analytic Hierarchy Process</article-title>
          ,
          <string-name>
            <surname>McGraw-Hill Book</surname>
          </string-name>
          Co., N.Y.
        </mixed-citation>
      </ref>
    </ref-list>
  </back>
</article>