<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Archiving and Interchange DTD v1.0 20120330//EN" "JATS-archivearticle1.dtd">
<article xmlns:xlink="http://www.w3.org/1999/xlink">
  <front>
    <journal-meta />
    <article-meta>
      <title-group>
        <article-title>Kabin İçi Eğlence Sistemi Geliştiriminde bir Kullanılabilirlik Testi Uygulaması</article-title>
      </title-group>
      <contrib-group>
        <contrib contrib-type="author">
          <string-name>Hilal Karaca</string-name>
          <email>hkaraca@bgt.havelsan.com.tr</email>
          <xref ref-type="aff" rid="aff0">0</xref>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Emre Er</string-name>
          <email>eer@havelsan.com.tr</email>
          <xref ref-type="aff" rid="aff0">0</xref>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Adem Çağlar</string-name>
          <xref ref-type="aff" rid="aff0">0</xref>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Kadir Herkiloğlu</string-name>
          <xref ref-type="aff" rid="aff0">0</xref>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Seçkin Çaylak</string-name>
          <xref ref-type="aff" rid="aff0">0</xref>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <contrib contrib-type="author">
          <string-name>İ. Berk Işık</string-name>
          <xref ref-type="aff" rid="aff0">0</xref>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Burak Yolaçan</string-name>
          <xref ref-type="aff" rid="aff0">0</xref>
          <xref ref-type="aff" rid="aff1">1</xref>
        </contrib>
        <aff id="aff0">
          <label>0</label>
          <institution>Anahtar Kelimeler: Kullanılabilirlik</institution>
          ,
          <addr-line>Yazılım Kullanılabilirlik Testi</addr-line>
          ,
          <country>Kabin İçi Eğlence Sistemi</country>
        </aff>
        <aff id="aff1">
          <label>1</label>
          <institution>HAVELSAN A.Ş. Mustafa Kemal Mah.</institution>
          <addr-line>2120 Cad. No:39 Çankaya, Ankara</addr-line>
          ,
          <country country="TR">Türkiye</country>
        </aff>
      </contrib-group>
      <fpage>210</fpage>
      <lpage>216</lpage>
      <abstract>
        <p>At one extreme, functional requirements define the functions that a software component or system should perform and on the other hand, nonfunctional requirements aimed at specifying how a software product is supposed to be are defined in terms of quality attributes such as reliability, maintainability and the one which comprises the scope of this study, namely, usability that is defined as the software capability of being easily used by the end user via the interface provided to them. Complementarily, usability testing targets at determining the extent to which this capability gets realized. In this study, the experience obtained by following the usability testing approach formed via Software Usability Measurement Questionnaire based on specific usability heuristics and Think Aloud method accompanied by observations is demonstrated in the scope of SKYFE In Flight Entertainment System that is in development.</p>
      </abstract>
      <kwd-group>
        <kwd>Usability</kwd>
        <kwd>Software Usability Test</kwd>
        <kwd>In Flight Entertainment System</kwd>
      </kwd-group>
    </article-meta>
  </front>
  <body>
    <sec id="sec-1">
      <title>-</title>
      <p>
        Son bir kaç on yılda geliştirilen ürünlerin kullanılabilirliğinin öneminin
kavranmasıyla beraber (örneğin IBM ve Boing Co. gibi büyük ölçekli şirketlerin
yazılım geliştirirken ve satın alırken kullanılabilirliği anahtar faktör olarak kabul
etmeleri [
        <xref ref-type="bibr" rid="ref2">1</xref>
        ]) bir kalite faktörü olarak kullanılabilirliğin uluslararası standartlarda
tanımlanması ihtiyacı ortaya çıkmıştır. Önceleri, bir kullanıcının bir sistemi ya da
sistemin bir bileşenini ne kolaylıkla işletmeyi öğrenmesi, girdi sağlaması ve çıktıları
yorumlaması olarak tarif edilirken [
        <xref ref-type="bibr" rid="ref3">2</xref>
        ] sonrasında, bir ürünün belli kullanıcılar
tarafından belirli bir kullanım çerçevesinde belirlenmiş hedeflere etkililik, verimlilik
ve memnuniyet kapsamında ulaşmak için ne ölçüde kullanılabildikleri şeklinde
betimlenmiştir [
        <xref ref-type="bibr" rid="ref4">3</xref>
        ]. Yazılım bağlamında ise bir yazılım ürününün belli koşullar altında
kullanıcı tarafından anlaşılma, öğrenilme, kullanılma ve ilgi çekme kabiliyeti olarak
ifade edilmiştir [
        <xref ref-type="bibr" rid="ref1 ref5">4</xref>
        ]. Buradan hareketle belirlenecek gereksinimler baz alınarak ortaya
konulacak ürünler kapsamında kullanıcıların üretkenliğinin artması, yazılım
geliştiricilerin daha az efor harcamaları ve nihai ürünün destek ve bakım
maliyetlerinin azalması beklenilebilecektir [
        <xref ref-type="bibr" rid="ref6">5</xref>
        ].
      </p>
      <p>
        Kullanılabilirlik testi, köklerini klasik deneysel metodolojiden alan bir araştırma
aracı olarak görülebilir [
        <xref ref-type="bibr" rid="ref7">6</xref>
        ]. Bu bağlamda, kullanılabilirlik testi, bir ürünün gerçek
kullanıcıları tarafından denenmesi esnasında, kullanıcıların gözlemlenmesinin ve
ürünün kullanımının onlar için kolay mı yoksa zor mu olduğu bilgisinin
toplanmasının sistematik bir yolu olarak tanımlanabilir [
        <xref ref-type="bibr" rid="ref8">7</xref>
        ]. Yapılan bu tanımlarda,
kullanılabilirliğin nasıl ölçüldüğüne dair bir açıklama görmüyoruz. Ancak ISO’nun
”Kullanılabilirlik” [
        <xref ref-type="bibr" rid="ref1 ref5">4</xref>
        ] tanımı kullanılarak ISTQB tarafından şöyle bir tanımlama
yapılmıştır: “Belirlenmiş koşullar altında yazılım ürününün kullanıcıya cazip
geldiğini, kolay kullanılabildiğini, kolay öğrenilebildiğini ve anlaşılabildiğini
doğrulamak için yapılan test.” [
        <xref ref-type="bibr" rid="ref9">8</xref>
        ]. Burada kullanılabilirliğin caziplik, kullanımda
kolaylık, öğrenilebilirlik ve anlaşılabilirlik boyutları tanıma dahil edilmiştir. Bunların
yanı sıra hatırlanabilirlik, hata ile karşılaşma sıklığı, etkinlik, etkililik ve tatmin
boyutları da araştırmacılar tarafından problem uzayını tanımlamakta kullanılmışlardır
[
        <xref ref-type="bibr" rid="ref1 ref5">4</xref>
        ][
        <xref ref-type="bibr" rid="ref9">8</xref>
        ][
        <xref ref-type="bibr" rid="ref10">9</xref>
        ].
      </p>
      <p>
        Kullanılabilirlik boyutları, bir denek grubunun kullanımıyla ölçülebildiği gibi, bu
işi kullanıcı bağımsız modeller ile değerlendirebilen yöntemler de mevcuttur. Bilişsel
Modelleme yöntemleri olarak da bilinen bu yöntemlerin ilki GOMS (nam-ı diğer
CMN GOMS) yöntemidir. Yöntem, araştırmacıları olan Card, Moran ve Newell’in
[
        <xref ref-type="bibr" rid="ref11">10</xref>
        ] kullanıcı etkileşiminin mühendislik modelini belirleme çalışması sonrası ortaya
çıkmıştır. Diğer bir yöntem olan Tuşlama Seviye Modeli (KLM) [
        <xref ref-type="bibr" rid="ref12">11</xref>
        ] ise tuşlama ve
fare kullanımı ve kullanıcı düşünme sürelerini de dikkate alarak bir yazılım
tasarımının kullanılabilirliğini değerlendirmektedir. Fitts Kanunu [
        <xref ref-type="bibr" rid="ref13">12</xref>
        ] adı verilen
yöntem de bu modelleme çalışmalarına örnek olarak verilebilir. Bu yöntemde seçme
görevlerinin hareket zamanlaması modellenerek kullanılabilirlik analizi
gerçekleştirilmektedir.
      </p>
      <p>
        Bu yöntemlerin yanı sıra, belirlenen sezgisel öznitelikler kullanılarak uygulamaya
özel olarak oluşturulan senaryolar ve arkasından uygulanan anketler vasıtasıyla, ilgili
uygulama hakkında kullanıcıların görüşlerini kullanan yöntemler de mevcuttur [
        <xref ref-type="bibr" rid="ref14">13</xref>
        ].
Bu çalışmada, yakın zamanda HAVELSAN A.Ş. ve THY Teknik A.Ş. tarafından
ortaklaşa geliştirilmeye başlanan, yolcuları geleneksel koltuk arkası ekranlara
bağımlılıktan kurtararak kablosuz ağ yetenekli ve farklı işletim sistemleri üzerinde
çalışabilen kişisel elektronik cihazlarına (örneğin tablet, dizüstü bilgisayar, akıllı
telefon) İsteğe Bağlı Video ve Ses (Audio and Video On Demand), çevrim dışı
internet ve elektronik yayın gibi hizmetler sunması beklenen [
        <xref ref-type="bibr" rid="ref15">14</xref>
        ] ilk yerli kablosuz
Kabin İçi Eğlence Sistemi olan SKYFE’nin geliştirme sürecinde Nielsen’e ait sezgisel
özniteliklerden ve kullanıcı görüşlerinden yararlanılarak yapılmış kullanılabilirlik
analizi deneyimi raporlanmıştır [
        <xref ref-type="bibr" rid="ref14">13</xref>
        ].
      </p>
      <p>Bu bildirinin takip eden ikinci bölümünde uygulanan test metodolojisine
değinilmektedir. Üçüncü bölüm, elde edilen test sonuçları ve bu sonuçların analizi
üzerinedir. Son olarak, dördüncü bölüm bu deneyim sonrası SKYFE projesi
kapsamında ulaşılan edinimleri özetlemektedir.</p>
    </sec>
    <sec id="sec-2">
      <title>2 Test Yöntemi</title>
      <p>SKYFE kullanıcı ara yüzünde yapılan değişikliklerin birbirini tekrar etmesinin
gözlenmesini müteakip kullanılabilirlik ölçümünün SKYFE projesi kapsamında
yapılması gerekliliği ortaya çıkmıştır. Yapılan araştırma sonucunda, son kullanıcıların
değerlendirmeye dâhil edildiği Sezgisel Değerlendirme (Heuristic Evaluation)
tekniğinin yaygın olarak kullanılması ve projede uygulanabilmesi için gerekli eforun
olanaklı olması nedeniyle daha etkili ve kolay hayata geçirilebilir bulunmuştur.</p>
      <p>SKYFE projesi bağlamında Nielsen’in sezgisel değerlendirme metodu
kullanılmıştır. Bu metot kapsamında, ilk olarak SKYFE sistem özelliklerinin son
kullanıcılar tarafından kullanılabileceği bir test senaryosu hazırlanmıştır. Test
sırasında gözlemci teste müdahil olmadan test görev performanslarını ya da kullanıcı
memnuniyetini önemli şekilde etkileyen vakaları kayıt altına alırken, kontrolör ise
teste başlamadan kullanıcıları testin içeriği hakkında bilgilendirme, kullanıcılara test
görevlerini sağlama, kullanıcıların sesli düşünmelerini yönetme, kullanıcıların test
esnasında ne yapmayı amaçladıklarını belirtmeleri hususunda yönlendirme ve test
oturumunun idame ettirilmesi sorumluğunu icra etmiştir.</p>
      <p>Hazırlanan test için çeşitli yaş, meslek ve mobil uygulama kullanma alışkanlıkları
olan 16 kişilik bir grup oluşturulmuştur. Seçilen kullanıcılar, uygulamanın
geliştirildiği platformlar için (IOS ve Android) eşit iki gruba ayrılmıştır.
Katılımcılardan testi kendi başlarına ve uygulama hakkında bilgilendirme olmadan
koşmaları istenmiştir. Test sırasında kullanıcıların geri dönüşleri gözlemlenmiş ve
kaydedilmiştir.</p>
      <p>Testin geçerli sonuçlar vermesini tehdit eden faktör kullanıcıların sesli
düşünmekten çekinmesi durumudur. Bu faktörün etkisini en aza indirmek için
kullanıcıların sistem hakkında düşüncelerini hiç çekincesiz ifade etmeleri yönünde
gerekli telkin mekanizması işletilmiştir. Bunun yanı sıra, her bir platform için beş
kişiden oluşan ilk kullanıcı kümesi ile elde edilen test sonuçları normal dağılım
göstermemesinden dolayı, kullanıcı kümesinin genişletilerek her bir platform sekiz
kişilik kullanıcı kümesiyle test edilmiştir.</p>
      <p>Uygulanan test sonrasında kullanıcılara daha önceden Nielsen'in sezgisel
değerlendirme metotlarına uygun olarak hazırlanmış olan anket uygulanmıştır. Anket
soruları; sistem durumu görünürlüğü, sistem ve gerçek dünya arasındaki uyum,
kullanıcı kontrol ve özgürlüğü, tutarlılık ve standartlar, hatırlama yerine tanıma,
esneklik ve kullanım verimliliği, estetik ve minimalist tasarım ve kullanıcılara tanıma,
teşhis ve hatadan kurtulma yardımı sağlama başlıkları altında gruplanmıştır. Ankette
bulunan sorular için, kullanıcılardan dereceleri "Hiç, %10, %25, %50, %85 ve Her
Zaman" olan seçeneklerden sadece birini işaretlemeleri istenmiştir. Sezgisel
değerlendirme grupları ve her bir grubun kapsamı ile en çok örtüşen anket soruları
Tablo-1'de bulunmaktadır.</p>
      <p>Tablo 1. Anket Soruları ve Sezgisel Öznitelik Grup Bilgileri</p>
      <p>Soru No Sezgisel Değerlendirme Grubu</p>
      <p>Sistem Durumu Görünürlüğü (Visibility of System Status)
1 Uygulamada neler olup bittiğini anlıyorum.</p>
      <p>Sistem ve Gerçek Dünya Arasındaki Uyum (Match Between System and The Real World)
2 Kullanılan ikonlara aşinayım. İkonlar kültürel değil, uluslararası yolcular
için evrensel olarak tasarlanmış.
5 Menü içeriğe göre mantıklı kategorize edilmiş. Menü seçenekleri en
mantıklı şekilde sıralanmış.
15 Bir dahaki uçuşumda, SKYFE’yi hatırlarım ve daha kolay kullanırım.
18 Müzik listemi yaratırken ve düzenlerken hiçbir sorunla karşılaşmadım.</p>
      <p>Kullanıcı Kontrol ve Özgürlüğü (User Control and Freedom)
4 Sayfalar arası geçişler kolay.
8 Kısa yol menü kullanışlı ve ana sayfada yönlendirmeler yeterli.
16 İstemediğim bir durumdan çıkmam ve geri dönmem mümkün.</p>
      <p>Tutarlılık ve Standartlar (Consistency and Standards)
9 Uygulamanın bütün ekranlarda formatı standart ve tutarlı.
10 SKYFE’nin renk kullanımı uygun ve başarılı.
11 SKYFE’nin yönlendirme dili tutarlı ve alışılagelmiş.
21 Benzer işlemleri benzer görevler için benzer elemanlar ile yapılır.</p>
      <p>Hatırlama Yerine Tanıma (Recognition Rather than Recall)
3 Seçilen ikonun, diğer ikonlara göre fark edilmesi kolay.
6 Buton başlıkları ve etiketler açık ve anlaşılır.</p>
      <p>Esneklik ve Kullanım Verimliliği (Flexibility and Efficiency of Use)
20 Bir filmin altyazısını ve dublajını kolayca ve hızlıca değiştirebiliyorum.</p>
      <p>Estetik ve Minimalist Tasarım (Aesthetic and Minimalist Design)
13 Her bir ekranda ihtiyacım olan bütün bilgiler mevcut.
14 Uçuşlarla ilgili verilen bilgiler kesin, tam ve anlaşılması kolay.
17 Görsellerin hizalanışı ve yerleri iyi dengelenmiş ve seçilmiş.
19 Müzik listemi düzenlediğim ekranda tasarım eksiği ve gereksiz özellik yok.</p>
      <p>Kullanıcılara Tanıma, Teşhis ve Hatadan Kurtulma Yardımı Sağlama</p>
      <p>(Help Users Recognize, Diagnose, and Recover From Errors)
7 Uygulamada bir problem oluştuğunda anlaşılabiliyor. SKYFE bu
problemleri önlemede yeterli ve yardımcı.</p>
      <p>12 Hata mesajları bilgilendirme konusunda kısa ve öz.</p>
      <p>Anket sorularının sezgisel öznitelik odaklı sonuçlar vermesi için kullanıcının
anlamakta güçlük çektiği sorular, ilgili özniteliklere göre anket esnasında
açıklanmıştır.
Her kullanıcının, test sonrası uygulanmak üzere hazırlanan ve içeriği Tablo-1’de
verilen anket sorularını yanıtlaması sonucunda elde edilen veriler 10 puan üzerinden
değerlendirilmiştir ve sorulara "Her Zaman" yanıtını veren kullanıcıların cevapları,
kullanılabilirlik hatalarına odaklanma ve veri setindeki maksimum örnek değerleri
olma noktasında hesaplamaya dâhil edilmemiştir. Anket sonuçları sezgisel öznitelik
bazlı olarak Şekil-1’de ve soru yönelimli olarak Şekil-2’de verilmektedir.
Şekil 1: Sezgisel öznitelik bazlı değerlendirme ortalama sonuçları
Şekil 2. Soru yönelimli değerlendirme ortalama sonuçları</p>
      <p>Anket sonuçları ve sesli düşün kullanılarak yapılan gözlemlerin ışığında, esneklik
ve kullanım verimliliği niteliğinin görsellerin hizalanışı ve yerlerinin kullanıcılar
tarafından beklendiği gibi olmamasından ötürü eksiklik gösterdiği fark edildi. Ek
olarak bazı işlevlerin kullanıcı tarafından geç fark edildiği anlaşıldı. Bu nedenle
görsellerin hizalanışına, yerlerinin tekrar ayarlanmasına ve geç fark edilen özelliklerin
kullanıcıların alışık olduğu şekilde yönlendirme eklenmesi gerektiği anlaşıldı.</p>
      <p>Kullanıcılara sunulan içeriğin bütün sayfalarda yeterli olduğu değerlendirilmesine
karşın estetik ve minimalist tasarım niteliğini güçlendirmek için birkaç buton
metininin sadeleştirilmesi gerektiği ortaya çıktı.</p>
      <p>Kullanıcıların istemedikleri durumdan kolayca çıkabildiği gözlemlendi fakat bazı
butonlara bastıklarını fark edememeleri ve menüye bakarak hangi içeriği
görüntülediklerini anlamamaları sayfalar arası geçişi zorlaştırdığından uygulamada
kullanıcı kontrol ve özgürlüğünü kısıtladığı ve kullanıcıların bazı eylemleri
algılayamayarak kullanıcıların hatırlama yükünü artırabileceği ortaya çıktı. Basılan
butonun ve seçilen menü öğesinin seçilmeyenlere göre ayırt edici olması için
butonlara efektler eklenerek geri besleme sağlanması gerektiği anlaşıldı. Bazı buton
etiketlerinin ise kullanıcılar tarafından kolay anlaşılmaması da kullanıcıların hatırlama
yükünü artıracağı sonucu çıkarıldığından anlaşılmayan buton etiketlerinin
değiştirilmesi gerektiği ortaya çıktı.</p>
      <p>Tasarlanan ikonların kullanıcıların büyük bir çoğunluğu tarafından anlaşılması
sonucu, sistem ve gerçek dünya arasında bu bağlamda uyumun sağlandığı ve
ikonların evrensel olduğu değerlendirildi. Sadece bir ikonun kullanıcılar tarafından
anlaşılmadığı sesli düşün metoduyla ortaya çıktığından, o ikonun tekrar
tasarlanmasına karar verildi. Kullanıcıların bir işlevi yaptıktan sonra benzer işlevleri
daha kolay yapabilmeleri uygulamada benzer işlevlerin benzer elemanları ve
yöntemleri kullandığını ve yönlendirme dilinin tutarlı olduğunu fark ettirdi.</p>
      <p>Hata mesajlarından birkaçının kullanıcıları yanlış yönlendirebildiğinin gözlenmesi
kullanıcılara hatadan kurtulma yardımı sağlama açısından eksiklik olduğunu
gösterdiğinden bu hata mesajlarının metinlerinin daha öz ve anlaşılır olma gereği ile
beraber yönlendirmelerin sadeleştirilmesi ihtiyacı tespit edildi.
Bu çalışmada, HAVELSAN A.Ş. ve THY Teknik A.Ş. tarafından ortaklaşa
geliştirilmeye başlanan ilk yerli kablosuz Kabin İçi Eğlence Sistemi olan SKYFE’nin,
belli kullanıcılar tarafından, belirli bir kullanım çerçevesinde, belirlenmiş olan
hedeflere ulaşmak için etkililik, verimlilik ve memnuniyet kapsamında
kullanılabilirliği araştırılmıştır.</p>
      <p>Araştırma sonunda kullanıcıların yazılı ve sözlü ifadelerinden, olumlu ve olumsuz
gözlemlerinin yanı sıra beklentileri de saptanabilmiştir. Araştırma sonucu elde edilen
bulgular doğrultusunda SKYFE’nin içerik ve tasarımı ile ilgili düzenlemelerin
yapılabilmesi ve kullanılabilirliğinin artırılabilmesi için değişiklik önerilerinde
bulunulmuştur. Kullanılabilirlik testinden elde edilen bulgular ve öneriler
kapsamında, SKYFE'nin grafiksel kullanıcı arayüz tasarımının etkilenen kısımları için
uymazlıklar açılmış ve bunların çözümüyle beraber kullanılabilirlik kapsamında
SKYFE yazılımının olgunlaştırılması sağlanmıştır. Buradan hareketle benzer yazılım
projelerinde de bu araştırmadan elde edilen bulgulardan ve önerilerden
yararlanılmasının faydalı olacağı öngörülmüştür.</p>
    </sec>
    <sec id="sec-3">
      <title>Kaynaklar</title>
    </sec>
  </body>
  <back>
    <ref-list>
      <ref id="ref1">
        <mixed-citation>4 Sonuç</mixed-citation>
      </ref>
      <ref id="ref2">
        <mixed-citation>
          1.
          <string-name>
            <surname>Capilla</surname>
            , Rafael,
            <given-names>Laura</given-names>
          </string-name>
          <string-name>
            <surname>Carvajal</surname>
            , and
            <given-names>Hui</given-names>
          </string-name>
          <string-name>
            <surname>Lin</surname>
          </string-name>
          .
          <article-title>"Addressing Usability Requirements in Mobile Software Development." Relating System Quality and Software Architecture (</article-title>
          <year>2014</year>
          ):
          <fpage>303</fpage>
          -
          <lpage>324</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref3">
        <mixed-citation>
          2.
          <string-name>
            <surname>IEEE</surname>
          </string-name>
          (
          <year>1990</year>
          ).
          <article-title>Standard Glossary of Software Engineering Terminology</article-title>
          .
          <source>IEEE Standard 610</source>
          .
          <fpage>12</fpage>
          -
          <lpage>1990</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref4">
        <mixed-citation>
          3. ISO, SFSEN. "
          <volume>9241</volume>
          -
          <fpage>11</fpage>
          .
          <year>1998</year>
          .
          <article-title>" Ergonomic Requirements for Office Work with Visual Display Terminals (VDTs)-Part II Guidance on Usability</article-title>
          .
        </mixed-citation>
      </ref>
      <ref id="ref5">
        <mixed-citation>
          4. ISO/IEC 9126-
          <issue>1</issue>
          (
          <year>2001</year>
          ).
          <source>Software Engineering - Product Quality - Part</source>
          <volume>1</volume>
          :
          <string-name>
            <given-names>Quality</given-names>
            <surname>Model</surname>
          </string-name>
          . International Organization for Standardization.
        </mixed-citation>
      </ref>
      <ref id="ref6">
        <mixed-citation>
          5.
          <string-name>
            <surname>Juristo</surname>
            ,
            <given-names>N.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Helmut</surname>
            ,
            <given-names>W.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Windl</surname>
            ,
            <given-names>H.</given-names>
          </string-name>
          , &amp;
          <string-name>
            <surname>Constantine</surname>
            ,
            <given-names>L.</given-names>
          </string-name>
          ,
          <article-title>"Introducing Usability"</article-title>
          ,
          <source>IEEE software 18.1</source>
          (
          <year>2001</year>
          ):
          <fpage>20</fpage>
          -
          <lpage>21</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref7">
        <mixed-citation>
          6.
          <string-name>
            <surname>Rubin</surname>
            ,
            <given-names>J.</given-names>
          </string-name>
          (
          <year>1994</year>
          ).
          <article-title>Handbook of usability testing: How to plan, design, and conduct effective tests</article-title>
          . New York, NY:John Wiley &amp; Sons, Inc.
        </mixed-citation>
      </ref>
      <ref id="ref8">
        <mixed-citation>
          7.
          <string-name>
            <surname>Dumas</surname>
            ,
            <given-names>J.S.</given-names>
          </string-name>
          &amp;
          <string-name>
            <surname>Redish</surname>
            ,
            <given-names>J.C.</given-names>
          </string-name>
          (
          <year>1993</year>
          ).
          <article-title>A practical guide to usability testing</article-title>
          . Norwood, NJ: Ablex Publishing Corporation.
        </mixed-citation>
      </ref>
      <ref id="ref9">
        <mixed-citation>
          8.
          <string-name>
            <surname>Yazılım</surname>
          </string-name>
          <article-title>Test ve Kalite Derneği Terimler Sözlüğü Çalışma Grubu, "</article-title>
          <source>ISTQB Yazılım Testi Terimler Sözlüğü Versiyon 1.0"</source>
          , Turkish Testing Board (
          <year>2014</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref10">
        <mixed-citation>
          9.
          <string-name>
            <surname>Nielsen</surname>
            ,
            <given-names>J.</given-names>
          </string-name>
          (
          <year>1994</year>
          ). Usability Engineering, Academic Press Inc, p
          <fpage>165</fpage>
        </mixed-citation>
      </ref>
      <ref id="ref11">
        <mixed-citation>
          10.
          <string-name>
            <surname>Stuart</surname>
            <given-names>K.</given-names>
          </string-name>
          <string-name>
            <surname>Card</surname>
            , Allen Newell ,
            <given-names>Thomas P.</given-names>
          </string-name>
          <string-name>
            <surname>Moran</surname>
          </string-name>
          , The Psychology of Human-Computer
          <string-name>
            <surname>Interaction</surname>
          </string-name>
          , L. Erlbaum Associates Inc., Hillsdale, NJ,
          <year>1983</year>
        </mixed-citation>
      </ref>
      <ref id="ref12">
        <mixed-citation>
          11.
          <string-name>
            <surname>Card</surname>
          </string-name>
          , Stuart K.,
          <string-name>
            <surname>Thomas</surname>
            <given-names>P.</given-names>
          </string-name>
          <string-name>
            <surname>Moran</surname>
            , and
            <given-names>Allen</given-names>
          </string-name>
          <string-name>
            <surname>Newell</surname>
          </string-name>
          .
          <article-title>"The keystroke-level model for user performance time with interactive systems."</article-title>
          <source>Communications of the ACM 23.7</source>
          (
          <year>1980</year>
          ):
          <fpage>396</fpage>
          -
          <lpage>410</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref13">
        <mixed-citation>
          12.
          <string-name>
            <surname>Fitts</surname>
            ,
            <given-names>P. M.</given-names>
          </string-name>
          , &amp;
          <string-name>
            <surname>Radford</surname>
            ,
            <given-names>B. K.</given-names>
          </string-name>
          (
          <year>1966</year>
          ).
          <article-title>Information capacity of discrete motor responses under different cognitive sets</article-title>
          .
          <source>Journal of Experimental Psychology</source>
          ,
          <volume>71</volume>
          ,
          <fpage>475</fpage>
          -
          <lpage>482</lpage>
          .
        </mixed-citation>
      </ref>
      <ref id="ref14">
        <mixed-citation>
          13.
          <string-name>
            <surname>Nielsen</surname>
            ,
            <given-names>Jakob.</given-names>
          </string-name>
          <article-title>"10 Usability Heuristics for User Interface Design." Fremont: Nielsen Norman Group</article-title>
          .
          <source>[Consult. 20 maio 2014]. Disponível na Internet</source>
          (
          <year>1995</year>
          ).
        </mixed-citation>
      </ref>
      <ref id="ref15">
        <mixed-citation>
          14.
          <string-name>
            <surname>HAVELSAN</surname>
          </string-name>
          <article-title>A.Ş</article-title>
          . Basın Duyuruları, http://www.havelsan.com.tr/Basin/BasinDuyurulari.aspx?id=
          <volume>283</volume>
          ,
          <fpage>18</fpage>
          .
          <fpage>11</fpage>
          .2014
        </mixed-citation>
      </ref>
    </ref-list>
  </back>
</article>