<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Archiving and Interchange DTD v1.0 20120330//EN" "JATS-archivearticle1.dtd">
<article xmlns:xlink="http://www.w3.org/1999/xlink">
  <front>
    <journal-meta />
    <article-meta>
      <title-group>
        <article-title>E-Devlet Web Siteleri İçin Rehber Tabanlı Kullanılabilirlik Değerlendirmesi</article-title>
      </title-group>
      <contrib-group>
        <contrib contrib-type="author">
          <string-name>Samet ARSOY</string-name>
          <email>1sametarsoy@gmail.com</email>
          <xref ref-type="aff" rid="aff0">0</xref>
        </contrib>
        <contrib contrib-type="author">
          <string-name>Oya KALIPSIZ</string-name>
          <email>2kalipsiz@yildiz.edu.tr</email>
          <xref ref-type="aff" rid="aff0">0</xref>
        </contrib>
        <aff id="aff0">
          <label>0</label>
          <institution>Anahtar Kelimeler. Kullanılabilirlik, E-Devlet</institution>
          ,
          <addr-line>Kullanılabilirlik Rehberleri, Kullanılabilirlik Değerlendirmesi</addr-line>
        </aff>
        <aff id="aff1">
          <label>1</label>
          <institution>Yazılım Test ve Kalite Değerlendirme Merkezi, TÜBİTAK</institution>
          ,
          <addr-line>Kocaeli</addr-line>
        </aff>
      </contrib-group>
      <abstract>
        <p>Özet. Kamu kurumları sağladıkları hizmetleri bilgi ve iletişim teknolojileri ile vatandaşa sunarak etkinliğini artırmakta, tasarruf sağlamakta ve hizmet kalitesini artırmayı amaçlamaktadırlar. Kamu kurumlarının e-devlet hizmetlerinin amacına ulaşmasında, hizmetlerin vatandaşlar tarafından kullanılabilir olması önemli bir ölçüttür. Bu çalışmanın amacı Türkiye'deki e-devlet web sitelerinin, önemli bir kalite faktörü olan kullanılabilirlik açısından kapsamlı bir şekilde değerlendirilmesine yönelik bir mekanizmanın geliştirilmesini sağlamaktır. Bu amaçla web sitelerinin kullanılabilirliği için hazırlanmış ulusal ve uluslararası rehberler analiz edilerek e-devlet web sitelerinin çeşitli kategoriler altında kullanılabilirliğinin değerlendirilmesini sağlayacak bir kullanılabilirlik değerlendirme kural seti hazırlanmıştır. Hazırlanan kural seti doğrultusunda web sitelerinin değerlendirilmesini sağlayacak bir Kullanılabilirlik Değerlendirme Aracı geliştirilmiştir. Geliştirilen araçla 6 e-devlet web sitesi 3 farklı kullanıcı tarafından değerlendirilmiş ve sonuçlar analiz edilmiştir.</p>
      </abstract>
    </article-meta>
  </front>
  <body>
    <sec id="sec-1">
      <title>-</title>
      <p>Bilgi ve iletişim teknolojilerindeki gelişmelerle birlikte, devlet ile vatandaş arasındaki
iletişimin elektronik ortama taşınması konusundaki çalışmalar ülkemizde ve tüm
dünyada hız kazanmıştır.</p>
      <p>Kamu kurumlarının elektronik ortamda sağladıkları hizmetlerin amacına
ulaşmasındaki önemli unsurlardan bir tanesi sağlanan hizmetlerin vatandaşlar
tarafından kullanılabilmesidir. Bu noktada kullanılabilirlik konusu ön plana çıkmaktadır.</p>
      <p>
        Kullanılabilirlik, Uluslararası Standartlar Enstitüsü (International Standarts
Institute-ISO) tarafından bir uygulamada belirlenen işlerin, hedeflenen kullanıcı kitlesi
tarafından etkili ve verimli bir şekilde, belirli şartlar altında, memnun bir şekilde
gerçekleştirilmesi olarak tanımlanmaktadır [
        <xref ref-type="bibr" rid="ref1">1</xref>
        ]. Nielsen ise kullanılabilirliği
tanımlarken kullanılabilirliğin çok fazla bileşeni olduğunu fakat genellikle kolay
öğrenebilirlik, etkin kullanım, hatırlanabilirlik, düşük hata oranı ve kullanıcı
memnuniyeti parametreleri ile ilişkili olduğunu belirtmektedir [
        <xref ref-type="bibr" rid="ref2">2</xref>
        ].
      </p>
      <p>Kamu kurumlarına ait internet sitelerinin belirli bir kalite düzeyine ulaşması ve
kullanımının artırılabilmesi için; belirlenmiş bazı standartlara uyumlu olarak
geliştirilmesi gerekmektedir. Bu bağlamda birçok ülke kendi standartlarını
hazırlamıştır. Ayrıca uluslararası rehberler çıkarılmış ve e-devlet siteleri standartlara
göre değerlendirmeye alınmıştır.</p>
      <p>
        Ülkemizde kamu kurumlarının internet sitelerinin standardizasyonunan yönelik
olarak bir kılavuz ilk olarak 2006 yılında E-Dönüşüm Türkiye Projesi 2005 yılı eylem
planı kapsamında TÜBİTAK tarafından hazırlanmıştır [
        <xref ref-type="bibr" rid="ref3">3</xref>
        ]. Görsellik, hizmet kalitesi,
içerik, güvenlik, kimlik yönetimi ve kullanılabilirlik standardizasyonunun sağlanması,
kamu internet sitelerinin engelliler tarafından da kullanılabilmesine yönelik olarak
“Bilgi Toplumu Stratejisi Eylem Planı” içerisinde Türksat tarafından güncellenen
kılavuz “Kamu Kurumaları İnternet Siteleri Standartları ve Önerileri Rehberi
(KAKİS)” adı altında güncellenmiş ve 2009 yılında yayımlanmıştır [
        <xref ref-type="bibr" rid="ref4">4</xref>
        ]. Kamu
kurumları internet siteleri KAKİS’e uyumlu olmak zorundadır. Halihazırda KAKİS’e
uyumluluğu denetleyecek bir mekanizma bulunmamakla birlikte yapılan akademik
çalışmalar mevcuttur. 2012 yılında Çağıltay ve Durmuş tarafından yapılan kapsamlı
çalışmada KAKİS doğrultusunda 33 e-devlet web sitesi değerlendirmeye alınmış ve
web sitelerinin problemleri ve problemlerin sebepleri üzerinde durulmuştur.
Çalışmada mevcut KAKİS Değerlendirme Aracı temel yapı bozulmadan iyileştirilerek
kullanılmıştır [
        <xref ref-type="bibr" rid="ref5">5</xref>
        ]. Yalçınkaya ve Betin Can tarafından gerçekleştirilen çalışmada 50
edevlet sitesi 32 kural ile ele alınmış, değerlendirmede 20 kural maddesi çalışma
kapsamında geliştirilen araçla otomatik olarak değerlendirilmiştir [
        <xref ref-type="bibr" rid="ref6">6</xref>
        ].
      </p>
      <p>
        E-Devlet anlamında yapılan uluslararası değerlendirmelerde Japonya’da bulunan
Waseda Üniversitesi E-Devlet Enstitüsünün 2013 Uluslararası E-Devlet
Sıralaması’nda ülkemiz 55 ülke arasında 23. sırada bulunmaktadır [
        <xref ref-type="bibr" rid="ref7">7</xref>
        ]. Birleşmiş Milletler
E-Devlet Araştırması (United Nations E-Government Survey) 2012 yılı
değerlendirmesinde ise Türkiye e-devlet gelişim endeksini yükseltmesine rağmen 192 ülke
içinde 69. sıradan 80. sıraya gerilemiştir [
        <xref ref-type="bibr" rid="ref8">8</xref>
        ].
      </p>
      <p>Ülkemizdeki e-devlet sitelerinin kullanılabilir olması daha üst sıralara
yükselmesini sağlayacak maddelerden biridir. Bu çalışmada e-devlet sitelerinin
kullanılabilirliğinin değerlendirilmesini sağlayacak kullanılabilirlik değerlendirme seti ve
kullanılabilirlik değerlendirme aracı çalışması anlatılmıştır.</p>
      <p>Bildirinin 2. bölümde kullanılabilirlik değerlendirme seti çıkarılması ve
değerlendirme aracının geliştirilmesi açıklanmıştır. 3. bölümde yapılan çalışmanın e-devlet
siteleri üzerindeki uygulaması ve sonuçları ele alınmış ve 4. Bölümde Türkiye’de
edevlet uygulamalarının durumu ve yapılabilecek çalışmalar değerlendirilmiştir.</p>
    </sec>
    <sec id="sec-2">
      <title>Kullanılabilirlik Değerlendirme Seti ve Aracının</title>
    </sec>
    <sec id="sec-3">
      <title>Geliştirilmesi</title>
      <sec id="sec-3-1">
        <title>Kullanılabilirlik Değerlendirme Setinin Hazırlanması</title>
        <p>Kullanılabilirlik ile ilgili olarak çok sayıda rehber bulunmaktadır. Kullanılabilirlik
değerlendirme setinin hazırlanmasında aşağıda belirtilen ulusal ve uluslararası
rehberler dikkate alınmıştır.</p>
        <p>
          ISO-9241-151: Uluslararası Standardizasyon Kuruluşu (ISO) tarafından 2008
yılının mayıs ayında son olarak yayımlanmıştır. ISO-9241 standard ailesi altında yer
alan tüm standartlar insan makine etkileşimi kapsamı altında yer almaktadır.
ISO9241-151 ise insan makine etkileşimi ile ilgili olarak web kullanıcı arayüzleri
üzerinde 141 maddeden oluşan bir rehberdir. Rehberde aşağıdaki kategorilerle ilgili
tavsiyelerde bulunulmaktadır [
          <xref ref-type="bibr" rid="ref9">9</xref>
          ]:
 Yüksek seviyeli tasarım kararları ve tasarım stratejileri
 İçerik Tasarımı
 Gezinim ve Arama
 Ortam Sunumu
        </p>
        <p>ISO-9241-151 dışında erişilebilirlik, listeler, ekran bazlı kontroller, resimler ve
çoklu ortam gibi birçok konu ile ilgili ISO rehberleri bulunmaktadır. ISO-9241-151
dışındaki ISO rehberleri bu çalışmada değerlendirme dışında tutulmuştur.</p>
        <p>
          HHS: Amerika Sağlık Bakanlığı tarafından “Research-Based Web Design &amp;
Usability Guidelines” başlıklı bir rehber son olarak 2006 yılında güncellenerek
yayımlanmıştır. Rehberde 209 kural bulunmaktadır. Kurallar kural maddesinin web
siteleri açısından önem derecesini gösteren 1 ile 5 arasındaki bir önem derecesi ve
kuralın dayandırıldığı kaynakların güçlülüğüne bağlı olarak 1 ile 5 arasındaki kanıt
derecesi ile birlikte sunulmaktadır [
          <xref ref-type="bibr" rid="ref10">10</xref>
          ].
        </p>
        <p>KAKİS: TÜRKSAT tarafından 2009 yılında “Kamu Kurumları İnternet
Siteleri Standartları ve Önerileri Rehberi” ismiyle yayımlanmıştır. Rehberde
ISO9241-151 standardı ile uyumlu olduğu belirtilmektedir. Erişilebirlik dahil olmak üzere
20 kategoride öneriler sunulmaktadır.</p>
        <p>Kullanılabilirlik rehberleri web sitelerinin genel özelliklerine göre genel kategoriler
belirtmekte ve kurallarını o kategoriler altında sunmaktadırlar. (Örneğin: Kategori:
Arama, Kural: Arama Sonuçlarının Sunumu)</p>
        <p>Bu çalışmada kullanılabilirlik rehberlerindeki kurallar kullanılarak bir
değerlendirme yapılacağı için değerlendirmeyi de benzer şekilde kategorilere bölmek ve
kuralları kategoriler altına yerleştirerek, kurallar üzerinden sitenin kategorisel
başarısını görmek gerekmektedir.</p>
        <p>KAKİS, E-devlet için hazırlanmış bir rehber olduğu için ISO 9241-151 ve HHS
rehberlerinden farklı olarak e-devlet sitelerine yönelik kategoriler içerdiğinden dolayı
değerlendirme seti hazırlanırken KAKİS kategorileri temel alınmış ve KAKİS’te yer
alan kural başlıkları kategorilerin altına yerleştirilmiştir. Erişebilirlik konusu başlı
başına bir konu olarak görülmüş ve kullanılabilirlik değerlendirme setine dahil
edilmemiştir.</p>
        <p>Rehberler taranarak web sitesi değerlendirmesinde belirlenen kural başlıklarını
değerlendirmede kullanılabilecek değerlendirme maddeleri çıkarılmıştır. Çıkarılan
değerlendirme maddeleri; kaynak ve kaynakta geçtiği yer ile birlikte not edilmiştir.
Değerlendirme maddelerinin çıkarımı sırasında tamamen aynı ya da temelde aynı şeyi
anlatan maddeler ile farklı rehberlerde karşılaşıldığında kaynakların tamamı not
edilerek maddeler birleştirilmiştir.</p>
        <p>Değerlendirme maddeleri çıkarıldıktan sonra çıkarılan değerlendirme maddelerinin
tüm siteler için gerekli bir madde olup olmadığına karar verilmiş ve HHS’de belirtilen
önem dereceleri de göz önünde tutularak kurallar ve kural altında yeralan kural
değerlendirme maddeleri ağırlıklandırılmıştır. Kullanılabilirlik değerlendirme setinin
hazırlanma süreci Şekil 1’de özetlenmiştir.</p>
        <p>Şekil 1. Kullanılabilirlik Değerlendirme Setinin Oluşturulması
Kullanılabilirlik Değerlendirme Seti çalışması sonucunda 18 kategori altında 139
kural ve kuralları değerlendirmek için 276 değerlendirme noktası tespit edilmiştir.
Değerlendirme noktalarının 146 tanesinin değerlendirmenin zorunlu olduğu, 130
tanesinin ise zorunlu olmayan şarta bağlı değerlendirme noktaları olduğuna karar
verilmiştir.
2.2</p>
      </sec>
      <sec id="sec-3-2">
        <title>Değerlendirme Aracının Geliştirilmesi</title>
        <p>Rehberlere göre kullanılabilirlik değerlendirmesi yapmak için genel olarak bir kontrol
listesi kullanılmakta ve kullanılan kontrol listesindeki maddeler kontrol edilerek
uygun ve uygun olmayan maddeler tespit edilmektedir. Ülkemiz’de de KAKİS’e
uygun4
luğu değerlendirmek üzere Excel’de hazırlanmış bir KAKİS Değerlendirme Aracı
bulunmaktadır. Mevcut değerlendirme araçları incelenerek aşağıdaki özelliklere sahip
bir değerlendirme aracı geliştirilmiştir.</p>
      </sec>
      <sec id="sec-3-3">
        <title>Kullanılabilirlik Değerlendirme Seti Yönetimi: Değerlendirme seti üzerinde</title>
        <p>ekleme, güncelleme, silme gibi yönetimsel işlemler yapılabilmektedir. Kuralların
kategori içindeki ağırlığı; değerlendirme noktalarının kural içerisindeki ağırlığı
belirlenebilmektedir.</p>
        <p>Şekil 2.Kullanılabilirlik Değerlendirme Setinin Yönetimi
Proje Oluşturma: Değerlendirmeye alınacak web sitesinin değerlendirilecek
kategorilerinin seçimi ve kategorilerin o web sitesi için ağırlığı belirlenebilmektedir.
Değerlendirmeyi yapacak değerlendiricilerin seçimi ve değerlendirme için bitiş tarihi
belirlenerek, seçilen herbir değerlendirici için ayrı bir değerlendirme
oluşturulmaktadır.</p>
        <p>Site Değerlendirme: Değerlendiriciler kendilerine açılan değerlendirmeleri
görebilmekte ve site için belirlenen kategorileri değerlendirme noktalarını “Başarılı”,
“Kısmen Başarılı” ve “Başarısız” olmak üzere değerlendirebilmektedir. Zorunlu
olmayan değerlendirme noktalarını değerlendirme dışı bırakabilirken, zorunlu olan
kurallar için bir değerlendirme yapmak zorunlu kılınmıştır.</p>
        <p>Proje İzleme: Değerlendiriciler tarafından yapılan değerlendirmelerin durumu
görülebilmekte, tamamlanan değerlendirmelerin ortalaması alınarak sitenin kategorik
olarak ve toplamda aldığı puan hesaplanarak gösterilmektedir.</p>
        <p>Kullanıcı Yönetimi: Kullanılabilirlik Değerlendirme Aracını kullanacak
kullanıcıların yönetimi ve yetkilendirmeleri yapılabilmektedir. Kullanıcılara yönetici
ve değerlendirici olmak üzere 2 farklı yetki verilebilmektedir.
Çalışmanın Uygulanması</p>
      </sec>
      <sec id="sec-3-4">
        <title>Değerlendirilecek Sitelerin Belirlenmesi</title>
        <p>
          Değerlendirilecek siteler belirlenirken öncelikli olarak Türkiye’de en çok ziyaret alan
ve faaliyet alanı birbirlerinden farklı olan siteler dikkate alınmıştır. Bunun için Alexa
firmasının Türkiye’deki web sitelerinin internet trafik ölçümleri referans alınmıştır
[
          <xref ref-type="bibr" rid="ref11">11</xref>
          ]. Milli Eğitim Bakanlığı, Milli Piyango, Sosyal Güvenlik Kurumu, Meteoroloji
Genel Müdürlüğü, İç İşleri Bakanlığı, Gelir İdaresi Başkanlığı web siteleri
değerlendirmeye alınmıştır.
3.2
        </p>
      </sec>
      <sec id="sec-3-5">
        <title>Değerlendirme Projelerinin Oluşturulması ve Değerlendirmeler</title>
        <p>Belirlenen 6 site 10 Nisan 2013 - 10 Mayıs 2013 tarihleri arasında değerlendirilmiştir.
Değerlendirmede değerlendirme setinde yer alan 18 kategoriden 15’i değerlendirmeye
alınmıştır. Kişisel Bilgilerin Güvenliği ve Gizliliği; İnternet Sitesi İçeriği Arşivleme
kategorileri sadece site kullanımıyla tespit edilemeyeceğinden, Listeler/Tablolar
kategorisi ise değerlendirilecek tüm sitelerde liste ve tablo kullanımı olmadığından
değerlendirme dışında tutulmuştur.</p>
        <p>Değerlendirilecek kategoriler siteler için belirlenen önem derecesine göre
ağırlıklandırılmıştır. Değerlendirmeye alınan kategoriler şunlardır: Yazılım Donanım, Ana
Sayfa, Kurumla İletişim, Arama, Sayfa Yapısı, Navigasyon Kullanımın
İyileştirilmesi, Bağlantılar, Kaydırma Çubuğu ve Sayfa İçinde Gezinim, Sayfa İçi Başlıklar ve
İnternet Sitesi Başlıkları, Yazı Görünüşü, Veri Girişi ve Ekran Tabanlı Kontroller,
Resim ve Çoklu Ortam Elemanları, Metadata-Üstveri Kullanımı, İnternet Sitesi
Yayınlanması</p>
        <p>Kullanılabilirlik değerlendirmeleri 3 değerlendirici tarafından etkileşimli olarak
gerçekleştirilmiştir. Sitelerin aldığı ortalama toplam puan Tablo 1’de belirtilmiştir.
m
K</p>
        <p>K t g</p>
        <p>K t g</p>
        <p>K K t g
SKS = Site Kategori Skoru</p>
        <p>t
∑
(1)
(2)
Tablo 1. Değerlendirme Sonucunda Alınan Toplam Puanlar</p>
        <p>Web Sitesi
Milli Eğitim Bakanlığı
www.meb.gov.tr
Sosyal Güvenlik Kurumu
www.sgk.gov.tr
Meteoroloji Genel Müdürlüğü
www.mgm.gov.tr
İç İşleri Bakanlığı
www.icisleri.gov.tr
Milli Piyango
www.millipiyango.gov.tr
Gelir İdaresi Başkanlığı
www.gib.gov.tr</p>
        <p>Ortalama Toplam Puan- %</p>
        <p>Değerlendirilen e-devlet web siteleri ile ilgili problemlerden bazıları aşağıda
kısaca belirtilmiştir.</p>
        <p>MEB: Web sitesi açılır açılmaz kullanıcıya gösterilen pop-up sayfa ana sayfaya her
gidilişinde açılmakta olup kullanıcıyı rahatsız edebilmektedir. Bazı sayfalarda
bağlantıya tıklanılmadan sitenin nasıl davranacağı kestirilememektedir. Kullanıcı yeni
bir sayfa açılmasını beklerken bir dosyayı bilgisayarına indirebilmektedir.
Sosyal Güvenlik Kurumu: Site içi arama özelliğinin çalışmadığı ve sayfaların
yaygın kullanılan bazı tarayıcılarda problemli çalıştığı gözlemlenmiştir. Sayfaların
arama motorlarında üst sıralarda çıkmasını sağlayacak meta-data kullanımın
sağlanmadığı görülmüştür.</p>
        <p>Meteoroloji Genel Müdürlüğü: Devlet kurumları web sitelerinde reklam
alınmaması tavsiye edilirken meteorolojinin web sitesine reklam aldığı görülmüştür.
Kullanıcının web sitesinin neresinde olduğunu anlamasını sağlayacak ekmek kırıntısı
gibi yaklaşımlar sağlanmadığından kullanıcı sitenin neresinde olduğunu anlamakta
zorluk çekmektedir. Düşük çözünürlüklerde yatayda ve dikeyde kaydırma çubuğu
kullanılmadan sayfalar kullanılamamaktadır. Site genelinde meta-data
kullanılmamıştır.
İç İşleri Bakanlığı: Tutarlı ve standart bir görünüm için gerekli olan menu
elemanlarının sayfanın üst kısımlarında yer alması tavsiye edilirken menünün sayfanın
ortasında bir yerde yer alması ve sayfalar arasında gezinilirken ana sayfada yeralan
menülerin kaybolması sitenin kullanımını zorlaştırmaktadır.</p>
        <p>Milli Piyango: Bazı sayfalarda kullanılan mavi renkli başlıklar kullanıcıda bağlantı
varmış izlenimi oluşturmakta ve kullanıcıyı yanıltabilmektedir. Site yapısını ortaya
koyan site haritası bulunmamaktadır. Arama alanının ana sayfada sayfanın üst
bölümünde yer alması beklenirken footer bölümünde yer aldığı görülmüştür.
Gelir İdaresi Başkanlığı: Site kulanıcının aradığını bulmakta zorlanabileceği
karmaşık bir yapıya sahiptir. Sitenin ana sayfası çok yoğun bilgi içermekte, bilgi
organizasyonu karmaşık olduğu için etkileyici bir ana sayfaya sahip değildir. Site
içerisinde yaygın olarak kullanılan yazı stili, tavsiye edilen yazı stilleri içerisinde
bulunmamaktadır. Sitede yeralan etkinlik fotoğrafları minyatür şeklinde gösterilip
istenildiğinde büyütülebilen fotoğraf şeklinde yer almadığından sayfanın yüklenmesini
zorlaştırmaktadır.
4</p>
      </sec>
    </sec>
    <sec id="sec-4">
      <title>Sonuç</title>
      <p>Bu makalede mevcut kullanılabilirlik rehberleri analiz edilerek e-devlet web siteleri
için kullanılabilirlik değerlendirme seti oluşturulmuş ve değerlendirme setine
uygunluğun değerlendirilmesini sağlayacak bir Kullanılabilirlik Değerlendirme Aracı
geliştirilmiştir. Değerlendirme aracı ile 6 web sitesi değerlendirilerek değerlendirme
aracı denenmiş aynı zamanda sitelerde kullanılabilirlik açısından eksik veya
geliştirilebilecek özellikler tespit edilmeye çalışılmıştır.</p>
      <p>E-devlet web siteleri kamu kurumlarının toplum nezdindeki imajında önemli bir
etkiye sahiptir. Bu açıdan ülkemizdeki e-devlet hizmetlerinin ulusal ve uluslararası
kabul görmüş standart ve rehberlere göre tasarlanması önemlidir. Ayrıca e-devlet
hizmetlerinin standartlara uygunluğunu tespit edecek mekanizmaların geliştirilmesi,
sağlanan hizmetlerin bağımsız kurum ve kuruluşlarca denetlenmesi gibi çalışmaların
geliştirilmesi kullanıcı odaklı hizmetlerin vatandaşlara ulaşmasını sağlayacaktır.
KAKİS rehberinin gelişen teknolojiler doğrultusunda güncel tutulması ve kamu
kurumlarının rehber ile ilgili farkındalığının sağlanması bir gerekliliktir. Bu çalışma ile
yukarıda bahsi geçen konularda katkı sağlanması ayrıca hedeflenmiştir.</p>
      <p>Yapılan çalışmanın devamında değerlendirilen sitelerin çoğalmasıyla birlikte
normalizasyon teknikleri kullanılarak değerlendirme puanlama sistemi optimize edilmeye
çalışılacaktır. Değerlendiriciler tarafından yapılan bazı değerlendirmelerin araç
üzerinden otomatik olarak puanlanmasını sağlayacak geliştirmeler yapılması
planlanmaktadır. Yapılacak diğer bir çalışma da geliştirici ekibe verilecek bir eğitim
sonrası web sitesindeki gelişimin takip edilerek eğitim verilmeden izlenen bir site ile
farkları karşılaştırılması ve farkındalığın geliştirici üzerindeki etkisinin
değerlendirilmesidir.</p>
      <p>Teşekkür - Yazarlar, bu çalışmanın gerçekleştirilmesi için kaynak ve destek sağlayan
TÜBİTAK BİLGEM Yazılım Test ve Kalite Değerlendirme Merkezi'ne teşekkür
eder.</p>
    </sec>
  </body>
  <back>
    <ref-list>
      <ref id="ref1">
        <mixed-citation>
          1. ISO/IEC. 9241-
          <fpage>11</fpage>
          “
          <article-title>Ergonomic requirements for office work with visual display terminals (VDT)s - Part 11 Guidance on usability”</article-title>
          , ISO/IEC 9241-
          <fpage>11</fpage>
          :
          <year>1998</year>
          (E),
          <year>1998</year>
        </mixed-citation>
      </ref>
      <ref id="ref2">
        <mixed-citation>
          2.
          <string-name>
            <surname>Nielsen</surname>
          </string-name>
          , J. “Usability Engineering”, Acedemis Press, Boston,
          <year>1993</year>
        </mixed-citation>
      </ref>
      <ref id="ref3">
        <mixed-citation>
          3. TÜBİTAK. (
          <year>2006</year>
          ).
          <article-title>“Kamu Kurumları İnternet Sitesi Kılavuzu” (Sürüm 1</article-title>
          .0) [Çevrim İçi: http://www.kakis.gov.tr/files/kilavuzv1.pdf].
          <source>Erişim Tarihi:02.05</source>
          .2013
        </mixed-citation>
      </ref>
      <ref id="ref4">
        <mixed-citation>
          4. DPT., “
          <article-title>Bilgi Toplumu Stratejisi Eylem Planı (</article-title>
          <year>2006</year>
          -2010)” [Çevrim İçi: http://mevzuat.dpt.gov.tr/ypk/2006/20060728-7-2.doc].
          <source>Erişim Tarihi: 05.05</source>
          .2013
        </mixed-citation>
      </ref>
      <ref id="ref5">
        <mixed-citation>
          5.
          <string-name>
            <surname>Çağıltay</surname>
            ,
            <given-names>K.</given-names>
          </string-name>
          ,
          <string-name>
            <surname>Durmuş</surname>
            ,
            <given-names>S.</given-names>
          </string-name>
          “
          <article-title>Kamu Kurumları Web Siteleri ve Kullanılabilirlik” [Çevrim İçi: www</article-title>
          .metu.edu.tr/~kursat/e-devlet-kitapbolumu.docx].
          <source>Erişim Tarihi:02.05</source>
          .2013
        </mixed-citation>
      </ref>
      <ref id="ref6">
        <mixed-citation>
          6.
          <string-name>
            <surname>Yalçınkaya</surname>
            ,
            <given-names>S.</given-names>
          </string-name>
          , Yüksek Lisans Tezi:
          <article-title>Assesing Standard-Compliance of Public Institution Web Sites of Turkey</article-title>
          , Informatics Institute Of Metu, (
          <year>2012</year>
          )
        </mixed-citation>
      </ref>
      <ref id="ref7">
        <mixed-citation>
          7.
          <string-name>
            <surname>Obi</surname>
            ,
            <given-names>T.</given-names>
          </string-name>
          (
          <year>2013</year>
          ). “The 2013 Waseda University the World e-Government Ranking”, Tokyo: Institute e-Government Waseda University.
        </mixed-citation>
      </ref>
      <ref id="ref8">
        <mixed-citation>
          8. UNDESA/DPADM. (
          <year>2012</year>
          ). “
          <string-name>
            <surname>United Nations</surname>
          </string-name>
          e-Government
          <source>Survey</source>
          <year>2012</year>
          ”, E-Government to Connected Governance. New York : United Nations.
        </mixed-citation>
      </ref>
      <ref id="ref9">
        <mixed-citation>
          9. ISO-
          <volume>9241</volume>
          -151,
          <article-title>Ergonomics of Human-System İnteraction-Guidance on World Wide Web User Interfaces</article-title>
          , (
          <year>2008</year>
          )
        </mixed-citation>
      </ref>
      <ref id="ref10">
        <mixed-citation>
          10. The Department of Health &amp; Human
          <string-name>
            <surname>Service</surname>
          </string-name>
          , USA,“
          <article-title>The Research-Based Web Design &amp; Usability Guidelines”</article-title>
          , [Çevrim İçi: http://www.usability.gov/guidelines/guidelines_book.pdf],
          <source>Erişim Tarihi:15.04</source>
          .2013
        </mixed-citation>
      </ref>
      <ref id="ref11">
        <mixed-citation>
          11. Top Sites in Turkey, http://www.alexa.com/topsites/countries/TR, Erişim Tarihi:
          <volume>10</volume>
          <issue>Nisan 2013</issue>
        </mixed-citation>
      </ref>
    </ref-list>
  </back>
</article>