Bilgisayarlar ve üzerinde çalışan yazılımlar gün geçtikçe hayatın her alanında yer alırken, bilgisayarların güvenilir çalışması önem kazanmaktadır. Askeri operasyonlar, saglık, uzay araştırmaları, finansal işlemler gibi bazı uygulama alanlarında bu sistemlerin işleyişlerinde meydana gelebilecek en küçük bir hatanın bile kabul edilemez sonuçları olabilmektedir. Bu anlamda bilgisayar sistemlerini daha güvenilir kılabilmek için uygulanabilecek yöntemler bilgisayar mühendisliginin önemli araştırma alanlarından biri olmuştur [1]. Artıklı sistemler bu yöntemlerin başlıcaları arasındadır [2,3]. Sistemin ya da sistemin işleyişinin gerekenden fazla şekilde çoklanması temeline dayanan bu yöntem, donanımsal ya da yazılımsal olarak uygulanabilmektedir. Donanımsal artıklı sistemler, çoklanan donanım bileşeninin arıza yapması ve hatalı çalışması ihtimaline karşı uygulanmaktadır. Bu sistemlerde önlem alınmaya çalışılan hata kalıcı hatalardır. Bir takım donanım hataları ise geçici olarak adlandırılmakta ve sadece belirli bir zamanda oluşup daha sonra kaybolmaktadır. Bu hatalara karşı sıklıkla maliyeti daha az olan artıklı yürütme yöntemi kullanılmaktadır. Bu yöntem temelde, yapılmak istenen işlemin birden fazla defa yapılıp elde edilen sonuçların oy çoklugu prensibine göre oylanarak işlemin beklenen sonucu olarak kabul edilmesidir. Yöntemin ana fikri, aynı geçici hatanın arka arkaya ve aynı hatalı sonucu vererek oluşması ihtimalinin ihmal edilebilir düzeyde olmasıdır. Özellikle artıklı ve çoklu iş parçacıklı (redundant multithreading) yöntemler, hataların farklı çekirdeklerde çalışan kopyalarda eş zamanlı gerçekleşme ihtimalinin daha da düşük olması sebebiyle yüksek hata toleransı saglamakta, paralel çalıştırma sayesinde artıklı çalıştırmanın performans üzerindeki olumsuz etkisinin önüne geçilmektedir [5,6].
Artıklı yürütme yönteminin uygulanması uygulama seviyesinde yer alabilmekte ve yazılım geliştiricilere önemli bir miktarda gerçekleme yükü dogurmaktadır. Artıklı çalıştırılacak bütün işlemlerin bu şekilde gerçeklenmesi ve gerekli oylama işlemlerinin kodlanması gerekmektedir. Bu çalışmada, bu gerçekleme yükünü ortadan kaldıracak genel, yeniden kullanılır bir programlama aracı geliştirmeyi hedefledik. Bu amaçla nesneye yönelik bir programlama ortamında GoF (Gang of Four) tasarım örüntülerinden [10] biri olan vekil tasarım örüntüsünü kullanarak söz konusu gerçekleme yükünün herhangi bir nesne için otomatik ve saydam olarak yapıldıgı, RedundantCaller (artıklı çalıştırıcı) adını verdigimiz bir programlama aracı (sınıf) tasarladık.
Bölüm 2'de bu alandaki ilgili çalışmalar üzerinden kısaca geçilmekte ve bu bölümü vekil tasarım örüntüsünün özetlendigi Bölüm 3 izlemektedir. Redundant-Caller aracımızın işleyişinin yeraldıgı Bölüm 4'ün ardından aracın neden oldugu performans düşüşü ve güvenilirlik artışının incelendigi deneysel çalışmaların bulundugu Bölüm 5 gelmektedir. Bölüm 6 ile makale sonlanmaktadır.
Literatürde yazılım tabanlı artıklı çalıştırma için çok sayıda çalışma mevcuttur. Bu bölümde bu konulardaki çalışmalara yer verilmiştir.
SRMT (Software-based Redundant Multi-Threading) [7], verilen program kodunu iki iş parçacıgına çoklayarak hata tespiti saglamaktadır. Paralel çalışan iş parçacıkları, komutların sonuçlarını karşılaştırarak uyuşmazlık durumunda hata durumu oldugunu tespit etmektedir. Komut seviyesinde sonuç kontrolü saglandıgından performansa etkisi oldukça fazladır, o yüzden bunu iyileştirmek için farklı iş parçacıklarının iletişimini saglayan optimizasyonlar da önerilmiştir. Detaylı bir derleyici ve yürütme sistemi gerçeklemesi içeren bu sistem, sadece hata tespiti saglamakta olup hata toleransı seviyesinin yeniden yapılandırılmasına imkan vermemektedir.
RedThreads [8], C/C++ programları için artıklı çok iş parçacıklı çalıştırma saglayan bir arayüz saglamaktadır. Yazılım geliştirici, arayüz tarafından tanımlanan direktiflerle (directives) programın hangi parçasının, hangi seviyede (kaç iş parçacıgıyla) artıklı çalışacagını belirtebilmektedir. C ¸alışmada hem derleyici, hem de yürütme sistemi gerçeklemesi yapılmış, kullanıcının belirledigi özelliklere göre artıklı çalıştırma saglanmıştır. Kullanım kolaylıgı açısından Re-dundantCaller aracımıza benzemekle birlikte C/C++ programlarına yönelik olması ve çok fazla gerçekleme gerektirmesi yönleriyle bizim çalışmamızdan farklılık göstermektedir.
Chen ve Chen [9] yazılım tabanlı artıklı çalıştırma için bir programlama modeli önermişlerdir. C ¸alışmalarındaki programlama modeli, hata toleransını gerçeklemek için çok iş parçacıklı teknikleri kullanmaktadır. Hata düzeltmeyi de çogunluk oylamasıyla gerçekleştirmektedir. Ayrıca sistemin cevap vermedigi hata durumları için watchdog zamanlayıcısı kullanılmaktadır. Yazılım geliştiricinin, yazılımın gerekli yerlerine müdahale etmesi ve programlama modelinin sundugu fonksiyonları eklemesi gerekmektedir. Yazılım geliştiriciye saydam bir araç olarak sunulan RedundantCaller aracını kullanmak için, hata toleransı eklenmek istenen yazılımda neredeyse hiçbir degişiklik yapılmasına gerek duyulmamaktadır.
Tasarım örüntüleri nesneye yönelik programlamada çok karşılaşılan tasarım problemlerine çözüm olarak sunulmuş yeniden kullanılır, esnek, ve dogrulanmış çözüm önerileridir [10]. Vekil tasarım örüntüsü Eric Gamma ve arkadaşlarının önerdigi 23 iyi bilinen tasarım örüntüsünden biridir ve şu iki temel probleme çözüm sunmayı hedeflemektedir:
-Nesneye erişimi kontrol altına almak -Nesneye saydam bir şekilde yeni işlevler kazandırmak S ¸ekil 1. Vekil tasarım örüntüsünün UML sınıf şeması [10].
Temelde hedef olarak seçilen sınıf ile aynı arayüze sahip bir vekil sınıfının tanımlanması ve vekil sınıfın hedef sınıfı içinde bulundurması (composition) fikrine dayanır. Hedef sınıf kullanıcıları bu sınıfa vekil sınıf üzerinden erişim saglarlar. S ¸ekil 1'de vekil tasarım örüntüsünün UML (Unified Modeling Language) sınıf şeması görüntülenmektedir. Vekil tasarım örüntüsü farklı gerçekleme senaryoları ile yazılım geliştirme alanlarında uygulanmaktadır [11,12].
Bu çalışmamızda vekil tasarım örüntüsü temelli RedundantCaller ismini verdigimiz saydam bir artıklı çalıştırma aracı geliştirdik (https://github.com/isil-oz/RedundantCaller). Bunu yaparken Java programlama dilindeki dinamik vekil (dynamic proxy) mekanizmasını kullandık. Bu mekanizma bir arayüz (interface) ile erişilen herhangi bir sınıfa çalıştırma zamanında otomatik olarak bir vekil sınıf oluşturmak için kullanılmaktadır. RedundantCaller, verilen herhangi bir sınıfın nesnesi için bu sınıfın metotlarını artıklı bir şekilde çalıştıracak vekil nesneyi otomatik olarak oluşturur ve geliştirici bu vekil nesneyi kullanarak gerçeklemek istedigi kodu yazar. RedundantCaller hedef nesnenin artıklı çalıştırılacak bir metodu çagrıldıgında öncelikle o nesnenin artıklı çagırma sayısınca klonunu üretir. Bu işlem Redun-dantCaller kullanımının getirdigi bir gereksinim olmayıp çagrılan metot nesne üzerinde degişiklik yapıyor ise sonraki metotların tutarlı ve dogru çalışması için gereklidir ve artıklı çalıştırma işleminin dogası geregi yapılmaktadır. Daha sonra, artıklı çalıştırma çok iş parçacıklı (multithreaded) olarak yapılandırılmış ise oluşturulan hedef nesne klonlarını içeren birer iş parçacıgı üretilir ve Java programlama dilinde eşzamanlı çalıştırma (concurrent execution) için yaygınca kullanılan Fork-Join mekanizması ile bu iş parçacıkları paralel olarak çalıştırılır. Tek iş parçacıklı yapılandırma senaryosunda ise bu işlem bir döngü içerisinde klon nesnelerin metotlarının arka arkaya çalıştırılması şeklinde gerçekleştirilir. Her iki senaryoda da artıklı çalıştırma neticesinde elde edilen sonuçlar çogunluk oylaması yöntemi ile oylanır ve kazanan sonuç işlemin beklenen sonucu olarak döndürülür. Burada özetlenen bütün bu işlemler geliştiricinin herhangi bir gerçekleme yapmasını gerektirmeden RedundantCaller nesnesi tarafından saydam bir şekilde gerçekleştirilir. RedundantCaller sınıfında yukarıda özetlenen işleri gerçekleştiren kod parçacıgı Kod 1'de listelenmektedir.
Ayrıca geliştirici, vekil nesne ile erişmek istedigi nesnenin arayüz tanımında artıklı çalıştırmak istedigi metotları ve bunların artıklı çalıştırma parametrelerini belirleyebilir. Metot bazında yapabildigi bu yapılandırma imkanı için yine Java programlama dilindeki annotation mekanizması kullanılmıştır. Artıklı çalıştırma yapılandırma parametreleri ihtiyaca göre kolayca arttırılabilmekle beraber bu çalışmada şu parametrelere yer verilmiştir:
-votecount : Tamsayı. Metodun kaç defa çalıştırılacagını belirtir.
-multithreaded : true/false. Artıklı çalıştırma işleminin çok iş parçacıklı çalıştırılıp çalıştırılmayacagını belirtir. RedundantCaller aracımızın kullanım örnegi S ¸ekil 2'de bir nesne üzerinde gösterilmektedir. Örnekte kullanılmak istenen sınıf Matrix sınıfı ve bu sınıfa erişim için tanımlanan arayüz IMatrix arayüzüdür. Bu arayüz içinde tanımlanan tüm metotlar için artıklı çalıştırma imkanı saglanacaktır. Metotlar için belirtilen annotation aracılıgıyla da artıklı çalıştırma yapılandırılabilmektedir. Redundant-Caller sınıfı, Matrix sınıfına vekillik yapmaktadır. Yazılım geliştirici, istedigi artıklılık seviyesine göre annotationların degerlerini belirleyebilmektedir. Ayrıca Artıklı C ¸alışma kutusundaki nesne oluşturma (createObject) satırını yazarak vekil nesne üzerinden yeni nesne oluşturmaktadır. S ¸ekildeki örnekte transpose metodu için tanımlanan @RedundantCall(voteCount = 3, multithreaded = true) annotation'ı ile, transpose metodunu 3 iş parçacıgıyla artıklı olarak çalıştırmak istedigimiz belirtilmiştir. plus metodu için tanımlanmış olan @Re-dundantCall(voteCount = 5, multithreaded = false) annotation'ıyla ise 5 artıklı çalıştırmanın tek bir iş parçacıgıyla gerçekleştirilmesi istenmiştir.
RedundantCaller aracının nesneye yönelik uygulamaların performans ve güvenilirlik üzerindeki etkilerini gözlemlemek için gerçekleştirdigimiz deneyler bu bölümde yer almaktadır.
Deneylerimizi temel lineer cebir işlemleri içeren bir paket olan JAMA kütüphanesini kullanarak gerçekleştirdik [13]. JAMA, Matrix ana sınıfı altında farklı operasyonlar sunmaktadır. Bu kütüphanenin kullanımı, hata hassasiyeti ve hata toleransı çalışmalarında [14,15] sıklıkla kullanılan matris hesaplamaları içerdiginden çalışmamız için oldukça uygun olmuştur. Deneylerimizde 1000x1000 boyutunda rastgele degerlere sahip matrisler üreterek Tablo 1'de listelenen temel 31 operasyonu kullandık. Artıklı çalıştırmanın çok iş parçacıklı versiyonlarını çalıştırabilmek için Intel Xeon E5-2680 temelli çok çekirdekli mimaride deneylerimizi çalıştırdık.
Öncelikle RedundantCaller 'ın performansa olan etkisini gözlemleyebilmek için deneyler gerçekleştirdik. Bu deneylerde matris operasyonlarının artıklı çalıştırma olmadan tamamlandıgı zamanı, ve artıklı çalıştırmanın tek iş parçacıklı, 3 iş parçacıklı ve 5 iş parçacıklı versiyonlarının tamamlandıgı zamanları ölçtük. C ¸alıştırmalar arasındaki eşitsizliklerden kaynaklanabilecek olası yanıltıcı sonuçlardan etkilenmemek için her bir operasyonu 20 defa çalıştırıp en yüksek olan bir degeri dışarıda tutarak ortalamalarını hesapladık, ve her bir operasyonun her bir versiyon için çalıştırma zamanını belirledik. Operasyonlar farklı çalıştırma zamanlarına sahip oldugundan ve hepsini tek bir şekilde göstermek zor oldugundan operasyonları çalıştırma zamanlarına göre üç gruba ayırarak farklı şekillerde performans sonuçlarını raporladık. S ¸ekil 3 çok kısa çalıştırma zamanına (normal çalıştırma zamanı 5 saniyeden düşük) sahip operasyonlara ait sonuçları gösterirken, S ¸ekil 5 uzun süreli operasyonlara ait farklı konfigürasyonlar için operasyonların çalıştırma zamanlarını göstermektedir. Bu şekillerde performans sonuçları verilen farklı konfigürasyonlar ve açıklamaları ayrıca Tablo 2'de verilmiştir.
S ¸ekil 3'te görüldügü gibi çalıştırma zamanı küçük olan operasyonlar için artıklı çalıştırma maliyeti oransal olarak çok yüksekken, tek iş parçacıklı (RCSingle) ve üç iş parçacıklı (RC3Thread) üç artıklı çalıştırma konfigürasyonları ben- figürasyonları için işlem seviyesinde zaman ölçümleri yaptık. S ¸ekil 4, normal çalışması 3-4 saniye süren arrayLeftDivide operasyonunun çalıştırma zamanının hangi işlemlerde geçtigini göstermektedir. Diger operasyonlar için de benzer durumlar söz konusudur. Öte yandan, S ¸ekil 5'te görüldügü gibi normal çalışması 1000-10000 saniye süren bir uygulama için artıklı çalıştırmanın fazladan çalıştırma haricindeki işlemleri görece çok kısa oldugundan, artıklı çalıştırmanın toplam maliyeti oldukça düşük olmaktadır. Tek iş parçacıklı konfigürasyonda (RCSingle), üç artıklı çalıştırma tek bir iş parçacıgı tarafından arka arkaya yapıldıgı için onun performansı en kötüyken; paralel konfigürasyonlarda (RC3Thread ve RC5Thread) üç-beş iş parçacıgı, artıklı çalıştırmaları farklı çekirdeklerde eş zamanlı olarak gerçekleştirdiginden toplam çalıştırma zamanları ciddi artış göstermemektedir. Uzun hesaplamalarda fazladan çalıştırma haricindeki işlemlerin maliyeti görünmemekte ve asıl büyük hesaplama iş parçacıklarına yaptırıldıgı için maliyet gizli kalmış olmaktadır.
RedundantCaller 'ın performansının yanı sıra hata kapsamını gözlemleyebilmek için hata enjeksiyonu deneyleri gerçekleştirdik. Bunun için deneylerde kullandıgımız Matrix sınıfı için operasyon seviyesinde belirli bir ihtimalle hesaplama hata durumları oluşturduk, normal çalıştırmanın ve artıklı çalıştırmanın hesapladıgı degerin hesaplaması gereken degere eşit olup olmadıgını kontrol ederek sessiz veri bozulumu (silent data corruption) durumlarını tespit etmeye çalıştık. Hata enjeksiyonu deneyleri uzun zaman aldıgından nispeten kısa çalıştırma zamanlarına sahip transpose, norm1, norm2, ve uminus operasyonlarına hata enjeksiyonu yaptık. RedundantCaller aracı açısından farklılık oluşturmadıgı için bu operasyon alt kümesinin yeterli oldugunu düşünmekteyiz. Her bir operasyon için 1000 farklı çalıştırma yaparak normal çalıştırmanın ve artıklı çalıştırmanın hatalı hesaplama durumlarını gözlemlemeye çalıştık. İlk olarak literatürde de olası hata oranı olarak tespit edilen 0,001 degeriyle hata enjeksiyon testleri çalıştırdık. Bu hata degeriyle normal çalıştırma için 0,002 (4000 çalıştırmada 8 hatalı veri hesaplama) veri bozulumu oranı gözlemlerken üç artıklı çalıştırmada herhangi bir veri bozulması ile karşılaşmadık. Hata oranını 0,01, 0,1, 0,2 gibi daha az gerçekçi degerlere degiştirdigimizde normal çalıştırmanın veri bozulumu oranı artış gösterirken, üç artıklı çalıştırmada veri bozulumu oranı sıfırda kalarak %100 hata kapsamı gözlemlenmiştir. Hata analizi deneylerimiz, çogunluk oylaması temelli hata toleransı sistemlerindeki beklenen hata kapsamı seviyesini dogrulamıştır. Deney sonuçlarımız, aracımızın tanımlanan hata modelindeki hata kapsamı performansını göstermektedir.
Bilgisayarların ve üzerinde yürütülen yazılımların hatasız ve güvenilir çalışması, çogu zaman performans ve maliyet gibi diger birçok kriterin önüne geçmekte ve bilgi sistemlerinin tasarım kararlarında önemli bir rol oynamaktadır. Geliştiriciler yazılımları oluştururken çözmek istedikleri orjinal problemin yanı sıra, yazılımın daha güvenilir olması için almaları gereken tedbirleri de göz önünde bulundurmak durumundadırlar. C ¸ogu kez bu tedbirler yüksek miktarda ilave kod karmaşıklıgı ve/veya performans yükü dogurmaktadır.
Bu çalışmada nesne yönelimli programlamada yaygınca kullanılan vekil tasarım örüntüsünü kullanarak geliştiricilere güvenilir yazılım mekanizmalarından biri olan artıklı çalıştırma teknigini esnek, saydam ve otomatik bir şekilde sunan bir geliştirme aracı oluşturduk. Vekil tasarım örüntüsünün diger kullanım alanlarının yanında bu alanda da etkin bir çözüm olarak kullanılabilecegini göstermiş olduk. Java programlama dilinin sundugu dinamik vekil ve annotation dil ögelerini kullanarak tasarladıgımız aracı genel ve kolayca yapılandırılabilir bir şekilde gerçekledik. Yine Java'da yaygınca kullanılan fork-join sistemi ile artıklı çalıştırma işinin istege baglı olarak çok iş parçacıklı olarak yapılmasını sagladık.
Örnek bir Java kütüphanesi ile gerçekleştirdigimiz deneylerde paralel çalıştırmanın sagladıgı fayda ile aracımızın küçük bir performans kaybı ile önemli oranlarda güvenilirlik artışı sagladıgını gösterdik. Yine deneyler için oluşturdugumuz test kodunda RedundantCaller kullanımının mevcut kodu min-imum miktarda degiştirdigini ve geliştiriciye ihmal edilebilir miktarda bir ilave iş yükü getirdigini gözlemledik. Ayrıca önerdigimiz aracın benzer programlama ögelerinin (dynamic proxy, annotation) desteklendigi diger nesneye yönelik programlama dillerinde (C#, C++ vb.) de kolaylıkla gerçeklenebilecegini düşünmekteyiz.
Bu çalışmada kullanılan hesaplama kaynakları Ulusal Yüksek Başarımlı Hesaplama Merkezi'nin (UHeM), 1005202018 numaralı destegiyle, saglanmıştır.