Birçok algılayıcı içeren sistemlerde, sistemin amacının gerçekleştirilebilmesi için, bu algılayıcılardan elde edilen büyük boyutlardaki veriler üzerinde işlem yükü yüksek sinyal işleme algoritmalarını kabul edilebilir bir performans sağlayacak şekilde gerçek zamanlı olarak uygulamak gerekmektedir. İşlem yükü yüksek sinyal işleme algoritmalarının (görüntü işleme, sonar sinyal işleme, vs.) gerçeklenmesi için güçlü donanımlara (grafik işlemci vs.) ya da işlem yükünün (algoritmaların) farklı donanımlara dağıtılmasına ihtiyaç olduğu görülmüştür.
Bu makale kapsamında, algılayıcı olarak birçok hidrofon kullanan örnek bir pasif sonar sisteminin sinyal işleme algoritma dizisinin, işlemci (CPU) ve grafik işlemci (GPU) üzerinde paylaşılarak ve bu yapılara özel kütüphaneler kullanılarak gerçeklenmesi ve gerçeklenme sırasında yapılan adımlar anlatılacaktır. Bir algoritmanın gerçekleneceği işlemci seçiminde izlediğimiz yoldan da bahsedilecektir.
Bu makalede anlatılan örnek pasif sonar sistemi, düşük frekanslı hedef özgürültüsü ve DEMON ("Detection Of Envelope Modulation On Noise") bilgisi ile her türlü sualtı hedefini tespit etme, sınıflandırma, konumlandırma, takip etme kabiliyetlerine sahip bir sistemdir. Aynı zamanda hedefin yüksek frekanslı aktif yayınını tespit ederek kullanıcıya sınıflandırma bilgisi olarak da sunmaktadır.
Sistemde düşük frekanslardaki hedef öz gürültüsünün tespiti için doğrusal dizin yapısında bir hidrofon dizini bulunmaktadır. Bu dizin triplet adı verilen sensör istasyonlarından oluşmaktadır. Bunun dışında dizinde hareket esnasında meydana gelen ve sinyal işlemeyi etkileyebilecek geometrik değişiklikleri algılayabilmek için akustik olmayan sensörler ve yüksek frekans bandında hedef aktif yayınlarının dinlenmesi için tüm yönlü yayın (intersept) algılayıcıları yer almaktadır.
Tüm hidrofonlardan ve akustik olmayan sensörlerden gelen veri, ışın demetleme algoritmaları tarafından işlenir ve işlenmiş veri tespit, sınıflandırma, takip, konumlandırma algoritmalarına aktarılır. Sistemin sinyal işleme algoritma akışı ve algoritmaların birbirleri ile olan ilişkileri Şekil 1'de verilmiştir.
Sinyal İşleme Algoritmaları Gerçekleme
Sistemde düşük frekans için yaklaşık 7.5MB, yüksek frekans için yaklaşık 1 MB'lık verinin 500 ms içerisinde işlenmesi gerekmektedir. Bu büyüklükte bir verinin sinyal işleme alanında sıkça kullanılan Power PC, DSP gibi tek bir birim üzerinde gerçeklenemeyeceği yapılan testler ile görülmüştür.
Bu nedenle ilk olarak görüntüleme amaçlı kullanılmak için tasarlanmış ama sonradan çok çekirdekli (100 çekirdek üzeri) büyük verilerle tek, basit ve tekrarlı algoritmaları gerçeklemek için kullanılır hale gelmiş GPU'lar [1] üzerinde çalıştırılarak denenmesinin uygun olacağı düşünülmüştür. Sinyal işleme algoritmalarında kullanılan temel işlemler (çıkarma, çarpma, FFT gibi) farklı büyüklükteki veriler için bir Power PC, CPU, DSP ve GPU üzerinde çalıştırılarak, çalışma süreleri karşılaştırılmıştır. Şekil 2'de görüldüğü gibi GPU özellikle büyük verilerde en kısa sürede çıktı üreten donanımdır. Bu nedenle sistemde büyük verileri paralel olarak işlemeye olanak veren sinyal işleme algoritmalarının gerçeklenmesinde GPU kullanımına karar verilmiştir.
GPU'lar yardımcı işlemci (co processor) olarak kullanılmaktadırlar, tek başlarına çalışamazlar. GPU'lara erişim ve kullanım CPU üzerinden olmaktadır. CPU, GPU üzerinde algoritmaların akışını gerçeklemek için kullanılmaktadır. Ayrıca tüm algoritmaların GPU üzerinde gerçeklemeye uygun olmadığı görülmüştür bu nedenle bazı algoritmalar CPU üzerinde gerçeklenmektedir. GPU üzerinde gerçeklenecek algoritmalara, algoritmanın yapısına bakılarak karar verilmektedir. Algoritma büyük veriler üzerinde ve paralel çalışabilir fonksiyonlardan oluşuyor ise GPU üzerinde, aksi durumda CPU üzerinde gerçeklenmektedir. Algoritmalar tarafından kullanılan ve akış esnasında değişmeyen tüm parametreler GPU hafızasına ilkleme esnasında yazılır ve hep burada tutulur. Ön İşleme: Ön işleme ile hidrofonlardan alınan veriler önceki verilerle %50 örtüştürülürek FFT'si alınır. Ön işleme, ön işleme çıktısı sinyalin hidrofon verileri bilgilerinin (RMS, maksimum değer vs.) oluşturulması için de kullanıldığından CPU üzerinde yapılmaktadır.
Işın demetleme: Sistemde kullanılan pasif sonar dizini, triplet yapıya sahip algılayıcı (hidrofon) istasyonlarından oluşan doğrusal dizindir. Triplet yapı, iskelesancak belirsizliğini anlık olarak çözmek için kullanılan bir yapıdır. Triplet sinyal işleme [2] sonucu elde edilen sinyal, dizin ışın demetleme algoritmasına girdi olmaktadır (Şekil 4Şekil 1).
Konvansiyonel ışın demetleme işlemi zaman veya frekans uzamında yapılabilir. Bu çalışma kapsamında frekans uzamında ışın demetleme yapılmaktadır. Konvansiyonel ışın demetleme olarak ifade edilen yöntem, hidrofonlardan alınan veriye gecikme uygulayarak toplama işlemine karşılık gelmektedir. Yapılan işlem her bir hidrofondan gelen sinyalin FFT'si alındıktan sonra, yönelim açısına göre uygun ağırlıklar ve fazlarla (gerçek zamanla değişen yönelim vektörü ile) çarpılıp toplanmasına karşılık gelmektedir.
Işın demetleme algoritması hem işlem yükü yoğun hem de paralel çalıştırılabilecek bir algoritmadır. GPU üzerinde çalıştırılmasının performans açısından daha verimli olacağı öngörülmüştür ancak; CPU'nun da performansını gözlemlemek ve kararın doğruluğunu teyit etmek amacıyla Intel IPP/MKL kütüphaneleri kullanılarak da gerçeklenmiştir. Karşılaştırmalar sonucunda GPU(Tesla K40c) üzerindeki performansa erişebilmek için 21 tane Intel E5 işlemcili kart üzerinde algoritmanın koşması gerekmektedir.
Oluşturulan ışın demetleme çıktısı frekans uzamındadır. Bu sinyal ters FFT alınarak zaman uzamına çevrilir ve NxFs boyutundaki ışın demetleme çıktısı sinyal oluşturulur. Ters FFT alma işlemi, hem bu işleme girdi olan sinyal GPU üzerinde olduğu için, hem de çıktısı işlem yükü yoğun DEMON algoritmasında kullanıldığı için yine GPU üzerinde yapılır.
DEMON: Hedef platform pervaneleri kavitasyona uğradığında geniş bantlı gürültü üretirler. Bu gürültü, pervanenin kanatçıkları tarafından genlik modülasyonuna uğrar ve pervanenin dönüş hızı ve kanatçık sayısı gibi bilgiler kavitasyon gürültüsünün düzgün bir şekilde demodüle edilmesiyle elde edilebilir [3].
Şekil 5 DEMON algoritması blok şeması DEMON algoritması GPU üzerinde gerçeklenmektedir.
Tespit: Tespit algoritması, hedef tespit dizininden gelen zaman tabanlı akustik veriden ışın demetleme sonucunda oluşturulan verileri kullanarak olası bir hedefin tespitini gerçekleştirir. Sistem düşük frekanslar için, güç tabanlı geniş bant ve güç tabanlı dar bant tespit algoritmaları koşturmaktadır.
Geniş bant tespit algoritması, her bir açıdan gelen güç bilgisini kullanarak hedef bulunması olası açılarla, hedef bulunması olasılığı olmayan açıları ayırarak tespit sonucunu üretir. Bu işlemde arka plan gürültüsünün seviyesi kestirilmekte, daha sonra da hedefin bulunması olası açılar için eşik seviyesi değerleri "sabit yanlış alarm sıklığı" (CFAR, [5], [5]) yöntemi hesaplanmaktadır. Geniş bant tespit algoritması ortam gürültüsünü kestirebilen ve değişen ortam gürültüsü karşısında tespit eşik değerini otomatik olarak güncelleyebilen bir yapıya sahiptir. Dar bant tespit algoritması, geniş bant tespit algoritması ile oldukça benzerdir. Geniş bant algoritmasından farklı olarak, her bantta bağımsız bir tespit işlemi yapılır. Her bir banttan gelen ham tespit sonuçları (geniş ve dar bant) birleştirilerek, nihai tespit çıktısı oluşturulur.
Sınıflandırma: Pasif sonar sisteminde, sınıflandırma algoritmasında kullanılan özellikler, tespit bloğundan gelen tonal frekans bilgisi (dar bant tespitler) ile aktif yayın kestirim bloğundan gelen bilgilerdir.
Sınıflandırma algoritmasında, dar bant tespit bloğundan alınan hedef tonal bilgilerinin kütüphanede yer alan hedef özellikleriyle karşılaştırılması gerekmektedir. Bu işlem, her tespit kararı için, kütüphanedeki her hedef sınıfıyla bir korelasyon hesaplamasına ihtiyaç duyar. K adet tespit kararı için kütüphanede bulunan L adet sınıfla, toplamda KxL adet korelasyon hesaplaması gerekmektedir. Bu korelasyon hesaplamaları, birbirlerinden bağımsız oldukları için (herhangi birinin sonucu diğerinin hesaplaması sırasında kullanılmadığından) GPU üzerinde hesaplanmalarının daha uygundur ve bu nedenle sınıflandırma GPU üzerinde yapılmaktadır.
Aktif yayın tespitlerinin sınıflandırılması "Bayes" karar verme kuralına göre yapılmaktadır, burada kullanılan veri daha küçük olduğundan bu işlem CPU üzerinde yapılmaktadır.
Takip: Takip algoritması, sınıflandırılmış temas (tespit) çıktılarını kullanarak bir veya birden fazla hedefin kerteriz bilgilerini çıkartmaktadır. Takip algoritması en etkin 10 hedefi izlemek üzere tasarlanmıştır. En "etkin" hedeflerin belirlenmesi, takip edilen hedeflerden sınıflandırma olanların önceliklendirilmesi ile yapılmaktadır. Bu şekilde, tehdit potansiyeli daha yüksek ya da kullanıcı tarafından "önemli" olarak işaretlenen hedeflerin takibine öncelik verilmektedir.
Takip algoritmasının durum vektörü kerteriz ve kerteriz değişiminden oluşmaktadır ve sabit hız süreç modeli kullanılmaktadır. Veri ayıklama yöntemi olarak da "Global Nearest Neighborhood, (GNN)" seçilmiştir [6], [7].
Algoritmanın akış diyagramı Şekil 6'da gösterilmiştir. Her güncelleme sonrasında var olan izler kontrol edilerek, belli bir süre bir tespit kararıyla güncellenmeyen izler silinmektedir.
Takip algoritması sınıflandırılmış temas bilgilerini kullanmaktadır. Sınıflandırılmış temas bilgileri, temel olarak kerteriz bilgisi ile hedefin sınıflandırma bilgilerinden(veri tabanındaki bir tehdide benzeme oranı, tehdit bilgileri vs.) oluşur, bu veriler hidrofon verileri gibi büyük olmadıklarından CPU üzerinde gerçeklenmektedir.
Aktif Yayın Tespit: Aktif yayın tespit algoritması, aktif yayın yapan platformların yayınlarını tespit etmekte ve bu yayınların parametrelerinin kestirimini yapmaktadır (Şekil 7). Yüksek frekans bandında alış yapabilen hidrofonlardan gelen yüksek frekanslı zaman tabanlı akustik veri, aktif yayın tespit algoritmasından geçirilerek, yayının tespiti ve yayın parametrelerinin çıkartılması sağlanmaktadır. Literatürde bu tarz algoritmalar genellikle enerji dedektörü (radyometre, [8]) ve sabit yanlış alarm olasılığı (CFAR, [4]) tabanlıdır. Sistemde bu yöntemlerin kombinasyonu kullanılmaktadır.
Aktif Yayın tespit algoritması tüm yönlü yüksek frekans hidrofonundan alınan verileri kullanılır. Bu veriler de düşük frekans verileri gibi büyük verilerdir fakat algoritma tüm veriyi tek seferde işlemez, küçük bloklar halinde işler. Bu nedenle bu algoritma CPU üzerinde gerçeklenmesi daha uygun bulunmuştur. Veri transferi, (hem GPU'ya veri aktarma hem de GPU'dan veri okuma) zaman alan işlemlerdir, bu nedenle algoritmaların gerçeklenmesi esnasında mümkün olduğunca az veri transferi yapılmasına dikkat edilmektedir.
Güncel algoritmaların gerçekleme zamanları Tablo 1'de verilmiştir. Algoritmaların bir kısmı önce CPU üzerinde gerçeklenmiş, algoritma gerçekleme zamanı beklenenden uzun alındığında GPU üzerine taşınmıştır. Örneğin Işın demetleme algoritması Intel IPP/MKL kütüphaneleri kullanılarak gerçeklendiğinde, GPU ile gerçeklediğimiz sürenin 21 katı civarında bir sürede ancak işlenebilmiştir.
Pasif sonar sisteminin sinyal işleme yazılımının CPU-GPU paylaşımı ile gerçeklenmesi ile işlem yükü yoğun algoritmaların tek bir bilgisayar üzerinde ve tek bir uygulama (executable) ile gerçeklenmesi sağlanmıştır. CPU-GPU kullanımı ile algoritmik olmayan sistem fonksiyonları Intel CPU(E5, I7 v.b.) üzerinde gerçeklenirken, algoritmaların çoğu GPU üzerinde sistemin ihtiyacını sağlayacak şekilde koşturulabilmiştir. Sistemde kullanılan sinyal işleme algoritmaları, çalışmaların başladığı günden bu yana sistem performansının iyileştirilmesi için sürekli güncellenmiştir. Özellikle geliştirilen CUDA Kütüphanesi ile algoritmalardaki güncellemeler kolaylıkla algoritma gerçekleme yazılımına yansıtılabilmiştir.
Sistem performansını artırabilmek amacıyla kullanılabilecek iki yöntem vardır. Bu yöntemlerden ilki olan CPU ve GPU'ların beraber kullanımı ile GPU ve CPU üzerinde heterojen olarak algoritma parçacığı koşturmak mümkündür. Bu yöntemde asenkron CUDA fonksiyonları, fonksiyon çağrıldıktan sonra CPU'ya kontrolü geri vermekte ve böylece CPU üzerinde veri işlenebilmekte ve bundan GPU etkilenmemektedir. Bu şekilde kullanılabilen kernel çağrıları, asenkron bellek kopyalama ya da 64KB'dan küçük belleğe veri kopyalama (CPU'dan GPU'ya), bellek set etme v.b fonksiyonlardır. Heterojen veri işlemede GPU'da veri işlenirken CPU'nun da veri işlemeye en hızlı şekilde dönmesine olanak verecek şekilde kodlama yapılmalıdır.
İkinci yöntem çoklu GPU kullanımıdır. Bu yöntemde çoklu GPU'lar aynı kodu ya da farklı kodu paralel işleyecek şekilde kullanılabilmektedir. GPU'lar arasında iletişim için yeni versiyon GPU (Fermi v.b.)'larda ve güncel CUDA versiyonlarında (5.0 ve üzeri) birbirlerinin belleklerine erişim izni verilerek CPU üzerine veriyi