2 TOBB Ekonomi ve Teknoloji Üniversitesi Anahtar Kelimeler. Soru Cevaplayan Sistem, Doğal Dil İşleme, Semantik Web, Linked Data
Özet. Günden güne kullanıcısı sayısı öngörülemez bir hızla artan web, özellikle Web 2.0 ile birlikte kullanıcılarıyla olan etkileşimini artırmıştır. Ondan öncesinde web (Web 1.0) kullanıcılarına bilgi veren, tek yönlü bir iletişim içinde bulunan bir araçken, günümüzde kullanıcı etkileşimi üst düzeyde olan günlük hayatın vazgeçilmez bir parçası haline gelmiştir. Günümüzde kullanıcılar etkileşimli web sayfaları, arama motorları sayesinde isteklerine en kısa zamanda ulaşmayı amaçlamaktadırlar. Semantik Web diğer adıyla Web 3.0 ise bu adımı da bir adım öteye götürerek web'in sadece insanlar tarafından değil, makinalar tarafından da anlaşılabilir hale gelmesini amaçlamaktadır. Ortak bir ontoloji sayesinde web'deki bilgilerin tüm dünyayı açılması, erişilebilir olması amaçlanmaktadır. DBpedia projesi, 2007 yılında Wikipedia üzerindeki yapısal verilerin semantik veritabanlarında depolanarak web üzerinden tüm dünyaya sunulabilmesi için başlatılmıştır. Linked Data ise başta DBpedia, FreeBase ve YAGO olmak üzere dünyadaki bütün bu bilgi tabanlarının (knowledge base) birleştirilmesini sağlamak üzere kurulmuştur. DBpedia sunduğu bir servis sayesinde kendisinde tanımlı olan verilerin sorgulanmasını sağlamaktadır. Bu sorgulama için kullanılan dil SPARQL (SPARQL Protocol and RDF Query Language) olduğundan konunun uzmanları haricindeki kişiler için bir anlam ifade etmemektedir. Bu çalışmada İngilizce doğal dil sorgularını algılayıp, SPARQL sorgularına çevirerek bu servis üzerinden sorgulamayı sağlayan bir semantik web projesinin detayları anlatılacaktır.
Semantik Web veya diğer adıyla Web 3.0 World Wide Web (WWW)'in kurucusu
Tim Berners-Lee tarafından şu şekilde tanımlanmıştır: “Semantik Web, bağımsız bir
web değil, şuan kullanılan web'in doğru tanımlanmış verilerin insanlar ve
bilgisayarlar tarafından anlamlandırılmasına olanak sağlayan geliştirilmiş halidir.” [
DBpedia, Wikipedia üzerinde sunulan yapısal verilerin web üzerinden
sorgulanabilmesi için semantik veritabanlarında tutulması amacıyla Free University of
Berlin, University of Leipzig ve OpenLink Software işbirliği ile 2007 yılında
başlatılan bir projedir. DBpedia, Wikipedia üzerindeki bilgi kutularında bulunan
yapısal verilerin semantik veritabanlarında depolanmasıyla oluşturulmuş, Linked
Open Data bünyesinde bulunan en önemli merkezi bilgi tabanlarındandır. [
DBpedia Ayrıştırma Kütüphanesinin temel bileşenleri şu şekilde sıralanabilir:
Wikipedia makalelerinin soyutlaştırılmış halini temsil eden PageCollection, çıkartılmış
RDF üçlülerini depolayacak olan Destination, wiki biçimlerini üçlülere çeviren
Extractor, çıkartılan verilere tip tanımlamasının yapılmasını sağlayan ve değişik birimler
arasında dönüşüm sağlayan Parser. Kütüphanenin çekirdeğini ise Extraction Manager
oluşturur ve Wikipedia makalelerinin Extractor tarafından üçlülere dönüşümünü ve
sonrasında hedef birimlerde depolanmasını sağlar. [
Şekil 2. DBpedia bileşenlerinin önizlemesi [
Geliştirilen sistem temel olarak 3 aşamadan oluşmaktadır: 1. Doğal dil sorularının doğal dil işleme yöntemleriyle anlamlandırılması 2. Anlamlandırılan doğal dil sorularına uygun olan SPARQL sorgularının üretilmesi 3. DBpedia servisi üzerinden SPARQL sorgularının işletilmesi ve sonuçların web arayüzünde gösterilmesi İlerleyen kısımlarda herbir aşama detaylı olarak açıklanacaktır. 2.1
DBpedia servisinin web'in tüm kullanıcılarına hitap edebilmesi için kullanıcıların ortak dili olan doğal dil sorgularının SPARQL sorgu diline çevrilmesi gerekmektedir. Son kullanıcıların doğal dil ile sordukları soruların algılanabilmesi için geliştirilen sistemde Apache OpenNLP kütüphanesinden faydalanılmıştır. Kütüphane verilen cümlenin öğelerine ayırmakla beraber sunduğu eğitim verileriyle insan, zaman, para, lokasyon, yüzde ve organizasyon tespitinde de bulunabilmektedir. Geliştirdiğimiz bir Java sınıfı sayesinde muhtemel özneler birleştirilmekte ve mümkün olan en büyük nesne adayı bulunmaktadır. Örnek olarak verilecek olursa “Who is Michael Jordan?” gibi bir sorguya kütüphanenin “insan” eğitim verisiyle bulabileceği kelimeler ayrı ayrı “Michael” ve “Jordan” olarak bulunmaktadır. Bu aday kelimeler birleştirilerek en muhtemel arama kriteri bulunmaktadır. Benzer şekilde, “who” kelimesinin soru bildiren WH sorularına ait olduğu ve “is” kelimesinin ise yardımcı fiil olduğu belirlenmektedir. Ön tanımlı desenler elde edilen WH soru kelimelerinden yoğun bir şekilde faydalanmaktadır. Bu şekilde aranan öznenin türü belirlenmiş olmaktadır. Şekil 3.'de “who is Michael Jordan?” doğal dil sorusunun ögeleri etiketleriyle beraber ağaç yapısında görüntülenmiştir.
(S who (S (VP is
(NP Michael Jordan)))) Şekil 3. “Who is Michael Jordan?” sorusunun ögelerine ayrılmış hali 2.2
Doğal dil sorguları öğelerine ayrıldıktan sonra sistem tarafından belirlenmiş desenlerle (pattern) eşleştirmesi yapılmaktadır. Tablo 1.'de geliştirilen sistem üzerinde tanımlanan desenler ve beklenen cevap türleri listelenmiştir.
Tablo 1. Geliştirilen sistem tarafından öntanımlı soru desenleri ve aranan cevap türleri
İnsan/Kişi
Cümlenin yüklemi düzenli (regular) veya düzensiz (irregular) fiil olması ihtimaline
yönelik olarak açık kaynak kodlu NoSQL veritabanı olan MongoDB üzerinde
düzensiz fiiller ve halleri tutulmuştur. MongoDB, esnek, ölçeklenebilir ve oldukça
hızlı çalışan döküman tabanlı olarak bir veritabanıdır. [
Sistem üzerinde test edilmiş olan “who produce Saturnight?” doğal dil sorusunu ele alarak sistemin çalışma şekli şöyle detaylandırılabilir: Sorgu öncelikle doğal dil işleme yöntemleriyle öğelerine ayrılmakta ve herbir kelimenin türü elde edilmektedir. Bu örnek için bu aşamada şu sonuçlar elde edilecektir: “Who : Soru eki” | “produce : yüklem” | “Saturnight : nesne”. Öğelerine ayrılan soru cümlesi ilk olarak ön tanımlı desenlerle eşleştirilmeye çalışılmaktadır. “Who” soru ekine yönelik bir ön tanımlı desen olduğundan uygun bir SPARQL sorgusu ön tanımlı desenler aracılığıyla elde edilecektir. Sonraki aşamada ise sadece doğal dil işleme yöntemleri kullanılarak bir sorgu üretilecektir. Bunun için üçlüyü oluşturacak olan özellik ve nesnenin belirlenmesi gerekmektedir. Doğal dil işleme yöntemleriyle yukarıdaki örnek için nesne olarak “Saturnight”, yüklem olarak ise “produce” kelimesi bulunmuştu. Bu yükleme karşılık gelecek olan muhtemel DBpedia özelliği DBpedia ontoloji modeli üzerinden aranmış ve Tablo 2.'deki sonuçları listelenen özellikler arasından en benzer olan “producer” özelliği seçilmiştir. Bu yaklaşımla |Özne: ?x| |Özellik: producer| |Nesne: Saturnight| olan bir üçlü üretilmiştir. Elde edilen bu iki SPARQL sorgusu birleştirilerek Şekil 4.'deki nihai sorgu elde edilmiştir. Şekil 5.'de ise sorgu sonucunu gösteren ekran görüntüsü sunulmuştur.
Tablo 2. Produce yüklemiyle benzerlik gösteren DBpedia özellikleri ve Levenshtein benzerlik değerleri
producer coProducer coExecutiveProducer wineProduced executiveProducer
1 4 13 6 11 PREFIX owl: <http://www.w3.org/2002/07/owl#> PREFIX xsd: <http://www.w3.org/2001/XMLSchema#> PREFIX rdfs: <http://www.w3.org/2000/01/rdf-schema#> PREFIX rdf: <http://www.w3.org/1999/02/22-rdf-syntax-ns#> PREFIX foaf: <http://xmlns.com/foaf/0.1/> PREFIX dc: <http://purl.org/dc/elements/1.1/> PREFIX : <http://dbpedia.org/resource/> PREFIX dbpedia2: <http://dbpedia.org/property/> PREFIX dbpedia: <http://dbpedia.org/> PREFIX skos: <http://www.w3.org/2004/02/skos/core#> PREFIX dbont: <http://dbpedia.org/ontology/> PREFIX geo: <http://www.w3.org/2003/01/geo/wgs84_pos#> SELECT DISTINCT * WHERE {?x rdfs:label "Saturnight"@en . ?x dbont:abstract ?abstract .
OPTIONAL {?x foaf:name ?name .
?x dbont:thumbnail ?thumbnail . ?x foaf:isPrimaryTopicOf ?wiki . ?x foaf:homepage ?homepage . ?x owl:sameAs ?sameAs .
FILTER regex(str(?sameAs), '^http://rdf.freebase.com', 'i') } FILTER (lang(?abstract) = 'en') } UNION {?y dbont:producer ?x . ?y rdfs:label ?target . ?x rdfs:label ?name . ?x dbont:abstract ?abstract .
OPTIONAL {?x foaf:isPrimaryTopicOf ?wiki .
?x dbont:thumbnail ?thumbnail . } FILTER(regex(?target, '^Saturnight', 'i') && lang(?name) = 'en' && lang(?target) = 'en' && lang(?abstract) = 'en') } } LIMIT 1 OFFSET 0 Şekil 4. “Who produce Saturnight?” doğal dil sorusuna karşılık üretilen SPARQL sorgusu
Şekil 5. “Who produce Saturnight?” sorgusunun cevaplarını gösteren ekran görüntüsü İki örnekte görüldüğü üzere hem ön tanımlı desenler hem de sadece doğal dil işleme yöntemleriyle elde edilen sorgular birbirini tamamlamaktadır. Böylelikle ön tanımlı desenler aracılığıyla karşılığı bulunmayan doğal dil sorguları Levenshtein benzerlik algoritması ve doğal dil işleme yöntemleriyle cevaplandırılmaktadır. Benzer şekilde doğal dil işleme yöntemleriyle elde edilen yükleme karşılık DBpedia özelliği metin tabanlı bir benzerlik algoritması aracılığıyla elde edildiğinden içerik olarak benzeyen ancak anlamsal (semantik) olarak birbiri ile ilişkisi olmayan sonuçlar doğurabilmektedir. Geliştirilen sistemde bu tip durumlardaki açık, ön tanımlı desenler aracılığıyla kapatılmaya çalışılmıştır. 2.3
Doğal dil sorularının algılanıp, ilgili SPARQL sorguları elde edildikten sonra
DBpedia servisi programatik olarak kullanılabilmesi için açık kaynak kodlu semantik
web kütüphanesi olan Apache Jena kütüphanesinden faydalanılmıştır. Apache Jena
barındırdığı ARQ (A SPARQL Processor for Jena) modülü sayesinde belirlenen
semantik modeli üzerinde SPARQL sorgularının yürütülebilmesi ve sonuçlarının elde
edilmesini sağlamaktadır. ARQ modulü, SPARQL ve SPARQL/Update(SPARQL
1.1) standartlarını sorgu dili olarak kullanabilmekle beraber birleştirme (aggregation),
Lucene metin arama motoru ile serbest metin arama (free text search) gibi eklentileri
de desteklemektedir. [
Şekil 6.'da sistem üzerinden yapılan “find places in Germany” sorgusuna yönelik cevapların listelendiği ekran görüntüsü sunulmuştur. Öncelikle sorgu, Tablo 1.'de listelenmiş olan ön tanımlı desenlerle eşleşip-eşleşmediği denetlenmektedir. Sonrasında ise doğal dil işleme yöntemleriyle aranan sorgu öğelere ayrıştırılmıştır. Bu örnek için sorgunun yüklemi “find”, nesnesi “Germany” olarak bulunmuştur. DBpedia ontoloji modeli üzerinden bulunan yükleme en yakın DBpedia'da tanımlı özellik olarak “dFe” bulunmuştur. Ön tanımlı desenden ise sorguya ait özellik olarak “locationCountry” elde edilmiştir. Hem ön tanımlı desenle hem de doğrudan doğal dil işleme ve Levenshtein benzerlik algoritmaları yaklaşımlarıyla elde edilen sorgular birleştirilerek Şekil 7.'de görüntülene nihai sorgu elde edilmiştir. Burada ontoloji üzerinden ön tanımlı desenler kullanılmadan oluşturulacak olan SPARQL sorgusu, dFe özelliğinin find yükleminin anlamsal olarak karşılığı olmadığından kullanıcıyı aradığı sonuca götüremeyecektir. Burada da ön tanımlı desenlerin önemi birkez daha ortaya çıkmaktadır. Şekil 6. Sorgu sonuçlarını detayları ve resim önizlemesiyle beraber görüntülemeyi sağlayan web arayüzü
UNION { ?x dbont:fc ?y . ?y rdfs:label ?target . ?x rdfs:label ?name . ?x dbont:abstract ?abstract .
OPTIONAL { ?x foaf:isPrimaryTopicOf ?wiki . ?x dbont:thumbnail ?thumbnail . } FILTER(regex(?target, '^Germany', 'i') && lang(?name) = 'en' && lang(?target) = 'en' && lang(?abstract) = 'en') } } LIMIT 10 OFFSET 0 Şekil 7. Şekil 5.'de görüntülenen doğal dil sorgusuna yönelik sistem tarafından üretilen SPARQL sorgusu Sonuç bulunamayan aramalarda kullanıcıya daha önceki aramalardan benzer olanları sunulmaktadır. Benzerlik tespitinde aranan nesne türü baz alınmaktadır. Böylelikle yazım hatası gibi son kullanıcıdan kaynaklı hatalar elimine edilmiş olmakta ve kullanıcı sonuca ulaşması için yönlendirilmektedir. Şekil 8.'de “who is Brack?” araması sonucunda yazım hatasından kaynaklı sonuç bulunmama durumunda kullanıcıya yöneltilen önceki benzer aramaların listelendiği ekran görüntüsü sunulmuştur. Şekil 8. Yazım hatasından kaynaklanan sonuç bulunamama durumuna karşılık sistemin geçmiş aramalar baz alınarak arama önerilerini gösteren ekran görüntüsü 3
Ell ve arkadaşları [
Lopez ve arkadaşları [
Damljanovic ve arkadaşları [
Ferrucci ve arkadaşları [
Unger ve arkadaşları [
Pythia [
Yahya ve arkadaşları [
Tüm doğal dil sorularına cevap verebilecek bir sistem şuan için geliştirilmemiştir ve %100 başarıya sahip bir sistem birçok dil bilimcisi ve bilgisayar bilimcisi tarafından öngörülmemektedir. Çünkü doğal dilde sorulan bir soru aynı manada birçok şekilde sorulabilmekte ve bu soruların hepsinin tek bir sorguya denk gelmektedir. Bu çok çeşitliliğin anlaşılması şuan için üzerinde çalışılan konular arasındadır. Örnek verecek olursak, “Türkiye'nin nüfusu kaçtır?” sorusunun semantik web SPARQL sorgu karşılığı şu üçlüden oluşmaktadır: |Özne : Turkey| |Özellik: dbprop:populationEstimated| |Nesne: ?x|. Aynı soru “Türkiye'de ne kadar insan yaşamaktadır?” şeklinde de sorulması mümkündür. Bunun gibi birçok örnek verilebilir ve tüm bu çeşitliliği algılayıp, uygun forma dönüştürmek şuan için çözüm bulunamamış bir konudur. Geliştirilen sistemde bu durum sorunun nesnesi belirlendikten sonra ilgili direk yanıt bulunamasa bile nesneye yönelik bilgiler görüntülenerek aşılmaya çalışılmıştır. Bu yaklaşımın kullanıcının sorusunu yanıtsız bırakmak yerine kullanıcıyı aradığı cevaba bir adım daha yakınlaştıracağı düşünülmektedir.
Bu zamana kadar birçok doğal dil sorularını cevaplayan sistemler üzerinde çalışmalar yapılmış ve her çalışmanın izlediği kendine özgü bir yaklaşım bulunduğu gözlemlenmiştir. Ön tanımlı desen kullanmayan sistemlerde tüm sorulara yönelik uygun DBpedia özellik (property) eşleştirmesi yapılması mümkün olmadığından özellikle kompleks sorgularda sistemlerin soruları yanıtsız bıraktığı gözlemlenmiştir. Bu aşamada ise tamamen doğal dil işleme yöntemleri ve DBpedia ontolojisinden faydalanılarak elde edilen sorgulardan faydalanılmaktadır. Bu iki yaklaşım birbirini eksikliklerini tamamlamakta önem arz etmektedir. Ayrıca yüklemle ilişkili DBpedia özelliği bulunamasa bile geliştirilen sistem nesneye ait sonuçları görüntülemektedir. “Sonuca yakın cevap, cevapsız bırakmaktan daha iyidir” yaklaşımı temel alınarak kullanıcıyı sonuca iletecek yanıtlar listelenmiştir. Ayrıca DBpedia servisinde bulunmayan ancak geliştirilen sistemde sunduğumuz sayfalama seçeneği sayesinde arama sonuçları kullanıcıya daha hızlı bir şekilde gösterilmekte ve sunucu daha performanslı olarak çalışabilmektedir. 5
Geliştirdiğimiz semantik web projesi ile doğal dil sorularını algılayan ve uygun SPARQL sorgularına çevirerek DBpedia servisi üzerinden cevaplandıran bir sistem geliştirdik. Doğal dil işleme yöntemlerimden faydalanarak algılanan sorular, tanımlı desenler üzerinden sınıflandırılmıştır. Soruların yüklemleri ve nesneleri ile DBpedia üzerinden tanımlı olan ontolojiye çevrilmesi tam olarak eşleşemeyen durumlarda aranan cevaba götürecek yakın cevaplar listelenmiştir. Geliştirilen sistem tüm doğal dil sorgularını cevaplayabilir durumda olmasa bile, elde ettiğimiz ilk test sonuçları çok umut verici ve ileriye yönelik geliştirme için teşvik edici olmuştur. Geliştirilen sistem http://app.ibu.edu.tr:8080/taka adresinden kullanıma açıktır.
Geliştirme olarak, daha fazla soru deseni tanımlanarak sistemin daha fazla soru çeşidine cevap vermesi iyileştirme hedefleri arasında gözükmektedir. Ayrıca birden çok veritabanından faydalanmak, daha kompleks doğal dil sorularını cevaplayabilmek için dış bağlantıları doğru tanımlanmış sorgular üretebilmek için veritabanları üzerindeki yapısal tanımlamaların ilişkilendirilmesi ve başta Türkçe olmak üzere diğer doğal dil sorgularını işleyebilme geliştirilen sistem için gelecekteki iyileştirme hedefleri arasında yer almaktadır.