O zet. I_nternet gunumuzde en onemli bilgi kaynaklar ndan biri haline gelmistir. I_nternet ile birlikte, bilgiye ulas m n ve paylas m n kolaylasmas , celiskili bilgilerin ac ga c kmas na sebep olmustur. Celiskili bilgilerin artmas yla, bunlar aras nda dogru olan bulmak da her gecen gun zorlasmaktad r. Bu sorun literaturde dogruluk (veracity) problemi olarak tan mlanm st r. Bu alanda gelistirilen algoritmalar girdi olarak yap sal veriyi kabul etmektedir. Bu algoritmalar n internet uzerinde kullan labilmesi icin internetteki yap sal olmayan verinin yap sal forma donusturulmesi gerekmektedir. I_nternet'teki verinin cesitliligi dusunuldugunde bu isin konudan bag ms z, otomatik olarak gerceklestirilmesi zordur. Bu cal smada dogruluk problemi uzerine gelistirilen algoritmalar n s nanabilmesi icin internetteki yap sal olmayan verilerin yap sal bir veri kumesine donusturulmesinde gerekli asamalar belirlenip otomatize edilmesine katk saglanm st r. Bu asamalar kullan larak ornek bir ozdeyis veri kumesi olusturulmus ve belirlenen bir dogruluk s nama algoritmas bu veri kumesinde uygulanarak elde edilen sonuclar yorumlanm st r.
1
I_nternet gunumuzde hayat m z n onemli bir parcas haline gelmistir. I_nsanlar
gundelik hayat nda internette onemli bir sure gecirmektedir. Bu durum bircok
insan n bu platformu onemli bir bilgi kaynag olarak gormesine neden olmaktad r.
I_nternetteki bilgilerin ve bilgi saglayan kaynaklar n say s da gitgide artmaktad r.
Fakat sunulan bilgilerin guvenilir oldugunun bir garantisi yoktur. Populer
kaynaklar n guvenilir bilgi saglayacag dusunulebilir fakat yap lan arast rmalar bu
varsay m n her zaman dogru olmad g n gostermektedir [
I_nternetteki celiskili bilgilerden dogru olan bulup, kaynaklar n guvenilirligini
saptamak icin 2008 y l nda dogruluk problemi [
Bu cal smada, bir alan belirlenerek bu alan hakk nda internette sunulan yap sal olmayan veri yap sal bir forma donusturulerek dogruluk bulma algoritmalar n n s nanabilecegi bir veri kumesi olusturulmus ve izlenen ad mlar kay t alt na al narak surecin otomatize edilmesine yonelik bir katk da bulunulmustur.
Bildirinin geri kalan bolumunde ilk olarak dogruluk problemi tan t lmakta ve ilgili literatur verilmektedir. Metodoloji bolumunde dogruluk bulma algoritmalar n s namak uzere ozdeyis veri kumesi olusturma sureci anlat lmaktad r. Bildirinin sonuc bolumunde ise bulgular ortaya konmakta ve gelecek cal smalar uzerine dusunceler dile getirilmektedir. 2
Dogruluk Problemi ve I_lgili Literatur
Dogruluk problemi ilk defa 2008 y l nda Yin vd. [
Bugune kadar gelistirilen dogruluk bulma algoritmalar iki farkl veri tipi uzerine yogunlasm st r. Bunlar say sal ve kategorik verilerdir.
Say sal Veriler genellikle bir olcumu veya miktar ifade eder. Bu tipteki veriler icin kesin dogru veya kesin yanl s demek dogru degildir. Bunun yerine bu verilerin dogrulugu, kesinlik oran ile ifade edilir. O rnek olarak, bir nesnenin bir ozelligi hakk nda 25 ve 90 olarak iki farkl iddia varsa ve gercek deger 100 ise, 90 dogruya yak n say l p 25'e gore iddia guvenilirlik puan yuksektir. Tablo 1'de say sal veri tipinde bir veri kumesi ornegi verilmektedir.
Kategorik Veriler ise daha cok nesnelerin karakteristigini ifade ederken kullan l r. Bu tipteki veriler ya dogru ya da yanl s olarak s n and r l r. Kategorik veri tipi ile ilgili ornek veri kumesi Tablo 2'de sunulmaktad r.
Dogruluk probleminin cozumu icin tasarlanan algoritmalar bu kavramlar uzerinden modellerini olusturmustur. Her bir cal sma konuya farkl bir yonden yaklasmakta olup aralar nda baz temel farkl l klar bulunmaktad r. Bu cal smalar ve one c kan farkl l klar takip eden bolumde ac klanmaktad r.
Athens Contributor #0 (87.203.23.2) 745514.0
George Bernard Shaw Beauty is a short-lived tyranny famous-quotes Socrates Beauty is a short-lived tyranny brainyquote Albert Einstein It is strange to be known so universally and yet to be so lonely. famous-quotes Napoleon Bonaparte A soldier will ght long and hard for a bit of colored ribbon. quotables
Yin vd. [
t(!) =
Pf2F (!)) s(f )
jF (!)j s(f ) =
X w2W (f)) t(!) Bu modelin en onemli noktas , bir nesne hakk ndaki farkl iddialar n birbirinin guvenilirlik puan na etki etmesidir. Bulunan iddia guvenilirlik puanlar bu etkiler goz onunde bulundurularak guncellenir.
Zhao ve Han [
Dogruluk problemi icin haz rlanan veri kumelerinde, kaynaklardan
olabildigince cok veri saglanmas temel bir gereksinimdir. Ancak pratikte her kaynak yeteri
kadar veri saglamayabilir. Bu durum dogruluk bulma algoritmalar icin cozulmesi
gereken bir problemdir. Li vd. [
Xin vd. [
Qi vd. [
Dogruluk bulma algoritmalar n n cal smas icin yap sal bir veri kumesi gerekmektedir. Ancak internetteki verilerin cogu yap sal olmayan formdad r. Bu k s mda, internetteki yap sal olmayan verilerin, dogruluk bulma algoritmalar n n s nanabilecegi yap sal bir forma donusturulmesi sureci tan mlanmaktad r. 3.1
Tan m Kumesinin ve Kaynaklar n Belirlenmesi I_dealde internetteki hemen her konunun tan m kumesi olarak secilebilecegi dusunulebilir. Bununla beraber, gerceklestirdigimiz denemelerde dogruluk bulma algoritmalar n n mevcut cal sma yap lar geregince, tan m kumeleri icin belirli sartlar n saglanmas durumunda daha sagl kl sonuclar verdigi gozlemlenmistir. Bu denemeler sonucunda tespit edilen gerekli sartlar asag daki gibi belirlenmistir: { Nesneler hakk ndaki iddialar degisiklik gosterebilmelidir. { Tan m kumesi ile ilgili bircok kaynaktan veri elde edilebilmelidir. { Her nesne hakk nda tek bir kesin dogru veri bulunmal d r.
Bu sartlar goz onunde bulundurularak tan m kumesi olarak "O zdeyisler" belirlenmistir.
Tan m kumesi belirlendikten sonraki asama, verilerin cekilecegi kaynaklar n secilmesidir. Tan m kumesi kapsam nda bircok kaynak bulunabilir ancak bu kaynaklar n hepsi veri kumesi olusturulmas icin uygun olmayabilir. O zdeyis tan m kumesi icin bu cal smada, internetteki populer ozdeyis paylas m siteleri tespit edilmistir. Ayr ca sosyal medyada paylas lan verilerin ne kadar guvenilir oldugunu gorebilmek ad na ozdeyis paylasan belirli Twitter hesaplar da kaynaklara dahil edilmistir. Bu kaynaklar n belirlenmesinde; { Kaynaklar n sozdizimi ve yaz m kurallar n dogru kullanmas , { Verileri saglarken tamamen ikinci bir kaynaga bag ml kalmamas , { Yeterli say da veri saglam s olmas , { Verilerin sagland g format n tutarl olmas gibi kriterler dikkate al nm st r. 3.2
Verilerin I_slenmesi Kaynaklar n belirlenmesinin ard ndan kaynaklara ait programlama arayuzleri tespit edilmistir. Bu programlama arayuzleri kullan larak veriye ulas lm s ve veri duzenli bir formatta kay t alt na al nm st r.
Bolum 3.1'de de belirtildigi uzere, kaynaklar belirli kriterler cercevesinde
secilmis olmas na ragmen, kay t alt na al nan veri incelendiginde formata uygun
olmayan veya konu d s icerikler, ozetle kirlilik tespit edilmistir. Formata uygun
olmayan icerikleri temizlemek icin duzenli ifadelerden yararlan lm st r. Konu d s
icerikler icin, once bu iceriklerin ortak noktalar tespit edilmis ve yine duzenli
ifadeler ve Jaro-Winkler Distance algoritmas [
0 if m=0 13 ( jsm1j + js2j
m + mm t ) otherwise si karakter dizisinin uzunlugunu, m eslesen karakter say s n , t karakterler icin yer degisikligini ifade eder.
I_ki dizinin birbiriyle eslesir olarak say lmas icin; saglamas gerekir. Jaro-Winkler Benzerligi ise bu noktadan yola c k larak; max(js1j; js2j) 2
1 simw = simj + (`p(1 simj )); esitligi ile verilir. Bu esitlikte; simj Jaro benzerligini, (3) (4) (5) l ortak onek karakterlerin uzunlugunu, p sabit olcekleme faktorunu ifade eder.
Son olarak Jaro-Winkler Distance degeri ise;
seklinde ifade edilir. Jaro-Winkler algoritmas ayr ca, N-gram benzerlik
algoritmas yla beraber kullan larak, her bir nesne birbiri ile kars last r lm s ve belirli bir
esik degerinin uzerindeki eslesmelerde nesneler ozdes say lm st r. Bu sayede ayn
nesnenin kucuk noktalama farkl l klar , yaz m yanl slar ve farkl kelime kullan m
ile olusan farkl l klar n onune gecilmeye cal s lm st r. N-gram benzerlik
algoritmas [
Bu islemler sonucunda 17 farkl kaynaktan yaklas k 70000 iddia iceren ozdeyis veri kumesi olusturulmustur. Bu veri kumesi TruthFinder algoritmas nda s nanm s ve bulgular bir sonraki k s mda anlat lm st r. 4 4.1
Bulgular Yap lan bu cal sman n temel amac , dogruluk problemi ve ilgili algoritmalar destekleyici bir alt yap olusturmak ve soz konusu alana katk saglamakt r.
Bahsedilen temel kazan mlar n saglanmas icin oncelikli olarak alan uzerindeki benzer cal smalar incelenmis ve varolan yaklas mlar farkl veri kumelerinde s nanm st r. Kitap-yazar, sehir-nufus gibi eslesmeler iceren kategorik ve say sal veri kumeleri incelenmistir.
Cal sma kapsam nda olusturulan ozdeyisler iceren yeni bir veri kumesi ile TruthFinder algoritmas cal st r lm st r. TruthFinder algoritmas nesne-gercek ciftlerine ihtiyac duydugu icin kisilerin nesne, ozdeyislerin ise gercek olarak kullan lmas planlanm st r fakat, bu durum TruthFinder algoritmas n n genel sezgisel yaklas mlar ndan en temeli olan "Her nesne yaln zca bir tane gercek dogruya sahiptir." onermesine ters dustugu icin bu kir terkedilmis ve tam tersi bir analoji ile devam edilmistir.
TruthFinder algoritmas cesitli kaynaklardan al nan, ozdeyislerden olusan veri kumesinde cal st r lm st r. Elde edilen, "kaynaklar n guvenilirlik skorlar " Tablo 3'te verilmektedir. Tablodaki skorlar incelendiginde kaynak guvenilirligi puan 1'e yak n olan kaynaklar n saglad g iddialar n gercek olma olas l g diger kaynaklara gore daha yuksektir. Diger bir degisle daha yuksek puanl kaynaklar
daha guvenilir iddialar saglamaktad r.
Tablo 4'te ozdeyis veri kumesinden bir ornek sunulmaktad r. Sunulan ornege bak ld g nda, "Beauty is a short-lived tyranny" ve "Emancipate yourselves from mental slavery, none but ourselves can free our minds!" nesneleri hakk nda brainyquote kaynag n n gercek iddiay saglad g ve gercek olmayan iddia saglayan diger iki kaynaktan daha yuksek guvenilirlik puan na sahip oldugu gorulmektedir.
George Bernard Shaw Beauty is a short-lived tyranny famous-quotes Socrates Socrates Beauty is a short-lived tyranny brainyquote Socrates Marcus Garvey Emnaonnceipbautte oyuorusreslevlevsescafnrofmreemoeunrtamlsinladvse!ry, brainyquote Bob Marley Emnaonnceipbautte oyuorusreslevlevsescafnrofmreemoeunrtamlsinladvse!ry, quotables Marcus Garvey Marcus Garvey
O zdeyis veri kumesi uzerinde algoritma c kt s ndaki iddia guvenilirligi puanlar kullan larak yap lan hesaplamada TruthFinder algoritmas n n F1 puan 0.903 olarak hesaplanm st r. Bu sonucun, algoritman n ilk olarak s nand g yazar-kitap veri kumesindeki 0.87 F1 puan na yak n olmas bu cal smada olusturulan veri kumesinin dogruluk problemi algoritmalar n n s nanabilmesi icin uygun oldugunu desteklemektedir.
Gelecek Cal smalar O zellikle son y llarda -internetteki bilgi kirliliginin de artmas yla dogruluk problemi onem kazanm st r ve bu onemini koruyacag ongorulmektedir. Bu konuda yap lan hem akademik hem de kurumsal cal smalar n say s her gecen gun artmaktad r.
Haberin dogrulugunu editorler arac l g ile kontrol eden, bunu kamuoyu ile
paylasan, cal smalar na Turkiye'de baslam s, Uluslararas Dogruluk Kontrolu
Ag taraf ndan yay nlanan I_lkeler K lavuzu'nu tan yarak imzalayan teyit.org
Facebook'un ucuncu taraf dogrulama program n n Turkiye uygulay c s olarak
duyurulmustur [
Cal sman n devam nda, yukar da verilen ornek gibi; haber kaynaklar taraf ndan iletilen bilgilerin dogrulanmas nda ya da ansiklopedik veri kaynaklar n n dogrulugunun denetlenmesinde kullan labilecek otomatize araclar gelistirilebilir.
Sistem, gercek zamanl veri uzerinde ve/veya farkl veri tipleri uzerinde cal sabilir hale getirilerek (s ralanm s veri, say sal-kategorilenmis veri, gra ksel veri vs.) otomatize cal san bir cok platform icin bir iskelet olusturabilir.