Cok Yan tl Dogrusal Regresyon Algoritmas yla Lo jistik Regresyon ve Birliktelik Kural Sonuclar n n Birlestirilmesi

Abstract

O zet Pazarlama alan n n en onemli noktalar ndan biri, dogru urunu, dogru musteriye onermektir. Bu cal sma, yeni bir veri madenciligi arac olarak gelistirilen PROPCA'n n bir parcas olarak bu soruna bir cozum onermektedir. Bu cal sman n amac , lojistik regresyon ve birliktelik kurallar n bir araya getirip urun onerileri yapmakt r. Bu algoritmalar n ayr ayr kullan mlar ndan daha iyi sonuc veren bir yontem olarak, lojistik regresyon ve birliktelik kurallar n n birlesimi sunulmustur. Birliktelik kurallar verilen veri kumesindeki tum kurallar ararken, lojistik regresyon musteriler icin belirli bir urunu sat n alma olas l g tahmininde bulunmaktad r. Bu iki yaklas m n birlesimi bankac l k alan nda yer alan gercek bir veri kumesi uzerinde test edilmis, sonuclar kars last r lm s ve genel olarak uygunluklar tart s lm st r. O zet One of the keys in marketing is to recommend the right products to the right customers. This paper proposes a solution to this problem as a part of the development of a new data mining tool PROPCA. The aim is to use logistic regression analysis and association rule mining together to make recommendations in marketing. An approach in which combination of these two algorithms provides better results than algorithms used standalone is presented. While association rule mining searches all rules in the data set, logistic regression predicts a purchase probability of a product for customers. The combination of these two approaches are tested on a real-life banking data set. The results of combination are shown and their suitability in general is discussed.

Giris

I_nsanlar, genis urun yelpazesinden dolay , dogru hizmet veya urun seciminde zorlanmaktad r. Diger yandan pazarlama alan nda, hangi urunlerin hangi musterilerin ilgisini cekecegini ya da hangi musterilerin ilgisini cekmeyecegini bilmek onemlidir. Boylece, musterinin ilgisiz olacag urunler hakk nda kampanya postas veya mesaj almas engellenebilmektedir.

Bu durum, nans ve bankac l k sektorunde onemli bir sorundur. IBM Silverpop taraf ndan 2014 y l nda Amerika'da nans sektorunde yap lan bir arast rmaya gore [ 1 ], bu e-postalar n ac lma ve t klanma oranlar s ras yla %22.4 ve %3.3' dur. Bu istatistikler goz onune al nd g nda, eger her urun icin potansiyel al c lar duzgun tespit edilirse, yanl s kisilere gonderilen mesaj, arama ve e-posta say lar nda azalma saglanarak, sirketlerin karl l g n n artmas saglanabilir. Genis urun yelpazesinin buyumesi goz onune al nd g nda, bir pazarlama uzman icin, musteri davran slar n anlama ve ac klamada, istatistiksel modellerin veya makine ogrenmesi algoritmalar n n kullan lmas kac n lmazd r.

Son y llarda, Lojistik Regresyon (LR) modelleri, bircok alanda tahminler yapmak icin yayg n olarak kullan lmaktad r [ 2 ]. Daha belirli olmas ac s ndan; Ak nc , pazarlama arast rmalar nda, LR modelinin uygulamalar n incelemistir. Bunun sonucunda, tuketici davran s modelleme, uluslararas pazarlama, toplumsal pazarlama, perakende promosyon ve sagl k hizmetleri pazarlamas gibi alanlar ortaya koymustur [ 3 ].

Benzer sekilde, Birliktelik Kurallar (BK) da Veri Madenciligi (VM)'nin pazarlama alan ndaki onemli cal smalar ndan biridir [ 4 ]. BK, s k s k birlikte sat n al nan 2 veya daha fazla urunu ortaya c karmay amaclamaktad r.

Bu cal sman n as l amac , cok say da musteri icin, gercekten sat n alabilecekleri urunleri onerebilecek, daha guvenilir bir model olusturmakt r. Buyuk pazarlama verileri goz onune al nd g nda, VM algoritmalar n n tum veri kumesi uzerinde yeterli performans gosteremedigi gorulmustur. Bunun yerine, veri setinden daha kucuk bir ornek kume VM algoritmalar n uygulamak icin secilebilir ve sonuclar tum musterilerin yer ald g buyuk veri kumesi uzerinde genellestirilebilir. Ancak, daha iyi dogruluk elde etmek icin, VM algoritmalar n birlikte kullanmak kac n lmazd r.

Bu arast rma, pazarlama alan nda yayg n olarak kullan lan iki modeli; LR ve BK'n , daha iyi sonuclar elde etmek icin birlestirmeyi onermekte ve bu yaklas m incelemektedir. Bu iki model, PROPCA uzerinde bulunmaktad r. PROPCA, ayk r deger analizi, eksik veri tamamlama, ozellik secimi, faktor analizi, ornekleme, lojistik regresyon, kumeleme analizi ve birliktelik algoritmalar yontemlerini iceren yeni bir VM arac d r. LR ve BK birbirlerinden oldukca farkl yollar izlemektedirler. LR tahmin yapmak icin musteri ve urun ozelliklerini kullan rken, BK sadece urun ailelerinin sahiplik bilgilerini kullanmaktad r. Toplu O grenme (TO ), bu iki tamamlay c modeli birlestirerek, tuketici davran s modellemede yeni bir yaklas m ortaya koyacakt r.

Bu bildirinin yaz m organizasyonu su sekildedir; 2. bolumde; temel kavramlar ve LR, BK, TO hakk nda yer alan ilgili cal smalar ac klanacakt r. 3. bolumde; onerilen model tan mlanmaktad r. Cal sman n sonuclar n n yan s ra, uygulama ve testler 4. bolumde verilmektedir. Son olarak 5. bolumde; son hukumler ve gelecek arast rmalar icin tavsiyeler ele al nacakt r. 2

I_lgili Cal smalar Daha once de belirtildigi gibi bu arast rman n amac , daha iyi tahmin (s n and rma) sonuclar elde etmek icin, TO yontemleriyle LR ve BK sonuclar n birlestirmektir. Bu bolumde, ilk olarak BK hakk nda yer alan cal smalar tan t lacakt r. Ard ndan, LR modeliyle ilgili cal smalar ele al nacakt r. Sonuncu, fakat bir o kadar da onemli olarak, TO ile ilgili arast rmalar k saca sunulacakt r. 2.1

Birliktelik Kurallar

BK, VM'nin en onemli alanlar ndan biridir [ 5 ]. BK, verideki en anlaml iliskiler kullan larak bulunan S k Rastlanan O ge Kumeleri (SRO K) sonucunda olusturulur. BK, musteri davran slar n analiz ve tahmin etmek icin kullan labilir [ 6 ]. Baslang cta bu yontem, hangi urunun, hangi urunle sat n al nacag n bulmak icin 'Pazar Sepet Analizi' alan nda kabul edilmistir. Verilen bir dizi musteri sat n alma davran slar (farkl musteriler taraf ndan birlikte sat n al nan urunlerin kay tlar ) goz onune al nd g nda, BK'n n amac bu islemlerde en s k sat n al nan urunleri veya ogeleri bulmakt r. Diger yandan, urun kumelemesi ve katalog tasar m icin de yararl d r.

Bir oge kumesi veri taban nda yer alan tum urunlerin bir alt kumesidir. I_slemlerse, musterilerin birlikte sat n ald g urun gruplar d r. X ! Y , BK icin bir ornektir ve ayn zamanda X ve Y urun gruplar d r. Bu kural, X urunu iceren islemlerin, Y urunu icermesi egiliminde oldugunu belirtmektedir. BK algoritmalar iki onemli parametreye sahiptir: destek ve guven. O ge kumesinin destek degeri (support), X urunun veri taban ndaki toplan say s n n, veri taban ndaki islem say s na oran n gostermektedir. Guven (con dence) degeriyse X [ Y oge kumesinin destek degerinin, X ! Y kural icin X oge kumesinin destek degerine oran olarak tan mlanmaktad r.

Bu arast rma, nans ve bankac l k sektorlerinde cok sat n al nan urun aileleri belirlemek ve bu urunlere gore kurallar olusturmak icin BK algoritmalar n kullan r. Apriori, BK alan nda en iyi bilinen algoritma oldugu icin [ 7 ], bu arast rmada benimsenmistir. 2.2

Lojistik Regresyon

Kategorik secimleri ac klamak icin, istatistiksel modellerin kullan m oldukca yayg nd r [ 8 ]. Bu secimler, genel olarak nitel degerler olup, LR modelleri analiziyle yap labilmektedir [ 9 ]. LR modeli, kolayca uygulanabilir ve anlas labilir olmas ndan dolay , t bbi ve sosyal bilimler alanlar nda s kca kullan lmaktad r. Bu alanlara ek olarak, LR modelleri ayr ca biyoloji, psikoloji, ekonomi ve ulas mda da kullan lmaktad r [ 10 ]. 1977 y l ndan bu yana LR modelleri, pazarlamada etkin olarak kullan lmaktad r [ 11 ].

LR modelinin temel amac , En Kucuk Kareler Regresyonu, Egri Uydurma ve Genellestirilmis Dogrusal Regresyonu gibi istatistikte kullan lan diger tekniklerle ayn d r. Bu teknikler, bag ml ve bag ms z degiskenler aras ndaki iliskiyi temsil edip, aralar ndaki en uygun iliskiyi bulmaya cal s rlar. I_liskiler y = f (x) gibi basit bir fonksiyon ile temsil edilebilir. Bu fonksiyonda y ve x s ras yla bag ml ve bag ms z degiskenlerdir. I_statistiksel iliskiler goz onune al nd g nda, x degeri biliniyor ise y degeri belirli bir hata terimi ile tahmin edilebilir.

Asag daki formul lojistik kumulatif dag l m fonksiyonunu tan mlamak icin kullan l r.

y = f (x) =

1 1 + e z z, "Fayda Fonksiyonu" olarak tan mlanmakta ve asag daki sekilde gosterilmektedir.

z = 0 + 1x1 + 2x2 + : : : + nxn + " (1) (2) Bu formule gore 0 sabiti, 1x1; 2x2; : : : ; nxn'ler ise tahmin degerleriyle carp lan regresyon katsay lar n temsil etmektedir. n say s veri kumesi icerisindeki bag ms z degiskenlerin say s n , " ise hata terimini ifade eder.

LR, iki terimli, ordinal veya cok terimli olarak s n and r labilir. Eger bag ml degisken icin gozlemlenen degerler, "Evet","Hay r" veya "Basar l ","Basar s z" gibi sadece iki tip bar nd r yorsa, iki terimli LR kullan labilir. Eger bag ml degisken degerleri uc veya ucten fazla terim bar nd r yorsa, burada ancak cok terimli LR kullan labilir. Tipler s ral ysa, ordinal LR kullan labilir. U runlerin kon gurasyonlar ve bankac l k sektorunde var olan veriden (3. bolumde detayland r lm st r.) dolay , bu cal smada musterilerin urun secenekleri iki terimli LR ile modellenmistir.

Genelde iki terimli LR'da bag ml degiskenlerin tipini ifade etmek icin "0" ve "1" kullan l r [ 12 ], or: "1" sat n al nm s, "0" sat n al nmam s ifade eder. Bir veya daha fazla say da, surekli veya kategorik bag ms z degiskenlere(demogra k veya sosyoekonomik gibi) dayal olarak, iki terimli LR, bir gozlemin, bag ms z degiskenin iki tipinden hangisine, hangi olas l kla tekabul ettigini tahmin eder [ 13 ]

LR kesin meydana gelen bir olay n (sat n al nma veya al nmama gibi) olas l g n n tahmini icin kullan ld g nda, Maksimum Olabilirlik (Maximum LikelihoodMO) yaklas m , coklu iterasyonlarla farkl cozumler deneyerek, gozlenen ve tahmin edilen degerler aras ndaki olas en kucuk sapmay bulmay esas al r. MO, gozlemlenen degerlerin elde edilme olas l g n maksimize eden regresyon katsay lar n verir [ 14 ]. Olusturulan model ve elde edilen katsay lara gore modellenen urune sahip olmayan bir musteriye, urunun onerilip, onerilmemesinin karar verilir. 2.3

Toplu O grenme

TO , tekli s n and r c yerine, coklu s n and r c lar n sonuclar n n kombinasyonuna dayal , daha iyi bir ongoru modeli yaratmay amaclamaktad r. S n and r c lar n c kt lar n n birlestirilmesi icin kullan lan I_sti eme (Stacking) Yontemi ilk olarak David Wolpert taraf ndan duyurulmustur [ 15 ]. Sonras nda Dzeroski ve Zenko'nun cal smas na gore, I_sti eme yontemi heterojen s n and r c lar n birlestirilmesi icin en iyi yontem olarak bahsedilmistir [ 16 ].

Bugune kadar, TO yontemi arast rmac lar taraf ndan pek cok farkl disiplinde kullan lm st r. Bu disiplinler aras nda, oruntu tan ma, istatistik ve makine ogrenmesi one c kmaktad r [ 17 ]. Bu yonteme gore, bu cal smada da LR ve BK sonuclar n n birlestirilmesi amaclanmaktad r.

Genel olarak TO yontemlerinde birlestirme iki kategoride incelenir [ 18 ]. Bunlar: { Ag rl kland r lm s Yontemler: Eger s n and r c lar ayn gorev uzerinde cal s yor ve sonuclar kars last r labiliyorsa kullan lmas uygundur [ 19 ]. Bu alandaki en bilindik yontemlerden biri Oylamad r (Voting). { Meta-Duzey Yontemler: Bu yaklas mda, bircok temel s n and r c ve bir meta s n and r c bulunmaktad r. I_lk olarak temel s n and r c lar arac l g yla ongoruler yap l r, sonras nda bu sonuclar kullan larak ogrenme gerceklestirilir ve meta seviye s n and r c yarat lm s olur. Meta s n and r c n n sonucu, ayn zamanda sistemin sonucudur. Bu alandaki en populer teknik I_sti emedir [ 16 ].

LR ve BK farkl olceklerde say sal degerler verdigi icin, bu s n and r c lar n sonuclar direkt olarak degerlendirilemez. Bu kosullar ve heterojen s n and r c larla cal s lmas goz onune al nd g nda, bu cal sma I_sti eme yontemine kaym st r. I_sti eme yontemi, Sekil 1'de ki Philip Chan' n cal smas nda [ 20 ] goruldugu uzere, 2 asamaya sahiptir. Farkl s n and r c lar n c kt lar n nas l birlestirilecegiyle ilgili pek cok cal sma olmas na ragmen, LR ve BK sonuclar n n birlestirilmesi ozelinde bir cal sma yoktur. I_sti eme hakk nda yap lan literatur arast rmas na gore, StackingC algoritmas n n Meta seviyede Cok Yan tl Dogrusal Regresyon (CYDR-(Multi-response Linear Regression (MLR)) yontemini kulland g gorulmustur [ 21,22 ]. Bu yontem, heterojen s n and r c lar taraf ndan hesaplanan olas l k degerlerini birlestirme icin kulland g ndan, bizim cal smam za uygundur.

Sekil 1: Meta Ogrenme

LR ve BK, her musteri icin ayr ayr her bir urunun sat n al nma olas l klar n hesaplar. CYDR yontemiyse, farkl algoritmalar taraf ndan uretilen bu olas l klar girdi olarak kullan l r. Bu girdi uzerinde her urun icin ayr ayr dogrusal regresyon cal s r ve yine her urun icin bir c kt uretilir (U run sat n al nd ysa 1, aksi halde 0).

Sonuc olarak her urun icin ayr ayr birer model olusturulur. Sonras nda yeni bir ornek (musteri) icin tahmin soruldugunda, tum urun modelleri bu ornek uzerinde yurutulur ve ayr lan modellerin sonuclar , ogrenme asamas nda belirlenen CYDR katsay lar kullan larak birlestirilir. Sonuc olarak, bir musteri s f r veya birden fazla urunun al c s olarak s n and r labilir.

I_ki terimli LR sonucu, her urun icin farkl olas l k degerleri urettigi icin ozel duzenlemelere ihtiyac duymaz. Bu sonuclar CYDR icin dogrudan kullan labilir. Fakat, BK taraf ndan uretilen olas l k degerinin belirlenmesi sorunludur. I_lk yaklas m olarak, BK taraf ndan ongorulecek her bir urunun olas l g , ilgili kural n guven degeriyle tan mlan r. Eger bir urun birden fazla kuralda yer al r ve belirli bir musteri icin birden fazla kural gecerli olursa, gecerli kurallar aras ndan en yuksek guven degerine sahip kural n guven degeri olas l k degeri olarak belirlenir. 3

Model

Bolum 2 de belirtildigi gibi, LR ve BK pazarlama literaturunde musterinin bir urunu sat n alma olas l g n tahmin etmek icin yayg n olarak kullan lan yaklas mlard r. I_cerisinde yas, cinsiyet, gelir gibi musteri demogra k ozellikleri ve dort farkl banka perakende urunu icin sahiplik bilgileri yer alan, Turkiye'deki orta olcekli bir banka veri kumesi dusunuldugunde, bu yaklas m kabul edilebilir. Urun sahiplik bilgileri ikili formattad r. "1" urune sahip olundugunu, "0" ise sahip olunmad g n temsil eder. Bankalar n her bir ana urun ailesi icin cesitli urunleri oldugundan, urunler urun ailelerine gore gruplanm s ve sahiplikler yeniden duzenlenmistir.

Sekil 2 de gosterildigi gibi, ilk olarak egitim veri kumesi algoritmalar icin ozellik secimi (Sekil 2a) ve orneklem (Sekil 2b) ad mlar (4. bolumde detayland r lacakt r) kullan larak haz rlanm st r. LR ile modelleme yaparken sahiplik bilgileri bag ml , demogra k bilgilerse bag ms z degiskenler olarak kullan lm st r. Urun aileleri birbirlerine esdeger olmad g ndan ve birbirlerini alternatif olarak temsil etmediginden, her urun ailesi icin sonuclar ayr ayr hesaplan r ve hepsi icin farkl ikili dogrusal regresyon modeli olusturulur. Ayn veri kumesi, demograk bilgiler d s nda Apriori algoritmas yla BK icinde kullan lm st r. Her ogrenme veri kumesi icin, tum musterilerin butun urun aileleri icin sahiplik bilgisi kullan larak, SRO K olusturulur. Ard ndan bu oge kumeleri islenerek birliktelik kurallar c kart lmaktad r. LR modeli her urun ailesi icin ayr ayr uygulamak gerekirken, BK tek seferde tum urunler icin uygulanabilmektedir. Bunun sonucu olarak iki terimli LR sonuclar n n her urun icin farkl olcekte olmas ve direk olarak kars last r lamaz olmas nedeniyle, sonuclar hic bir musteri icin dogrudan birlestirilemez. Bu yuzden, LR ve BK'dan elde edilen sonuclar, her bir urun icin ayr ayr ele al nmal d r. Buda bizim LR ve BK'y birlestirmede CYDR'ye ihtiyac duymam z n nedenidir.

Sekil 2: CYDR Algoritmas n n, LR ve BK ile Ornegi

Sekil 2'de, CYDR algoritmas n n iki baz s n and r c ile dort s n f (P1, P2, P3, P4) ve n gozlemli bir veri kumesi uzerindeki cizimi verilmistir. Burada P ropijk, k. ornegin, j. urunun, i. temel s n and r c taraf ndan hesaplanan olas l - g n gostermektedir. Sekil 2c'de LR ve BK'n n ongordukleri olas l klar ayr ayr gosterilmektedir. Sekil 2d'deyse, CYDR icin dogrusal regresyon fonksiyonu kullan larak, her urun icin sahipligin tahmin edilecegi veri kumesi gosterilmektedir. Temelde, CYDR her s n and r c icin dogrusal regresyon fonksiyonunu ogrenir ve sonras nda hesaplanan katsay lar, ilgili deneme veri kumesinde, sahiplikleri tahmin etmek icin kullan l r.

LR, BK ve CYDR'nin katsay lar ogrenme asamas n n sonunda elde edilir. Bu ogrenilmis parametreler kullan larak, deneme veri kumesi uzerinde, her bir musteri ve urun icin ayr ayr sahiplik (sat n alma) olas l g hesaplan r.

Genel olarak CYDR, s n ar esit say da olan cok s n iki veya daha fazla s n and r c y birlestirmek icin kullan l r. Bu nedenle meta egitim kumesinde, her s n and r c icin tum gozlemlerin olas l klar n n toplam bire esittir. Bu cal smada, LR modellerinin her bir urun icin birbirlerinden bag ms z olarak olas l k olusturulmas nda herhangi bir k s t yoktur. Cunku urun aileleri birbirlerine esdeger degillerdir.

Uygulama ve Test

Uygulama ve testler, yeni bir veri madenciligi arac olan PROPCA uzerinde, Java programlama diliyle yap lm st r. PROPCA ozellik secimi, orneklem vb. gibi gerekli tum veri madenciligi bilesenlerini icermektedir. Ayr ca PROPCA, iki paralel urun oneri modeli olan LR ve BK'y da icermektedir. Bu iki modelin veri ac s ndan farkl gereksinimleri vard r.

O nceden bahsedildigi gibi, LR modelleri, musterilerin demogra k ozellikleri ve sat n alma durumlar aras ndaki iliskidir. Bankac l k veri kumeleri yuzlerce demogra k ozellik icerir. Modelleme s ras nda tum ozelliklerin kullan lmas , zaman tuketen ve hata egilimli bir yaklas m olacakt r. Bu yuzden, ozellik kumesi icerisinden, modelleme isi icin uygun olanlar belirlenmelidir. Bankac l k alan ndan s kca basvurulan ozellikleri aras ndan guclu olanlar, PROPCA'n n icerisindeki bilgi degeri algoritmas kullan larak secilir. Bu ozellikler aras nda hem say sal hem de kategorik degerlere sahip olanlar bulunabilmektedir.

Nihai bankac l k veri kumesi, bilgi degeri taraf ndan secilen 5 demogra k ozellige (3 say sal ve 2 kategorik) ve 4 urun ailesine sahip 19.818 musteriye sahiptir. Bankac l k verisinde musteri gizliliginden dolay , kullan lan ozelliklerin ve urunlerin isimlerinden bahsedilmemektedir. LR'nin uygulanabilmesi icin kategorik ozelliklerin kukla degerleriyle ifade edilmesi ve tum ozelliklerin standardize hale getirilmesi gerekmektedir.

Tablo 1: Sahiplik Oran ( )

P1 P2 P3 P4

Sahiplik %32.2 %25.3 %62.2 %63

Tablo 1'de butun urun aileleri ve tum musteriler icin bu urunlerin sahiplik oranlar sunulmaktad r. Baz musteriler bu urunlerden birden fazlas na sahiptir. BK'da bu urunlerin sahiplikleri aras ndaki iliskiyi tespit ederek, yeni bir urun sat n alabilecek musterileri alg lar. Bu islemi gerceklestirmek icin, asgari destek ve asgari guven degerlerine ihtiyac duymaktad r. Bu degerler s ras yla 0.01 ve 0.20 olarak tespit edilmistir. Asgari destek degeri, SRO K'leri bulmak icin kullan l rken, asgari guven degeriyse bu oge kumelerinden kurallar olusturmak icin kullan l r.

Kullan lan veri kumesi PROPCA'da yer alan katmanl ornekleme kullan larak 3 esit parcaya ayr lm st r. Her bir parca egitim kumesi olarak kullan l rken, verinin geri kalan yinelemeli olarak test icin kullan lmaktad r. Bu nedenle, farkl egitim verilerinin genel sonuclara etkisi gozlemlenmistir. Herbir veri kumesi, 6606 farkl musteriye ve her urun icin farkl sahiplik oranlar na sahiptir. (Tablo 2 de gorulebilir.)

Her yinelemede model, bir veri kumesiyle ogrenme gerceklestirirken, geri kalan 2 veri kumesinin butunuyle test etmektedir. Belirlenen bir esik degeriyle (i.e. 0.5) s n ar n "1" veya "0" degeri elde edilir ve boylece algoritmalar n tahmin Tablo 2: Farkl Egitim Veri Kumelerindeki Sahiplik Oran ( )

P1 P2 P3 P4 Egitim Kumesi 1 %32.3 %25.7 %62.1 %63.0 Egitim Kumesi 2 %32.1 %24.8 %61.6 %63.2

Egitim Kumesi 3 %32.1 %25.3 %63.0 %62.8 olas l k- lar degerlendirilir. Duyarl l k (Sensivity - True Positive Rate), O zgulluk (Speci ty - True Negative Rate) ve Dogruluk (Accuracy) degerleri, her bir urun ailesi icin farkl test kumelerinde hesaplan r. Bu testler, farkl algoritmalar n CYDR ile birlestirilmesinin faydalar n gostermeyi amaclamaktad r. 4.1

Duyarl l k ve O zgulluk

Duyarl l k ve O zgulluk birbirini tamamlay c gostergelerdir. Duyarl l k dogru tespit edilen poziti erin (e.g. urunun sat n al nmas ) oran n olcerken, ozgulluk dogru tespit edilen negati erin (e.g. urunun sat n al nmamas ) oran n olcer. Sekil 3'te farkl algoritmalar (LR, BK, CYDR) ile her bir test kumesinden (Test kumesi 1, 2, 3), her urun (Product 1, 2, 3, 4) icin elde edilen duyarl l k ve ozgulluk degerleri gosterilmistir. Tum testlere birinci urun icin bak ld g nda, LR'nin duyarl l k ve ozgulluk degerleri yaklas k olarak s ras yla %0 ve %100 olarak c kmaktad r. LR, P1'i sat n alanlarla almayanlar ay rt edememekte ve musterilerin onemsiz bir k sm n al c olarak s n and rma egilimindedir. Bu basar s z sonuclar n nedeni, birinci urunun (%50'den az) veri kumelerinde (Tablo 1 ve 2) dusuk sahiplik oranlar na sahip olmas olabilir. BK icin 1. ve 2. test verisine bak ld g ndaysa duyarl l k ve ozgullugun s ras yla %95 ve %50 oldugu, ancak 3. test kumesindeyse hicbir musteriyi al c olarak s n and rmama egilimindedir. Bu nedenle duyarl l k %0, ozgullukse %100'dur. I_lk iki test icin CYDR sonuclar LR ve BK sonuclar aras ndad r. Son testteyse CYDR'nin duyarl l g ( %14) iki temel s n and r c dan buyukken, ozgulluk ( %95) sonuclar kucuktur. Buradan ozetle, ozgulluk taraf nda kucuk bir kay p olmas na ragmen, duyarl l k sonuclar nda %14 kazanc saglanm st r.

Urun 2 icin yok denecek kadar az musteri, al c olarak dogru s n and r labilmistir. Bu nedenle, duyarl l k degerleri tum testlerde zay f kalm st r. Ne LR ne de BK, urun 2 icin sat n alma modeli olabilir. Bunun en buyuk nedeni, 2. urunun tum veri kumelerinde %25 gibi kotu bir sahiplik oran olmas d r. Aksine, ozgulluk sonuclar tum testlerde neredeyse %100'dur. Bu durumda, CYDR sonuclarda duzeltme yapamam st r.

BK, 3. ve 4. urun icin testlerin tumunde musterileri sat n al r olarak s n and rm st r. Bu yuzden, BK icin duyarl l k sonuclar her zaman %100 c karken, ozgulluk sonuclar %0'd r. BK, alan veya almayan ay rt edememistir. O te yandan LR sonuclar da BK'dan cok farkl degildir. duyarl l k sonuclar %90'dan fazla iken, ozgulluk sonuclar %10'dan asag dad r. Burada CYDR, duyarl l k ve ozgulluk sonuclar n dengeler. 3. ve 4. urunde farkl test kumelerinde, duyarl l kta %10-35 aras kay p yasan rken, ozgullukte %60-90 aras nda kazanc saglanm st r. O zetle, CYDR iki zay f s n and r c sonuclar n girdi olarak alarak, duyarl l k ve ozgulluk aras ndaki dengeyi art rm st r. Ayr ca, ucuncu test icin 1. urune bak ld g nda CYDR'nin duyarl l k sonuclar n iyilestirdigi gorulmektedir. Bir sonraki bolumde dogruluk gostergesi ve CYDR'nin bu gostergeye etkisi ele al nacakt r.

Sekil 3: Duyarl l k ve Ozgulluk Sonuclar 4.2

Dogruluk

Dogruluk olcusu, s n and r c lar n pozitif ve negatif tahminlerini birlikte kullan r. Sekil 4'te goruldugu gibi, CYDR, hem LR hem BK'n n dogruluklar n art rm st r. Daha belirli olmas ac s ndan urun 2 d s nda dogruluklar tum veri kumeleri icin inceledigimizde, urun 1 icin yaklas k %2, urun 3 ve 4 icinse %8'den fazla CYDR ile kazanc elde edilmistir.

Tum urun aileleri icin dogruluk degerlerinin %60 civar nda olmas ndan dolay , kullan c davran slar n n karmas k oldugu seklinde basitce yorumlanabilir. O zellikle musteriye bir sey tavsiye edilecegi zaman, bu daha da karmas klas r. Daha once bilinen birisine bir sey onermekle, hic bilinmemis ya da duyulmam s birisine oneride bulunmak ayn degildir. Bu yuzden dogruluk degerinin yuksek olmamas sosyal bilimlerde kabul edilebilir bir seydir. Sekil 4'un s g nda, CYDR'nin

Sekil 4: Dogruluk Sonuclar neredeyse tum test verileri icin, sat n alan musterilerle, sat n almayan musterileri, LR ve BK'dan daha iyi ay rd g soylenebilir.

Sonuclar ve Gelecek Cal smalar

Bu cal smada, PROPCA'n n bir parcas olarak gelistirilen iki ayr algoritman n (LR ve BK) c kt lar n n birlestirilmesi amaclanm st r. Fakat buyuk veri kumeleri ve farkl islem ilkeleriyle efektif cal sma konular nda zorluklar bulunmaktad r. Sonuclar umut verici olmakla birlikte, bu modelin oldukca efektif ve diger iki modelden daha iyi dogruluga sahip oldugu gorulmustur. Bu cal sma sonucundaki modelin, diger iki modelin tahmin gucunu kuvvetlendirdigi ve gelistirdigi kabul edilir. Ayr ca yazarlar, modeli dogrulamak icin daha fazla urun ve musteri bulunan bir veriyle cal sman n genisletilmesi gerektiginin fark ndad r.

Veri kumesindeki pozitif ve negatif s n ar n dengeli olmas halinde LR'nin daha iyi cal st g bilinmektedir. O rnekleme modelinin dikkatli olarak olusturulmas halinde modelin dogrulugunun artmas mumkundur. Eger her bir urun icin daha dengeli bir veri kumesi (yaklas k %50 pozitif, %50 negatif gozlem) yarat l rsa, LR'nin performans bu ornekleme k yasla artabilir. Bunun sonucunda, LR c kt s daha iyi ongoru olas l klar vererek, performans art s saglayabilir ve bu da genel modelin basar s n olumlu etkileyebilir.

Ayr ca her urun icin ayr ayr , dengeli bir egitim veri kumesinin ele al nmas , farkl guclu ozelliklerin secilmesi ve farkl kesme (cut-o ) noktalar n n belirlenmesi, LR modelinin ve bunun sonucunda CYDR modelinin basar s n art rabilir. O nerilen modelin verimliligini art rmak icin, gelecekte baz oncelikli cal smalar yap labilir. BK, veri kumesine uygulamadan once, benzer demogra k ozelliklere sahip musterileri bir araya toplamak amac yla kumeleme(or: basit k ortalamal , beklenti maksimizasyonu [ 23 ]) gibi ek ad mlar uygulanabilir. Boylece her kumedeki musteriler icin, BK ayr ayr cal st r labilir.

Benzer sekilde, Gizli S n f (Latent Class) yaklas m LR icin kullan labilir. Gizli S n f analizi, s n f say lar n n dogru secimi icin onemli bir konudur. Akaike Bilgi Kriteri [ 24 ] ve Bayesian Bilgi Kriteri [ 25 ] gibi olas l k kriterleri farkl say da s n fa sahip modelleri kars last rmada kullan labilir. O rneklemdeki musteriler, musteri ozellikleri ve urun tercihlerine gore segmentlere ayr lm s olabilir. Sonras nda her segment icin karakteristik degerler, segmentte yer alan musterilerin ozellikleri kullan larak hesaplanabilir. Evrendeki her musterinin secilmis ozellikleri kullan larak, her segmentin mesafeleri hesaplanabilir, musteriler en az uzakl ga sahip olduklar segmentlere atanabilir ve tahmin olas l klar ilgili segment ozellikleri kullan larak hesaplanabilir.

Kaynaklar

References

1. Silverpop . "Silverpop email marketing metrics benchmark study . " , 2014 .

2. Tanguma , Jesus, and Roberto Saldivar . "Interpretation of Logistic Regression Models in Marketing Journals." The Sustainable Global Marketplace . Springer International Publishing, 2015 . 2- 2 .

3. Akinci , Serkan , et al. "Where does the logistic regression analysis stand in marketing literature? A comparison of the Market Positioning of Prominent Marketing Journals." European Journal of Marketing 41.5/6 ( 2007 ): 537 - 567 .

4. Brin , Sergey, Rajeev Motwani , and Craig Silverstein . "Beyond market baskets: Generalizing association rules to correlations." ACM SIGMOD Record . Vol. 26 . No. 2 . ACM, 1997 .

5. Kotsiantis , Sotiris, and Dimitris Kanellopoulos . "Association rules mining: A recent overview . " GESTS International Transactions on Computer Science and Engineering 32.1 ( 2006 ): 71 - 82 .

6. Srikant , Ramakrishnan, and Rakesh Agrawal . Mining generalized association rules . IBM Research Division , 1995 .

7. Hegland , Markus. "Algorithms for association rules . " Advanced lectures on machine learning . Springer Berlin Heidelberg, 2003 . 226 - 234 .

8. Flath , David, and E. W. Leonard . "A comparison of two logit models in the analysis of qualitative marketing data . " Journal of Marketing Research ( 1979 ): 533 - 538 .

9. Berkson , Joseph. "Maximum likelihood and minimum X 2 estimates of the logistic function . " Journal of the American Statistical Association 50 .269 ( 1955 ): 130 - 162 .

10. Malhotra , Naresh K. "The use of linear logit models in marketing research . " Journal of Marketing research ( 1984 ): 20 - 31 .

11. Green , Paul E. , Frank J. Carmone , and David P. Wachspress . "On the analysis of qualitative data in marketing research . " Journal of Marketing Research ( 1977 ): 52 - 59 .

12. S. Hosmer , David W. Lemeshow . "Log-linear models ." Springer-Verlag, 1990 , ISBN: 0 - 471 -35632-8.

13. De La Vin~a, Lynda, and Jamie Ford . "Logistic regression analysis of cruise vacation market potential: Demographic and trip attribute perception factors . " Journal of Travel Research 39.4 ( 2001 ): 406 - 410 .

14. McCullagh , Peter, and John A. Nelder. Generalized linear models . Vol. 37 . CRC press, 1989 .

15. Wolpert , David H . " Stacked generalization." Neural networks 5.2 ( 1992 ): 241 - 259 .

16. Dzeroski, Saso, and Bernard Zenko . "Is combining classi ers with stacking better than selecting the best one?." Machine learning 54.3 ( 2004 ): 255 - 273 .

17. Sewell , Martin. "Ensemble learning." RN 11.02 ( 2008 ).

18. Rokach , Lior. "Ensemble-based classi ers." Arti cial Intelligence Review 33 . 1 - 2 ( 2010 ): 1 - 39 .

19. Sigletos , Georgios , et al. "Combining information extraction systems using voting and stacked generalization." The Journal of Machine Learning Research 6 ( 2005 ): 1751 - 1782 .

20. Fan , David W., Philip K. Chan , and Salvatore J. Stolfo . "A comparative evaluation of combiner and stacked generalization . " Proceedings of AAAI-96 workshop on Integrating Multiple Learned Models . 1996 .

21. Seewald , Alexander K. "How to make stacking better and faster while also taking care of an unknown weakness." Proceedings of the nineteenth international conference on machine learning . Morgan Kaufmann Publishers Inc., 2002 .

22. Ting , Kai Ming, and Ian H. Witten . "Issues in stacked generalization . " J. Artif. Intell. Res.(JAIR) 10 ( 1999 ): 271 - 289 .

23. Bottou , Leon, and Yoshua Bengio . "Convergence properties of the k-means algorithms . " Advances in Neural Information Processing Systems 7 . 1995 .

24. Akaike , Hirotugu. "Factor analysis and AIC." Psychometrika 52.3 ( 1987 ): 317 - 332 .

25. Schwarz , Gideon. "Estimating the dimension of a model." The annals of statistics 6.2 ( 1978 ): 461 - 464 .