Analysis of machine learning-based spam filtering techniques

Abstract

Bu tezde, otamatik spam eposta filtreleme problem çalışıldı. Bazı varolan makina öğrenme algoritmaları açık bir veri seti üzerinde test edildi ve sonuçlar analiz edildi. Geliştirilen metotlar makina öğrenme ve yazı sınıflandırma teknikleri kullanılarak geliştirildi. Değişik veri setleri ve test metotları karşılaştırıldı. Ağırlıklı TF-IDF, SciKit Learn tabanlı ve Word2Vec vektörizasyonu kullanarak problem çözüm için metotlar geliştirildi. Eposta yazıları için farklı vektör gösterim metotları geliştirildi ve denetimli makina öğrenme algoritmaları ile epostalar spam veya ham olarak sınıflandırıldı. WEKA yazılım aracı kullanılarak epostaların vektör gösterimleri üzeride makina öğrenme sınıfladırma metotları uygulandı. Sınfılandırma için Destek Vektör Mekanizması SVM (POLY), SVM (RBF), Naive Bayes, Bayesian Ağları, J48 ve Rastgele Orman algoritmaları kullanıldı. Sınıflandırma yöntemlerinden elde ettiğimiz sonuçları karşılaştırdık ve analiz ettik. Sonuçlarımız Word2Vec vektörü ile SVM (Poly) algoritmasının 300 e-posta veri kümesi için 98.33% spam algılama hassasiyeti ile en iyi performansı göstermektedir.

In this thesis, automatic spam e-mail detection problem is examined. Some existing machine learning algorithms are tested on an open dataset and the results are analyzed. The methods we developed have been implemented using machine learning and text classification techniques. We have used different data sets to develop and test the methods. The proposed methods for solving the problem are based on using weighted TF-IDF, SciKit Learn and Word2Vec vectorization. We developed and used vector representation methods for email text and then used supervised machine learning algorithms to classify emails as spam or ham. We used WEKA software tool to apply machine learning classification methods on vector representations of email. For classifications, we used the algorithms Support Vector Mechanism SVM (POLY), SVM (RBF), Naive Bayes, Bayesian Networks, J48 and Random Forest algorithms. We compared and analyzed the results we obtained from the classification methods. Our results show that the Word2Vec vector and the SVM (poly) algorithm perform better with 98.33% spam detection accuracy for 300 email data set.