Comprehensive text classification study for online reviews

Abstract

İnternet ortamında ki incelemeler, makaleler ve haberler gibi yapılandırılmamış metinlerin artması, doğru metin sınıflandırmasını kaçınılmaz bir ihtiyaç haline getirmiştir. Bu tür modellerin oluşturulmasında en kritik adımlardan biri de özellik ağırlıklandırmadır. TF-IDF Term Frequency – Inverse Document Frequency (Terim frekansı – ters metin frekansı) bu amaç için kullanılan en popüler yöntem olmasına rağmen, bazı durumlarda sınıflandırma modelinin doğru performans göstermesini engelleyen bazı kısıtlamaları bulunmaktadır. Bu çalışmada iki alanda geliştirme yapılacaktır. Birincisi; konuşma etiketlemenin bir bölümünü kullanan orijinal TFIDF yönteminin kısıtlarını aşan iyileştirilmiş bir versiyon geliştirilecektir. İkinci geliştirme de iki gizli katmanı olan yeni bir derin sinir ağının eğitilmesidir. Çalışmalar 4 adet çok büyük veri seti üzerinde yapılmaktadır ve sonuçlar oldukça umut vericidir The need for an accurate text classification model is increasing with the increase of the unstructured text such as online reviews, articles, and news. And one of the most critical steps in building such models is feature weighting. While TFIDF is the most popular method used of that purpose, it has some limitations that prevent the classification model from performing accurately in some cases. In this work we have two main contributions, first we are introducing an improvement version of TFIDF method using part of speech tagging that will overcome the limitations of the original TFIDF equation, second, we trained a new deep neural network with two hidden layers. The studies were conducted on four large datasets and the results were promising.