Pengaruh Hyperparameter pada Fasttext terhadap Performa Model Deteksi Sarkasme Berbasis Bi-LSTM

Abstract

Klasifikasi teks dapat diterapkan dengan pemrosesan bahasa alami. Namun, salah satu masalah yang ditemukan pada klasifikasi teks adalah kalimat sarkasme. Sarkasme mampu mengubah makna suatu kalimat menjadi kebalikannya. Untuk mengatasi masalah tersebut, peneliti mengusulkan kombinasi word embedding Fasttext dengan model Deep Learning yaitu Bi-LSTM pada kasus deteksi sarkasme pada tweet. Fasttext merepresentasi kata dengan memanfaatkan sub-word, sehingga mampu memperoleh informasi dari sebuah kata yang belum pernah ditemukan dan mampu memahami kata yang berimbuhan. Sedangkan Bi-LSTM dapat mempelajari semantik kata yang berpengaruh dalam mengklasifikasikan tweet. Eksperimen penelitian dilakukan terhadap penggunaan hyperparameter Fasttext yaitu vector size, window, minimal number of word occurrences, epochs, dan word2vec model architecture. Berdasarkan hasil eksperimen yang dilakukan hyperparameter Fasttext memiliki pengaruh yang berbeda, dimana terjadi peningkatan dan penurunan nilai hasil evaluasi. Peningkatan hasil evaluasi lebih tampak pada penggunaan epochs pada nilai 100 dan penggunaan arsitektur CBOW.