Distant supervision (DS) has become an efficient approach for relation extraction (RE) to alleviate the lack of labeled examples in supervised learning. In this paper, we propose a novel neural RE model that combines a bidirectional gated recurrent unit model with a form of hierarchical attention that is better suited to RE. We demonstrate that an additional attention mechanism called piecewise attention, which builds itself upon segment level representations, significantly enhances the performance of the distantly supervised relation extraction task. Our piecewise attention mechanism not only captures crucial segments in each sentence but also reflects the direction of relations between two entities. Furthermore, we propose a contextual inference method that can infer the most likely positive examples of an entity pair in bags with very limited contextual information. In addition, we provide an annotated dataset without false positive examples based on the Riedel testing dataset, and report on the actual performance of several RE models. The experimental results show that our proposed methods outperform the previous state-of-the-art baselines on both original and annotated datasets for the distantly supervised RE task.
13 April 2023 in Journal of Intelligent System and Computation
Dengan semakin berkembangnya teknologi informasi, maka muncul istilah e-commerce dalam dunia bisnis. Pada e-commerce ada fitur review, pelanggan dapat memberikan review berupa teks, gambar, dan bintang. Review tersebut merupakan opini dari pelanggan terkait barang yang dibeli. Tetapi pada kebanyakan e-commerce tidak ada fitur kategori terkait review hal ini membuat calon pembeli kesusahan dalam menganalisa secara manual. Aspect-based sentiment analysis (ABSA) merupakan solusi dari permasalahan tersebut. ABSA memiliki tiga tugas salah satunya Aspect Category Detection yang memiliki fungsi untuk menggabungkan review pelanggan menjadi beberapa aspek dimana aspek-aspek tersebut sudah didefinisikan terlebih dahulu. Cukup banyak penelitian terkait Aspect Category Detection dengan mengunakan machinelearning. Dari beberapa metode yang diuji, Convolutional Neural Network (CNN) merupakan metode terbaik. Selain itu penggunaan BERT sebagai word embedding menghasilkan output yang bagus baik dari pada word embedding konvensional. Penelitian ini menggunakan dataset dari e-commerce Bukalapak dengan 3114 review dan 6 aspek (Akurasi, Pengiriman, Kualitas, Harga, Pengemasan, dan Pelayanan). Berdasarkan ujicoba dengan menggunakan IndoBERT sebagai word embedding dan CNN untuk deteksi aspek, maka didapatkan akurasi sebesar 94,86%. Dengan demikian model tersebut dapat digunakan untuk deteksi aspek. Selain itu, metode CNN mendapatkan hasil yang lebih baik dari pada metode LSTM.
Stemming adalah proses yang sangat penting untuk mencari kata dasar dari sebuah kata derivatif. Inti dari proses stemming adalah menghilangkan imbuhan pada suatu kata. Stemming sangat dibutuhkan untuk proses information retrieval system. Algoritma pada proses stemming bisa berbeda-beda pada setiap bahasa di berbeda negara. Data yang digunakan adalah 176 kata dasar dalam bahasa Tetun yang merupakan bahasa asli warga negara Timor Leste. Penelitian ini bertujuan untuk merancang algoritma baru yang tepat untuk stemming bahasa Tetun. Tahap awal stemming bahasa Tetun adalah proses filterisasi untuk menghilangkan tanda baca, angka, dan kata yang tidak penting. Lalu tahap tokenisasi untuk membuat variabel yang terdiri dari satu kata. Lalu setiap kata melalui proses stemming untuk menghilangkan imbuhan awalan, akhiran, dan konfiks. Analisis dilakukan berdasarkan kasus error stemming seperti overstemming, understemming, unchanged, dan spelling exception. Hasil uji coba yang didapatkan adalah algoritma stemming bahasa Tetun menghasilkan akurasi sebesar 90.52%.