Tag Archives: Fill-Mask MLM BERT

Belajar Masked Languange Model Fill Mask

By | March 22, 2024

364 ViewsMasked Language Modeling (MLM) adalah sebuah teknik dalam pemrosesan bahasa alami (Natural Language Processing/NLP) di mana beberapa kata atau token dalam sebuah kalimat diubah menjadi token khusus yang disebut “mask”. Kemudian, model dilatih untuk memprediksi kata-kata asli yang tersembunyi berdasarkan konteks yang diberikan oleh kata-kata sekitarnya. Teknik ini umumnya terkait dengan model berbasis transformer… Read More »