Test CPU benchmark Intel I5, M1, Windows dan M1

By | April 11, 2024

590 ViewsBenchmarking CPU (Central Processing Unit) adalah proses pengukuran kinerja CPU yang digunakan untuk membandingkan kinerja relatif dari CPU yang berbeda atau untuk mengukur peningkatan kinerja dari modifikasi perangkat keras atau perangkat lunak. Ada beberapa aplikasi populer yang digunakan untuk benchmark CPU. Berikut ini beberapa contoh: Cinebench: Cinebench adalah salah satu benchmark CPU yang paling populer.… Read More »

Belajar Masked Languange Model Fill Mask

By | March 22, 2024

930 ViewsMasked Language Modeling (MLM) adalah sebuah teknik dalam pemrosesan bahasa alami (Natural Language Processing/NLP) di mana beberapa kata atau token dalam sebuah kalimat diubah menjadi token khusus yang disebut “mask”. Kemudian, model dilatih untuk memprediksi kata-kata asli yang tersembunyi berdasarkan konteks yang diberikan oleh kata-kata sekitarnya. Teknik ini umumnya terkait dengan model berbasis transformer… Read More »

huggingface trainer error PermissionError

By | March 18, 2024

1,444 Viewserror ketika training di huggingface melakukan sesi training, berikut kode yang digunakan from transformers import Trainer, TrainingArguments training_args = TrainingArguments( output_dir=’modelv3′, overwrite_output_dir=True, num_train_epochs=1, #per_gpu_train_batch_size=96, save_steps=1, save_total_limit=2, push_to_hub=False, hub_private_repo = True, #use_mps_device = True #fp16=True, ) trainer = Trainer( model=model, args=training_args, data_collator=data_collator, #use_seedable_sampler= False, train_dataset=dataset) #prediction_loss_only=True,) trainer.train() terjadi error ketika mengubah nama folder yaitu PermissionError:… Read More »

Latar Belakang dan Sejarah BERT

By | March 17, 2024

980 ViewsGoogle pertama kali memperkenalkan model transformer pada tahun 2017. Pada saat itu, model bahasa utamanya menggunakan jaringan saraf rekuren (RNN) dan jaringan saraf konvolusional (CNN) untuk menangani tugas pemrosesan bahasa alami (NLP). CNN dan RNN merupakan model yang kompeten, namun, mereka memerlukan urutan data yang tetap untuk diproses. Model transformer dianggap sebagai perbaikan yang… Read More »

Membuat GUI di Python menggunakan wxpython

By | May 24, 2024

906 ViewsAntarmuka Pengguna Grafis (GUI) adalah cara utama di mana pengguna berinteraksi dengan aplikasi komputer. Seiring dengan kemajuan teknologi, GUI telah menjadi elemen penting dari hampir semua jenis perangkat lunak, mulai dari aplikasi desktop hingga perangkat mobile dan web. Artikel ini akan menjelaskan apa itu GUI aplikasi, mengapa penting, serta beberapa prinsip dan alat untuk… Read More »

Install R dan RStudio di Ubuntu

By | March 12, 2024

900 ViewsInstall R dan RStudio di Ubuntu –  Bagi yang sering mengolah data statistik, kalian sudah terbiasa dengan R daripada Python karena memang tujuan utama  R dibuat untuk mengolah data statistik. Saya pun lebih suka mengolah data untuk keperluan statistik menggunakan R. Untuk install di Linux terutama turunan debian seperti Ubuntu, kalian bisa mengikuti langkah… Read More »

IDE CodeBlock untuk bahasa C/C++

By | March 11, 2024

904 ViewsDalam dunia pengembangan perangkat lunak, alat yang kuat dan efisien sangatlah penting. Salah satu alat yang telah menjadi favorit di kalangan pengembang adalah Integrated Development Environment (IDE) yang dapat menyatukan berbagai fungsi penting dalam satu platform. Salah satu IDE yang cukup populer adalah Code::Blocks. Dalam artikel ini, kita akan mengeksplorasi tentang Code::Blocks, fitur-fiturnya, dan… Read More »

error tensorboard add_graph with multiple input

By | March 10, 2024

1,014 Viewserror tensorboard add_graph with multiple input  –  Biasanya untuk visualisasi model menggunakan tensorboard cukup mudah dan rata-rata contohnya hanya menggunakan single input https://pytorch.org/tutorials/intermediate/tensorboard_tutorial.html dan hasilnya ok2 saja tanpa ada masalah. Namun ada kasus dimana terkadang kita membutuhkan banyak input alias multiple input pada contoh berikut hasilnya error. # -*- coding: utf-8 -*- “”” Created… Read More »

Apa itu token vocab special token serta padding pada model bahasa

By | March 9, 2024

1,051 ViewsApa itu token vocab special token serta padding pada model bahasa merupakan tahapan awal dari model bahasa yang pasti akan kita jumpai pertama kali karena termasuk dalam tahap pra pengolahan! Model bahasa adalah sistem komputasional yang dirancang untuk memahami dan menghasilkan teks bahasa manusia. Tujuan utamanya adalah untuk memprediksi kemungkinan urutan kata berikutnya dalam… Read More »

Membuat Model Bahasa menggunakan Deep Learning

By | February 19, 2024

1,335 ViewsModel many-to-many LSTM adalah jenis arsitektur jaringan saraf tiruan (neural network) yang menggunakan lapisan LSTM (Long Short-Term Memory) untuk memproses serangkaian input dan menghasilkan serangkaian output yang sesuai. Model ini sering digunakan dalam tugas-tugas pemodelan urutan di mana input dan output berurutan, dan panjangnya tidak selalu sama. Pada blog sebelumnya kita menggunakan many to… Read More »