Yearly Archives: 2024

Operasi Convolution pada Pytorch – Filter – Kernel – Weight

By | May 6, 2024

1,746 ViewsMembahas mengenani operasi convolution yang merupakan inti dari feature extraction. Operasi konvolusi (convolution) dalam PyTorch, seperti yang biasanya dilakukan dalam jaringan saraf tiruan (neural networks), umumnya dilakukan menggunakan modul torch.nn.Conv2d untuk data 2D dan torch.nn.Conv3d untuk data 3D. Konvolusi adalah proses matematis yang melibatkan penjumlahan produk titik dari bagian-bagian tumpang tindih dari dua himpunan data.… Read More »

Test CPU benchmark Intel I5, M1, Windows dan M1

By | April 11, 2024

0 Comment

1,355 ViewsBenchmarking CPU (Central Processing Unit) adalah proses pengukuran kinerja CPU yang digunakan untuk membandingkan kinerja relatif dari CPU yang berbeda atau untuk mengukur peningkatan kinerja dari modifikasi perangkat keras atau perangkat lunak. Ada beberapa aplikasi populer yang digunakan untuk benchmark CPU. Berikut ini beberapa contoh: Cinebench: Cinebench adalah salah satu benchmark CPU yang paling populer.… Read More »

Belajar Masked Languange Model Fill Mask

By | March 22, 2024

0 Comment

1,836 ViewsMasked Language Modeling (MLM) adalah sebuah teknik dalam pemrosesan bahasa alami (Natural Language Processing/NLP) di mana beberapa kata atau token dalam sebuah kalimat diubah menjadi token khusus yang disebut “mask”. Kemudian, model dilatih untuk memprediksi kata-kata asli yang tersembunyi berdasarkan konteks yang diberikan oleh kata-kata sekitarnya. Teknik ini umumnya terkait dengan model berbasis transformer… Read More »

huggingface trainer error PermissionError

By | March 18, 2024

0 Comment

9,977 Viewserror ketika training di huggingface melakukan sesi training, berikut kode yang digunakan from transformers import Trainer, TrainingArguments training_args = TrainingArguments( output_dir=’modelv3′, overwrite_output_dir=True, num_train_epochs=1, #per_gpu_train_batch_size=96, save_steps=1, save_total_limit=2, push_to_hub=False, hub_private_repo = True, #use_mps_device = True #fp16=True, ) trainer = Trainer( model=model, args=training_args, data_collator=data_collator, #use_seedable_sampler= False, train_dataset=dataset) #prediction_loss_only=True,) trainer.train() terjadi error ketika mengubah nama folder yaitu PermissionError:… Read More »

Latar Belakang dan Sejarah BERT

By | March 17, 2024

0 Comment

1,934 ViewsGoogle pertama kali memperkenalkan model transformer pada tahun 2017. Pada saat itu, model bahasa utamanya menggunakan jaringan saraf rekuren (RNN) dan jaringan saraf konvolusional (CNN) untuk menangani tugas pemrosesan bahasa alami (NLP). CNN dan RNN merupakan model yang kompeten, namun, mereka memerlukan urutan data yang tetap untuk diproses. Model transformer dianggap sebagai perbaikan yang… Read More »

Membuat GUI di Python menggunakan wxpython

By | May 24, 2024

0 Comment

1,663 ViewsAntarmuka Pengguna Grafis (GUI) adalah cara utama di mana pengguna berinteraksi dengan aplikasi komputer. Seiring dengan kemajuan teknologi, GUI telah menjadi elemen penting dari hampir semua jenis perangkat lunak, mulai dari aplikasi desktop hingga perangkat mobile dan web. Artikel ini akan menjelaskan apa itu GUI aplikasi, mengapa penting, serta beberapa prinsip dan alat untuk… Read More »

Install R dan RStudio di Ubuntu

By | March 12, 2024

0 Comment

1,829 ViewsInstall R dan RStudio di Ubuntu – Bagi yang sering mengolah data statistik, kalian sudah terbiasa dengan R daripada Python karena memang tujuan utama R dibuat untuk mengolah data statistik. Saya pun lebih suka mengolah data untuk keperluan statistik menggunakan R. Untuk install di Linux terutama turunan debian seperti Ubuntu, kalian bisa mengikuti langkah… Read More »

IDE CodeBlock untuk bahasa C/C++

By | March 11, 2024

0 Comment

1,916 ViewsDalam dunia pengembangan perangkat lunak, alat yang kuat dan efisien sangatlah penting. Salah satu alat yang telah menjadi favorit di kalangan pengembang adalah Integrated Development Environment (IDE) yang dapat menyatukan berbagai fungsi penting dalam satu platform. Salah satu IDE yang cukup populer adalah Code::Blocks. Dalam artikel ini, kita akan mengeksplorasi tentang Code::Blocks, fitur-fiturnya, dan… Read More »

error tensorboard add_graph with multiple input

By | March 10, 2024

0 Comment

1,779 Viewserror tensorboard add_graph with multiple input – Biasanya untuk visualisasi model menggunakan tensorboard cukup mudah dan rata-rata contohnya hanya menggunakan single input https://pytorch.org/tutorials/intermediate/tensorboard_tutorial.html dan hasilnya ok2 saja tanpa ada masalah. Namun ada kasus dimana terkadang kita membutuhkan banyak input alias multiple input pada contoh berikut hasilnya error. # -*- coding: utf-8 -*- “”” Created… Read More »

Apa itu token vocab special token serta padding pada model bahasa

By | March 9, 2024

0 Comment

1,982 ViewsApa itu token vocab special token serta padding pada model bahasa merupakan tahapan awal dari model bahasa yang pasti akan kita jumpai pertama kali karena termasuk dalam tahap pra pengolahan! Model bahasa adalah sistem komputasional yang dirancang untuk memahami dan menghasilkan teks bahasa manusia. Tujuan utamanya adalah untuk memprediksi kemungkinan urutan kata berikutnya dalam… Read More »