Simple Adaptive Boosting

Sinopsis

Bahasan mengenai apa itu adaptive boosting http://cmp.felk.cvut.cz/%7Esochmj1/adaboost_talk.pdf. Algoritma ini disesuaikan dengan persamaan umum dari adaboost yaitu

Dataset

Berikut contoh data yang digunakan untuk kasus adaboost (2 masukan x dan y):

Kita plotkan menggunakan matlplotlib berikut yang terlihat sebaran datanya tidak linear

Berikut disajikan mengenai hasil error tiap iterasi

Berikut potongan kode yang sudah dtulis ulang ke dalam bahasa python menggunakan numpy dan matplotlib sebagai library nya.

from matplotlib import pyplot as plt
import numpy as np
import library_adaboosting as ada

‘’’
Code -----
‘’’

data= np.array([[6,9],[2,7],[3,6],[2,2],[8,1],
                [7,5],[4,8],[9,5],[9,9],[9,4],    
                [7,4],[5,4]])
label = np.array([1,1,1,1,1,1,
                  -1,-1,-1,-1,-1,-1])
    
print('target\n',label)
threshold = np.arange(4,10,1)
iterasi = 100
[alpha,H,err] = ada.training(data,label,iterasi,threshold)
prediksi = ada.testing(data,alpha,H)
print('prediksi\n',prediksi)

plotdata(data,label)
ploterror(iterasi,err)

hasil

target
 [ 1  1  1  1  1  1 -1 -1 -1 -1 -1 -1]
prediksi
 [ 1.  1.  1.  1.  1.  1. -1. -1. -1. -1. -1. -1.]