Penerapan Fuzzy C-Means Clustering

Sinopsis

Algoritma Clustering yang paling sering dibahas dan digunakan yaitu K-Mean Clustering, namum algoritma tersebut kurang robust jika menghadapi dataset yang bersifat non linear karena hanya mengandalkan jarak ke titik centroid tanpa ada atribut yang lainnya. Hal ini berbeda dengan Algoritma Fuzzy C-Means Clustering yang mempunyai atribut jarak juga mempunyai nilai keanggotannya sehingga sangat diandalkan dan cocok jika ditemui dataset yang bersifat non linear seperti dibawah ini.

Hal yang akan sulit dilakukan oleh K-Means Clustering.  Sekedar kalian tahu selain 2 algoritma tersebut ada banyak sekali algoritma clustering yaitu

1. k-means clustering algorithm
2. Fuzzy c-means clustering algorithm
3. Hierarchical clustering algorithm
4. Gaussian(EM) clustering algorithm
5. Quality threshold clustering algorithm
6. MST based clustering algorithm
7. kernel k-means clustering algorithm
8. Density-based clustering algorithm

Penerapan Algoritma Clustering

Algoritma clustering sangat membantu pekerjaan manusia dalam banyak hal terutama untuk menganalisis perilaku data seperti

1. Recommender systems
2. Anomaly detection
3. Human genetic clustering
4. Genom Sequence analysis
5. Analysis of antimicrobial activity
6. Grouping of shopping items
7. Search result grouping
8. Slippy map optimization
9. Crime analysis
10. Climatology

Contoh Dataset

Dengan paramater nya yaitu petal dan sepal yang terdiri dari panjang dan lebarnya.   https://en.wikipedia.org/wiki/Petal

Bila sudah memahami data yang akan kita olah. Kalian tidak perlu download datanya karena Matlab sudah menyediakan data yang kita butuhkan, cukup kita panggil dengan function berikut

clc;clear all;close all;
load iris.dat

Terdiri dari 5 kolom yaitu

Seperti berikut

Dimana kode iris / target kelas (pada kolom ke 5)

1. setosa
2. versicolor
3. virginica

Visualisasi Data

Setelah paham, kita akan visualisasikan dalam bentuk 2 Dimensi yaitu sumbu X dan sumbu Y, kita akan menggunakan 2 paramater yaitu

clc;clear all;close all;
load iris.dat               
x = [iris(:,1), iris(:,end)];
y = [iris(:,3),iris(:,end)];
 
setosa_x = x(x(:,end)==1);
setosa_y = y(y(:,end)==1);
 
versicolor_x = x(x(:,end)==2);
versicolor_y = y(y(:,end)==2);
 
virginica_x = x(x(:,end)==3);
virginica_y = y(y(:,end)==3);

 
figure, 
scatter(setosa_x,setosa_y,'fill'); %setosa
hold on
scatter(versicolor_x,versicolor_y,'fill'); %versicolor
scatter(virginica_x,virginica_y,'fill'); %virginica
legend('setosa','versicolor','virginica')
xlabel('sepal length');
ylabel('petal length');
title('Visualisasi Data Iris');

menghasilkan

Clustering

fcm Data set clustering using fuzzy c-means clustering.
 
    [CENTER, U, OBJ_FCN] = fcm(DATA, N_CLUSTER) finds N_CLUSTER number of
    clusters in the data set DATA. DATA is size M-by-N, where M is the number of
    data points and N is the number of coordinates for each data point. The
    coordinates for each cluster center are returned in the rows of the matrix
    CENTER. The membership function matrix U contains the grade of membership of
    each DATA point in each cluster. The values 0 and 1 indicate no membership
    and full membership respectively. Grades between 0 and 1 indicate that the
    data point has partial membership in a cluster. At each iteration, an
    objective function is minimized to find the best location for the clusters
    and its values are returned in OBJ_FCN.
 
    [CENTER, ...] = fcm(DATA,N_CLUSTER,OPTIONS) specifies a vector of options
    for the clustering process:
        OPTIONS(1): exponent for the matrix U             (default: 2.0)
        OPTIONS(2): maximum number of iterations          (default: 100)
        OPTIONS(3): minimum amount of improvement         (default: 1e-5)
        OPTIONS(4): info display during iteration         (default: 1)
    The clustering process stops when the maximum number of iterations
    is reached, or when the objective function improvement between two
    consecutive iterations is less than the minimum amount of improvement
    specified. Use NaN to select the default value.

Kalian bisa terapkan pada Data Iris

clc;clear all;close all;
load iris.dat               
x = [iris(:,1), iris(:,end)];
y = [iris(:,3),iris(:,end)];
 
setosa_x = x(x(:,end)==1);
setosa_y = y(y(:,end)==1);
 
versicolor_x = x(x(:,end)==2);
versicolor_y = y(y(:,end)==2);
 
virginica_x = x(x(:,end)==3);
virginica_y = y(y(:,end)==3);
 
 
 
figure, 
scatter(setosa_x,setosa_y,'fill'); %setosa
hold on
scatter(versicolor_x,versicolor_y,'fill'); %versicolor
scatter(virginica_x,virginica_y,'fill'); %virginica
legend('setosa','versicolor','virginica')
xlabel('sepal length');
ylabel('petal length');
title('Visualisasi Data Iris');
 
cluster_n = 3;                          % Number of clusters
expo = 2.0;                             % Exponent for U
max_iter = 100;                         % Max. iteration
min_impro = 1e-6;                       % Min. improvement
min_display = 5;
opsi  = [expo max_iter min_impro min_display];
 
data = [x(:,1),y(:,1)];
[U, center, obj] = fcm(data,cluster_n,opsi);
for i=1:size(U,1)
    text(U(i,1),U(i,2),num2str(i),'FontWeight', 'bold','FontSize',20);
end

Jika run berkali-kali, akan menghasilkan berbeda-beda.

Karena kita menggunakan bilangan random sehingga nilainya berpindah-pindah, tapi itu bukan fokus kita, yang menjadi fokus kita adalah kita sudah menemukan center untuk ketiga jenis iris

Titik Center sebagai penentu jenis iris

Lalu bagaimana cara menggunakan nya? Bila sudah ditemukan center? Misalkan kita menggunakan sample no 3 (seharusnya termasuk iris setosa), mari kita cek

sample = data(3,:); %misalkan kita ambil data no 3
jarak = [];
for i =1:3
    jarak(i) = norm(U(i,:) - sample);
end
 
[value,indeks] = sort(jarak);
indeks_terkecil = indeks(1);
if indeks_terkecil == 1
    disp('Jenis Versicolor')
elseif indeks_terkecil ==2
     disp('Jenis Setosa')
elseif indeks_terkecil==3 
    disp('Jenis Virginica');
end

hasil

Jenis Setosa

Sangat mudah sekali bukan? penggunakan dengan memanfaatkan function pada Matlab.