KOMPARASI TEKNIK HYPERPARAMETER TUNING PADA ALGORITMA KNN MENGGUNAKAN METODE GRID SEARCH DAN RANDOM SEARCH

ABSTRAK Klasifikasi merupakan tugas penting dalam Machine Learning untuk menemukan pola antara data dan label. K-Nearest Neighbors (KNN) adalah algoritma yang banyak digunakan untuk klasifikasi, namun kinerjanya sangat dipengaruhi oleh nilai K, yaitu jumlah tetangga terdekat yang digunakan untuk prediksi, hal ini disebabkan KNN mengklasifikasikan data berdasarkan mayoritas data di sekitarnya sehingga nilai K yang berbeda menghasilkan akurasi yang berbeda. Untuk mengatasi masalah ini, digunakan metode Hyperparameter Tuning yang memanfaatkan algoritma pencarian seperti Grid Search dan Random Search untuk menemukan nilai K terbaik. Namun, pemilihan metode Hyperparameter Tuning yang tepat juga menjadi faktor penentu dalam keberhasilan pencarian nilai K karena setiap metode memiliki karakteristik dan kinerja yang berbeda. Penelitian ini menganalisis perbandingan kedua metode tersebut pada algoritma KNN, dievaluasi dengan enam dataset berdasarkan akurasi, penggunaan memori, dan waktu komputasi. Hasilnya menunjukkan bahwa Grid Search lebih baik dalam hal akurasi, dengan perbedaan kecil pada nilai accuracy (0.5%), precision (0.67%), recall (0.83%), dan F1-score (0.33%). Sementara itu, Random Search lebih efisien dalam penggunaan memori dan waktu komputasi, dengan perbedaan sebesar 3.4 MiB dalam memori dan delapan detik dalam waktu komputasi.

Kata Kunci: Grid Search, Hyperparameter Tuning, K-Nearest Neighbors, Random Search