PENERAPAN HYPERPARAMETER TUNING DAN KUANTISASI INTEGER 8 MENGGUNAKAN ONNX PADA YOLOV11 UNTUK DETEKSI PRODUK RITEL FMCG

Efisiensi sistem checkout di industri ritel memainkan peran penting dalam
meningkatkan kepuasan pelanggan, terutama di era digital yang serba cepat saat ini.
Sistem kasir tradisional berbasis barcode sering kali menyebabkan antrian panjang
karena proses pemindaian manual yang dilakukan untuk setiap barang yang
mempengaruhi kepuasan pelanggan. Konsep Amazon Go telah membuktikan
kelayakan penerapan sistem kasir mandiri di lingkungan yang praktis dengan
memanfaatkan teknologi sensor dan deteksi objek berbasis deep learning. Model
pendeteksi objek seperti YOLO telah banyak diterapkan untuk mendukung sistem
checkout mandiri. Namun, permintaan akan model yang ringan, cepat, dan akurat
tetap menjadi tantangan, terutama untuk penerapan pada perangkat yang memiliki
sumber daya terbatas. Penelitian ini berfokus pada pengoptimalan model YOLOv11
melalui hyperparameter tuning dan teknik kuantisasi untuk mendeteksi produk ritel
dalam kategori FMCG (Fast-Moving Consumer Goods), khususnya produk
makanan dan minuman. Dataset yang digunakan terdiri dari 1.000 gambar produk
yang dikumpulkan secara manual dan dianotasi melalui Roboflow. Tiga konfigurasi
hyperparameter diuji, dengan hasil terbaik yang memperoleh mAP50 99,40%,
mAP50:95 96,89%, serta Precision, Recall, dan F1-Score 0,98. Model dikuantisasi
ke dalam format INT8 menggunakan ONNX Runtime, mengurangi ukurannya
menjadi 9,39 MB, berkurang 74% dari ukuran aslinya. Meskipun ada sedikit
penurunan akurasi setelah kuantisasi, kinerja deteksi tetap stabil. Pengujian
implementasi dilakukan di Google Colab, perangkat lokal, dan lingkungan web
berbasis NodeJS untuk menilai konsistensi lintas platform model. Hasilnya menunjukkan bahwa kuantisasi meningkatkan efisiensi penyimpanan dan
meningkatkan potensi penerapan pada edge device, meskipun dampaknya terhadap
kecepatan inferensi sangat bergantung pada kemampuan perangkat keras.
Kata Kunci : Deteksi Objek, Hyperparameter Tuning, Kuantisasi, Self-Checkout,
YOLOv11