Ketika DevOps dan Machine Learning Project Berjumpa

Machine Learning Project dan Kerumitannya

Sebagai developer saya lebih memilih untuk menggunakan Ai yang siap pakai seperti Azure Cognitive Services atau AWS AI Services. Setidaknya 80% skenario yang kita butuhkan tersedia pada platform AI siap pakai tersebut. Sebut saja pengenalan wajah, pendeteksi emosi, pemahaman teks, hingga pemindaian dokumen. Namun demikian, 20% adalah pekerjaan yang tidak bisa diselesaikan dan membutuhkan penyesuaian terhadap kebutuhan. Sebagai contoh, Cognitive Services belum mampu mengenal model sebuah mobil, apakah mobil tersebut hatchback, sedan, atau coupe. AWS AI services belum bisa memprediksi apakah seseorang menderita COVID berdasar gejala yang ditangkap melalui wearable atau kamera. Pada saat ada sebuah kebutuhan yang tidak didukung maka machine learning project adalah jawabannya. Machine learning project atau yang dikenal dengan data science project . Proses Machine Learning Project ditampilkan sebagai berikut

Hasil akhir dari sebuah machine learning project adalah sebuah inference yang dapat berupa API atau bentuk yang lain yang dapat didistribusikan di web, container, atau lokasi yang lain. Pada kasus identifikasi mobil misalnya maka aplikasi smartphone berbasis Xamarin akan memanggil API yang sudah dikembangkan dengan mengirim gambar dan mengeluarkan hasil klasifikasinya.

Machine Learning dan DevOps

Istilah DevOps berubah menjadi MLOps ketika DevOps menangani project berbasis machine learning, Dengan kata lain, terdapat perubahan yang perlu dilakukan manakala DevOps diterapkan untuk ML Project yakni:

Kebutuhan untuk terkoneksi dengan infrastruktur deployment yang akan digunakan kelak. Sebagai contoh jika hasil akhir adalah sebuah Web API, maka DevOps perlu terkoneksi dengan infrastruktur Web API. Hal ini dibutuhkan untuk melakukan aktivitas CD (Continuous Delivery)
Kebutuhan untuk terkoneksi dengan infrastruktur machine learning yang digunakan sebagai contoh jika menggunakan AWS SageMaker atau Azure Machine Learning Studio maka koneksi dibutuhkan untuk melakukan Continuous Integration (CI).
Kebutuhan menghubungkan CI dan CD melalui Pipeline yang berjalan otomatis pada saat hasil CI sudah memenuhi ekspektasi dan kemudian dilakukan proses CD.

Berbeda dengan DevOps yang berjalan otomatis berdasar hasil unit testing atau coverage testing yang baik, maka MLOps didasarkan pada nilai precision, recall, dan atribut lain yang didasarkan pada Machine Learning tersebut. Berikut adalah tutorial melakukan konfigurasi MLOps di Visual Studio Codes dan Azure

MLOps di DevOps Meetup #41

DevOps Indonesia sebagai komunitas DevOps di tanah air mengadakan DevOps Meetup #41 yang diadakan pada tanggal 10 Februari 2021. Kegiatan yang dihadiri oleh 38 pemerhati DevOps tersebut dapat dilihat pada rekaman berikut ini