Diposting oleh Katerina Semenova – Senior Developer Relations Engineer dan Mark Sherwood – Manajer Produk Senior
Selama AI di Android Spotlight Week, kami mendalami bagaimana Anda dapat menghadirkan model AI Anda sendiri ke perangkat Android seperti ponsel, tablet, dan lainnya. Dengan menggunakan alat dan teknologi yang tersedia dari Google dan sumber lainnya, Anda dapat menjalankan model AI canggih langsung di perangkat ini, sehingga membuka kemungkinan menarik untuk performa, privasi, dan kegunaan yang lebih baik.
Memahami AI pada perangkat
AI pada perangkat melibatkan penerapan dan pelaksanaan pembelajaran mesin atau model AI generatif langsung pada perangkat keras, alih-alih mengandalkan server berbasis cloud. Pendekatan ini menawarkan beberapa keuntungan, seperti pengurangan latensi, peningkatan privasi, penghematan, dan berkurangnya ketergantungan pada koneksi Internet.
Untuk kasus penggunaan teks generatif, jelajahi Gemini Nano yang kini tersedia dalam akses eksperimental melalui SDK-nya. Untuk banyak kasus penggunaan AI pada perangkat, Anda mungkin ingin mengemas model Anda sendiri dalam aplikasi Anda. Hari ini kita akan membahas cara melakukan ini di Android.
Sumber daya utama untuk AI pada perangkat
Google AI Edge Platform menyediakan ekosistem komprehensif untuk membangun dan menerapkan model AI pada perangkat edge. Ini mendukung berbagai kerangka kerja dan alat, memungkinkan pengembang untuk mengintegrasikan kemampuan AI ke dalam aplikasi mereka dengan lancar. Platform Google AI Edge terdiri dari:
Tugas MediaPipe – API kode rendah lintas platform untuk menyelesaikan tugas umum AI, vision, teks, dan audio generatif LiteRT (sebelumnya dikenal sebagai TensorFlow Lite) – Runtime ringan untuk menerapkan model pembelajaran mesin khusus di Android MediaPipe Framework – Kerangka kerja berantai untuk menghubungkan beberapa model ML bersama dengan logika sebelum dan sesudah pemrosesan
Cara membuat fitur AI khusus di Android
1. Tentukan kasus penggunaan Anda: Sebelum masuk ke detail teknis, penting untuk mendefinisikan dengan jelas apa yang Anda ingin capai dari fitur AI Anda. Baik Anda menargetkan klasifikasi gambar, pemrosesan bahasa alami, atau aplikasi lainnya, sasaran yang jelas akan memandu proses pengembangan Anda.
2. Pilih alat dan kerangka kerja yang tepat: Tergantung pada kasus penggunaan Anda, Anda mungkin dapat menggunakan solusi yang siap pakai, atau Anda mungkin perlu membuat atau mencari sumber model Anda sendiri. Telusuri Tugas MediaPipe untuk solusi umum seperti pengenalan gerakan, segmentasi gambar, atau deteksi landmark wajah. Jika Anda menemukan solusi yang memenuhi kebutuhan Anda, Anda dapat langsung melanjutkan ke langkah pengujian dan penerapan.
Jika Anda perlu membuat atau mencari model kustom untuk kasus penggunaan Anda, Anda memerlukan framework machine learning seperti LiteRT (sebelumnya TensorFlow Lite). LiteRT dirancang khusus untuk perangkat seluler dan edge serta menyediakan runtime yang ringan untuk mengimplementasikan model pembelajaran mesin. Cukup ikuti sub-langkah berikut:
A. Kembangkan dan latih model Anda: Kembangkan model AI Anda menggunakan kerangka pilihan Anda. Pelatihan dapat dilakukan pada mesin yang kuat atau di lingkungan cloud, namun modelnya harus dioptimalkan untuk penerapan pada perangkat. Teknik seperti kuantisasi dan pemotongan dapat membantu mengurangi ukuran model dan meningkatkan kecepatan inferensi. Model Explorer dapat membantu Anda memahami dan menjelajahi model saat Anda mengerjakannya.
B. Konversi dan optimalkan model: Setelah model Anda dilatih, konversikan model tersebut ke format yang sesuai untuk diterapkan pada perangkat. LiteRT, misalnya, memerlukan konversi ke format spesifiknya sendiri. Alat pengoptimalan dapat membantu mengurangi jejak model dan meningkatkan kinerja. AI Edge Torch memungkinkan Anda mengonversi model PiTorch agar berjalan secara native di Android dan platform lainnya, menggunakan pustaka Google AI Edge LiteRT dan MediaPipe Tasks.
C. Percepat model Anda: Anda dapat mempercepat inferensi model di Android menggunakan GPU dan NPU. Delegasi GPU LiteRT memungkinkan Anda menjalankan model Anda di GPU saat ini. Kami bekerja keras menciptakan delegasi GPU dan NPU generasi berikutnya yang akan membuat model Anda berjalan lebih cepat dan memungkinkan lebih banyak model berjalan pada GPU dan NPU. Kami ingin mengundang Anda untuk berpartisipasi dalam program akses awal kami untuk mencoba infrastruktur GPU dan NPU baru ini. Kami akan menyeleksi peserta secara berkala, jadi jangan tunggu lagi untuk menghubungi kami.
3. Uji dan terapkan: Untuk memastikan model Anda memberikan kinerja yang diharapkan di seluruh perangkat, pengujian yang ketat adalah kuncinya. Terapkan aplikasi Anda kepada pengguna setelah fase pengujian selesai, sehingga menawarkan mereka pengalaman AI yang lancar dan efisien. Kami berupaya memanfaatkan Google Play dan Android App Bundle untuk menghadirkan model ML khusus untuk fitur AI pada perangkat. Play for On-Device AI menghilangkan kerumitan peluncuran, penargetan, pembuatan versi, pengunduhan, dan pembaruan model pada perangkat sehingga Anda dapat menawarkan pengalaman pengguna yang lebih baik kepada pengguna tanpa mengorbankan ukuran dan biaya aplikasi. Isi formulir ini untuk menyatakan minat Anda bergabung dengan program akses awal AI Play untuk Pada Perangkat.
Bangun kepercayaan terhadap AI melalui privasi dan transparansi
Dengan meningkatnya peran kecerdasan buatan dalam kehidupan sehari-hari, memastikan bahwa model berfungsi sebagaimana mestinya pada perangkat sangatlah penting. Kami menekankan pendekatan “zero trust”, yang menyediakan alat bagi pengembang untuk memverifikasi integritas perangkat dan kontrol pengguna atas data mereka. Dalam pendekatan tanpa kepercayaan, pengembang memerlukan kemampuan untuk membuat keputusan yang tepat mengenai kelayakan perangkat.
Play Integrity API direkomendasikan bagi pengembang yang ingin memverifikasi aplikasi, persyaratan server, dan lingkungan perangkat mereka (dan, dalam waktu dekat, update keamanan terbaru pada perangkat). Anda dapat memanggil API pada saat-saat penting sebelum bagian belakang aplikasi Anda memutuskan untuk mengunduh dan menjalankan model Anda. Anda juga dapat mempertimbangkan untuk menyertakan pemeriksaan integritas pada instalasi aplikasi guna mengurangi distribusi aplikasi di lingkungan yang tidak dikenal dan tidak tepercaya.
Play Integrity API menggunakan validasi kunci platform Android untuk memverifikasi komponen perangkat keras dan menghasilkan penilaian integritas seluruh armada, sehingga menghilangkan kebutuhan sebagian besar pengembang untuk secara langsung mengintegrasikan alat pengesahan yang berbeda dan mengurangi kompleksitas ekosistem perangkat. Pengembang dapat menggunakan salah satu atau kedua alat ini untuk menilai keamanan perangkat dan integritas perangkat lunak sebelum memutuskan apakah akan memercayai perangkat untuk menjalankan model AI.
Kesimpulan
Membawa model AI Anda sendiri ke perangkat melibatkan beberapa langkah, mulai dari menentukan kasus penggunaan hingga menerapkan dan menguji model tersebut. Dengan sumber daya seperti Google AI Edge, pengembang memiliki akses ke alat dan wawasan canggih untuk membuat proses ini lebih mudah dan efisien. Seiring dengan terus berkembangnya AI pada perangkat, pemanfaatan sumber daya ini akan memungkinkan Anda membuat aplikasi mutakhir yang menawarkan peningkatan kinerja, privasi, dan pengalaman pengguna. Kami sedang mencari mitra akses awal untuk mencoba beberapa alat dan API terbaru kami di Google AI Edge. Cukup isi formulir ini untuk terhubung dan mencari tahu bagaimana kita dapat bekerja sama untuk mewujudkan visi Anda.
Selidiki sumber daya ini dan mulailah mengeksplorasi potensi AI pada perangkat—inovasi besar Anda berikutnya hanya berjarak satu model saja!
Gunakan hashtag #AndroidAI untuk membagikan masukan atau apa yang telah Anda buat di media sosial dan ikuti pembaruan lain yang dibagikan selama Spotlight Week: AI di Android.
