Havedev
AI di Smart Glasses Bukan Soal Model Kecil Saja
PrismML memperkenalkan versi tiny language model untuk smart glasses berbasis chip Qualcomm Snapdragon. Di Snapdragon Summit, Qualcomm menampilkan Bonsai LLM 1-bit dari PrismML yang bisa berjalan secara lokal di perangkat berbasis Snapdragon AR1 Gen 1 Platform.
Model ini disebut berukuran 2 miliar parameter dan disetel untuk kebutuhan vision dan language. Artinya, pengguna smart glasses bisa bertanya tentang apa yang sedang mereka lihat secara real time, tanpa selalu bergantung pada pemrosesan cloud.
Di permukaan, ini terdengar seperti lompatan teknis yang menarik. Model AI makin kecil, perangkat makin pintar, dan komputasi bisa bergerak lebih dekat ke pengguna.
Tetapi seperti banyak perkembangan AI lain, pertanyaan pentingnya bukan hanya apakah teknologinya bisa berjalan. Pertanyaannya: masalah apa yang benar-benar dibantu ketika AI berjalan di kacamata?
The Core Update
PrismML ingin membuktikan bahwa model AI tidak harus selalu besar untuk berguna. Klaim utamanya adalah model besar bisa diperkecil secara signifikan, dalam kasus ini hingga sekitar 4 kali, sambil tetap mempertahankan sebagian besar performa pada benchmark standar.
Untuk smart glasses, pendekatan ini masuk akal. Perangkat seperti kacamata pintar punya batasan yang berbeda dari server cloud atau laptop. Baterai terbatas. Panas harus dikendalikan. Latency harus rendah. Ruang komputasi kecil. Koneksi internet tidak selalu ideal.
Karena itu, model kecil yang bisa berjalan lokal menjadi menarik.
Jika AI harus membantu pengguna memahami lingkungan secara real time, terlalu banyak perjalanan data ke cloud bisa menjadi hambatan. Pengguna melihat sesuatu, bertanya, lalu menunggu respons. Semakin lama jeda itu, semakin terasa bahwa perangkatnya bukan asisten, tetapi remote control untuk server di tempat lain.
AI lokal mengubah pengalaman itu. Respons bisa lebih cepat. Data visual tidak harus selalu dikirim keluar perangkat. Perangkat bisa memanfaatkan chip yang memang sudah ada di dalamnya.
Visi PrismML juga bergerak ke arah open-weight AI yang berjalan di device. Ini berbeda dari pola umum AI saat ini, yaitu mengirim banyak permintaan ke model proprietary yang dikendalikan oleh lab besar.
Secara teknis, arah ini penting. AI tidak mungkin selamanya hanya hidup di data center. Banyak pengalaman digital akan terasa lebih natural jika sebagian kemampuan AI pindah ke perangkat yang dipakai langsung oleh manusia.
Smart glasses adalah salah satu bentuk paling jelas dari arah itu.
The Reality Check
Namun ada batas yang perlu dibaca dengan tenang: belum ada smart glasses komersial yang diumumkan menggunakan PrismML.
Demo di atas chip Qualcomm adalah langkah penting, tetapi belum sama dengan produk yang dipakai pasar. Banyak teknologi terlihat kuat di panggung karena konteksnya terkendali. Produk nyata harus menghadapi baterai harian, kualitas kamera, noise lingkungan, privasi, UX, harga, distribusi, dan alasan pengguna untuk memakainya berulang.
Ini bagian yang sering hilang dalam hype wearable AI.
AI di smart glasses tidak otomatis berguna hanya karena bisa mengenali dunia di depan mata. Pengguna tidak butuh perangkat yang terus menjelaskan semua hal. Mereka butuh bantuan pada momen tertentu: saat bekerja, belajar, memperbaiki sesuatu, menjelajah tempat baru, membaca instruksi, atau mengambil keputusan kecil tanpa membuka ponsel.
Jika use case tidak tajam, smart glasses bisa menjadi gadget yang menarik selama demo tetapi jarang dipakai setelah minggu pertama.
Masalah lain adalah trust. Ketika perangkat punya kamera dan AI yang memahami lingkungan, pengguna dan orang di sekitarnya akan bertanya: data apa yang diproses, apa yang disimpan, apa yang dikirim, dan siapa yang bisa mengaksesnya?
Di sinilah AI lokal punya nilai yang nyata. Bukan karena lokal selalu otomatis aman, tetapi karena arsitekturnya memberi ruang lebih besar untuk memproses data sensitif tanpa harus selalu mengirimnya ke server eksternal.
Tetapi privacy tetap harus dibuktikan lewat desain produk, bukan hanya klaim teknis.
Ada juga perbedaan antara benchmark dan pekerjaan nyata. Model bisa terlihat bagus pada pengujian standar, tetapi penggunaan smart glasses membutuhkan ketahanan pada konteks yang berantakan: pencahayaan buruk, objek bergerak, teks kecil, bahasa campuran, instruksi tidak lengkap, dan pertanyaan pengguna yang sering ambigu.
Dengan kata lain, tiny LLM di device adalah fondasi. Bukan produk akhir.
The Havedev Way
Dari sudut pandang Havedev, berita PrismML menarik bukan karena semua bisnis harus segera membuat aplikasi untuk smart glasses. Justru sebaliknya: ini pengingat bahwa arah AI sedang bergerak dari cloud-only menuju AI yang lebih dekat dengan titik kerja.
Untuk bisnis, pelajaran praktisnya bukan “pakai smart glasses”. Pelajaran yang lebih sehat adalah: tempatkan AI sedekat mungkin dengan konteks pekerjaan yang ingin dibantu.
Kadang itu berarti AI di dashboard internal. Kadang di WhatsApp workflow. Kadang di CRM. Kadang di aplikasi mobile teknisi lapangan. Kadang di browser extension. Suatu hari, mungkin di smart glasses.
Yang penting bukan bentuk perangkatnya, tetapi titik masalahnya.
Jika teknisi harus melihat mesin sambil membaca manual, wearable AI bisa masuk akal. Jika staff gudang perlu cek barang tanpa memegang ponsel, smart glasses mungkin relevan. Jika dokter, inspector, operator pabrik, atau pekerja lapangan butuh bantuan visual real time, AI lokal di perangkat bisa bernilai.
Tetapi untuk banyak bisnis, masalah hari ini masih lebih sederhana: lead belum terklasifikasi, follow-up belum konsisten, dokumen masih tersebar, status order belum jelas, dan knowledge internal belum mudah dicari.
Di kondisi seperti itu, mengejar wearable AI terlalu cepat bisa menjadi distraksi.
Pendekatan yang lebih masuk akal adalah mulai dari alur kerja yang sudah jelas sakitnya. Petakan pekerjaan yang sering lambat, sering salah, atau terlalu bergantung pada ingatan orang tertentu. Setelah itu baru pilih bentuk AI yang paling dekat dengan alur tersebut.
AI kecil di device akan menjadi semakin penting. Tetapi nilainya tetap sama seperti teknologi lain: ia harus mempercepat keputusan, mengurangi gesekan, atau membuat pekerjaan yang tadinya sulit terlihat menjadi lebih mudah ditangani.
Jika tidak, model kecil hanya menjadi demo besar.
PrismML dan Qualcomm menunjukkan arah yang menarik: AI bisa berjalan lebih dekat dengan pengguna, lebih hemat komputasi, dan mungkin lebih privat. Namun untuk bisnis, pertanyaan terbaik tetap sederhana.
Bukan “apakah kita perlu AI di smart glasses?”
Tetapi “di bagian mana pekerjaan kita membutuhkan AI yang lebih cepat, lebih kontekstual, dan lebih dekat dengan orang yang sedang bekerja?”
Jawaban dari pertanyaan itu lebih berguna daripada mengikuti semua perangkat baru yang sedang naik daun.
Sumber referensi berita: TechCrunch