AI Tidak Selalu Perlu Model Terbesar, Bisnis Perlu Tahu Kapan Memakainya

The Core Update

Microsoft dilaporkan mulai mengurangi ketergantungan pada model AI pihak ketiga seperti OpenAI dan Anthropic untuk sebagian penggunaan di produk seperti Word dan Excel. Sebagai gantinya, Microsoft mulai memakai model internal mereka sendiri, termasuk keluarga model MAI, untuk menangani sebagian prompt pengguna.

Langkah ini tidak berarti Microsoft berhenti memakai model besar dari partner eksternal. Tetapi arahnya cukup jelas: untuk penggunaan tertentu, perusahaan mulai mencari kombinasi yang lebih efisien antara kualitas, biaya, kontrol, dan skala.

Ini juga bukan kejadian terpisah. Beberapa perusahaan besar lain seperti Amazon, Uber, Meta, dan Accenture juga dilaporkan mulai lebih hati-hati terhadap biaya AI. Setelah fase awal ketika banyak perusahaan mendorong pemakaian AI seluas mungkin, muncul fase berikutnya: menghitung ulang apakah semua tugas memang layak memakai model paling mahal.

Di permukaan, berita ini terdengar seperti cerita perusahaan teknologi besar yang ingin menghemat biaya. Tetapi bagi bisnis biasa, pelajarannya lebih dekat dari yang terlihat.

AI bukan hanya soal bisa atau tidak bisa. AI juga soal kapan dipakai, untuk tugas apa, dengan model apa, dan apakah hasilnya sepadan dengan biayanya.

The Reality Check

Banyak bisnis mulai melihat AI sebagai jawaban umum untuk hampir semua pekerjaan digital. Chatbot untuk pelanggan, automation untuk admin, ringkasan meeting, pembuatan konten, klasifikasi lead, analisis dokumen, sampai agent yang diharapkan bisa menjalankan banyak proses sendiri.

Sebagian memang berguna. AI bisa mempercepat pekerjaan yang sebelumnya lambat, manual, atau repetitif.

Tetapi ada masalah yang sering terlambat terlihat: tidak semua pekerjaan butuh AI paling kuat.

Untuk beberapa tugas, model besar memang masuk akal. Misalnya analisis dokumen yang kompleks, percakapan pelanggan yang butuh konteks panjang, atau pekerjaan yang membutuhkan penalaran lebih dalam. Tetapi untuk tugas lain, memakai model mahal bisa seperti memakai truk besar untuk mengantar satu amplop.

Contohnya:

• mengubah format teks sederhana
• memberi label kategori yang sudah jelas
• membuat ringkasan pendek dari input yang terstruktur
• mengambil data tertentu dari form
• mengirim reminder berdasarkan status
• memilih template respons dari aturan yang sudah pasti

Banyak pekerjaan seperti ini tidak selalu perlu model terbaik. Kadang cukup dengan aturan sederhana, query database, template, model kecil, atau automation biasa.

Masalahnya, ketika bisnis baru mulai memakai AI, pertanyaan yang sering muncul adalah “AI bisa melakukan ini atau tidak?” Padahal pertanyaan yang lebih sehat adalah “cara termurah dan paling stabil untuk menyelesaikan pekerjaan ini apa?”

Microsoft mulai memakai model internal bukan karena model pihak ketiga tidak berguna. Justru karena AI sudah masuk ke produk dengan volume besar. Ketika volume naik, biaya kecil per permintaan bisa berubah menjadi biaya besar secara total.

Hal yang sama bisa terjadi pada bisnis yang lebih kecil.

Chatbot yang awalnya terlihat murah bisa menjadi mahal ketika semua pertanyaan pelanggan dikirim ke model besar. Automation internal yang awalnya membantu bisa membengkak ketika setiap tugas kecil memakai token panjang. Sistem pencarian dokumen bisa boros jika semua file dikirim utuh tanpa pemilahan. Dashboard AI bisa terlihat pintar, tetapi mahal jika pertanyaan sederhana tetap diproses seperti analisis kompleks.

Di titik ini, masalahnya bukan AI. Masalahnya adalah tidak ada pemisahan kelas pekerjaan.

Bisnis perlu membedakan pekerjaan yang butuh penalaran, pekerjaan yang butuh pencarian, pekerjaan yang cukup dengan aturan, dan pekerjaan yang sebaiknya tidak diotomatisasi dulu karena datanya belum rapi.

Tanpa pemisahan itu, semua permintaan diperlakukan sama. Semua masuk ke jalur mahal. Semua terlihat modern, tetapi belum tentu efisien.

The Havedev Way

Dari sudut pandang Havedev, tren ini menunjukkan satu hal penting: strategi AI yang sehat bukan dimulai dari memilih model paling populer, tetapi dari memahami alur kerja yang ingin dibantu.

Sebelum bisnis menambahkan AI ke website, CRM, dashboard, atau proses internal, ada beberapa pertanyaan dasar yang perlu dijawab.

Pertama, tugas mana yang benar-benar membutuhkan AI?

Tidak semua proses digital perlu model bahasa. Jika masalahnya hanya status lead yang tidak jelas, mungkin solusinya adalah form yang lebih baik dan pipeline yang lebih rapi. Jika masalahnya follow-up yang terlupa, mungkin solusinya reminder berdasarkan status. Jika masalahnya data tersebar, mungkin solusinya integrasi dan dashboard sederhana.

AI menjadi kuat ketika dipakai untuk bagian yang memang membutuhkan fleksibilitas bahasa, interpretasi konteks, atau bantuan berpikir. Bukan untuk menggantikan aturan sederhana yang seharusnya bisa dibuat lebih murah dan lebih stabil.

Kedua, tugas mana yang bisa dipisah berdasarkan tingkat kesulitan?

Satu sistem AI tidak harus memakai satu model untuk semua hal. Pertanyaan sederhana bisa diarahkan ke jawaban template. Permintaan yang lebih spesifik bisa memakai pencarian data internal. Kasus yang kompleks baru dikirim ke model yang lebih kuat. Dengan cara ini, biaya lebih terkendali tanpa harus mengorbankan pengalaman pengguna.

Ketiga, apakah data dan status kerja sudah cukup rapi?

AI sering gagal bukan karena modelnya lemah, tetapi karena konteks bisnisnya berantakan. Lead tidak punya sumber yang jelas. Order tidak punya status yang konsisten. Dokumen internal tersebar. FAQ tidak diperbarui. Tim belum sepakat kapan sesuatu dianggap selesai, pending, atau perlu eskalasi.

Jika fondasinya seperti itu, menambahkan AI hanya membuat kebingungan terlihat lebih canggih.

Keempat, apakah biaya bisa dipantau sejak awal?

Banyak bisnis menghitung biaya AI setelah tagihan mulai terasa. Padahal sejak awal, sistem sebaiknya punya batasan: pekerjaan mana yang boleh memakai AI, seberapa panjang konteks yang dikirim, kapan perlu fallback ke manusia, dan metrik apa yang dipantau.

Untuk bisnis, pendekatan yang lebih sehat biasanya bukan “pakai AI sebanyak mungkin”, tetapi “pakai AI di titik yang paling bernilai”.

Misalnya:

• AI untuk membantu sales memahami kebutuhan lead dari pesan awal
• AI untuk merangkum percakapan panjang sebelum follow-up
• AI untuk mengelompokkan tiket support yang masuk dari banyak kanal
• AI untuk membantu tim mencari informasi dari dokumen internal
• AI untuk membuat draft, bukan langsung mengambil keputusan final

Di luar itu, banyak bagian tetap bisa memakai automation biasa, validasi form, aturan status, template pesan, notifikasi, dan dashboard.

Ini bukan sikap anti-AI. Justru sebaliknya. AI menjadi lebih berguna ketika tidak dipakai secara boros.

Microsoft mulai mengatur ulang penggunaan model karena mereka melihat AI sebagai infrastruktur besar, bukan mainan demo. Bisnis yang lebih kecil bisa mengambil pelajaran yang sama tanpa harus menunggu biaya membengkak.

Mulai dari alur kerja yang paling dekat dengan uang atau pengalaman pelanggan. Lihat bagian mana yang lambat, sering salah, atau terlalu bergantung pada orang tertentu. Setelah itu, tentukan apakah solusinya perlu AI, automation biasa, integrasi, dashboard, atau perbaikan proses.

Teknologi yang baik tidak selalu yang paling canggih. Teknologi yang baik adalah yang membantu pekerjaan bergerak dengan biaya, risiko, dan kompleksitas yang masuk akal.

AI akan tetap penting. Tetapi masa depan AI di bisnis kemungkinan bukan tentang memakai model terbesar untuk semua hal. Masa depan yang lebih sehat adalah memakai model yang tepat untuk tugas yang tepat.

Sebelum menambahkan AI ke proses bisnis Anda, cek dulu satu hal sederhana: apakah pekerjaan itu benar-benar membutuhkan AI, atau hanya membutuhkan alur yang lebih jelas?

Kalau jawabannya belum jelas, mulai dari sana.

Dapatkan Audit Teknis Gratis untuk meninjau peluang AI, automation, dan efisiensi biaya di alur digital bisnis Anda sebelum membangun sistem yang terlalu mahal untuk masalah yang sebenarnya sederhana.

---

Sumber referensi berita: TechCrunch