Biaya AI Mulai Dipertanyakan, Bukan Karena AI Tidak Berguna

Banyak perusahaan sempat melihat AI sebagai fitur yang harus segera dipasang di sebanyak mungkin tempat. Chatbot, copilot, agent, summarizer, generator dokumen, dan automation berbasis prompt terlihat seperti cara cepat untuk membuat pekerjaan lebih efisien.

Kadang memang begitu. AI yang tepat bisa memangkas pekerjaan manual, mempercepat analisis, dan membantu tim bergerak lebih cepat.

Tetapi berita terbaru dari Microsoft menunjukkan sisi lain yang mulai makin terasa: AI juga punya biaya operasional yang nyata.

Microsoft dilaporkan mulai lebih banyak memakai model AI internalnya sendiri untuk sebagian prompt di Word dan Excel. Sebelumnya, banyak bagian Microsoft 365 Copilot dikenal memakai model dari OpenAI dan Anthropic. Sekarang, Microsoft tetap memakai model pihak ketiga, tetapi mulai menempatkan model MAI buatannya sendiri untuk sebagian kebutuhan.

Di permukaan, ini terlihat seperti cerita teknis tentang vendor model. Tetapi bagi bisnis, pesan utamanya lebih sederhana: bahkan perusahaan sebesar Microsoft pun mulai menghitung ulang biaya AI.

The Core Update

Microsoft dilaporkan mulai mengurangi ketergantungan pada model AI pihak ketiga untuk beberapa produk utamanya, termasuk Word dan Excel. Sebagai gantinya, Microsoft mulai memakai model internal MAI untuk menjawab sebagian prompt pengguna.

Langkah ini bukan berarti Microsoft meninggalkan OpenAI atau Anthropic. Hubungan dan pemakaian model pihak ketiga tetap ada. Tetapi arah barunya jelas: tidak semua permintaan AI harus dijalankan oleh model paling mahal atau model eksternal paling kuat.

Microsoft juga baru meluncurkan beberapa model MAI baru, termasuk model untuk coding agent dan text-to-image. Ini menunjukkan bahwa perusahaan besar mulai membangun lapisan AI sendiri, bukan hanya membeli akses ke model pihak ketiga.

Tren ini tidak terjadi sendirian. Amazon, Uber, Meta, dan Accenture juga dilaporkan mulai lebih ketat mengendalikan biaya AI. Setelah masa ketika perusahaan berlomba memakai AI sebanyak mungkin, sekarang muncul fase yang lebih dingin: AI tetap dipakai, tetapi penggunaannya harus lebih masuk akal secara biaya.

Istilahnya mungkin berbeda-beda. Ada yang menyebut pengurangan token. Ada yang menyebut optimasi model. Ada yang menyebut efisiensi infrastruktur. Tetapi intinya sama: perusahaan mulai bertanya apakah setiap tugas benar-benar perlu AI mahal.

The Reality Check

Ini bukan tanda bahwa AI gagal. Justru sebaliknya, AI sudah cukup banyak dipakai sampai biayanya mulai terasa.

Masalah muncul ketika AI diperlakukan seperti fitur ajaib yang bisa ditaruh di semua proses tanpa menghitung konteks. Setiap ringkasan, setiap draft email, setiap pencarian internal, setiap rekomendasi, dan setiap percakapan agent punya biaya. Biaya itu mungkin kecil per permintaan, tetapi bisa menjadi besar ketika dipakai ribuan atau jutaan kali.

Banyak bisnis masih melihat AI dari sisi demo. Prompt masuk, jawaban keluar, hasil terlihat pintar. Tetapi dalam operasional harian, pertanyaannya bukan hanya apakah AI bisa menjawab. Pertanyaannya adalah apakah jawaban itu sepadan dengan biaya, risiko, dan dampaknya ke alur kerja.

Tidak semua pekerjaan butuh model paling besar. Menyusun ulang teks pendek mungkin cukup memakai model kecil. Mengklasifikasikan lead mungkin cukup memakai aturan sederhana atau model ringan. Mengambil data dari form mungkin tidak perlu AI sama sekali. Menjawab pertanyaan strategis dari dokumen penting mungkin layak memakai model yang lebih kuat.

Di sinilah banyak implementasi AI mulai diuji.

Jika semua permintaan dikirim ke model mahal, biaya cepat membengkak. Jika semua permintaan dikirim ke model murah tanpa kontrol kualitas, hasil bisa menurun. Jika data sensitif dikirim ke layanan yang tidak jelas tata kelolanya, risiko keamanan ikut naik.

Pilihan model akhirnya bukan hanya keputusan teknis. Ia menjadi keputusan operasional.

Perusahaan besar seperti Microsoft bisa membangun model sendiri karena punya skala, data, talenta, dan infrastruktur. Sebagian bisnis tidak perlu dan tidak realistis melakukan hal yang sama. Tetapi prinsipnya tetap relevan: jangan memakai AI lebih berat dari masalahnya.

AI yang sehat bukan AI yang selalu paling canggih. AI yang sehat adalah AI yang cocok dengan tugas, biaya, risiko, dan nilai bisnisnya.

The Havedev Way

Dari sudut pandang Havedev, berita ini penting karena mengingatkan bisnis agar tidak memulai AI dari pertanyaan yang keliru.

Pertanyaan awalnya bukan: model apa yang paling pintar?

Pertanyaan yang lebih sehat adalah: pekerjaan mana yang cukup bernilai untuk dibantu AI?

Untuk banyak bisnis, langkah pertama bukan membangun agent besar. Langkah pertama adalah memetakan pekerjaan yang berulang, lambat, dan sering membuat tim kehilangan konteks.

Contohnya:

• lead masuk tetapi tidak langsung dikategorikan
• pesan pelanggan bercampur antara pertanyaan umum dan peluang serius
• proposal harus dibuat ulang dari pola yang sama
• laporan mingguan masih disusun manual dari banyak sumber
• dokumen internal sulit dicari ketika tim butuh jawaban cepat
• follow-up sales terlambat karena tidak ada sinyal prioritas

Setelah pekerjaan jelas, baru pilih pendekatan yang paling ringan.

Kadang solusinya bukan AI. Bisa jadi cukup form yang lebih rapi, status CRM yang lebih jelas, template pesan, validasi data, atau dashboard sederhana. Kalau aturan bisa ditulis jelas, automation biasa sering lebih murah dan lebih stabil daripada AI.

Kalau memang perlu AI, jangan semua tugas diperlakukan sama.

Bisnis bisa membagi kebutuhan AI menjadi beberapa lapisan. Tugas ringan memakai aturan atau model kecil. Tugas menengah memakai model yang cukup kuat. Tugas penting yang butuh penalaran lebih dalam baru memakai model terbaik. Dengan begitu, AI tidak menjadi biaya kabur yang terus naik tanpa ukuran.

Yang perlu dihindari adalah memasang AI hanya karena sedang terlihat modern. Chatbot yang jarang membantu pelanggan tetap menjadi beban. Agent yang sering salah tetap perlu diawasi manusia. Ringkasan otomatis yang tidak dipercaya tim hanya menambah langkah kerja baru.

AI seharusnya mengurangi friksi, bukan menambah lapisan baru yang harus diperiksa terus-menerus.

Bisnis juga perlu memikirkan data sejak awal. Jika AI dipakai untuk membaca pesan pelanggan, dokumen internal, invoice, atau informasi sensitif, pilihan vendor dan arsitektur tidak bisa hanya berdasarkan harga. Model yang lebih murah belum tentu aman untuk semua data. Model yang lebih mahal juga belum tentu perlu untuk semua pekerjaan.

Kuncinya adalah desain alur.

Tentukan dulu data apa yang masuk, siapa yang boleh melihatnya, keputusan apa yang ingin dibantu, kapan manusia harus mengecek, dan bagaimana hasil AI diukur. Tanpa itu, AI mudah berubah dari alat bantu menjadi sumber biaya dan risiko baru.

Microsoft mungkin sedang mengoptimalkan biaya di level perusahaan global. Tetapi pelajarannya berlaku untuk bisnis yang jauh lebih kecil: AI perlu ditempatkan dengan disiplin.

Bukan semua proses perlu AI. Bukan semua AI perlu model terbesar. Bukan semua efisiensi datang dari automation yang kompleks.

Mulai dari pekerjaan yang paling dekat dengan pendapatan, pelanggan, atau waktu tim yang banyak terbuang. Petakan alurnya. Ukur bebannya. Lalu pilih teknologi paling ringan yang cukup untuk menyelesaikan masalah.

Jika AI memang membantu, gunakan. Jika automation biasa cukup, gunakan itu. Jika prosesnya masih kabur, rapikan dulu prosesnya.

Karena pada akhirnya, masalah bisnis jarang selesai hanya karena memakai model yang lebih pintar. Masalah selesai ketika pekerjaan menjadi lebih jelas, keputusan lebih cepat, dan biaya operasional tetap masuk akal.

AI tidak harus dipakai lebih banyak. AI harus dipakai lebih tepat.

Dapatkan Audit Teknis Gratis untuk meninjau proses website, lead, automation, dan peluang AI yang paling masuk akal untuk bisnis Anda sebelum biaya teknologi tumbuh tanpa arah.

---

Sumber referensi berita: TechCrunch