AI Tidak Hanya Butuh Model yang Lebih Pintar, AI Butuh Biaya Jalan yang Masuk Akal

Google dikabarkan sedang merancang chip server baru untuk membantu model Gemini berjalan lebih efisien. Chip ini disebut secara internal sebagai Frozen v2 dan, menurut laporan The Information, ditargetkan rilis sekitar 2028.

Angka yang disebut cukup besar: chip ini bisa 6 sampai 10 kali lebih efisien dibanding chip AI Google saat ini, jika diukur dari jumlah token yang bisa dihasilkan per unit daya.

Google tidak mengonfirmasi laporan itu secara langsung. Tetapi Google juga tidak membantahnya. Pernyataan resminya menekankan riset, eksperimen, dan pendekatan full stack: hardware dan software dirancang bersama agar lebih optimal untuk workload nyata.

Di permukaan, ini terdengar seperti berita hardware biasa. Ada chip baru, ada target efisiensi, ada persaingan dengan Nvidia, ada reaksi positif dari investor.

Tetapi di baliknya, ada pesan yang lebih besar: fase AI berikutnya tidak hanya ditentukan oleh siapa yang punya model paling kuat. Ia juga ditentukan oleh siapa yang bisa menjalankan AI dengan biaya yang paling masuk akal.

The Core Update

Google bukan pemain baru dalam chip AI. Selama bertahun-tahun, Google sudah membangun TPU untuk mendukung kebutuhan internal dan layanan cloud-nya. Jadi kabar Frozen v2 bukan langkah yang datang tiba-tiba.

Yang menarik adalah konteksnya.

AI generatif membutuhkan kapasitas komputasi yang sangat besar. Model seperti Gemini tidak hanya mahal saat dilatih, tetapi juga mahal saat digunakan setiap hari. Setiap prompt, setiap jawaban, setiap ringkasan dokumen, setiap percakapan panjang, semuanya memakan token. Token itu membutuhkan daya, server, pendinginan, jaringan, dan infrastruktur pendukung.

Jika sebuah chip bisa menghasilkan lebih banyak token dengan daya yang sama, dampaknya bukan hanya teknis. Dampaknya masuk ke biaya produk, margin bisnis, kapasitas layanan, dan strategi harga.

Karena itu, efisiensi chip menjadi isu bisnis, bukan sekadar isu engineering.

Google juga tidak sendiri. OpenAI sudah mengumumkan chip custom untuk inference. Anthropic dikabarkan membahas kerja sama chip dengan Samsung. Banyak perusahaan AI besar ingin mengurangi ketergantungan pada Nvidia, karena pasar chip AI selama ini sangat terkonsentrasi.

Ketergantungan pada satu pemasok besar membuat biaya, ketersediaan, dan roadmap menjadi risiko strategis. Untuk perusahaan sebesar Google, OpenAI, atau Anthropic, punya kendali lebih besar atas hardware berarti punya ruang gerak lebih besar atas produk.

Investor juga membaca hal yang sama. Alphabet sudah menyiapkan belanja besar untuk strategi AI, dengan angka yang dilaporkan mencapai ratusan miliar dolar. Dalam situasi seperti itu, pasar tidak hanya ingin mendengar bahwa AI akan semakin canggih. Pasar ingin melihat bahwa AI bisa dijalankan secara efisien.

Kenaikan saham Google setelah laporan ini menunjukkan satu hal sederhana: efisiensi mulai dihargai sama seriusnya dengan inovasi.

The Reality Check

Namun ada hal yang perlu dilihat lebih hati-hati.

Chip yang lebih efisien tidak otomatis membuat AI menjadi murah, stabil, atau mudah dipakai oleh semua bisnis. Efisiensi hardware adalah satu bagian dari masalah yang jauh lebih besar.

Banyak perusahaan sering membaca berita seperti ini sebagai tanda bahwa AI akan segera menjadi komoditas murah dan semua proses bisa langsung diotomatisasi. Mungkin arahnya benar, tetapi waktunya tidak sesederhana itu.

Frozen v2 sendiri dikabarkan baru akan rilis pada 2028. Artinya, ini bukan solusi instan untuk biaya AI hari ini. Ini adalah sinyal arah industri, bukan fitur yang bisa langsung dipakai oleh bisnis kecil atau menengah minggu depan.

Selain itu, efisiensi per token tidak selalu sama dengan efisiensi bisnis.

Sebuah model bisa lebih hemat daya, tetapi penggunaan AI tetap boros jika workflow-nya tidak jelas. Prompt terlalu panjang. Data tidak siap. Proses approval tetap manual. Output AI tidak masuk ke sistem kerja. Tim membuat ringkasan, tetapi tidak ada keputusan yang berubah. Chatbot menjawab lebih cepat, tetapi tidak tahu kapan harus eskalasi ke manusia.

Dalam kondisi seperti itu, biaya per token turun, tetapi biaya kebingungan tetap tinggi.

Ini mirip dengan bisnis yang membeli tool baru tanpa menyepakati status kerja. Dashboard bisa lebih rapi, tetapi keputusan tetap lambat jika definisi pekerjaan belum jelas. AI juga begitu. Model bisa lebih cepat dan murah, tetapi hasilnya tetap kurang bernilai jika bisnis belum tahu pekerjaan apa yang ingin dipercepat.

Ada juga risiko ekspektasi. Ketika perusahaan besar membangun chip sendiri, publik sering melihatnya sebagai perlombaan teknologi. Padahal bagi perusahaan tersebut, ini juga tentang kontrol biaya, kontrol supply chain, dan kontrol pengalaman produk.

Google ingin Gemini lebih efisien bukan hanya agar terlihat inovatif. Google perlu memastikan layanan AI-nya bisa terus berjalan dalam skala besar tanpa biaya yang merusak margin.

Untuk bisnis biasa, pelajarannya bukan “kita juga harus punya chip sendiri”. Itu jelas tidak relevan.

Pelajarannya adalah: AI yang sehat harus dihitung sebagai sistem operasional, bukan hanya eksperimen teknologi.

Berapa biaya menjalankan AI per bulan? Proses mana yang benar-benar terbantu? Berapa waktu manusia yang dihemat? Risiko apa yang turun? Data apa yang perlu disiapkan? Kapan AI boleh menjawab otomatis, dan kapan harus menyerahkan ke tim?

Pertanyaan seperti ini lebih penting daripada sekadar bertanya model mana yang paling baru.

The Havedev Way

Dari sudut pandang Havedev, berita chip AI Google ini menarik karena mengingatkan satu prinsip dasar: teknologi yang kuat tetap harus dibaca dari biaya operasional dan alur kerja nyata.

Untuk perusahaan sebesar Google, efisiensi berarti chip, data center, power consumption, dan dependency pada pemasok hardware. Untuk bisnis yang lebih kecil, efisiensi berarti hal yang berbeda: waktu admin berkurang, lead lebih cepat ditangani, customer support lebih rapi, laporan lebih mudah dibaca, dan follow-up tidak hilang.

Skalanya berbeda, tetapi pertanyaannya mirip: apakah teknologi membuat pekerjaan penting bergerak lebih murah, lebih cepat, dan lebih jelas?

Sebelum memakai AI atau automation, bisnis sebaiknya tidak mulai dari pertanyaan “pakai model apa?”. Pertanyaan yang lebih sehat adalah:

• proses mana yang paling sering memakan waktu berulang?
• data apa yang sudah tersedia dan cukup rapi?
• keputusan apa yang ingin dipercepat?
• bagian mana yang aman untuk otomatisasi?
• bagian mana yang tetap butuh review manusia?
• bagaimana hasil AI masuk kembali ke workflow tim?

Jika pertanyaan itu belum jelas, AI mudah berubah menjadi demo yang menarik tetapi sulit dipakai setiap hari.

Contohnya, AI bisa membantu membaca pesan lead dari website. Tetapi jika status lead belum jelas, AI hanya mempercepat pencatatan yang tetap membingungkan. AI bisa membuat ringkasan meeting. Tetapi jika tidak ada pemilik action item, ringkasan itu hanya menjadi dokumen tambahan. AI bisa menjawab support awal. Tetapi jika kategori masalah dan jalur eskalasi belum disepakati, customer tetap bisa tersesat.

Karena itu, pendekatan yang lebih masuk akal bukan langsung membangun sistem AI besar. Mulai dari titik yang dekat dengan nilai bisnis.

Untuk sebagian bisnis, itu berarti form website yang lebih kontekstual. Untuk yang lain, itu berarti klasifikasi lead otomatis. Untuk tim support, mungkin berarti ringkasan tiket dan rekomendasi balasan. Untuk owner, mungkin berarti dashboard sederhana yang menunjukkan pekerjaan mana yang macet.

AI tidak harus besar untuk berguna. AI harus masuk ke alur kerja yang tepat.

Berita Frozen v2 menunjukkan bahwa bahkan perusahaan sebesar Google pun sedang mengejar efisiensi, bukan hanya kecanggihan. Ini sinyal penting untuk bisnis: jangan memakai AI hanya karena terlihat modern. Pakai AI ketika ada pekerjaan yang jelas, biaya yang bisa dihitung, dan hasil yang bisa dievaluasi.

AI yang baik bukan hanya menjawab lebih pintar. AI yang baik membantu bisnis bergerak dengan biaya yang lebih masuk akal.

Sebelum menambah automation baru, cek dulu satu hal sederhana: apakah proses yang ingin dibantu AI sudah cukup jelas untuk dijalankan manusia secara konsisten?

Kalau jawabannya belum, mulai dari sana.

Dapatkan Audit Teknis Gratis untuk meninjau proses website, lead, support, dan automation yang bisa dibuat lebih jelas sebelum bisnis Anda mengeluarkan biaya lebih besar untuk AI.

---

Sumber referensi berita: TechCrunch