← Back to Blog

Havedev

Google Tidak Hanya Mengejar AI yang Lebih Pintar, Tetapi AI yang Lebih Hemat

Google Tidak Hanya Mengejar AI yang Lebih Pintar, Tetapi AI yang Lebih Hemat

Google dikabarkan sedang merancang chip server baru untuk membantu model Gemini berjalan lebih efisien. Chip ini disebut secara internal sebagai Frozen v2 dan menurut laporan The Information ditargetkan rilis sekitar 2028.

Angka yang paling menarik bukan sekadar performa mentah. Laporan itu menyebut chip baru ini bisa enam sampai sepuluh kali lebih efisien dibanding chip AI Google saat ini, jika diukur dari jumlah token yang bisa dihasilkan per unit daya.

Google tidak mengonfirmasi laporan itu secara langsung. Namun mereka juga tidak membantahnya. Pernyataan resminya menekankan bahwa tim mereka terus meneliti dan menguji inovasi baru untuk mengejar performa dan efisiensi yang lebih baik bagi pengguna dan pelanggan.

Di permukaan, ini terdengar seperti berita hardware biasa. Perusahaan teknologi besar membuat chip sendiri. Investor bereaksi positif. Saham Alphabet naik. Industri membaca ini sebagai sinyal bahwa Google ingin mengurangi ketergantungan pada Nvidia.

Tetapi cerita yang lebih penting ada di bawahnya: AI tidak hanya sedang berlomba menjadi lebih pintar. AI juga sedang dipaksa menjadi lebih murah untuk dijalankan.

The Core Update

Selama beberapa tahun terakhir, pembicaraan tentang AI sering berpusat pada kemampuan model. Model mana yang lebih pintar. Model mana yang lebih cepat menjawab. Model mana yang bisa menulis, membaca gambar, membuat kode, atau memahami konteks lebih panjang.

Namun di balik semua itu, ada biaya infrastruktur yang sangat besar.

Setiap prompt yang dikirim, setiap jawaban yang dibuat, setiap token yang dihasilkan, semuanya memakai compute. Compute membutuhkan chip. Chip membutuhkan listrik. Data center membutuhkan pendinginan, kapasitas jaringan, dan investasi besar.

Karena itu, kabar tentang Frozen v2 penting bukan hanya karena Google membuat chip baru. Yang lebih penting adalah arah strateginya: Google ingin mengoptimalkan AI dari bawah ke atas, dari hardware sampai software.

Dalam pernyataannya, Google menyebut pendekatan full stack. Artinya, mereka tidak hanya membuat model Gemini, lalu menjalankannya di hardware umum. Mereka ingin hardware dan software dirancang bersama agar workload AI berjalan lebih efisien.

Pendekatan ini masuk akal untuk perusahaan sebesar Google. Jika volume penggunaan Gemini sangat besar, efisiensi kecil sekalipun bisa berarti penghematan biaya yang sangat besar. Apalagi jika klaim efisiensi enam sampai sepuluh kali benar-benar tercapai.

Di saat yang sama, langkah ini juga menunjukkan tekanan industri AI. OpenAI sudah mengumumkan chip custom pertamanya. Anthropic dikabarkan membahas kerja sama chip dengan Samsung. Banyak perusahaan AI besar ingin mengurangi ketergantungan pada Nvidia karena pasokan chip terbatas, harga tinggi, dan posisi tawar vendor terlalu kuat.

Jadi ini bukan hanya tentang Google melawan OpenAI atau Gemini melawan ChatGPT. Ini juga tentang siapa yang bisa menjalankan AI dalam skala besar dengan biaya yang masih masuk akal.

The Reality Check

Ada kecenderungan melihat berita seperti ini sebagai tanda bahwa AI akan segera menjadi jauh lebih murah dan mudah diakses. Mungkin benar, tetapi tidak otomatis.

Chip yang lebih efisien tidak langsung berarti semua produk AI menjadi murah. Ada banyak lapisan biaya lain: riset model, training, data center, distribusi, keamanan, compliance, support enterprise, dan margin bisnis.

Efisiensi hardware membantu, tetapi tidak menghapus kebutuhan untuk berpikir jernih tentang penggunaan AI.

Untuk bisnis, ini pelajaran penting. Banyak perusahaan mulai memasukkan AI ke proses kerja karena takut tertinggal. Chatbot dipasang. Automation dibuat. Ringkasan otomatis ditambahkan. Integrasi AI masuk ke CRM, support, sales, dan dokumen internal.

Namun tidak semua penggunaan AI menghasilkan nilai yang sepadan dengan biayanya.

Jika AI dipakai untuk menjawab pertanyaan yang sebenarnya bisa diselesaikan dengan FAQ yang rapi, biaya menjadi tidak sehat. Jika AI dipakai untuk mengolah data yang sejak awal tidak terstruktur, hasilnya mudah salah. Jika AI dipasang sebelum alur kerja jelas, automation hanya mempercepat kebingungan.

Di sinilah berita chip Google menjadi relevan untuk bisnis yang jauh lebih kecil dari Google.

Google sedang mengejar efisiensi karena mereka tahu skala AI punya konsekuensi biaya. Bisnis juga perlu berpikir dengan cara yang sama, meskipun skalanya berbeda.

Pertanyaannya bukan hanya: apakah kita bisa memakai AI?

Pertanyaannya juga: bagian mana dari pekerjaan yang layak diberi biaya AI?

Untuk banyak bisnis, AI paling berguna ketika dipakai di titik yang jelas nilainya. Misalnya membantu tim membaca lead masuk, merangkum percakapan support, mengklasifikasikan inquiry, membuat draft follow-up, mencari pola dari feedback pelanggan, atau membantu staff mengambil informasi dari dokumen internal.

Sebaliknya, AI menjadi mahal secara tersembunyi ketika dipakai sebagai hiasan produk. Ada fitur AI, tetapi tidak mengurangi waktu kerja. Ada chatbot, tetapi tetap harus dicek manual. Ada ringkasan otomatis, tetapi tim tidak percaya hasilnya. Ada dashboard pintar, tetapi data dasarnya masih berantakan.

Efisiensi bukan hanya masalah chip. Efisiensi juga masalah desain proses.

The Havedev Way

Dari sudut pandang Havedev, berita tentang Frozen v2 mengingatkan satu hal sederhana: teknologi yang kuat tetap harus dihitung sebagai sistem biaya, bukan hanya sistem kemampuan.

Google membangun chip sendiri karena mereka punya skala, kebutuhan, dan alasan ekonomi yang jelas. Mereka tahu model AI tidak cukup hanya bagus. Model itu harus bisa dijalankan berulang-ulang dengan biaya yang bisa dikendalikan.

Bisnis juga perlu memakai prinsip yang sama saat mengadopsi AI.

Sebelum menambahkan AI ke website, CRM, support, atau dashboard internal, mulai dari pertanyaan yang lebih dasar:

  • pekerjaan mana yang paling sering memakan waktu tim?
  • keputusan mana yang sering terlambat karena informasi tersebar?
  • pertanyaan pelanggan mana yang berulang?
  • data apa yang sudah cukup rapi untuk dibantu AI?
  • bagian mana yang butuh akurasi tinggi dan tetap harus dicek manusia?
  • biaya AI masih masuk akal dibanding waktu yang dihemat?

Jawaban ini lebih penting daripada langsung memilih model atau tool.

Untuk sebagian bisnis, solusi terbaik mungkin bukan membangun AI agent penuh. Mungkin cukup form yang lebih pintar, template follow-up yang lebih rapi, knowledge base internal, atau automation sederhana tanpa AI.

Untuk bisnis lain, AI memang bisa memberi dampak besar. Misalnya ketika volume chat tinggi, dokumen banyak, tim support kewalahan, atau proses sales butuh konteks cepat sebelum follow-up.

Bedanya ada pada kejelasan masalah.

AI yang baik bukan AI yang terlihat paling canggih. AI yang baik adalah AI yang mengurangi beban kerja nyata, membantu keputusan lebih cepat, dan biayanya masih sebanding dengan nilai yang dihasilkan.

Kabar Google membuat chip yang lebih efisien menunjukkan arah industri: AI akan semakin masuk ke infrastruktur inti, bukan hanya menjadi fitur tambahan. Tetapi bagi bisnis, pelajarannya bukan berarti harus ikut membangun semuanya dari nol.

Pelajarannya adalah jangan memakai AI tanpa ukuran efisiensi.

Jika Google saja harus menghitung token per daya, bisnis juga perlu menghitung AI per manfaat. Berapa menit yang dihemat. Berapa lead yang lebih cepat ditangani. Berapa tiket support yang lebih cepat dikategorikan. Berapa keputusan yang tidak lagi menunggu meeting.

Tanpa ukuran seperti itu, AI mudah berubah menjadi biaya baru yang sulit dievaluasi.

Dengan ukuran yang jelas, AI bisa menjadi bagian dari sistem kerja yang lebih sehat.

Bukan karena semua hal harus otomatis. Tetapi karena bagian yang paling mahal, paling lambat, dan paling berulang bisa dibantu dengan cara yang lebih tepat.

Sebelum menambah fitur AI baru, cek dulu satu hal sederhana: apakah masalah yang ingin diselesaikan sudah cukup jelas untuk dihitung manfaatnya?

Kalau jawabannya belum, mulai dari sana.

Dapatkan Audit Teknis Gratis untuk meninjau peluang AI dan automation yang benar-benar layak dipakai di website, lead, support, atau proses operasional bisnis Anda.


Sumber referensi berita: TechCrunch

Continue Reading