Valuasi Modal Labs Naik Cepat, Tetapi Cerita Besarnya Ada di Biaya Inference

Modal Labs dikabarkan sedang mendekati pendanaan baru senilai $750 juta yang dipimpin Accel, dengan valuasi sekitar $15,75 miliar termasuk investasi tersebut.

Angka ini besar. Lebih besar lagi kalau dibandingkan dengan valuasi Modal sebelumnya, sekitar $4,65 miliar, yang baru diumumkan empat bulan lalu saat perusahaan menggalang $355 juta.

Di permukaan, ini terlihat seperti cerita pendanaan startup AI biasa: demand naik, investor masuk, valuasi melompat.

Tetapi di baliknya ada sinyal yang lebih penting untuk bisnis: beban kerja AI mulai bergeser dari eksperimen model ke operasional inference.

Inference adalah proses menjalankan model AI yang sudah dilatih untuk menghasilkan output. Dalam praktik bisnis, ini adalah bagian yang terasa sehari-hari: chatbot menjawab pelanggan, sistem membuat ringkasan, aplikasi menghasilkan gambar, agent menjalankan task, atau fitur AI membantu tim bekerja lebih cepat.

Artinya, biaya AI tidak lagi hanya muncul saat perusahaan membangun model. Biaya muncul setiap kali AI dipakai.

The Core Update

Modal Labs adalah penyedia infrastruktur untuk menjalankan model AI dan workload komputasi berat tanpa tim developer harus mengelola server sendiri.

Perusahaan ini didirikan pada 2021 oleh Erik Bernhardsson dan Akshat Bubna. Bernhardsson sebelumnya membangun tim data di Spotify dan Better.com. Bubna adalah lulusan MIT dan pernah menjadi early staff engineer di Scale AI.

Modal berbasis di New York dan diperkirakan memiliki sekitar 150 karyawan. Di websitenya, Modal menampilkan customer seperti Cognition, Suno, Ramp, dan Substack.

Menurut laporan sebelumnya, Modal sudah melewati $300 juta annualized revenue per Mei. Sekarang, perusahaan dikabarkan mendekati round baru yang bisa membuat valuasinya naik lebih dari tiga kali lipat dalam waktu sangat singkat.

Modal bukan satu-satunya pemain yang sedang naik.

Baseten dikabarkan mendekati pendanaan baru dengan valuasi $26 miliar. Fireworks dan Fal juga disebut sedang berbicara dengan investor untuk round baru. Fireworks bahkan pernah mengumumkan annualized revenue mencapai $1 miliar pada Juli, naik lima kali lipat dari tahun sebelumnya.

Semua ini menunjukkan satu hal: pasar inference sedang panas.

Namun panasnya pasar tidak otomatis berarti infrastrukturnya sudah murah, sederhana, atau bebas risiko.

The Reality Check

Kenaikan valuasi perusahaan inference sering dibaca sebagai bukti bahwa AI semakin matang. Sebagian benar.

Kalau customer membayar layanan inference dalam volume besar, berarti AI sudah masuk ke produk dan proses kerja nyata. Bukan hanya demo. Bukan hanya proof of concept. Bukan hanya presentasi internal.

Tetapi ada sisi lain yang tidak boleh diabaikan: margin bisnis inference bisa tipis.

Alasannya sederhana. Compute masih mahal.

Perusahaan inference harus membeli atau menyewa kapasitas GPU, menjaga performa, mengatur workload, menangani lonjakan traffic, dan tetap memberi pengalaman yang stabil untuk developer serta end user. Revenue bisa tumbuh cepat, tetapi biaya di belakangnya juga ikut bergerak.

Ini penting untuk bisnis yang sedang memakai atau ingin memakai AI.

Banyak perusahaan melihat AI sebagai fitur pintar. Tetapi secara operasional, AI juga adalah biaya berjalan. Setiap request punya harga. Setiap workflow otomatis punya konsumsi. Setiap agent yang dipanggil berulang punya dampak ke tagihan.

Masalah biasanya muncul saat AI mulai berhasil.

Saat user sedikit, biaya terlihat kecil. Saat fitur mulai dipakai tim sales, support, finance, operasional, dan pelanggan, biaya inference mulai menjadi bagian dari struktur bisnis.

Di titik itu, pertanyaannya bukan lagi apakah AI bisa bekerja.

Pertanyaannya menjadi:

• workload mana yang benar-benar perlu AI?
• output mana yang cukup memakai rule sederhana?
• proses mana yang bisa dijalankan batch, bukan real-time?
• kapan perlu model besar?
• kapan model kecil sudah cukup?
• siapa yang memantau biaya per fitur?
• apa yang terjadi kalau provider lambat, mahal, atau berubah harga?

Tanpa jawaban ini, AI bisa terlihat produktif di awal tetapi menjadi biaya kabur di belakang.

Ada juga aspek keamanan.

Modal sempat terseret dalam insiden keamanan yang melibatkan customer data. Menurut CTO Modal, masalah berasal dari endpoint tidak terautentikasi yang dipublikasikan oleh customer, bukan kompromi platform Modal.

Pernyataan ini penting karena menggambarkan pola risiko baru.

Infrastruktur bisa aman, tetapi implementasi customer tetap bisa membuka celah. Endpoint tanpa autentikasi, sandbox yang terlalu bebas, API key yang bocor, atau agent yang diberi akses terlalu luas bisa membuat sistem rentan walaupun provider utamanya kuat.

Dengan kata lain, memakai platform AI modern tidak menghapus tanggung jawab arsitektur.

Ia hanya memindahkan sebagian beban. Bukan semua.

The Havedev Way

Dari sudut pandang Havedev, kabar pendanaan Modal Labs bukan hanya berita startup. Ini sinyal bahwa bisnis perlu lebih serius membaca biaya dan desain operasional AI.

Banyak bisnis masih memulai dari pertanyaan: tool AI apa yang harus dipakai?

Pertanyaan itu masuk akal, tetapi belum cukup.

Pertanyaan yang lebih sehat adalah: pekerjaan mana yang layak diberi compute mahal?

Tidak semua proses perlu model besar. Tidak semua respons perlu real-time. Tidak semua automation perlu agent. Tidak semua dokumen perlu diproses ulang setiap kali user membuka halaman.

Untuk banyak bisnis, langkah awal yang lebih baik adalah memetakan workflow:

• bagian mana yang repetitif?
• bagian mana yang butuh pemahaman bahasa?
• bagian mana yang butuh keputusan manusia?
• bagian mana yang sensitif secara data?
• bagian mana yang berdampak langsung ke revenue atau customer experience?
• bagian mana yang bisa gagal tanpa merusak bisnis?

Dari sana, keputusan teknis menjadi lebih jelas.

Mungkin cukup memakai prompt sederhana di tool yang sudah ada. Mungkin perlu integrasi API. Mungkin perlu workflow automation. Mungkin perlu vector search. Mungkin perlu inference provider khusus. Mungkin juga belum perlu AI sama sekali.

Ini bukan sikap anti-AI.

Justru sebaliknya. AI lebih berguna ketika ditempatkan pada pekerjaan yang tepat.

Bisnis yang terburu-buru menambahkan AI ke semua proses berisiko membangun sistem yang mahal tetapi sulit diukur. Bisnis yang terlalu lambat juga bisa tertinggal dari kompetitor yang memakai AI untuk mempercepat support, sales, analisis, dan produksi konten.

Jalan tengahnya adalah disiplin operasional.

Mulai dari satu workflow yang jelas. Ukur waktu yang dihemat. Ukur biaya per output. Batasi akses data. Catat error. Siapkan fallback manual. Jangan biarkan AI menjadi black box yang dipercaya hanya karena terdengar modern.

Pendanaan besar Modal Labs menunjukkan bahwa infrastruktur inference sedang menjadi lapisan penting dalam ekonomi AI. Tetapi untuk bisnis, pelajarannya bukan sekadar ikut memakai provider terbaru.

Pelajarannya adalah memahami bahwa AI punya biaya per penggunaan, risiko per integrasi, dan nilai hanya ketika outputnya membantu pekerjaan bergerak.

Sebelum membangun fitur AI baru, cek dulu satu hal sederhana: apakah proses yang ingin diautomasi sudah cukup jelas untuk dihitung biaya, risiko, dan hasilnya?

Kalau belum, mulai dari sana.

Dapatkan Audit Teknis Gratis untuk meninjau workflow, peluang automation, dan risiko implementasi AI sebelum bisnis Anda menambah biaya inference baru.

---

Sumber referensi berita: TechCrunch