Havedev
Agent AI Tidak Cukup Pintar, Agent AI Butuh Infrastruktur yang Bisa Dikontrol
The Core Update
Vercel semakin terlihat sebagai salah satu perusahaan penting di balik gelombang AI software. Bukan hanya karena developer memakai Vercel untuk deploy aplikasi, tetapi karena agent mulai memakai Vercel sebagai tempat kerja.
Menurut CEO Vercel Guillermo Rauch, perusahaan itu melihat sekitar 6 juta deployment per hari. Separuhnya dipicu oleh coding agent. Lebih dari 1 triliun token juga mengalir lewat AI Gateway Vercel setiap hari.
Angka ini penting karena menunjukkan perubahan fase.
Tahun lalu, banyak perusahaan masih sibuk mencoba agent. Membuat prototype, demo internal, chatbot, helper kecil, dan eksperimen yang terasa menjanjikan. Sekarang pertanyaannya mulai berubah: bagaimana agent dipakai di production tanpa membuat data bocor, proses tidak terkendali, atau biaya membesar tanpa arah?
Rauch menyebut dua use case besar agent.
Pertama, coding agent. Agent membantu menulis software, memperbaiki bug, membuat fitur, dan mempercepat kerja developer. Tetapi semakin banyak software dibuat, semakin besar kebutuhan untuk menaruh, menguji, dan menjalankannya dengan rapi.
Kedua, internal corporate agent. Ini agent yang membantu orang di dalam perusahaan bekerja dengan data. Misalnya sales ingin tahu lima akun yang paling cepat bertambah seat dalam dua minggu terakhir. Dulu pertanyaan seperti ini sering menunggu dashboard baru, proyek BI, atau bantuan tim data. Dengan agent, pertanyaan bisa langsung diterjemahkan menjadi akses data dan tindakan.
Namun di titik ini masalahnya bukan lagi sekadar apakah model cukup pintar.
Masalahnya adalah apakah agent boleh mengakses data itu, apakah tindakannya bisa diaudit, apakah tool call-nya tercatat, apakah data sensitif bisa keluar, dan apakah perusahaan masih tahu siapa yang bertanggung jawab ketika agent melakukan sesuatu.
Karena itu Vercel membangun Eve, framework untuk mendefinisikan instruksi dan skill agent dalam bahasa natural. Vercel juga membangun Sandbox, lingkungan terbatas agar agent tetap bisa bekerja tetapi akses datanya bisa dikontrol.
Dengan kata lain, agent tidak hanya butuh model. Agent butuh ruang kerja yang aman.
The Reality Check
Banyak diskusi AI masih terlalu fokus pada model mana yang paling pintar. OpenAI, Anthropic, Gemini, DeepSeek, model open source, model terbaru, benchmark terbaru, konteks lebih panjang, harga token lebih murah.
Semua itu penting.
Tetapi untuk bisnis, pertanyaan yang lebih praktis sering lebih sederhana: apakah sistem ini aman dipakai oleh tim setiap hari?
Agent yang bisa membaca seluruh codebase memang terlihat berguna. Tetapi jika konfigurasi salah, codebase bisa ikut keluar ke cloud untuk training atau pemrosesan yang tidak sesuai kebijakan perusahaan. Rauch memberi contoh ekstrem: perusahaan seperti Airbus punya puluhan tahun kode C++ khusus untuk aerospace engineering. Satu developer memasang tool yang salah, lalu aset teknis yang sangat sensitif bisa ikut terkirim ke luar.
Ini bukan masalah imajinatif. Ini risiko operasional.
Hal yang sama berlaku untuk data sales, data customer, invoice, kontrak, dokumen support, dan catatan internal. Agent yang terlalu bebas bisa menjadi shortcut yang berbahaya. Ia mempercepat pekerjaan, tetapi juga mempercepat kebocoran jika batasnya tidak jelas.
Di sinilah banyak bisnis perlu lebih hati-hati. AI agent bukan karyawan magang digital yang boleh diberi akses luas karena terlihat membantu. Agent adalah software yang menjalankan instruksi, memanggil tool, membaca data, dan kadang mengambil tindakan lintas sistem.
Kalau hak akses manusia saja sering berantakan, hak akses agent biasanya akan lebih berantakan lagi.
Masalah lain adalah ketergantungan pada satu lab atau satu platform. Tahun lalu, banyak perusahaan memilih satu partner AI dan membangun semua hal di atasnya. Sekarang pola itu mulai berubah. Perusahaan mulai melihat bahwa sistem AI punya beberapa lapisan: model, harness, data platform, sandbox, gateway, deployment, dan monitoring.
Setiap lapisan bisa dipilih.
Model bisa dari OpenAI, Anthropic, Gemini, DeepSeek, atau model lain. Gateway bisa dipakai untuk mengatur trafik dan observability. Sandbox bisa dipakai untuk membatasi lingkungan agent. Data layer bisa tetap berada dalam kontrol perusahaan.
Pendekatan ini lebih mirip software engineering biasa. Kita tidak membangun seluruh perusahaan di atas satu library. Kita memilih komponen, mengatur batas, lalu membuat sistem yang bisa diganti jika kebutuhan berubah.
Ini juga alasan Rauch menyinggung pertarungan antara model dan agent. Apakah intelligence dan agent akan selalu datang dari satu tempat yang sama? Atau model hanya menjadi satu komponen yang dipakai oleh agent, sementara orchestration, data, permission, dan deployment berada di platform lain?
Untuk bisnis, pilihan kedua biasanya lebih sehat.
Bukan karena semua harus open source. Bukan juga karena semua vendor besar buruk. Tetapi karena bisnis butuh ruang untuk memilih, mengukur biaya, mengganti model, dan menjaga data tetap berada di tempat yang tepat.
AI yang bagus bukan hanya yang bisa menjawab. AI yang bagus untuk bisnis adalah AI yang bisa dikontrol.
The Havedev Way
Dari sudut pandang Havedev, berita ini mengingatkan satu hal penting: jangan mulai strategi AI dari model. Mulai dari alur kerja, data, dan risiko.
Banyak bisnis ingin langsung punya agent. Agent untuk sales, agent untuk support, agent untuk admin, agent untuk finance, agent untuk developer, agent untuk laporan owner.
Keinginan ini masuk akal. Tetapi pertanyaan pertama bukan “pakai model apa?”
Pertanyaan pertama seharusnya:
- data apa yang boleh dibaca agent?
- data apa yang tidak boleh keluar?
- tindakan apa yang boleh dilakukan otomatis?
- tindakan apa yang harus menunggu approval manusia?
- siapa pemilik proses jika agent salah?
- log apa yang wajib tersimpan?
- kapan akses agent harus dicabut?
Tanpa jawaban ini, bisnis hanya memindahkan masalah lama ke teknologi baru. Dulu data tersebar di spreadsheet, chat, CRM, email, dan aplikasi internal. Sekarang agent diberi akses ke semuanya, tetapi aturan kerjanya belum jelas.
Hasilnya bisa terlihat canggih, tetapi rapuh.
Untuk banyak bisnis, langkah awal yang lebih sehat bukan membangun agent besar. Langkah awalnya adalah memilih satu workflow yang jelas dan dekat dengan nilai bisnis.
Misalnya:
- lead masuk dari website
- sales follow-up pelanggan lama
- support menjawab pertanyaan berulang
- admin mencari status invoice
- manager melihat order yang macet
- developer mempercepat review kode internal
Pilih satu. Lalu petakan data yang dibutuhkan, batas aksesnya, tindakan yang boleh dilakukan, dan output yang harus dicatat.
Jika workflow belum jelas, agent tidak akan membuatnya jelas. Agent hanya akan membuat kekacauan bergerak lebih cepat.
Untuk website dan sistem digital, ini juga berarti form, CRM, dashboard, dan automation perlu dirancang agar siap dibaca agent. Data harus punya struktur. Status harus konsisten. Permission harus masuk akal. Log harus bisa ditelusuri.
Agent yang baik tidak bekerja di ruang kosong. Ia bekerja di atas sistem yang sudah punya bahasa kerja.
Karena itu, bisnis tidak perlu terburu-buru memilih satu lab AI sebagai pusat segalanya. Lebih baik membangun arsitektur yang cukup fleksibel: model bisa diganti, gateway bisa mengukur penggunaan, sandbox bisa membatasi aksi, dan data tetap punya aturan akses yang jelas.
Vercel ingin menjadi semacam AWS untuk generasi AI. Itu ambisi besar. Tetapi pelajaran yang lebih dekat untuk bisnis adalah ini: nilai agent bukan hanya pada kecerdasannya, tetapi pada infrastruktur yang membuat kecerdasan itu aman dipakai.
AI agent akan makin banyak masuk ke operasi bisnis. Bukan hanya untuk menulis kode, tetapi untuk membaca data, memberi rekomendasi, membantu sales, menjawab support, dan memantau pekerjaan internal.
Namun sebelum memberi agent akses ke sistem bisnis, pastikan bisnis sudah tahu pintu mana yang boleh dibuka, pintu mana yang harus tetap terkunci, dan siapa yang memegang kuncinya.
Dapatkan Audit Teknis Gratis untuk meninjau kesiapan website, data, workflow, dan automation sebelum bisnis Anda membangun agent AI yang terhubung ke sistem internal.
Sumber referensi berita: TechCrunch