Distillation AI Bukan Hanya Soal Izin, Tetapi Soal Akses

The Core Update

Y Combinator CEO Garry Tan mengambil posisi yang cukup berbeda dalam perdebatan soal distillation AI.

Ketika beberapa pihak meminta regulator Amerika Serikat membatasi praktik distillation, terutama setelah muncul tuduhan terhadap lab AI China, Tan justru mengatakan bahwa regulator sebaiknya tidak buru-buru ikut campur.

Menurutnya, Amerika mungkin perlu punya semacam rezim distillation sendiri. Maksudnya bukan mendorong lab AI Amerika memakai kredensial curian atau menyamar untuk mengambil akses. Bukan itu poinnya.

Poin Tan lebih sederhana: lab AI open-weight Amerika sebaiknya bisa menggunakan teknik pelatihan yang sama terhadap model frontier Amerika, lewat akses yang sah, agar Amerika punya lebih banyak pilihan model terbuka yang kuat dan tidak terlalu bergantung pada alternatif dari China.

Distillation sendiri adalah proses ketika pembuat model banyak memberi prompt ke model lain untuk mempelajari cara model itu menjawab, bernalar, dan menyusun pola respons. Teknik ini umum dipakai dalam pengembangan model AI.

Masalahnya muncul ketika proses itu dilakukan tanpa izin, memakai identitas tersembunyi, fraud, atau kredensial curian. Anthropic menyebut praktik semacam ini sebagai illicit distillation attacks dan meminta regulator Amerika menindak lebih keras.

Tan tidak sepakat jika jawabannya langsung berupa pembatasan besar. Ia melihat risiko lain yang juga penting: jika kemampuan AI frontier hanya terkunci di sedikit perusahaan proprietary, pasar bisa bergerak ke arah yang terlalu terpusat.

The Reality Check

Perdebatan ini mudah terlihat seperti konflik antar-lab AI besar. Padahal dampaknya lebih luas.

Untuk bisnis, pertanyaan utamanya bukan hanya apakah distillation boleh atau tidak. Pertanyaan yang lebih praktis adalah: apakah akses ke kemampuan AI akan makin terbuka, atau makin dikontrol oleh sedikit penyedia?

Jika AI frontier hanya tersedia lewat API tertutup dengan aturan yang makin ketat, bisnis mendapat kemudahan tetapi juga ketergantungan. Model bisa dipakai cepat, integrasi bisa dibuat cepat, dan fitur AI bisa masuk ke produk tanpa membangun semuanya dari nol.

Tetapi ada harga tersembunyi.

Harga bisa berubah. Terms of service bisa berubah. Model bisa diganti. Output bisa berbeda. Akses bisa dibatasi. Data dan workflow bisnis bisa makin menempel pada satu vendor.

Di sisi lain, open-weight model memberi ruang lebih besar untuk kontrol. Bisnis atau developer bisa menjalankan model di lingkungan sendiri, menyesuaikan kebutuhan tertentu, dan mengurangi risiko lock-in. Tetapi open-weight juga tidak otomatis lebih mudah. Ia butuh infrastruktur, evaluasi, keamanan, dan kemampuan teknis yang lebih matang.

Di sinilah argumen Tan menjadi menarik. Ia tidak mengatakan frontier lab tidak penting. Ia justru mengakui bahwa frontier lab mendorong batas kemampuan AI dan harus tetap bisa menjadi bisnis yang sehat.

Namun ia juga mengingatkan bahwa skenario buruknya adalah ketika hanya ada satu atau sedikit perusahaan yang menguasai model terbaik, talenta terbaik, modal terbesar, dan distribusi terkuat.

Bagi bisnis biasa, ini terdengar jauh. Tetapi pola yang sama sering terjadi dalam bentuk yang lebih kecil.

Perusahaan memakai satu tool untuk CRM, satu tool untuk support, satu tool untuk automation, satu tool untuk analytics, lalu semua proses penting bergantung pada aturan vendor. Selama semuanya lancar, tidak terasa sebagai risiko. Risiko baru terasa ketika harga naik, integrasi berubah, API dibatasi, atau data sulit dipindahkan.

AI bisa memperbesar pola itu.

Kalau bisnis membangun semua alur kerja penting di atas satu model tertutup tanpa strategi cadangan, maka automation yang terlihat modern bisa menjadi titik ketergantungan baru.

The Havedev Way

Dari sudut pandang Havedev, perdebatan distillation AI bukan sinyal bahwa semua bisnis harus segera memakai open-weight model. Itu terlalu cepat.

Pelajaran yang lebih penting adalah bisnis perlu memahami lapisan kontrol dalam sistem AI yang dipakai.

Sebelum memilih model, bisnis perlu tahu dulu pekerjaan apa yang ingin dibantu AI. Apakah AI dipakai untuk menjawab chat pelanggan, merangkum lead, membuat draft proposal, membaca dokumen internal, mengklasifikasi tiket support, atau membantu tim sales follow-up?

Setelah itu baru pertanyaan teknis menjadi masuk akal:

• data apa yang dikirim ke model?
• apakah data itu sensitif?
• apakah output perlu konsisten?
• apakah model harus bisa diaudit?
• apakah workflow tetap berjalan jika vendor berubah?
• apakah ada opsi pindah ke model lain?
• apakah biaya masih sehat kalau volume naik?

Untuk banyak bisnis, model proprietary lewat API tetap menjadi pilihan paling masuk akal di awal. Cepat, praktis, dan tidak butuh tim infrastruktur khusus.

Tetapi itu sebaiknya tidak berarti semua logika bisnis dikunci langsung ke satu vendor.

Lapisan aplikasi perlu dibuat cukup rapi agar model bisa diganti jika perlu. Prompt penting perlu terdokumentasi. Output penting perlu divalidasi. Data sensitif perlu dibatasi. Workflow utama tidak boleh sepenuhnya bergantung pada jawaban AI tanpa kontrol manusia atau aturan bisnis yang jelas.

Open-weight model bisa masuk ketika bisnis membutuhkan kontrol lebih besar: data lebih sensitif, biaya inference mulai besar, latency perlu ditekan, atau proses perlu berjalan di lingkungan sendiri.

Namun open-weight juga bukan jalan pintas. Ia membutuhkan evaluasi kualitas, monitoring, guardrail, dan proses update yang jelas. Tanpa itu, bisnis hanya mengganti ketergantungan vendor dengan beban operasional baru.

Karena itu, pendekatan yang sehat bukan memilih kubu tertutup atau terbuka secara ideologis. Pendekatan yang sehat adalah membangun sistem AI yang tidak rapuh.

Gunakan API tertutup jika itu mempercepat validasi. Gunakan open-weight jika kontrol mulai lebih penting daripada kemudahan. Jangan campur data sensitif ke sistem yang belum jelas batasnya. Jangan bangun workflow penting tanpa rencana keluar.

Perdebatan Garry Tan dan Anthropic menunjukkan satu hal: AI bukan hanya soal model yang paling pintar. AI juga soal siapa yang boleh belajar dari siapa, siapa yang mengontrol akses, dan siapa yang menanggung risiko ketika akses itu berubah.

Untuk bisnis, pertanyaan praktisnya bukan apakah distillation akan menang atau kalah.

Pertanyaan yang lebih dekat dengan operasional adalah: jika model, harga, aturan, atau akses berubah bulan depan, apakah sistem AI Anda masih bisa berjalan?

Kalau jawabannya belum jelas, mulai dari sana.

Dapatkan Audit Teknis Gratis untuk meninjau alur AI, automation, dan integrasi bisnis Anda sebelum ketergantungan pada satu model atau vendor menjadi terlalu dalam.

---

Sumber referensi berita: TechCrunch