AI Tidak Hanya Butuh Kecepatan, AI Butuh Rem yang Bisa Dipercaya

Perkembangan AI sering dibicarakan sebagai perlombaan. Model lebih kuat, agent lebih mandiri, biaya komputasi lebih besar, dan perusahaan berlomba menunjukkan bahwa sistem mereka semakin dekat dengan kemampuan yang sebelumnya dianggap jauh.

Di tengah perlombaan itu, CEO Anthropic Dario Amodei menyerukan agar pengembangan AI paling depan mulai diperlambat. Bukan dihentikan sepenuhnya, tetapi dipacu dengan lebih hati-hati.

Seruan ini menarik karena datang dari salah satu perusahaan yang ikut membangun model frontier. Anthropic bukan pengamat dari luar. Mereka bagian dari industri yang sedang diperingatkan.

Tetapi pertanyaan pentingnya bukan hanya apakah AI perlu diperlambat.

Pertanyaan yang lebih praktis adalah: siapa yang bisa dipercaya untuk memastikan rem itu benar-benar bekerja?

The Core Update

Dario Amodei menulis bahwa perusahaan AI perlu mulai “pace the frontier”. Artinya, laju peningkatan kemampuan model perlu dikendalikan agar tidak terus bergerak lebih cepat dari kemampuan industri untuk memahami risikonya.

Ada beberapa alasan yang membuat seruan ini muncul sekarang.

Pertama, insiden keamanan dan kontrol AI semakin sering menjadi perhatian. Salah satu contoh yang disebut dalam berita adalah kasus OpenAI dan Hugging Face, serta kritik terhadap proses pelaporan insiden AI agent yang dianggap belum cukup formal dan terbuka.

Kedua, kemampuan AI berkembang sangat cepat, termasuk kemampuan model untuk membantu membangun generasi AI berikutnya. Jika sistem AI semakin mampu mempercepat riset AI itu sendiri, maka jarak antara penemuan kemampuan baru dan pemahaman risikonya bisa makin pendek.

Amodei mengusulkan tiga arah besar.

Pertama, perusahaan AI frontier perlu membuka akses untuk evaluator pihak ketiga. Evaluator ini bukan hanya membaca laporan dari luar, tetapi benar-benar berada di dalam perusahaan dengan akses yang mirip tim risk assessment internal. Mereka bisa memeriksa apakah komitmen keselamatan dijalankan, dan apakah insiden dilaporkan dengan benar.

Kedua, perusahaan AI di negara demokratis perlu menyepakati standar keselamatan bersama dan batasan terhadap kemajuan AI yang belum diperiksa. Ini sulit karena ada isu kompetisi dan antitrust, sehingga Amodei menyebut perlunya peran pemerintah untuk memediasi atau memberi ruang hukum yang sempit untuk diskusi keselamatan.

Ketiga, perlu ada koordinasi global, termasuk dengan China, setidaknya untuk mencegah penggunaan AI yang jelas berbahaya seperti produksi senjata biologis.

Sam Altman dari OpenAI merespons positif dan mengatakan OpenAI juga akan mengikuti gagasan evaluator eksternal. Elon Musk juga menyebut Dario benar.

Di atas kertas, ini terdengar seperti langkah dewasa. Perusahaan yang membangun teknologi berisiko tinggi mulai mengakui bahwa kecepatan saja tidak cukup.

Namun pengakuan bukan bukti. Komitmen bukan kontrol. Dan evaluator tidak otomatis berarti akuntabilitas.

The Reality Check

Seruan untuk memperlambat AI terdengar masuk akal. Tetapi ada beberapa hal yang perlu dibaca dengan hati-hati.

Pertama, industri AI sedang menghadapi krisis kepercayaan. Banyak orang tidak lagi yakin bahwa perusahaan teknologi bisa mengatur dirinya sendiri, terutama ketika insentif bisnisnya tetap mendorong pertumbuhan, dominasi pasar, dan rilis produk lebih cepat.

Ketika perusahaan AI mengatakan “kami perlu memperlambat”, publik wajar bertanya: memperlambat untuk keselamatan, atau memperlambat agar pemain besar bisa mengunci posisi?

Kritik seperti ini tidak bisa diabaikan. Jika standar keselamatan hanya bisa dipenuhi oleh perusahaan dengan modal, komputasi, dan akses regulator yang besar, maka regulasi bisa berubah menjadi pagar masuk untuk kompetitor kecil. Dalam bahasa sederhana, keselamatan bisa menjadi alasan yang benar, tetapi dipakai untuk hasil pasar yang tidak sehat.

Kedua, bahaya AI tidak hanya berada di masa depan yang ekstrem. Banyak kritik industri mengingatkan bahwa pembicaraan tentang skenario kiamat bisa mengalihkan perhatian dari kerusakan yang sudah terjadi hari ini: otomatisasi pekerjaan tanpa transisi yang jelas, penyebaran misinformasi, pelanggaran hak cipta, bias dalam keputusan, scraping data, penipuan berbasis AI, dan penggunaan AI untuk memperbesar skala serangan digital.

Ini bukan berarti risiko jangka panjang harus diabaikan. Tetapi bisnis dan pemerintah tidak boleh menukar masalah nyata hari ini dengan debat abstrak yang sulit diverifikasi.

Ketiga, evaluator eksternal hanya berguna kalau punya akses yang cukup, mandat yang jelas, dan mekanisme eskalasi yang kuat. Jika evaluator hanya hadir sebagai simbol, mereka menjadi bagian dari komunikasi publik, bukan pengawasan.

Dalam operasional bisnis, pola ini sering terlihat. Ada dashboard, tetapi data tidak lengkap. Ada SOP, tetapi tidak dipakai. Ada audit, tetapi temuan tidak punya konsekuensi. Ada status “reviewed”, tetapi tidak jelas siapa yang benar-benar meninjau.

Hal yang sama bisa terjadi di AI.

Kalau perusahaan AI ingin dipercaya, mereka perlu lebih dari pernyataan prinsip. Mereka perlu menunjukkan proses yang bisa diperiksa:

• kemampuan apa yang sedang diuji
• risiko apa yang dianggap tidak boleh dilewati
• siapa yang berhak menghentikan rilis
• insiden apa yang wajib dilaporkan
• kapan publik perlu diberi tahu
• data apa yang bisa diaudit pihak luar
• konsekuensi apa jika komitmen dilanggar

Tanpa itu, “pacing” bisa menjadi kata yang baik, tetapi sulit diukur.

The Havedev Way

Dari sudut pandang Havedev, pelajaran penting dari berita ini bukan hanya tentang Anthropic, OpenAI, atau perusahaan AI besar lain.

Pelajarannya lebih luas: teknologi yang kuat membutuhkan mekanisme kontrol yang bisa dibaca.

Banyak bisnis kecil dan menengah memang tidak sedang membangun model frontier. Tetapi mereka mulai memakai AI untuk customer service, sales follow-up, content, analisis data, rekrutmen, reporting, dan automation internal.

Di level ini, pertanyaannya bukan apakah bisnis perlu ikut memperlambat riset AI global. Pertanyaannya lebih dekat dengan operasional harian:

• AI dipakai untuk keputusan apa?
• output AI dianggap saran atau keputusan final?
• siapa yang memeriksa hasilnya?
• data pelanggan apa yang boleh masuk ke tool AI?
• kesalahan AI dicatat di mana?
• kapan manusia wajib mengambil alih?
• pekerjaan mana yang tidak boleh diautomasi dulu?

Banyak bisnis ingin langsung memakai AI untuk mempercepat kerja. Itu wajar. AI memang bisa membantu banyak hal.

Tetapi acceleration tanpa kontrol sering hanya memindahkan risiko. Chatbot bisa menjawab lebih cepat, tetapi salah memberi janji. Automation bisa mengirim follow-up lebih rajin, tetapi konteks pelanggan hilang. AI bisa membuat laporan lebih cepat, tetapi sumber datanya tidak jelas. Agent bisa menjalankan tugas, tetapi tidak ada log yang cukup ketika terjadi masalah.

Karena itu, pendekatan yang lebih sehat bukan “pakai AI sebanyak mungkin”. Pendekatan yang lebih sehat adalah mulai dari proses yang jelas, lalu pilih bagian yang aman untuk dibantu AI.

Untuk bisnis, AI governance tidak harus dimulai dari dokumen besar. Bisa mulai dari aturan sederhana:

• AI boleh membantu draft, bukan mengirim tanpa review
• AI boleh merangkum data, tetapi sumber tetap harus terlihat
• AI boleh menjawab pertanyaan umum, tetapi komplain sensitif masuk ke manusia
• AI tidak boleh menerima data rahasia tanpa persetujuan dan kebutuhan yang jelas
• semua automation penting harus punya log dan pemilik
• setiap workflow AI harus punya tombol berhenti atau fallback manual

Ini bukan sikap anti-AI. Ini cara agar AI tetap berguna ketika volumenya naik.

Bisnis tidak selalu gagal memakai AI karena teknologinya kurang canggih. Sering kali, bisnis gagal karena tidak punya batas yang jelas: batas data, batas keputusan, batas tanggung jawab, dan batas kapan manusia harus masuk.

Seruan Amodei menunjukkan bahwa bahkan perusahaan paling depan pun mulai mengakui perlunya rem. Maka bisnis biasa seharusnya tidak malu membuat rem yang lebih sederhana di prosesnya sendiri.

AI yang baik bukan hanya AI yang cepat menjawab. AI yang baik adalah AI yang bisa ditempatkan dalam alur kerja yang jelas, diawasi dengan masuk akal, dan dihentikan ketika mulai keluar dari batas.

Sebelum menambah AI baru ke proses bisnis, cek dulu satu hal sederhana: apakah tim Anda tahu bagian mana yang boleh dibantu AI, bagian mana yang wajib diperiksa manusia, dan siapa yang bertanggung jawab kalau hasilnya salah?

Kalau jawabannya belum jelas, mulai dari sana.

Dapatkan Audit Teknis Gratis untuk meninjau workflow, automation, dan penggunaan AI di bisnis Anda sebelum risiko kecil berubah menjadi masalah operasional yang sulit dilacak.

---

Sumber referensi berita: TechCrunch