Havedev
Masalah AI Bukan Hanya Regulasi, Tetapi Kepercayaan yang Belum Terbangun
Banyak diskusi tentang AI hari ini sering dibingkai sebagai masalah komunikasi. Kalau publik takut, berarti pesan industri terlalu negatif. Kalau pemerintah mulai mengatur, berarti narasi risiko terlalu sering dibesar-besarkan. Kalau data center ditolak, berarti masyarakat belum cukup diberi gambaran tentang manfaat AI.
Sebagian argumen itu masuk akal. Cara teknologi dijelaskan memang memengaruhi cara publik merespons.
Tetapi ada masalah yang lebih dasar: publik belum percaya.
Anthropic CEO Dario Amodei baru-baru ini menolak anggapan bahwa kekhawatirannya tentang risiko AI menjadi penyebab utama backlash terhadap industri AI. Menurutnya, masalah ini bukan terutama soal marketing atau tone komunikasi. Ia menyebutnya sebagai crisis of trust.
Ini poin yang penting untuk bisnis, founder, dan tim teknologi. Karena dalam skala yang lebih kecil, masalah yang sama sering terjadi ketika perusahaan ingin membawa AI dan automation ke dalam operasionalnya.
Bukan semua orang menolak teknologi. Sering kali, orang hanya belum melihat alasan yang cukup kuat untuk percaya.
The Core Update
Perdebatan ini bermula ketika investor Gavin Baker mengkritik cara Dario Amodei dan beberapa pemimpin AI lain membicarakan risiko AI. Menurut Baker, peringatan yang terlalu sering tentang bahaya AI ikut memicu resistensi publik, terutama di Amerika Serikat, termasuk terhadap pembangunan data center dan regulasi AI.
Baker berpendapat bahwa Amodei seharusnya menjadi advokat yang lebih positif untuk industrinya sendiri. Apalagi Anthropic termasuk salah satu perusahaan AI paling penting saat ini dan ikut mendukung beberapa bentuk regulasi, termasuk aturan transparansi untuk perusahaan AI besar.
Amodei tidak sepakat.
Ia mengatakan bahwa tulisannya tentang AI tidak hanya berisi risiko, tetapi juga manfaat. Ia menyebut esainya, Machines of Loving Grace, sebagai upaya untuk menunjukkan gambaran yang lebih inspiratif tentang bagaimana AI bisa membantu dunia secara besar.
Namun Amodei juga mengakui satu hal: publik memang punya pandangan negatif terhadap AI, dan itu masalah besar.
Perbedaannya ada pada penyebab.
Menurut Amodei, sentimen negatif itu bukan terutama karena satu CEO terlalu sering membahas risiko. Ia melihatnya sebagai krisis kepercayaan yang sudah lama terbentuk. Banyak orang biasa tidak percaya kepada perusahaan besar, pemerintah, atau industri teknologi. Mereka curiga bahwa selalu ada cara baru untuk membuat hidup mereka lebih sulit, lebih diawasi, atau lebih tidak adil.
Dalam pandangan Amodei, kritik paling akurat terhadap perusahaan AI bukanlah bahwa mereka terlalu buruk dalam messaging. Kritik yang lebih tepat adalah bahwa perusahaan AI belum benar-benar memenuhi janji besar mereka untuk membawa manfaat nyata bagi dunia.
Ia memberi contoh sederhana: mengatakan AI akan menyembuhkan kanker terdengar seperti klise. Yang akan mengubah opini publik bukan janji itu, tetapi ketika kanker benar-benar bisa disembuhkan.
Di sisi regulasi, Amodei juga menolak pilihan yang terlalu sederhana: AI dibuka seluas-luasnya tanpa aturan, atau AI dikunci oleh segelintir perusahaan besar karena regulasi. Menurutnya, regulasi tidak selalu berarti regulatory capture. Banyak orang di luar Silicon Valley melihat regulasi sebagai cara untuk membatasi kuasa korporasi dan melindungi masyarakat.
Amodei sendiri tidak mengatakan bahwa semua regulasi pasti baik. Tetapi ia berargumen bahwa aturan yang tepat bisa melakukan beberapa hal sekaligus: mengurangi risiko AI, membatasi kuasa perusahaan frontier AI, dan tetap memberi ruang bagi model open-weights dengan risiko yang dikelola.
Intinya, perdebatan ini bukan hanya soal AI optimis melawan AI pesimis. Ini soal apakah industri AI bisa membuktikan bahwa kekuatan yang sedang dibangun memang akan dipakai untuk kepentingan yang bisa dipercaya.
The Reality Check
Ada pelajaran penting di sini: manfaat teknologi tidak otomatis dipercaya hanya karena terdengar besar.
Banyak industri teknologi terbiasa menjual masa depan. Lebih cepat, lebih cerdas, lebih otomatis, lebih murah, lebih produktif. Narasi seperti itu mudah dibuat. Deck investor bisa memuatnya. Landing page bisa menulisnya. Demo bisa memperlihatkannya dalam skenario yang rapi.
Tetapi kepercayaan tidak dibangun dari demo terbaik. Kepercayaan dibangun dari pengalaman berulang yang tidak mengecewakan.
Publik melihat AI dari banyak sisi sekaligus. Ada janji produktivitas. Ada ketakutan kehilangan pekerjaan. Ada manfaat untuk riset dan kesehatan. Ada kekhawatiran soal data pribadi. Ada chatbot yang membantu pekerjaan. Ada model yang memberi jawaban salah dengan sangat percaya diri. Ada perusahaan yang bicara tentang keselamatan, tetapi juga berlomba membangun sistem yang makin besar.
Ketika sinyalnya campur aduk, wajar kalau orang tidak langsung percaya.
Masalahnya, industri teknologi sering menganggap skeptisisme sebagai hambatan komunikasi. Seolah-olah orang hanya perlu dijelaskan dengan lebih baik. Padahal dalam banyak kasus, orang sudah cukup paham untuk bertanya: siapa yang diuntungkan, siapa yang menanggung risiko, dan siapa yang bisa mengontrolnya?
Pertanyaan seperti itu bukan anti-teknologi. Itu pertanyaan operasional yang sehat.
Hal yang sama berlaku di bisnis ketika AI mulai masuk ke workflow internal.
Owner mungkin ingin memakai AI untuk membalas lead lebih cepat. Tim sales khawatir respons jadi terlalu generik. Manager ingin automation untuk follow-up. Admin takut salah kirim ke pelanggan. Founder ingin dashboard AI. Tim operasional bertanya apakah datanya cukup rapi. Marketing ingin content dibantu AI. Brand team khawatir suara perusahaan jadi tidak konsisten.
Kalau semua kekhawatiran itu dibaca sebagai resistensi, implementasi AI akan terasa seperti paksaan.
Padahal sering kali masalahnya bukan tim menolak AI. Masalahnya mereka belum percaya bahwa AI akan membuat kerja lebih jelas, bukan lebih kacau.
Kepercayaan juga tidak bisa diganti dengan policy panjang. Dokumen penggunaan AI memang perlu. Tetapi kalau orang tidak tahu kapan AI boleh dipakai, siapa yang mengecek hasilnya, data apa yang tidak boleh dimasukkan, dan siapa yang bertanggung jawab saat output salah, policy hanya menjadi formalitas.
AI yang baik dalam bisnis bukan hanya soal model yang pintar. Ia butuh batas kerja yang jelas.
Untuk pekerjaan tertentu, AI bisa membantu membuat draft, merapikan data, membuat ringkasan, mengklasifikasi inquiry, atau mempercepat pencarian informasi. Tetapi untuk keputusan yang berdampak pada uang, pelanggan, legal, atau reputasi, AI perlu tetap berada dalam alur review manusia.
Kepercayaan tumbuh ketika batas ini terlihat.
Tanpa batas, AI terasa seperti kotak hitam yang tiba-tiba ikut mengambil keputusan. Dengan batas, AI menjadi alat bantu yang bisa diaudit, dikoreksi, dan ditingkatkan.
Itulah sebabnya perdebatan tentang regulasi AI tidak bisa hanya dilihat sebagai penghalang inovasi. Dalam banyak konteks, aturan justru bisa menjadi cara untuk membuat teknologi lebih layak dipercaya. Bukan karena aturan selalu benar, tetapi karena teknologi yang besar dampaknya perlu memiliki garis tanggung jawab yang bisa dibaca.
Industri AI mungkin ingin publik percaya pada masa depan yang besar. Tetapi publik cenderung percaya pada bukti yang dekat: apakah pekerjaan saya terbantu, apakah data saya aman, apakah keputusan bisa dijelaskan, apakah kesalahan bisa diperbaiki, dan apakah manfaatnya tidak hanya jatuh ke perusahaan besar.
The Havedev Way
Dari sudut pandang Havedev, pelajaran dari debat ini sederhana: AI tidak boleh dimulai dari janji besar. AI harus dimulai dari titik kerja yang jelas, risiko yang terlihat, dan manfaat yang bisa dibuktikan.
Untuk bisnis, pertanyaan awalnya bukan “bagaimana cara memakai AI sebanyak mungkin?”
Pertanyaan yang lebih sehat adalah:
- pekerjaan mana yang berulang dan menghabiskan waktu?
- bagian mana yang sering lambat karena informasi tercecer?
- keputusan mana yang masih butuh manusia sepenuhnya?
- data apa yang aman dipakai oleh AI?
- output AI siapa yang mengecek?
- kesalahan seperti apa yang masih bisa ditoleransi?
- metrik apa yang membuktikan AI benar-benar membantu?
Jawaban ini membuat implementasi AI lebih membumi.
Misalnya, AI untuk merangkum inquiry pelanggan bisa masuk akal kalau tim sering kewalahan membaca chat panjang. Tetapi status lead, urgensi, dan next action tetap perlu jelas. AI untuk draft proposal bisa membantu kalau format proposal sudah rapi. Tetapi harga, scope, dan komitmen tetap harus direview manusia. AI untuk support bisa mempercepat respons awal. Tetapi eskalasi ke manusia harus jelas saat kasus menyangkut komplain, refund, data pribadi, atau keputusan sensitif.
Dengan pendekatan seperti ini, AI tidak dijual sebagai pengganti tim. AI diposisikan sebagai lapisan bantuan di atas proses yang sudah cukup jelas.
Ini penting karena banyak kegagalan AI di bisnis bukan terjadi karena modelnya kurang canggih. Kegagalan sering terjadi karena proses dasarnya belum siap.
Jika data pelanggan berantakan, AI akan membaca kekacauan itu. Jika kategori lead tidak jelas, AI akan membuat klasifikasi yang terlihat rapi tetapi sulit dipercaya. Jika tim belum sepakat arti “urgent”, AI tidak akan menyelesaikan kebingungan itu. Jika tidak ada pemilik review, output AI akan menggantung sebagai saran yang tidak dipakai.
Sebelum automation, bisnis perlu trust design.
Trust design bukan istilah rumit. Artinya, bisnis perlu mendesain cara agar orang bisa percaya pada sistem yang dipakai. Dalam konteks AI, ini bisa berarti:
- jelaskan pekerjaan apa yang dibantu AI
- batasi data yang boleh masuk
- tampilkan sumber atau alasan output jika memungkinkan
- buat jalur koreksi saat AI salah
- tentukan siapa pemilik keputusan akhir
- ukur hasilnya dengan metrik yang dekat dengan operasional
Untuk website dan lead generation, prinsip yang sama berlaku. AI bisa membantu membaca kebutuhan calon pelanggan, merapikan pesan awal, atau memberi rekomendasi follow-up. Tetapi form, halaman layanan, sumber traffic, dan status lead tetap harus jelas. Kalau tidak, AI hanya mempercepat masuknya data yang tidak siap dipakai.
Untuk dashboard, AI bisa membantu membuat ringkasan. Tetapi ringkasan hanya berguna kalau data sumbernya disiplin. Kalau status pekerjaan masih kabur, AI hanya akan menulis ulang kebingungan dalam bahasa yang lebih meyakinkan.
Untuk customer support, AI bisa membantu menjawab pertanyaan dasar. Tetapi pelanggan perlu tahu kapan mereka sedang bicara dengan sistem, kapan bisa meminta manusia, dan bagaimana masalah serius ditangani. Transparansi seperti ini bukan kelemahan. Justru itu yang membuat sistem lebih dipercaya.
Pada akhirnya, bisnis tidak perlu ikut semua hype AI. Bisnis juga tidak perlu menolak AI karena takut salah langkah.
Yang dibutuhkan adalah pendekatan yang lebih jujur: mulai dari masalah nyata, pasang batas yang jelas, gunakan AI di titik yang aman, lalu buktikan manfaatnya lewat hasil kerja.
Krisis kepercayaan terhadap AI tidak akan selesai dengan slogan yang lebih positif. Dalam bisnis, kepercayaan juga tidak muncul karena founder bilang “ini akan meningkatkan produktivitas”.
Kepercayaan muncul ketika tim melihat bahwa AI membantu pekerjaan bergerak lebih cepat tanpa membuat tanggung jawab menjadi kabur.
Teknologi yang dipercaya bukan teknologi yang paling keras menjanjikan masa depan. Teknologi yang dipercaya adalah teknologi yang konsisten membantu hari ini, bisa dijelaskan saat salah, dan punya batas yang menghormati manusia yang memakainya.
Sebelum menambahkan AI ke proses bisnis, cek dulu satu hal sederhana: apakah alur kerja, data, dan tanggung jawabnya sudah cukup jelas untuk dibantu mesin?
Kalau jawabannya belum, mulai dari sana.
Dapatkan Audit Teknis Gratis untuk meninjau peluang AI, automation, dan workflow digital yang bisa diterapkan tanpa membuat operasional bisnis menjadi lebih kabur.
Sumber referensi berita: TechCrunch