AI Tidak Kekurangan Ambisi, AI Kekurangan Aturan yang Bisa Diuji

Microsoft president Brad Smith kembali mendorong regulasi AI yang lebih tegas. Argumennya sederhana tetapi cukup mengena: produk konsumen seperti susu dan mesin cuci sering punya pengawasan lebih jelas dibanding perusahaan yang membangun artificial intelligence.

Di permukaan, pernyataan ini terdengar seperti seruan regulasi biasa. Perusahaan besar meminta aturan. Pemerintah diminta bergerak. Industri diminta lebih bertanggung jawab.

Tetapi ada hal yang lebih penting di baliknya: AI sudah tidak bisa lagi diperlakukan hanya sebagai fitur digital biasa.

Smith menyebut AI sebagai alat sekaligus senjata. Ia menyoroti risiko cybersecurity, AI agents yang bisa bertindak di luar kendali, dan perlunya safety rules global sebelum masalah menjadi terlalu besar untuk ditangani secara reaktif.

The Core Update

Dalam wawancara dengan BBC, Brad Smith mengatakan bahwa momen untuk membuat aturan keselamatan AI sudah tiba. Ia menilai voluntary self-regulation tidak cukup karena hanya perusahaan yang bertanggung jawab yang akan patuh.

Masalahnya ada pada perusahaan yang tidak bertanggung jawab.

Smith juga menyebut Inggris sebagai negara yang paling tepat untuk memimpin aturan keselamatan AI global. Alasannya bukan karena Inggris punya perusahaan AI terbesar, tetapi karena posisinya lebih netral dibanding Amerika Serikat dan Uni Eropa.

Menurut Smith, Washington tidak melihat London seperti mereka melihat Brussels. Dalam konteks regulasi teknologi, itu bisa menjadi kekuatan.

Inggris sudah memiliki AI Security Institute atau AISI, yang mendapat akses ke model frontier dari beberapa lab besar sebelum model itu dirilis. Peran ini membuat Inggris menjadi salah satu pusat pengujian keselamatan AI yang cukup penting.

Namun posisi itu sempat tertekan. Presiden Donald Trump dilaporkan meminta OpenAI dan Anthropic menahan model baru dari penguji Inggris sampai ada review dari Amerika Serikat. Meski begitu, AISI menyatakan tetap dapat mengakses dan menguji model terbaru.

Smith mengusulkan beberapa aturan yang lebih konkret:

• kewajiban hukum untuk memberi tahu organisasi jika sistemnya ditembus oleh rogue AI agents
• evaluasi eksternal sebelum produk AI dirilis
• mekanisme untuk menghentikan atau memperlambat AI jika manusia kehilangan kendali
• peran auditor independen yang tidak hanya bersifat simbolis

Dokumen sukarela yang ditandatangani para pemimpin teknologi di Gedung Putih ia sebut sebagai langkah baik. Tetapi menurutnya, langkah itu belum cukup.

The Reality Check

Regulasi AI sering dibicarakan seolah-olah masalahnya hanya soal izin, larangan, atau kepatuhan hukum. Padahal masalah yang lebih mendasar adalah observability dan accountability.

Siapa yang tahu model ini sudah diuji untuk risiko tertentu?

Siapa yang bertanggung jawab jika AI agent melakukan aksi yang merugikan sistem lain?

Kapan sebuah model dianggap terlalu berisiko untuk dirilis?

Siapa yang boleh menghentikan sistem ketika perilakunya tidak lagi bisa diprediksi dengan aman?

Pertanyaan seperti ini tidak bisa dijawab hanya dengan slogan inovasi atau etika. Ia butuh proses yang bisa dibaca, diuji, dan diaudit.

Di sinilah kritik Smith terhadap self-regulation menjadi relevan. Aturan sukarela bekerja jika semua pemain punya insentif yang sama. Dalam praktiknya, tidak semua perusahaan akan menahan diri saat kompetitor bergerak lebih cepat.

Tekanan pasar selalu mendorong rilis lebih cepat. Investor ingin pertumbuhan. Pengguna ingin fitur baru. Perusahaan ingin terlihat memimpin. Dalam kondisi seperti itu, safety mudah berubah menjadi dokumen presentasi, bukan disiplin operasional.

Polite contrarian view-nya begini: regulasi bukan otomatis membuat AI lebih aman. Regulasi yang buruk bisa lambat, kabur, dan hanya menambah beban administratif. Tetapi tanpa aturan yang jelas, industri akan terus bergantung pada niat baik pemain terbesar.

Itu bukan fondasi yang cukup kuat untuk teknologi yang mulai masuk ke cybersecurity, finance, healthcare, legal workflow, customer support, dan decision automation.

Bagi bisnis, isu ini tidak jauh. Banyak perusahaan mulai memakai AI untuk membalas pelanggan, menganalisis data, membuat keputusan awal, menulis proposal, menyaring lead, atau membantu operasi internal.

Masalahnya, banyak implementasi AI masuk tanpa status risiko yang jelas.

AI dipakai, tetapi tidak jelas data apa yang boleh masuk. Output dipakai, tetapi tidak jelas siapa yang harus memeriksa. Automation berjalan, tetapi tidak jelas kapan harus berhenti. Agent diberi akses, tetapi tidak jelas batas tindakannya.

Ini versi kecil dari masalah yang sedang dibicarakan di level global.

The Havedev Way

Dari sudut pandang Havedev, diskusi regulasi AI seharusnya tidak hanya dibaca sebagai urusan pemerintah dan perusahaan besar. Ini juga sinyal untuk bisnis yang mulai memakai AI di proses hariannya.

Pertanyaannya bukan lagi “apakah bisnis harus memakai AI?” Banyak bisnis memang akan memakainya.

Pertanyaan yang lebih sehat adalah: AI ini boleh mengambil keputusan sejauh apa?

Untuk bisnis, langkah awal tidak perlu rumit. Mulai dari batas kerja yang jelas.

Tentukan data apa yang boleh diproses AI. Tentukan output mana yang wajib dicek manusia. Tentukan proses mana yang boleh otomatis penuh dan mana yang hanya boleh dibantu. Tentukan siapa yang bertanggung jawab jika hasil AI salah. Tentukan kapan automation harus berhenti dan minta review manual.

Dalam praktiknya, ini bisa berupa aturan sederhana:

• AI boleh membuat draft, tetapi keputusan final tetap manusia
• AI boleh merangkum data pelanggan, tetapi tidak boleh mengubah status order tanpa validasi
• AI boleh memberi rekomendasi follow-up, tetapi tidak boleh mengirim pesan sensitif tanpa approval
• AI boleh membaca knowledge base internal, tetapi tidak boleh mengakses data finansial tanpa kontrol akses
• AI boleh menjalankan workflow, tetapi semua aksi penting harus tercatat di log

Aturan seperti ini terdengar tidak secanggih model frontier. Tetapi justru di sinilah fondasi pemakaian AI yang sehat dimulai.

Bisnis tidak perlu menunggu regulasi global selesai untuk mulai rapi. Sama seperti status kerja, AI governance di level bisnis bisa dimulai dari bahasa yang jelas: boleh, tidak boleh, perlu review, perlu approval, perlu audit.

Kalau batas ini tidak disepakati, AI akan menjadi tool baru yang terlihat produktif tetapi sulit dipertanggungjawabkan.

Website, CRM, dashboard, customer support, dan automation bisa menjadi lebih kuat dengan AI. Tetapi kekuatan itu harus datang bersama kontrol yang bisa dibaca. Bukan untuk memperlambat inovasi, tetapi agar inovasi tidak berubah menjadi risiko tersembunyi.

Pelajaran dari pernyataan Brad Smith cukup jelas: semakin besar kemampuan AI, semakin penting aturan operasionalnya.

Bukan semua hal harus diregulasi dari awal. Bukan semua eksperimen harus dihentikan. Tetapi sistem yang menyentuh data penting, keputusan pelanggan, keamanan, atau proses bisnis utama perlu punya batas yang jelas sebelum diotomatisasi terlalu jauh.

AI yang baik bukan hanya pintar menjawab. AI yang baik juga jelas kapan harus berhenti, kapan harus meminta manusia, dan kapan tindakannya harus dicatat.

Sebelum bisnis menambah AI agent baru, cek dulu satu hal sederhana: apakah tim sudah tahu apa yang boleh dilakukan AI, apa yang wajib dicek manusia, dan siapa yang bertanggung jawab saat hasilnya salah?

Kalau jawabannya belum jelas, mulai dari sana.

Dapatkan Audit Teknis Gratis untuk meninjau proses website, automation, dan penggunaan AI agar lebih aman, terbaca, dan siap berkembang.

---

Sumber referensi berita: TechCrunch