Robotaxi Tidak Hanya Butuh AI, Robotaxi Butuh Prosedur Saat Kota Tidak Normal

Waymo mengatakan layanan robotaxi di San Francisco sudah kembali berjalan setelah sempat dihentikan sekitar satu jam. Perusahaan menyebut ada penyesuaian sementara saat memantau kondisi lokal akibat pemadaman listrik yang dilaporkan memengaruhi sekitar 7.000 pelanggan PG&E.

Menurut tangkapan layar yang beredar di media sosial, pelanggan mendapat pesan bahwa layanan Waymo sedang dihentikan sementara dan rute freeway tidak tersedia. Setelah itu, Waymo menjelaskan bahwa penghentian dilakukan untuk menilai skala pemadaman dan berkoordinasi dengan pejabat lokal.

Di permukaan, ini bisa terlihat seperti gangguan singkat. Layanan berhenti, kondisi dicek, lalu layanan kembali.

Tetapi bagi bisnis yang sedang membangun produk AI, automation, atau sistem operasional digital, kejadian ini membawa pelajaran yang lebih penting: teknologi pintar tetap harus punya prosedur saat lingkungan di sekitarnya tidak normal.

The Core Update

Waymo tidak mengatakan bahwa sistemnya gagal total. Pernyataan resminya lebih hati-hati: perusahaan membuat penyesuaian sementara sambil memantau kondisi lokal. Setelah publikasi awal berita, Waymo menambahkan bahwa layanan dihentikan sekitar satu jam untuk menilai dampak pemadaman listrik di sebagian besar San Francisco dan berkoordinasi dengan pihak lokal.

Ini keputusan yang masuk akal.

Robotaxi berjalan di dunia nyata. Ia tidak hanya membaca jalan, marka, lampu lalu lintas, pejalan kaki, dan kendaraan lain. Ia juga bergantung pada konteks kota: listrik, komunikasi, kepadatan lalu lintas, kondisi darurat, perubahan rute, dan instruksi otoritas.

Saat listrik padam, kota tidak lagi beroperasi seperti biasa. Lampu lalu lintas bisa terganggu. Arus kendaraan berubah. Manusia bereaksi tidak seragam. Beberapa area bisa macet karena alasan yang tidak terlihat oleh sistem navigasi biasa.

Dalam kondisi seperti ini, berhenti sementara bukan selalu tanda kelemahan. Kadang itu tanda bahwa sistem punya batas operasional yang diakui.

Masalahnya, publik sering menilai AI dari satu pertanyaan sederhana: apakah ia bisa jalan sendiri?

Pertanyaan yang lebih sehat adalah: apakah ia tahu kapan tidak boleh berjalan seperti biasa?

The Reality Check

Banyak pembicaraan tentang kendaraan otonom terlalu fokus pada kemampuan teknis saat kondisi normal. Sensor lebih baik, model lebih pintar, peta lebih detail, dan algoritma lebih matang. Semua itu penting.

Tetapi operasional yang aman tidak hanya ditentukan oleh kemampuan saat semua berjalan rapi.

Nilai sistem justru terlihat saat kondisi berubah: listrik padam, jalan ditutup, acara besar membuat lalu lintas tidak biasa, koneksi terganggu, atau otoritas meminta perubahan alur.

Waymo sendiri pernah menghadapi masalah terkait pemadaman dan kondisi kota yang tidak normal. Sebelumnya, sejumlah kendaraan Waymo dilaporkan berhenti di jalan saat blackout. Insiden lain juga pernah membuat lalu lintas terganggu saat acara kembang api Fourth of July di Golden Gate Bridge.

Karena itu, dorongan regulasi dari pemerintah kota San Francisco juga tidak mengejutkan. Jika kendaraan otonom sudah memakai ruang publik, maka pertanyaannya bukan hanya apakah teknologinya canggih, tetapi bagaimana ia berperilaku saat terjadi insiden besar, baik terencana maupun tidak.

Ini bukan kritik bahwa robotaxi seharusnya sempurna.

Sebaliknya, ini pengingat bahwa sistem otomatis yang sehat harus punya mode darurat, mode degradasi, dan jalur eskalasi manusia.

Banyak bisnis mengalami versi kecil dari masalah yang sama.

Automation dibuat untuk membalas lead, tetapi tidak tahu apa yang harus dilakukan saat data pelanggan tidak lengkap. Dashboard dibuat untuk memantau order, tetapi tidak membedakan order normal dan order yang tertahan karena supplier. AI chatbot dibuat untuk menjawab pelanggan, tetapi tidak punya aturan jelas kapan harus menyerahkan percakapan ke manusia.

Akhirnya sistem terlihat modern saat kondisi normal, tetapi membingungkan saat ada pengecualian.

Di sinilah banyak proyek digital keliru membaca risiko. Mereka bertanya, “Apa yang bisa kita otomatisasi?” tetapi lupa bertanya, “Kapan automation ini harus berhenti, membatasi diri, atau meminta bantuan?”

The Havedev Way

Dari sudut pandang Havedev, pelajaran dari kejadian Waymo bukan hanya tentang robotaxi. Ini tentang desain sistem yang sadar konteks.

AI, automation, dashboard, CRM, dan aplikasi internal tidak cukup hanya punya alur sukses. Sistem juga perlu tahu kondisi tidak normal.

Untuk bisnis, pertanyaan praktisnya sederhana:

• kapan proses otomatis boleh berjalan penuh?
• kapan proses harus dibatasi?
• kapan tim manusia harus diberi notifikasi?
• siapa yang mengambil keputusan saat kondisi tidak biasa?
• status apa yang menunjukkan bahwa pekerjaan sedang masuk mode pengecualian?
• informasi apa yang wajib tersedia sebelum sistem melanjutkan proses?

Tanpa jawaban ini, automation bisa terlihat efisien tetapi rapuh.

Contohnya, sistem follow-up lead bisa mengirim pesan otomatis setiap hari. Tetapi jika pelanggan sudah komplain, automation harus berhenti. Sistem invoice bisa mengirim reminder pembayaran. Tetapi jika invoice sedang disengketakan, reminder otomatis bisa merusak hubungan. Chatbot bisa menjawab pertanyaan umum. Tetapi jika pelanggan menyebut refund, masalah legal, atau keluhan serius, percakapan sebaiknya naik ke tim manusia.

Batas seperti ini tidak membuat sistem menjadi kurang canggih. Justru membuat sistem lebih dapat dipercaya.

Bisnis sering ingin langsung membangun automation yang berjalan end-to-end. Itu wajar. Tetapi sebelum mengejar alur yang sepenuhnya otomatis, lebih sehat untuk memetakan tiga hal dulu.

Pertama, kondisi normal.

Kedua, kondisi pengecualian.

Ketiga, keputusan manusia yang tidak boleh disamarkan sebagai automation.

Waymo menghentikan layanan sekitar satu jam untuk menilai kondisi dan berkoordinasi. Dalam skala robotaxi, itu keputusan operasional. Dalam skala bisnis, prinsipnya sama: sistem yang baik tidak hanya cepat bergerak, tetapi juga tahu kapan harus berhenti sejenak.

AI yang matang bukan AI yang selalu memaksa jalan.

AI yang matang adalah AI yang punya batas, status, dan prosedur saat dunia nyata tidak mengikuti skenario ideal.

Sebelum bisnis menambah automation baru, cek satu hal sederhana: apakah sistem Anda sudah punya jawaban untuk kondisi tidak normal?

Kalau belum, mulai dari sana.

Dapatkan Audit Teknis Gratis untuk meninjau alur website, AI, dan automation bisnis Anda sebelum sistem berjalan terlalu jauh tanpa batas operasional yang jelas.

---

Sumber referensi berita: TechCrunch