Havedev
AI Bisa Membuktikan Rumus, Tetapi Belum Tentu Memahami Ilmunya
The Core Update
Dua puluh lima matematikawan peraih Fields Medal menandatangani surat terbuka yang mengkritik cara lab AI mengejar penyelesaian problem matematika besar.
Inti kekhawatirannya bukan sekadar apakah AI bisa membantu menemukan bukti baru. Banyak orang di komunitas matematika tentu melihat potensi besar di sana. Jika AI bisa membantu menyelesaikan masalah yang sudah lama terbuka, manfaatnya bisa sangat besar untuk ilmu pengetahuan.
Tetapi masalahnya muncul ketika solusi diumumkan terlalu cepat, belum ditulis dengan rapi, belum diverifikasi, belum jelas kontribusi manusia sebelumnya, dan belum bisa dipahami oleh komunitas yang harus merawat ilmu tersebut.
Dalam berita terbaru, konflik ini makin panas setelah profesor NYU Tristan Buckmaster menuduh OpenAI menekannya agar tidak memberi kredit kepada kolaborator yang bekerja di Anthropic. Ia juga mempertanyakan apakah pekerjaan mereka dengan Codex dipakai untuk menghasilkan bukti besar milik OpenAI.
OpenAI juga menarik sponsor dari sebuah event matematika di CalTech setelah mendapat kritik dari peneliti kampus tersebut.
Di permukaan, ini terlihat seperti konflik antara perusahaan AI dan akademisi matematika. Tetapi sebenarnya, isu ini lebih besar: siapa yang berhak mendapat kredit, bagaimana pengetahuan diverifikasi, dan apakah budaya riset terbuka bisa bertahan ketika lab AI punya modal komputasi sangat besar.
The Reality Check
Kita sering membicarakan AI seolah-olah nilainya hanya ada pada hasil akhir.
Jika model bisa menulis kode, maka pekerjaan developer dianggap selesai. Jika model bisa membuat desain, maka pekerjaan designer dianggap selesai. Jika model bisa menghasilkan bukti matematika, maka pekerjaan matematikawan dianggap selesai.
Pandangan ini terlalu pendek.
Dalam matematika, bukti bukan hanya jawaban. Bukti harus bisa dibaca, diuji, dijelaskan, diajarkan, dikaitkan dengan teori lama, dan dipakai untuk membuka pertanyaan baru. Tanpa itu, hasilnya mungkin terlihat spektakuler, tetapi belum tentu hidup sebagai ilmu.
Hal yang sama juga terjadi di software engineering.
Kode yang berhasil jalan sekali belum tentu menjadi sistem yang sehat. Tim tetap perlu memahami kenapa arsitektur dipilih, bagaimana data bergerak, bagian mana yang rapuh, dan apa risiko ketika sistem berubah. Jika semua keputusan hanya muncul dari output AI tanpa konteks, tim bisa punya banyak kode tetapi kehilangan pemahaman.
Masalah atribusi juga tidak kecil.
Jika seorang peneliti memakai AI assistant untuk mengeksplorasi ide, lalu lab AI memakai pola penggunaan itu untuk melatih model berikutnya, batas kontribusi menjadi kabur. Jika lab besar bisa melihat arah penelitian yang menjanjikan lalu menghabiskan puluhan juta dolar untuk mengejar bukti lebih dulu, insentif riset terbuka bisa berubah menjadi budaya menyimpan rahasia.
Ini bukan hanya masalah matematika.
Setiap bidang yang mengandalkan ide, proses, dan reputasi akan menghadapi pertanyaan yang sama. AI membuat pekerjaan lebih cepat, tetapi juga membuat garis kepemilikan, pemahaman, dan tanggung jawab menjadi lebih sulit dibaca.
Karena itu, pertanyaan pentingnya bukan hanya: apakah AI bisa menghasilkan jawaban?
Pertanyaan yang lebih sehat adalah: apakah manusia masih bisa memahami, memverifikasi, memberi kredit, dan mewariskan jawaban itu dengan benar?
The Havedev Way
Dari sudut pandang Havedev, pelajaran utama dari konflik ini sederhana: automation tidak boleh memutus rantai pemahaman.
Di bisnis, hal serupa sering terjadi dalam bentuk yang lebih praktis. Tim ingin memakai AI untuk membuat konten, membalas chat, merangkum dokumen, menulis kode, membuat laporan, atau mengambil keputusan operasional. Itu masuk akal. Banyak pekerjaan memang bisa dibantu AI.
Tetapi jika prosesnya tidak jelas, AI hanya mempercepat kebingungan.
Sebelum memakai AI untuk pekerjaan penting, bisnis perlu menjawab beberapa hal dasar:
- data apa yang boleh dipakai
- siapa pemilik keputusan akhir
- bagaimana output AI diperiksa
- kapan hasil AI cukup aman untuk dipakai
- kapan manusia wajib masuk
- bagaimana kredit, sumber, dan referensi dicatat
- apa yang harus dilakukan jika AI salah
Tanpa jawaban ini, AI bisa terlihat produktif di awal tetapi menciptakan risiko di belakang. Konten bisa terdengar meyakinkan tetapi tidak akurat. Kode bisa berjalan tetapi sulit dirawat. Laporan bisa terlihat rapi tetapi salah asumsi. Customer support bisa cepat tetapi kehilangan konteks manusia.
AI yang sehat bukan AI yang menggantikan semua proses berpikir. AI yang sehat membantu tim berpikir lebih cepat tanpa menghapus tanggung jawab manusia.
Untuk bisnis, ini berarti jangan mulai dari pertanyaan “tool AI apa yang harus dipakai?” Mulai dari pertanyaan yang lebih dasar: pekerjaan mana yang butuh percepatan, risiko apa yang tidak boleh hilang dari pengawasan, dan siapa yang tetap bertanggung jawab atas hasil akhirnya?
Jika AI dipakai untuk draft, sebutkan bahwa itu draft. Jika AI dipakai untuk analisis, tetap simpan sumber data. Jika AI dipakai untuk kode, tetap lakukan review. Jika AI dipakai untuk keputusan yang berdampak ke pelanggan, buat batas yang jelas kapan manusia harus mengecek.
Konflik antara OpenAI dan matematikawan memberi sinyal penting: semakin kuat AI, semakin penting struktur kerja manusia di sekitarnya.
Bukan karena AI tidak berguna. Justru karena AI makin berguna, bisnis perlu lebih serius menjaga konteks, atribusi, validasi, dan tanggung jawab.
Teknologi bisa mempercepat hasil. Tetapi hasil yang tidak dipahami sulit dipercaya. Hasil yang tidak bisa dijelaskan sulit diwariskan. Hasil yang tidak jelas sumbernya sulit dipertanggungjawabkan.
Sebelum bisnis menyerahkan pekerjaan penting ke AI, cek satu hal sederhana: apakah tim masih tahu bagaimana menilai hasilnya?
Kalau jawabannya belum jelas, mulai dari sana.
Dapatkan Audit Teknis Gratis untuk meninjau alur kerja, data, dan automation AI yang perlu dibuat lebih aman, jelas, dan bisa dipertanggungjawabkan.
Sumber referensi berita: TechCrunch