Sinar5news- Ciputat – Pukul 21.40, di sebuah rumah di Sukmajaya, Depok, Bu Ratih menutup tab belanja online tanpa menyelesaikan pembayaran. Keranjangnya berisi satu set seprai katun, dua botol sabun cuci, dan sekaleng susu formula untuk anak bungsunya. Ia ragu pada angka totalnya, lalu beralih membuka media sosial. Empat puluh menit kemudian, di sela unggahan teman arisan, muncul iklan: seprai yang sama, kini dengan potongan harga dan tulisan “stok terbatas”. Bu Ratih merasa ditebak. Ia tidak salah. Tetapi yang menebaknya bukan dukun, melainkan model statistik yang bekerja tanpa pernah meminta izinnya.
Mari berhenti menyebutnya “personalisasi” dengan nada kagum. Kata itu terlalu lembut untuk menggambarkan apa yang sebenarnya terjadi: pengawasan komersial yang diubah menjadi keunggulan dagang. Setiap kali kita mengetuk layar, sistem mencatat sinyal—produk yang dilihat, lama menatap satu halaman, keranjang yang ditinggalkan, jam aktif, jenis perangkat, bahkan kecepatan menggulir. Sinyal itu diubah menjadi angka, lalu diumpankan ke model yang telah belajar dari jutaan pola perilaku. Model itu tidak mengenal Bu Ratih sebagai ibu rumah tangga di Depok. Ia hanya tahu bahwa pengguna dengan pola serupa—ragu di malam hari, sensitif harga, berulang membeli kebutuhan anak—punya peluang tinggi menyelesaikan pembelian bila disodori diskon dalam satu jam. Itulah prediksi probabilistik: bukan membaca pikiran, melainkan menghitung peluang dan menekan tombol yang tepat pada saat kita paling lemah.
Di sinilah kejanggalannya. Bu Ratih merasa “dipahami”, padahal ia sedang dikelompokkan dan dieksploitasi. Kehangatan yang ia rasakan adalah hasil optimasi, bukan empati. Dan industri tahu betul cara mengemas pengawasan itu menjadi sesuatu yang terdengar seperti pelayanan. Batas yang Tidak Bisa Dilampaui Mesin Justru karena itu, penting menegaskan apa yang tidak bisa dilakukan algoritma—dan tidak boleh berpura-pura bisa.
Pertama, AI tidak memahami makna, ia hanya mengenali korelasi. Sistem tahu Bu Ratih sering membeli susu formula, tetapi tidak tahu apakah itu untuk anaknya, untuk kerabat, atau karena harga turun.
Kedua, AI buta terhadap konteks yang berubah mendadak. Seseorang yang baru kehilangan pekerjaan, baru melahirkan, atau sedang berduka tidak terbaca sampai perilakunya cukup berubah untuk membentuk pola baru—dan saat itu sering sudah terlambat, atau menyakitkan, seperti iklan perlengkapan bayi yang terus muncul setelah sebuah kehilangan.
Ketiga, AI tidak punya hati nurani. Ia akan mendorong pembelian yang menguntungkan brand sekalipun merugikan konsumen, selama angkanya bagus. Empati, penilaian etis, dan kepekaan atas situasi hidup seseorang berada permanen di luar jangkauan mesin. Persoalannya, banyak brand justru bersembunyi di balik ketidakmampuan ini—“itu cuma algoritma”—untuk lepas tangan dari keputusan yang sebenarnya mereka rancang.
Tiga Kesalahan yang Terus Diulang Brand
Kesalahan pertama: mengira akurasi sama dengan kepercayaan. Brand berlomba menebak setepat mungkin, lalu pura-pura terkejut ketika konsumen merasa risi. Ketika iklan terlalu tepat, orang tidak merasa dilayani, melainkan diintai. Bu Ratih mungkin jadi membeli seprai itu, tetapi diam-diam ia bertanya: dari mana mereka tahu? Satu konversi tidak sebanding dengan kepercayaan yang tergerus.
Kesalahan kedua: menyembunyikan cara kerja sistem. Bahwa harga, urutan produk, hingga label “stok terbatas” sering dipersonalisasi dan direkayasa, jarang diakui terang-terangan. Padahal konsumen Indonesia makin melek. Begitu mereka menemukan harga berbeda untuk barang sama di perangkat berbeda, reaksi baliknya keras—dan wajar.
Kesalahan ketiga, yang paling merusak: menyerahkan keputusan sepenuhnya kepada mesin. Optimasi tanpa pengawasan manusia melahirkan praktik yang melukai—menargetkan orang dalam kondisi rentan, mengejar konsumen yang jelas tak mampu dengan paket cicilan, atau membombardir seseorang dengan pengingat sampai lelah. Algoritma akan terus melakukannya selama angkanya bagus. Membiarkannya berjalan tanpa rem bukan kelalaian teknis, melainkan pilihan bisnis.
Hukum Sudah Ada, Penegakannya yang Belum Yang sering dilupakan dalam perdebatan ini: Indonesia tidak lagi berada di ruang hampa hukum. Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi telah berlaku penuh sejak Oktober 2024, dan ia berbicara langsung pada situasi Bu Ratih. UU PDP mewajibkan persetujuan yang sah dan spesifik sebelum data pribadi diproses, mengharuskan pengendali data menjelaskan tujuan pemrosesan, serta memberi subjek data hak untuk menolak pengambilan keputusan yang sepenuhnya otomatis—termasuk profiling—yang menimbulkan akibat hukum atau dampak signifikan baginya. Dengan kata lain, hak Bu Ratih untuk tidak sekadar menjadi titik data dalam model orang lain sudah dijamin di atas kertas.
Masalahnya, jarak antara teks undang-undang dan praktik di lapangan masih lebar. Persetujuan masih dikemas dalam dinding panjang syarat dan ketentuan yang tak ada yang membaca. Lembaga pengawas data pribadi yang mandiri belum sepenuhnya bekerja dengan gigi yang tajam. Selama penegakan lemah, kewajiban hukum hanya akan menjadi ritual klik “setuju” yang kosong makna—dan brand yang nakal tahu betul celah itu. Kepatuhan sejati menuntut lebih dari sekadar tidak melanggar pasal; ia menuntut brand berhenti memperlakukan persetujuan sebagai formalitas yang bisa diakali.
Kapan Harus Berhenti Menebak
Personalisasi bukan musuh. Bagi Bu Ratih, rekomendasi yang relevan bisa menghemat waktu dan uang.
Persoalannya bukan pada teknologinya, melainkan pada niat di belakangnya dan pada keberanian negara menegakkan batas yang sudah ditetapkannya sendiri. AI memang makin pandai membaca isi kantong kita—pola belanja, batas anggaran, titik ragu. Tetapi isi hati—mengapa kita ragu, apa yang kita takutkan, kapan kita butuh dibiarkan sendiri—itu wilayah yang harus tetap dijaga manusia, bukan diserahkan pada mesin yang hanya pandai menghitung peluang, dan bukan dijual diam-diam tanpa kita sadari.
Brand yang akan bertahan bukan yang paling tepat menebak, melainkan yang paling tahu kapan harus berhenti menebak—dan yang memperlakukan persetujuan konsumen sebagai hak, bukan sebagai kotak centang. ( Red)
