San Francisco baru saja mengambil langkah tegas terhadap Apple dan Google. Pemerintah kota meminta kedua raksasa teknologi itu segera menghapus aplikasi berbasis AI yang bisa ‘membuka pakaian’ foto orang dari toko aplikasi mereka. Perintah ini datang langsung dari jaksa agung setempat yang menyoroti bagaimana platform digital selama ini dianggap ikut meraup keuntungan dari konten bermasalah.
Aplikasi semacam ini biasanya memanfaatkan kecerdasan buatan untuk memodifikasi gambar secara otomatis. Pengguna tinggal mengunggah foto, lalu hasilnya langsung muncul dalam versi tanpa busana. Meski terdengar seperti fitur lucu di permukaan, banyak pihak khawatir teknologi ini sering disalahgunakan untuk pelecehan atau pembuatan konten tanpa izin.
Dari sisi bisnis, Apple dan Google memang mengambil persentase dari setiap transaksi yang terjadi di app store mereka. Ketika aplikasi nudify ini masih beredar, tentu ada aliran pendapatan yang masuk ke kantong perusahaan. San Francisco menilai hal ini tidak bisa dibiarkan begitu saja karena melibatkan eksploitasi gambar pribadi orang lain.
Salah satu analisis yang muncul adalah soal tanggung jawab platform dalam mengawasi alat AI. Banyak pengembang kecil yang merilis aplikasi semacam ini dengan cepat, sementara proses review di app store kadang tidak langsung menangkap potensi penyalahgunaan. Ke depan, perusahaan teknologi mungkin perlu memperketat kriteria moderasi khusus untuk fitur AI yang menyentuh aspek tubuh dan privasi.
Analisis lainnya berkaitan dengan dampak sosial yang lebih luas. Korban dari teknologi ini biasanya perempuan, dan gambar yang dihasilkan bisa tersebar luas di internet tanpa bisa dihapus sepenuhnya. Tekanan dari pemerintah daerah seperti San Francisco bisa menjadi sinyal bagi regulator lain di berbagai negara untuk mulai mengevaluasi ulang kebijakan app store terkait konten berbasis AI.
Di sisi pengguna, fenomena ini juga menunjukkan betapa mudahnya teknologi canggih sekarang diakses oleh siapa saja. Yang tadinya membutuhkan keahlian khusus dalam pengolahan gambar, kini cukup dengan beberapa klik di ponsel. Hal ini membuat isu consent menjadi semakin rumit karena batas antara hiburan dan pelanggaran hak pribadi semakin tipis.
Langkah San Francisco ini kemungkinan akan memicu diskusi lebih luas di kalangan pembuat kebijakan teknologi. Apple dan Google sendiri biasanya merespons permintaan pemerintah dengan cukup cepat, terutama jika menyangkut reputasi dan potensi denda. Ke depannya, kita mungkin akan melihat lebih banyak kota atau negara yang mengikuti jejak serupa dalam mengatur aplikasi AI yang berpotensi merugikan.
Secara keseluruhan, kasus ini mengingatkan bahwa perkembangan AI tidak hanya soal inovasi, tapi juga soal bagaimana kita mengelola dampaknya terhadap masyarakat. Perusahaan teknologi dituntut lebih proaktif, bukan hanya menunggu perintah dari regulator.
