Laman The Verge, Sabtu (9/3) mengutip laporan polisi yang mengatakan bahwa dua anak laki-laki, berusia 13 dan 14 tahun, dituduh menggunakan aplikasi AI yang tidak disebutkan namanya untuk membuat gambar-gambar eksplisit dari wajah siswa-siswa lain yang berusia antara 12 dan 13 tahun.
Mereka didakwa dengan tindak pidana tingkat tiga di bawah undang-undang Florida tahun 2022 yang mengkriminalisasi penyebaran gambar-gambar eksplisit secara seksual tanpa persetujuan korban.
Baca juga: Pengaturan komprehensif soal AI penting lindungi hak karya cipta media
Insiden ini mungkin merupakan kasus pertama di AS yang melibatkan tuduhan kriminal terkait gambar telanjang yang dihasilkan oleh AI.
Media lokal melaporkan kejadian tersebut setelah para siswa di Pinecrest Cove Academy di Miami, Florida, diskors pada tanggal 6 Desember 2023, dan kasus tersebut dilaporkan ke Departemen Kepolisian Miami-Dade. Mereka ditangkap pada tanggal 22 Desember.
Anak di bawah umur yang membuat gambar telanjang temannya hasil ciptaan AI generatif telah menjadi masalah yang semakin umum di distrik sekolah di AS. Namun, di luar insiden di Florida, belum terdengar yang berujung pada penangkapan.
Baca juga: Wamenkominfo ingatkan bahaya "deepfake" sebarkan kekacauan informasi
Saat ini tidak ada undang-undang federal yang membahas deepfake telanjang tanpa persetujuan, yang membuat negara-negara bagian menangani dampak AI generatif pada masalah materi pelecehan seksual anak, deepfake tanpa persetujuan, atau pornografi balas dendam dengan cara mereka sendiri.
Musim gugur lalu, Presiden Joe Biden mengeluarkan perintah eksekutif tentang AI yang meminta laporan dari berbagai lembaga tentang pelarangan penggunaan AI generatif untuk memproduksi materi pelecehan seksual anak.
Kongres belum mengesahkan undang-undang tentang pornografi deepfake, tetapi hal itu mungkin akan segera berubah. Baik Senat dan DPR memperkenalkan undang-undang, yang dikenal sebagai DEFIANCE Act of 2024, minggu ini, dan upaya tersebut tampaknya mendapat dukungan bipartisan.
Baca juga: India ingatkan FB dan YouTube tegakkan aturan tanggulangi deepfake
Penerjemah: Pamela Sakina
Editor: Siti Zulaikha
