Sebuah sekolah menengah di Pennsylvania menghadapi sorotan publik setelah sejumlah siswa laki-laki diduga menggunakan kecerdasan buatan untuk membuat gambar telanjang palsu dari 59 teman sekelas mereka. Pihak sekolah membela keputusannya untuk tidak segera mengumumkan insiden tersebut kepada orang tua atau pihak berwenang, dengan alasan adanya celah dalam regulasi yang ada.
Insiden ini menyoroti bagaimana teknologi AI semakin mudah diakses oleh remaja untuk tujuan yang merugikan. Aplikasi dan alat generatif gambar kini memungkinkan siapa saja membuat konten sintetis tanpa persetujuan subjek asli. Dalam kasus ini, korban adalah siswa perempuan yang gambarnya dimanipulasi tanpa sepengetahuan mereka.
Celah hukum menjadi sorotan utama. Banyak yurisdiksi di Amerika Serikat belum memiliki undang-undang spesifik yang mengatur pembuatan atau penyebaran deepfake berbasis AI yang bersifat non-konsensual, terutama ketika melibatkan individu di bawah umur. Hal ini membuat penegakan hukum menjadi rumit dan sering kali bergantung pada interpretasi undang-undang yang lebih umum terkait pelecehan atau privasi.
Dampak psikologis terhadap korban bisa sangat signifikan. Penelitian dari berbagai lembaga menunjukkan bahwa korban deepfake sering mengalami kecemasan, depresi, dan gangguan kepercayaan diri yang berkepanjangan. Dalam konteks sekolah, insiden semacam ini juga dapat mengganggu lingkungan belajar dan menciptakan ketidakpercayaan antar siswa.
Sekolah membela posisinya dengan menyatakan bahwa mereka telah mengambil langkah internal untuk menangani pelaku sesuai kebijakan yang berlaku. Namun, kurangnya transparansi awal menimbulkan pertanyaan tentang kesiapan institusi pendidikan dalam menghadapi ancaman teknologi baru. Banyak pakar menekankan perlunya pelatihan khusus bagi staf sekolah mengenai deteksi dan respons terhadap konten AI berbahaya.
Perkembangan teknologi AI generatif terus melaju lebih cepat daripada kerangka regulasi. Tanpa pembaruan hukum yang komprehensif, kasus serupa berpotensi terulang di tempat lain. Komunitas teknologi dan pendidik kini didorong untuk bekerja sama menciptakan pedoman yang lebih jelas guna melindungi privasi individu di era digital.
