Hati-hati Pakai AI Image Generator untuk Foto Anak, Pakar Peringatkan Bahayanya

Perkembangan teknologi kecerdasan buatan atau Artificial Intelligence (AI) kini memudahkan siapa saja untuk membuat dan mengedit foto. Belakangan, tak sedikit orang tua memanfaatkan AI untuk mengubah foto anak menjadi lebih menarik.

Meski terlihat menyenangkan, penggunaan AI terutama image generator untuk foto anak ternyata perlu dilakukan dengan hati-hati. Pasalnya, foto anak yang diunggah ke platform digital berpotensi menimbulkan risiko privasi dan keamanan jika tidak dikelola dengan baik, Bunda.

Dilansir BBC, para ahli telah mendesak orang tua untuk berpikir matang sebelum mengunggah foto anak-anak mereka ke perangkat AI. Peringatan ini muncul karena beberapa orang tua telah menggunakan AI untuk menghilangkan 'watermark' dari foto sekolah agar tidak perlu mengeluarkan biaya apa pun.

"Ini bukan tentang menghindari AI sepenuhnya. Ini tentang memahami apa yang terjadi pada gambar-gambar tersebut setelah diunggah," kata penasihat keamanan dan perlindungan data di South West Grid for Learning, George Martin.

"Orang tua memiliki visibilitas terbatas atas apa yang terjadi pada gambar setelah diunggah. Poin kedua adalah bagaimana gambar tersebut dapat digunakan. Gambar foto seorang anak dapat digunakan untuk melatih model AI," sambungnya.

Perlu diketahui, sebagian besar platform memungkinkan pengguna untuk mengubah pengaturan agar konten yang diunggah tidak digunakan untuk pelatihan, meskipun opsi ini berbeda-beda antar layanan. Menurut Martin, pengaturan pada platform AI dimungkinkan untuk memberikan instruksi agar tidak menggunakan gambar untuk pelatihan model AI.

"Sebagian besar platform AI secara default menggunakan pengaturan tersebut jika memungkinkan, jadi penting untuk memeriksa pengaturan tersebut," ungkapnya.

Peringatan yang sama juga disampaikan dosen senior ilmu komputer di Cardiff School of Technologies, Dr. Simon Thorne. Ia mendesak orang tua agar berhati-hati saat mengunggah gambar yang dapat dikenali.

"Sebagai aturan umum, orang-orang 'seharusnya tidak pernah mengunggah foto pribadi yang dapat dikenali'. Itu ide yang buruk. Itu risiko besar," ujar Thorne.

Menurut Thorne, pengguna AI sering kali tidak memiliki visibilitas yang cukup mengenai bagaimana gambar yang diunggah disimpan atau digunakan kembali. Dataset tak hanya berpotensi bocor secara online, tapi juga bisa dijual tanpa persetujuan.

Risiko penggunaan AI image generator pada anak

Pakar mengatakan bahwa foto yang diunggah secara online sulit dihapus dan dapat digunakan kembali dengan cara yang tidak diharapkan oleh pengguna. Kekhawatiran juga meningkat seiring dengan semakin canggihnya citra yang dihasilkan oleh AI.

Sebuah laporan terbaru yang diterbitkan oleh lembaga amal Internet Watch Foundation, yang berupaya menghentikan pelecehan seksual anak secara daring, menunjukkan bahwa lebih banyak gambar pelecehan seksual anak yang dihasilkan oleh AI ditemukan oleh mereka dalam enam bulan pertama tahun 2026 dibandingkan sepanjang tahun 2025.

"Ini nyata. Dampak dan traumanya nyata. Apa yang akan dipikirkan orang tua jika hal itu terjadi pada anak mereka, ketika mereka mengunggah gambar anak mereka, jika gambar itu muncul dengan cara yang tidak pantas?" kata Martin.

"Begitu gambar itu terpasang, hampir tidak mungkin untuk menghapusnya. Kita tidak bisa. Begitu sudah terpasang, ya sudah."

Martin mengatakan, banyak orang tua mungkin tidak menyadari bahwa setiap foto memiliki metadata tersendiri, terutama foto-foto yang diambil dari fotografer sekolah. Foto itu berisi informasi tentang lokasi pengambilan foto, dan mungkin juga informasi tentang sekolah.

"Metadata tersebut kemudian dapat digunakan oleh pihak lain yang juga menerapkan AI untuk menemukan sejumlah besar informasi tentang anak dalam foto tersebut, bahkan di mana mereka bersekolah. Ada pihak-pihak yang dapat memanfaatkan informasi tersebut," ujar Martin.

"Jika jatuh ke tangan yang salah, gambar-gambar itu dapat disalahgunakan dan diubah fungsinya untuk menciptakan materi pelecehan seksual anak yang sintetis," sambungnya.

Temuan tersebut juga diungkap dalam penelitian yang dilakukan oleh organisasi nirbala LAION, pada tahun 2024. Penelitian menemukan bahwa dalam banyak kasus, identitas anak yang diambil dari tautan foto di AI mudah dilacak, termasuk informasi tentang kapan dan di mana anak tersebut berada pada saat foto mereka diambil.

Risiko privasi ini membuka jalan bagi bahaya yang lebih lanjut, Bunda. Pasalnya, pelatihan menggunakan foto anak-anak sungguhan telah memungkinkan model AI untuk menciptakan klon yang meyakinkan.

Sekarang, semua anak yang foto atau videonya diunggah daring akan berisiko. Seseorang dapat mencuri kemiripan seseorang dan menggunakan AI untuk membuatnya tampak seolah-olah mereka mengatakan atau melakukan hal-hal yang tidak pernah mereka katakan atau lakukan.

Apa yang harus dilakukan orang tua sebelum mengunggah foto ke AI?

Orang tua perlu menciptakan perlindungan maksimal sebelum memakai AI image generator untuk mengedit atau mengunggah foto anak. Berikut beberapa rekomendasi ahli untuk orang tua sebelum mengunggah foto anak ke AI:

• Memeriksa apakah gambar yang diunggah digunakan untuk melatih model AI
• Periksa pengaturan privasi sebelum mengunggah foto
• Hindari gambar yang menampilkan seragam sekolah, lencana, atau lokasi.
• Menghapus metadata jika memungkinkan
• Memahami apakah gambar disimpan secara lokal atau di server cloud.

Demikian risiko menggunakan AI image generator untuk foto anak, serta cara melindungi anak dari risiko ini. Semoga informasi ini bermanfaat ya, Bunda.

Bagi Bunda yang mau sharing soal parenting dan bisa dapat banyak giveaway, yuk join komunitas HaiBunda Squad. Daftar klik di SINI. Gratis!