TEMPO.CO, Jakarta - Apple dilaporkan telah menghapus tiga aplikasi dari App Store yang diiklankan sebagai “generator seni” namun mempromosikan aplikasi itu di Instagram dan situs dewasa dengan klaim bahwa aplikasi tersebut dapat “menelanjangi gadis secara gratis.”
Dilansir dari 404 Media, aplikasi-aplikasi ini mengeksploitasi AI untuk membuat gambar telanjang palsu dari individu yang mengenakan pakaian. Gambar yang dihasilkan dari aplikasi ini dapat digunakan untuk pelecehan, pemerasan, dan pelanggaran privasi.
Yang mengkhawatirkan adalah tanggapan Apple muncul setelah 404 Media membagikan tautan ke aplikasi dan iklan mereka. Anehnya, aplikasi ini telah tersedia di App Store sejak 2022.
Laporan tersebut juga menunjukkan bahwa aplikasi-aplikasi ini awalnya diizinkan untuk tetap berada di App Store jika mereka menghapus iklan dari situs dewasa. Namun, salah satu aplikasi tersebut menjalankan iklan hingga 2024, ketika Google menariknya dari Play Store.
Apple kini akhirnya memutuskan untuk menghapusnya dari App Store. Insiden ini terjadi pada saat yang sensitif bagi Apple karena ajang WWDC 2024 sudah dekat dan perusahaan diperkirakan akan membuat pengumuman AI besar-besaran untuk iOS 18 dan Siri.
Apple telah secara aktif membangun reputasi untuk pengembangan AI yang bertanggung jawab, bahkan sampai melisensikan data pelatihan secara etis. Sementara itu, persaing Apple seperti Google dan OpenAI menghadapi tuntutan hukum karena diduga menggunakan konten berhak cipta untuk melatih sistem AI mereka.
Pilihan Editor: Apple Kebut Pengembangan AI Model Bahasa Besar untuk Iphone
