Apple membuat fitur pendeteksi gambar pelecehan seksual

Apple mengatakan bahwa dalam waktu dekat, iPhone dan iPad bakalan bisa mendeteksi gambar yang mengandung pelecehan seksual anak dan melaporkannya ketika file tersebut diunggah ke penyimpanan online yang ada di Amerika Serikat.

"Kami ingin melindungi anak-anak dari predator seksual yang memanfaatkan alat komunikasi untuk merekrut serta mengeksploitasi mereka, dan membatasi penyebaran materi pelecehan seksual anak,” kata Apple dalam sebuah posting online.

Fitur pemantauan CSAM

Teknologi baru yang ditemukan para programer perusahaan dari negeri Paman Sam tersebut memungkinkan perangkat lunak memberi daya pada perangkat seluler Apple untuk mencocokkan foto di ponsel pengguna dengan database gambar CSAM (Child Sexual Abuse Material) yang disediakan oleh organisasi keselamatan anak, kemudian menandai gambar saat diunggah ke penyimpanan online iCloud Apple.

Fitur pemantauan gambar baru yang dimiliki Apple sendiri merupakan bagian dari serangkaian perangkat yang menuju ke perangkat seluler Apple. Aplikasi SMS dan perpesanan Apple, akan menggunakan machine learning untuk mengenali dan memperingatkan anak-anak dan orang tua mereka saat menerima atau mengirim foto seksual.

"Saat menerima konten berbau pelecehan seksual, foto yang diterima pengguna akan diburamkan, anak - anak akan mendapatkan notifikasi peringatan. Sebagai tindakan pencegahan tambahan, anak juga mendapat pemberitahuan kepastian keamanan, orang tua mereka akan mendapatkan pesan jika mereka melihatnya,” kata Apple.

Fitur penerimaan pesan

Pesan akan menggunakan machine learning pada perangkat untuk menganalisis gambar yang dilampirkan pada sebuah pesan untuk menentukan apakah isinya mengandung konten seksual atau tidak.

Asistensi dari Siri

Sementara itu, Siri, sang Assisten pribadi Apple akan akan diajari untuk "mengintervensi" jika pengguna mencoba mencari topik yang terkait dengan pelecehan seksual anak.

Selain IOS, fitur tersebut juga akan diaplikasikan kepada sistem operasi komputer Mac terbaru.

Ditentang Pegiat Hak Digital

Sayangnya, langkah perusahaan yang diidirikan Steve Job ini ditentang oleh beberapa organisasi yang peduli dengan persoalan privasi. Beberapa organisasi mengatakan bahwa perubahan pada sistem operasi Apple tersebut berpotensi menciptakan "back door" potensial ke dalam gadget yang dapat dieksploitasi oleh pemerintah atau kelompok lain.

India McKinney dan Erica Portnoy, para pegiat hak digital, Electronic Frontier Foundation mengatakan dalam sebuah postingnya bahwa "kompromi yang dilakukan Apple pada enkripsi end-to-end mereka menenangkan lembaga pemerintah di Amerika Serikat dan luar negeri, tetapi ini merupakan kejutan bagi pengguna yang selama ini mengandalkan Apple dalam privasi dan keamanan."

Sementara, Greg Nojeim dari Pusat Demokrasi dan Teknologi di Washington, Amerika Serikat, mengatakan bahwa "Apple mengganti sistem pesan terenkripsi end-to-end-nya dengan infrastruktur pengawasan dan penyensoran." Hal Ini, akan membuat pengguna "rentan terhadap penyalahgunaan dan penggelapan lingkup tidak hanya di Amerika Serikat, tetapi di seluruh dunia,” tambah Greg.

"Apple harus mengabaikan perubahan ini dan mengembalikan kepercayaan penggunanya pada keamanan dan integritas data mereka di layanan Apple."

Namun, Apple membantah tuduhan tersebut dan mereka menyebutkan bahwa proses “pemeriksaan” yang dimaksud tidak akan memiliki akses langsung ke gambar dan menekankan langkah-langkah yang diambil untuk melindungi privasi dan keamanan.

Raksasa teknologi yang berbasis di Silicon Valley itu mengatakan pencocokan foto akan "didukung oleh teknologi kriptografi" untuk menentukan "apakah ada kecocokan tanpa mengungkapkan hasilnya," kecuali jika gambar yang ditemukan mengandung konten pelecehan seksual anak. Selanjutnya, Apple akan melaporkan gambar tersebut ke National Center for Missing and Exploited Children, yang bekerja dengan polisi.