Peneliti AI Membuat ‘Privacy Filter’ yang Dapat Mengacaukan Teknologi Pengenalan Wajah

Para peneliti Universitas Toronto telah merancang suatu algoritma untuk mengacaukan teknologi pengenalan wajah.

Photo by Sergei KonkovTASS via Getty Images

Beberapa bulan terakhir kita diramaikan dengan hal – hal yang berhubungan dengan keamanan dan privasi data, terutama diwujudkan sebagai reaksi terhadap berita tentang taktik pengumpulan data Cambridge Analytica dan kesaksian CEO Facebook Mark Zuckerberg di hadapan senat AS.

Salah satu bentuk utama data muncul dari teknologi pengenalan wajah, yang menggunakan algoritma untuk mengidentifikasi kita berdasarkan poin fitur wajah. Setiap kali Anda mengunggah foto ke Facebook, Instagram, atau lainnya, Anda memberi learning system ini titik data lain di sekitar wajah Anda – dan siapa pun yang ada di gambar bersama Anda – serta metadata seperti jenis dan lokasi ponsel.

Untuk mengatasi masalah ini, para peneliti di University of Toronto, yang dipimpin oleh Profesor Parham Aarabi dan mahasiswa pascasarjana Avishek Bose, telah mengembangkan suatu algoritma untuk secara dinamis mengacaukan teknologi ini.

Bagaimana cara kerja persisnya? Sesuatu yang disebut ‘adversarial training’, yang pada dasarnya membentuk dua algoritma yang bekerja melawan satu sama lain. Aarabi dan Bose membuat dua neural network – satu yang dihadapi ID wajah, yang lain yang mengacaukan dari tujuan yang telah ditetapkan. Keduanya saling belajar, dan efek akhrinya adalah keduanya menjadi lebih baik.

“AI yang mengganggu dapat ‘menyerang’ apa yang diperlukan neural network untuk mendeteksi wajah,” kata Bose dalam sebuah wawancara dengan Eureka Alert. “Jika deteksi AI mencari sudut mata, misalnya, menyesuaikan sudut mata sehingga mereka kurang terlihat. Ini menciptakan kekacauan yang sangat halus dalam foto, tetapi untuk detektor mereka cukup signifikan untuk menipu sistem. ”

Apa artinya ini dalam praktek adalah bahwa pengguna dapat menggunakan filter (seperti yang umum visual di Instagram atau Snapchat) yang mengubah piksel tertentu dalam gambar yang tidak terlihat oleh mata manusia, tetapi menghilangkan teknologi pengenalan wajah yang terkenal.

Dalam sebuah penelitian terhadap lebih dari 600 wajah yang berkisar dalam etnis, pencahayaan, dan lingkungan, sistem ini mampu mengurangi wajah yang dapat dideteksi dari 100 persen menjadi 0,5 persen.

Tim akan mempresentasikan studi mereka di 2018 IEEE International Workshop pada Multimedia Signal Processing musim panas ini, dan setelah itu mereka berharap untuk membuat filter tersedia secara publik melalui aplikasi atau situs web.

“Sepuluh tahun yang lalu algoritma ini harus didefinisikan manusia, tetapi saat ini neural network belajar sendiri – Anda tidak perlu memberikan mereka apa pun kecuali data latih,” kata Aarabi. “Pada akhirnya mereka dapat melakukan beberapa hal yang sangat menakjubkan. Ini adalah waktu yang sangat menarik di lapangan, ada potensi yang sangat besar.”

Penulis: Jesse Damiani

Sumber: https://www.forbes.com/sites/jessedamiani/2018/05/31/ai-researchers-create-privacy-filter-that-disrupts-facial-recognition-technology/#50e64d5f6d96