SmokersWorld
—
Fitur AI baru yang paling menarik dari Microsoft menimbulkan kekhawatiran itu berpotensi disalahgunakan tangan yang salah.
Minggu ini, perusahaan memamerkan alat baru yang disebut Recall untuk komputer Windows yang bertindak sebagai “mesin waktu” pribadi, yang memungkinkan pengguna dengan cepat melihat apa pun yang pernah ada di layar, seperti dokumen, gambar, dan situs web. Ini berbeda dengan pencarian kata kunci; alat ini secara teratur menyimpan tangkapan layar layar pengguna dan menyimpannya langsung di perangkat. Kemudian menggunakan AI untuk memproses data dan membuatnya dapat dicari.
Misalnya, jika seseorang sebelumnya menelusuri gaun hijau atau nama toko es krim setempat, mereka dapat meminta fitur tersebut untuk “mengingat” apa pun dalam riwayat mereka yang ditampilkan di layar.
Meskipun penelusuran semantik merupakan langkah maju yang besar bagi AI, hal ini terjadi pada saat industri bergerak begitu cepat dan regulator pemerintah, perusahaan, dan konsumen masih memikirkan cara menggunakan teknologi tersebut secara bertanggung jawab.
Jen Golbeck – seorang profesor AI di Universitas Maryland yang berfokus pada privasi – mengatakan fitur penarikan dapat menimbulkan potensi “mimpi buruk” jika perangkat jatuh ke tangan yang salah.
“Hal-hal mungkin tetap ada di perangkat Anda, tapi itu tidak berarti orang tidak bisa mengaksesnya,” katanya. “Anda tidak akan memiliki pilihan untuk melindungi diri Anda sendiri meskipun Anda menggunakan mode penyamaran atau menghapus riwayat Anda karena alat tersebut memiliki akses ke semua yang ada di layar Anda.”
Regulator independen Inggris untuk Perlindungan Data dan Kebebasan Informasi, Kantor Komisaris Informasi (ICO), mengatakan kepada SmokersWorld bahwa mereka sedang menyelidiki alat tersebut “untuk memahami perlindungan yang diterapkan untuk melindungi privasi pengguna.”
“Kami mengharapkan organisasi untuk transparan kepada pengguna tentang bagaimana data mereka digunakan dan hanya memproses data pribadi sejauh diperlukan untuk mencapai tujuan tertentu,” kata ICO dalam sebuah pernyataan.
Microsoft tidak segera menanggapi permintaan komentar. kata CEO Satya Nadella The Wall Street Journal dalam sebuah wawancara menjelang peluncuran hari Senin bahwa pencarian web hanya boleh dilakukan di browser web Microsoft Edge dan tangkapan layar tidak boleh meninggalkan komputer pengguna.
“Anda harus menyatukan dua hal: Ini komputer saya dan ini Recall saya – dan semuanya dilakukan secara lokal,” katanya.
Geoff Blaber, CEO firma riset pasar CCS Insight, mengatakan hal ini membuat masalah ini tidak terlalu mengkhawatirkan.
“Penolakan beberapa orang terhadap fitur ini tidak mengejutkan, namun ini merupakan reaksi berlebihan mengingat data hanya ada di perangkat dan pengguna memiliki kendali penuh,” kata Blaber.
Seseorang dapat memutuskan apakah akan mengaktifkan fitur tersebut selama proses pengaturan perangkat dan dapat menyesuaikan serta memasukkan daftar hitam aplikasi dan situs web mana yang dapat diakses oleh Recall.
“Kontrol ini menunjukkan bahwa fitur tersebut dibuat dengan keamanan dan privasi sebagai intinya,” katanya. “Penarikan kembali tidak akan menarik bagi semua orang, namun manfaat yang diberikan kemungkinan besar akan signifikan.”
Namun Golbeck menyebutkan saat-saat ketika perlindungan itu mungkin tidak cukup, seperti jurnalis di negara yang tidak bersahabat, seseorang yang mencoba keluar dari hubungan yang penuh kekerasan, seseorang yang mencari informasi medis sensitif, atau karyawan yang atasannya ingin melacak mereka. Dia yakin permasalahan seputar alat ini kemungkinan besar akan berdampak paling besar pada tempat kerja.
“Kami tahu bahwa pekerjaan memantau apa yang kami lakukan di perangkat mereka, namun banyak orang akan melakukan hal-hal pribadi di komputer kerja mereka dan semua itu akan diarsipkan dan terlihat oleh departemen TI, bahkan jika itu hanya tetap berada di perangkat, ” dia menambahkan.
Golbeck mengatakan teknologi, meskipun memiliki manfaat, sering kali dikembangkan tanpa mempertimbangkan penggunaan yang berbahaya.
“Apa yang kami lihat selama 15 tahun terakhir adalah setiap potensi kasus penggunaan berbahaya tersebut membuahkan hasil dalam beberapa cara,” katanya. “Orang-orang ingin menggunakan fitur keren ini tanpa memahami risiko privasi – bahwa akan ada catatan permanen atas semua yang Anda lakukan.”
Reaksi serupa terhadap fitur-fitur seperti kata sandi biometrik, seperti sidik jari, pengenalan wajah, dan pemindaian iris mata, telah muncul di masa lalu. Blaber mengatakan untuk mengatasi beberapa kekhawatiran awal, Microsoft dan mitranya perlu membuktikan nilai, keamanan, dan privasi produk di dunia nyata.
Namun, Michela Menting, direktur riset senior di ABI Research, yakin fitur tersebut merupakan “langkah mundur” dalam hal privasi.
“Argumen bahwa peretas membutuhkan akses fisik bahkan untuk dapat memanipulasi Recall adalah pandangan yang sempit karena ada banyak cara yang sangat cerdik untuk mengeksploitasi alat yang sangat berharga ini,” katanya. “Yang diperlukan hanyalah waktu dan upaya untuk menemukan jalan.”
