Microsoft membatasi akses ke alat pengenalan wajah dalam perbaikan etika AI | pengenalan wajah

Microsoft merevisi pedoman etika untuk kecerdasan buatan dan tidak akan lagi mengizinkan perusahaan menggunakan teknologinya untuk menyimpulkan hal-hal seperti emosi, jenis kelamin, atau usia menggunakan teknologi pengenalan wajah, kata perusahaan itu.

Sebagai bagian dari “standar AI yang bertanggung jawab” baru, Microsoft bermaksud untuk “menjaga orang dan tujuan mereka sebagai inti dari keputusan desain sistem.” Prinsip-prinsip tingkat tinggi akan mengarah pada perubahan nyata dalam praktik, kata perusahaan, karena beberapa fitur diubah dan yang lainnya ditarik dari penjualan.

Misalnya, layanan Azure Face Microsoft adalah alat pengenalan wajah yang digunakan oleh perusahaan seperti Uber sebagai bagian dari proses verifikasi identitas mereka. Sekarang, setiap perusahaan yang ingin menggunakan kemampuan pengenalan wajah layanan harus secara aktif meminta penggunaan, termasuk yang telah mengintegrasikannya ke dalam produk mereka, untuk menunjukkan bahwa mereka memenuhi standar etika AI Microsoft dan bahwa kemampuan tersebut akan menguntungkan Perusahaan pengguna akhir.

Bahkan perusahaan yang diberikan akses tidak akan lagi dapat menggunakan beberapa fitur Azure Face yang lebih kontroversial, kata Microsoft, dan perusahaan akan menghentikan teknologi analisis wajah, yang dimaksudkan untuk menyimpulkan keadaan dan atribut emosional seperti jenis kelamin atau usia.

“Kami bekerja dengan peneliti internal dan eksternal untuk memahami keterbatasan dan potensi manfaat dari teknologi ini dan untuk menemukan kompromi,” kata Sarah Bird, manajer produk di Microsoft. “Khususnya dalam kasus klasifikasi emosi, upaya ini telah menimbulkan pertanyaan penting tentang privasi, kurangnya konsensus tentang definisi ‘emosi’, dan ketidakmampuan untuk menggeneralisasi hubungan antara ekspresi wajah dan keadaan emosional di seluruh kasus penggunaan.”

Microsoft tidak menghapus pengenalan emosi sepenuhnya — perusahaan akan terus menggunakannya secara internal untuk alat aksesibilitas seperti Melihat AI, yang mencoba menggambarkan dunia secara verbal untuk pengguna dengan masalah penglihatan.

Demikian pula, perusahaan telah membatasi penggunaan teknologi ucapan saraf khusus, yang memungkinkan pembuatan suara sintetis yang terdengar hampir identik dengan sumber aslinya. “Sangat…mudah untuk membayangkan bagaimana itu bisa digunakan untuk menyamar sebagai pembicara secara tidak benar dan menipu pendengar,” kata Natasha Crampton, pimpinan AI perusahaan tersebut.

Awal tahun ini, Microsoft mulai menandai suara sintetisnya dengan watermark, membuat variasi yang halus dan tidak terdengar ke dalam output, yang berarti perusahaan dapat mengetahui kapan rekaman dibuat menggunakan teknologinya. “Seiring kemajuan teknologi TTS saraf, membuat ucapan sintetis tidak dapat dibedakan dari suara manusia, ada risiko deepfake yang berbahaya,” kata Qinying Liao dari Microsoft.