DailyMail.com mendapat permintaan maaf yang menyeramkan dari Facebook

Facebook telah mengeluarkan permintaan maaf publik kepada DailyMail.com dan MailOnline karena menambahkan tag “primata” yang dihasilkan AI ke video berita situs web yang menampilkan jantan kulit hitam.

Seorang juru bicara Facebook mengakui kesalahan itu “tidak dapat diterima” pada hari Sabtu, mengatakan kepada DailyMail.com: “Kami meminta maaf kepada siapa pun yang mungkin telah melihat rekomendasi ofensif ini dan kepada Daily Mail karena kontennya ada di sana. dikirimkan”.

“Ini adalah kesalahan algoritmik di Facebook dan tidak mencerminkan isi pesan Daily Mail,” perusahaan itu mengakui.

Masalahnya adalah video berita Mail yang diposting ke Facebook pada 27 Juni 2020 yang menunjukkan seorang pria kulit putih muncul untuk melecehkan seorang pria kulit hitam dan memanggil polisi untuk melawannya.

Masalahnya adalah video berita yang diposting DailyMail.com ke Facebook pada 27 Juni, yang menunjukkan seorang pria kulit putih tampak melecehkan seorang pria kulit hitam. CEO Facebook Mark Zuckerberg terlihat di atas

Meskipun video tersebut tidak ada hubungannya dengan monyet atau primata lainnya, permintaan yang dihasilkan oleh AI Facebook bertanya kepada pemirsa apakah mereka ingin “terus melihat video primata”, yang menakutkan dan menyinggung pengguna jejaring sosial.

Awalnya, Facebook tidak memberi tahu Mail tentang kesalahannya saat ditemukan oleh Waktu New York, dan pernyataan raksasa media sosial itu kepada The Times tidak menegaskan bahwa Facebook menambahkan tag ofensif ke pos Mail.

Facebook sekarang telah menonaktifkan algoritma rekomendasi yang cacat.

“Ini jelas merupakan kesalahan yang tidak dapat diterima di Facebook dan kami mematikan seluruh fitur rekomendasi topik segera setelah kami menyadari ini terjadi sehingga kami dapat menyelidiki penyebabnya dan mencegahnya terjadi lagi,” kata juru bicara Facebook di DailyMail.com.

“Seperti yang kami katakan, meskipun kami telah membuat peningkatan pada AI kami, kami tahu itu tidak sempurna dan kami masih memiliki beberapa cara untuk pergi,” tambah perusahaan itu.

Facebook telah dikritik di masa lalu karena sistem AI-nya dan dugaan bias terhadap orang kulit berwarna.

Studi menunjukkan sistem pengenalan wajah lebih sulit mengidentifikasinya, yang mengarah ke insiden di mana orang kulit hitam didiskriminasi atau ditangkap karena algoritme AI yang bias.

Label ofensif algoritma AI Facebook yang diterapkan pada video Mail menarik reaksi keras, dengan banyak yang mengkritik perusahaan media sosial itu karena tidak memantau teknologi otomatisnya.

“Bajingan ini benar-benar harus dihentikan,” cuit Charles Onyango-Obbo, jurnalis dan mantan editor Mail & Guardian Africa di Johannesburg.

“Setiap hari kami melihat batasan, prasangka, dan kekonyolan hanya mengandalkan AI. Namun, kami terus membiarkan diri kami menjadi kelinci percobaan, ”tweet reporter keamanan siber New York Times Nicole Perlroth.

Kate Conger, reporter teknologi untuk New York Times, menulis: “Fakta bahwa ini telah terjadi di beberapa perusahaan teknologi besar mengatakan banyak tentang bagaimana AI dibangun.”

“Facebook sedang mengatur ulang ‘berapa hari sejak kami melakukan sesuatu yang rasis’,” tweet orang lain.

Sean C. Griffith, seorang pengacara, menulis bahwa kecerdasan buatan “biasanya memiliki banyak masalah, dan perusahaan teknologi sering melewatkan masalah terkait ras karena mereka mempekerjakan sangat sedikit orang kulit hitam.”

“Misalnya, pengembang Black #AI mungkin akan mengambil yang ini,” katanya.