Investasikan dalam AI dengan hati nurani, berita teknologi & berita utama

Start-up lokal BasisAI sedang mempersiapkan kolaborasi regional dengan kecerdasan buatan yang “bertanggung jawab” berdasarkan kolaborasi dengan Facebook dan Infocomm Media Development Authority (IMDA).

Solusi pembelajaran mesin Bedrock BasisAI berfungsi sebagai auditor dunia maya untuk algoritme AI dengan membuat proses pengambilan keputusan mereka lebih transparan dan membantu ilmuwan data mengidentifikasi kapan algoritme mungkin bias secara tidak adil.

Perusahaan tersebut baru-baru ini bermitra dengan Facebook dan IMDA untuk membantu 12 lebih banyak startup di wilayah Asia-Pasifik prototipe algoritma AI yang etis dan efisien dalam program enam bulan yang berakhir bulan lalu.

Program ini adalah bagian dari inisiatif Open Loop Facebook, yang bertujuan untuk bekerja dengan pembuat kebijakan dan perusahaan teknologi di seluruh dunia untuk mengembangkan kerangka kerja regulasi untuk teknologi baru seperti AI.

BasisAI telah menjalin kemitraan dengan salah satu dari 12 perusahaan rintisan – Nodeflux start-up visi komputer Indonesia – untuk lebih mengembangkan kemampuan menjelaskan algoritma pengenalan wajah dan pengenalan objek yang terakhir.

“Kami benar-benar ingin bermitra dengan perusahaan layanan keuangan, perawatan kesehatan, dan transportasi yang ambisius di wilayah ini,” kata Liu Fengyuan, CEO BasisAI.

“Kami melihat kesadaran sosial yang lebih besar dari AI yang bertanggung jawab, dan saya pikir lebih banyak perusahaan sekarang khawatir tentang risiko reputasi dari mengadopsi AI, yang merupakan kotak hitam.”

Misalnya, pada Agustus tahun lalu, Kantor Pusat Inggris meninggalkan algoritme AI kontroversial yang digunakan untuk memproses aplikasi visa imigran setelah para aktivis mengklasifikasikan algoritme tersebut sebagai “rasis” karena diduga lebih memilih kebangsaan tertentu daripada yang lain.

Kantor Pusat tidak memberikan penjelasan tentang bagaimana alat AI-nya bekerja pada saat itu, dan algoritme tersebut dibatalkan seminggu sebelum peninjauan ruang sidang atas pengambilan keputusannya.

AI yang bertanggung jawab juga menjadi pusat dari perselisihan yang sedang berlangsung antara Google dan karyawannya yang menyebabkan kepergian dua peneliti AI terkemuka.

“Contoh paling sederhana dari AI yang bertanggung jawab adalah tab (Tab) Netflix ‘Because You Were Watching’ yang memberi tahu Anda karena Anda menonton Wonder Woman, jadi kami merekomendasikan acara lain ini,” kata Liu.

“Ini menghilangkan beberapa faktor creep ketika Anda diberi tahu (riwayat menonton Anda) bahwa ini adalah salah satu alasan utama Anda diperlihatkan rekomendasi ini, bukan karena sesuatu yang lain sedang dikejar.”

Bedrock diperkenalkan pada Juni tahun lalu, kurang dari dua tahun setelah Liu mendirikan BasisAI dengan saudara kembar Linus dan Silvanus Lee pada 2018.

Tn. Liu sebelumnya adalah direktur Departemen Ilmu Data dan AI di Badan Teknologi Pemerintah, sementara dua rekan pendiri yang berbasis di AS bertugas dalam peran ilmu data di Twitter, Uber, dan Dropbox.

Perusahaan saat ini bekerja sama dengan DBS Bank, Accenture dan PwC, antara lain.

Liu mempertanyakan anggapan bahwa mengembangkan AI yang bertanggung jawab adalah langkah ekstra yang membutuhkan upaya ekstra.

“Jika Anda tidak melakukan apa-apa, Anda harus melakukan audit untuk menggali email dan semua itu,” katanya.

“Tapi jika Anda memeriksa kode saat Anda bekerja di (Bedrock), itu melakukan logging dan pemantauan untuk Anda.

“Ini tentang memulai dengan fondasi yang tepat di mana tata kelola bukanlah renungan.”