LP2STM #RisetTeknologiDampak LP2STM – Microsoft mengatakan alat pengenalan wajahnya semakin baik dalam mengidentifikasi orang-orang dengan warna kulit yang lebih gelap daripada sebelumnya, seperti yang tercantum dalam blog microsoft. Tingkat kesalahan telah berkurang sebanyak 20 kali untuk pria dan wanita dengan kulit yang lebih gelap dan sembilan kali untuk semua wanita.
Mengidentifikasi Warna Kulit
Microsoft mengatakan mereka telah melatih perangkat AI-nya dengan dataset yang lebih besar dan lebih beragam, yang telah menyebabkan kemajuan dibidang ini. “Jika kita melatih sistem pembelajaran mesin untuk meniru keputusan yang dibuat dalam masyarakat yang bias, menggunakan data yang dihasilkan oleh masyarakat itu, maka sistem tersebut tentu akan mereproduksi biasnya,” kata Hanna Wallach, peneliti senior Microsoft, di posting blog.
Pada bulan Februari, laporan dari MIT Media Lab menguji sistem pengenalan wajah dari Microsoft, IBM, dan Megvii China dan menemukan bahwa hingga 35 persen wanita berkulit gelap telah mengidentifikasi salah jenis kelamin mereka oleh sistem. Laporan tersebut hanya menegaskan apa yang telah diduga oleh banyak orang selama bertahun-tahun – sistem pengenalan wajah dapat bias oleh dataset terbatas dan faktor-faktor lain seperti rasisme sistemik. Kembali pada tahun 2015, Google mengidentifikasi teman-teman hitam insinyur perangkat lunak dalam foto sebagai “gorila,” dan harus meminta maaf atas kesalahan tersebut.
Namun, sementara pengumuman Microsoft menunjukkan pengurangan bias rasial dalam sistem pengenalan wajah, jika penegak hukum mendapatkan alat pengenalan wajah yang lebih baik, tidak jelas bagaimana hal itu bisa bermanfaat bagi orang kulit berwarna dan apakah itu bisa memperburuk praktik yang sudah bermasalah. Microsoft bermitra dengan US Immigration and Customs Enforcement (ICE), dan alat pengenalan wajah yang ditawarkan kepada agen pemerintah sebagai sumber daya.
CEO Microsoft Satya Nadella mengklarifikasi dalam memo pekan lalu bahwa “Microsoft tidak bekerja dengan pemerintah AS pada setiap proyek yang berkaitan dengan memisahkan anak-anak dari keluarga mereka di perbatasan” tetapi dia tidak membahas bagaimana pengakuan wajah mungkin memainkan peran dalam menguntungkan ICE kerja.
Sumber : TheVerge
Editor : Humas LP2STM
