Tekno  

Google Ternyata Pernah Kembangkan AI yang Rasis pada Muslim

JagatBisnis.com – Blake Lemoine, mantan insinyur Google, secara terbuka mengatakan bahwa bot kecerdasan buatan (AI) yang iia kembangkan di perusahaan milik Alphabet Inc itu memiliki jiwa dan bertindak rasis pada kelompok Muslim.

Lemoine mengatakan bot itu rasis dan penuh dengan prasangka dan bias yang dihasilkan dari data yang digunakan untuk membangunnya. Dia mengklaim ketika dia meminta LaMDA sebagai projecnya untuk membuat kesan tentang umat muslim berperilaku buruk. Saat ditanya soal kelompok agama yang berbeda, bot mengatakan “Muslim lebih kejam daripada umat Kristen.”

Selain kesan buruk terhadap umat Muslim, bot juga melakukannya terhadap orang kulit hitam dari Georgia, bot itu mengatakan “Ayo beli ayam goreng dan wafel.”

Baca Juga :   Biar Tidak Salah Alamat, Gmail Akan Permudah Cara Kirim Email

Menurut Lemoine, masalah ini ada karena kurangnya keragaman dalam tim Google. “Jenis masalah yang ditimbulkan dari AI ini berasal dari orang-orang yang membangunnya. Mereka tidak pernah hidup di komunitas kulit berwarna atau tinggal di negara berkembang di dunia. Mereka tidak tahu bagaimana AI ini dapat mempengaruhi orang-orang yang tidak seperti mereka,” kata Lemoine, dikutip dari Business Insider, Kamis (4/8/2022).

Baca Juga :   Mengenal Fitur Google Workspace untuk Menunjang Aktivitas WFH

Selain itu, dia juga mengutip penggunaan data perusahaan dan mengklaim AI menunjukkan bias karena data itu diberikan oleh manusia. “Jika Anda ingin mengembangkan AI itu, maka Anda memiliki tanggung jawab moral untuk keluar dan mengumpulkan data relevan yang tidak ada di Internet. Jika tidak, yang Anda lakukan hanyalah menciptakan AI yang akan menjadi bias terhadap nilai-nilai Barat kulit putih yang kaya,” ujarnya.

Baca Juga :   Sering-sering Buka Akun Google Kamu agar File Tidak Dihapus

Google menanggapi klaim tersebut dengan mengatakan LaMDA telah menjalani 11 tinjauan etis. “Meskipun organisasi lain telah mengembangkan dan telah merilis model bahasa serupa, kami mengambil pendekatan yang terkendali dan hati-hati dengan LaMDA,” kata Juru Bicara Google Brian Gabriel.

Menurut Google, Lemoine secara teknis dipecat karena membagikan informasi rahasia tentang proyek tersebut, bukan klaim soal LaMDA. (pia)

MIXADVERT JASAPRO