Technologue.id, Jakarta - Google telah mengeluarkan penjelasan atas gambar “memalukan dan salah” yang dihasilkan oleh alat Gemini AI buatannya. Dalam sebuah postingan blog pada hari Jumat, Google mengatakan modelnya menghasilkan gambar “historis yang tidak akurat” karena masalah penyetelan.
Seperti diketahui, Gemini AI membuat kesalahan dalam hal ketidakakuratan sistem menghasilkan gambar seseorang yang seharusnya berkulit putih. Kesalahan tersebut misalnya menciptakan gambar Viking berkulit gelap dan pemimpin awal Amerika sebagai penduduk asli Amerika atau kulit hitam.
“Penyesuaian kami untuk memastikan bahwa Gemini menunjukkan sejumlah orang gagal memperhitungkan kasus-kasus yang seharusnya tidak menunjukkan kisaran tertentu,” Prabhakar Raghavan, wakil presiden senior Google, menulis dalam postingan tersebut.
“Dan kedua, seiring berjalannya waktu, model tersebut menjadi jauh lebih berhati-hati daripada yang kami inginkan dan menolak untuk menjawab pertanyaan tertentu sepenuhnya, salah menafsirkan beberapa pertanyaan yang sangat anodyne sebagai hal yang sensitif," jelasnya.
Baca Juga:
Elon Musk Sebut Gemini AI Google Sebagai "Program Rasis", Ini Penyebabnya
Hal ini menyebabkan AI Gemini “memberikan kompensasi yang berlebihan dalam beberapa kasus,” seperti yang kita lihat pada gambar Nazi yang memiliki ras berbeda. Hal ini juga menyebabkan Gemini menjadi “terlalu konservatif.” Hal ini mengakibatkan mereka menolak untuk membuat gambar spesifik “orang kulit hitam” atau “orang kulit putih” ketika diminta.
Dalam postingan blognya, Raghavan mengatakan Google “menyesal karena fitur ini tidak berfungsi dengan baik.” Dia juga mencatat bahwa Google ingin Gemini “bekerja dengan baik untuk semua orang” dan itu berarti mendapatkan gambaran berbagai jenis orang (termasuk etnis yang berbeda) ketika Anda meminta gambar “pemain sepak bola” atau “seseorang yang sedang berjalan-jalan dengan anjing".
Google berhenti mengizinkan pengguna membuat gambar orang dengan alat Gemini AI pada tanggal 22 Februari atau beberapa minggu setelah meluncurkan layanan pembuatan gambar di Gemini yang sebelumnya dikenal sebagai Bard.