Geçtiğimiz cuma günü Facebook, yapay zekasının siyahi erkeklerin yer aldığı bir videoyu "primatlar" etiketiyle yanlış etiketlediği ve tekrar olmasını önlemek için incelediği "kabul edilemez bir hata" olarak nitelendirdiği bir olay için özür diledi. New York Times tarafından bildirilen habere göre, Birleşik Krallık'ta yayında olan Daily Mail tarafından 27 Haziran'da yayınlanan bir videoyu izleyen kullanıcılar, "Primatlar hakkında video izlemeye devam etmek" isteyip istemediklerini soran bir otomatik uyarı aldı.
Bunun fark edilmesi gibi öneri özelliğini kaldıran Facebook, "kabul edilemez bir hata" olarak gördüğü durum için özür diledi ve "bunun tekrar olmasını önlemek" için öneri özelliğini araştırdığını söyledi.
27 Haziran 2020 tarihli ve The Daily Mail'e ait olan video, siyah erkeklerin beyaz siviller ve polis memurlarıyla tartıştığı klipleri içeriyordu. Maymunlar veya primatlarla hiçbir bağlantısı yoktu.
Facebook adına konuşan sözcü Dani Lever, “Bu açıkça kabul edilemez bir hataydı.” dedi. Sözcü, davranışın tekrar olmasını önlemek için şirketin nedenini araştırdığını da sözlerine ekledi. “Daha önce de söylediğimiz gibi, yapay zekamızda iyileştirmeler yapmış olsak da, bunun mükemmel olmadığını biliyoruz ve yapacak daha çok ilerlememiz var. Bu saldırgan tavsiyeleri görmüş olabilecek herkesten özür dileriz.”
Bu olay yapay zekaların ırkçılık yaptığı ilk vaka değil. 2015'te yaşanan bir olayda da, Google Fotoğraflar yanlışlıkla siyahilerin resimlerini "goriller" olarak etiketlemiş ve Google bunun için "gerçekten üzgün" olduğunu ve sorunu hemen çözmek için çalışacağını söyledi. İki yıldan uzun bir süre sonra Wired, Google'ın çözümünün aramalardan "goril" kelimesini sansürlemek ve aynı zamanda "şempanze", "şempanze" ve "maymun" kelimelerini engellemek olduğunu bulmuştu.
Kubilay Koyuncuoğlu
Facebook ise yüz ve nesne tanıma algoritmalarını eğitmek için kullanıcı tarafından yüklenen dünyanın en büyük resim havuzlarından birine sahip. Kullanıcıların geçmiş tarama ve görüntüleme alışkanlıklarına göre içerik düzenleyen şirket, bazen insanlara ilgili kategoriler altındaki gönderileri görmeye devam etmek isteyip istemediklerini soruyor. “Primatlar” gibi mesajların yaygın olup olmadığı ise bu durum açığa çıkana kadar belli değildi.
