Sıcak bir patates:Detroit polisi artık yalnızca yüz tanıma yazılımı sonuçlarına dayanarak tutuklama yapmayacak. Değişiklik, bir adamın teknoloji tarafından hırsızlık şüphelisi olarak yanlış tanımlanmasının ardından haksız yere tutuklanmasına yol açan bir davadaki anlaşmanın bir parçasıdır.
Robert Williams, ehliyetindeki fotoğrafın 2018’de bir mağazadan tasarımcı saatleri çalarken görülen bir adamla eşleşmesi ihtimalinin yüksek olması üzerine Ocak 2020’de tutuklandı. Sorgulama sırasında Williams’a, yalnızca yüz tanıma teşhis sonuçlarına dayanarak tutuklandığı söylendi.
Cuma günü sonuçlanan sonraki davada Detroit şehri, Williams’a 300.000 dolar tazminat ödemeyi ve yüz tanıma teknolojisini (FRT) kullanma şeklini değiştirmeyi kabul etti.
Williams muhabirlere yaptığı açıklamada, “Bu teknolojinin kullanımında ileride daha fazla güvence sağlanacağı için çok heyecanlıyız. Umuyoruz ki bu sayede daha iyi bir dünyada yaşarız” dedi. “Her ne kadar onların bunu hiç kullanmamalarını istesek de.”
Williams’ı temsil eden Amerikan Sivil Özgürlükler Birliği, yüz tanıma özelliğinin renkli insanları yanlış tanımlamaya eğilimli olduğunu söyledi.
Teknolojinin kullanıldığı başka haksız tutuklamalar da oldu; bunlar arasında soygun ve araç gaspıyla suçlanan sekiz aylık hamile bir kadın ve mala zarar vermekle suçlanan bir adam da vardı.
Anlaşmanın bir parçası olarak şehir, “FRT’ye ait herhangi bir ipucu, teşhis teşhisleriyle birleştiğinde, tutuklama emri talep etmek için asla yeterli bir temel oluşturmayabilir” konusunda anlaştı. Araştırmacılar, daha fazla bağımsız ve güvenilir kanıtın bir şüpheliyi suçla ilişkilendirdiğinden emin olmalıdır.
ACLU avukatlarından Phil Mayor, “Yüz tanıma yöntemiyle bir ipucu elde edebilirler ve daha sonra dışarı çıkıp eski usul polislik yapabilirler ve kimliği belirlenen kişinin suç işlemiş olabileceğine inanmak için herhangi bir sebep olup olmadığına bakabilirler” dedi.
ACLU, polisin ayrıca teknolojinin riskleri ve renkli insanları yanlış tespit etme oranının yüksek olduğu gerçeği de dahil olmak üzere teknoloji hakkında eğitim alacağını söyledi.
Anlaşmaya göre Detroit polisi 2017 ile 2023 yılları arasında yüz tanıma teknolojisinin kullanıldığı davalara bakacak. Polis, bağımsız kanıt olmadan tutuklama yapıldığını öğrenirse, bir savcı bilgilendirilecek.
Mahkeme uzlaşma anlaşmasını yalnızca dört yıl boyunca uygulayabilir. Bu süre dolduğunda polisin yeni politikayı sürdürmeye devam edip etmeyeceği belirsizdir.
Yapılan araştırmalara göre yüz tanıma yazılımları, deneklerin kadın, siyahi ve 18-30 yaş aralığında olması durumunda daha fazla hata üretiyor.
ACLU, aynı algoritmanın çeşitli eşiklerde siyah erkekler için ürettiği yanlış eşleşme oranının, beyaz erkeklere göre üç kat daha fazla olduğunu belirtti.
Ortadaki resim: Patlama