Ne oldu şimdi?Son yıllarda AI görüntü üretiminin ilerlemesinden kaynaklanan en uğursuz eğilimlerden biri, kadınları ve kızları “soyundurabilen” web siteleri ve uygulamaların yükselişidir. Şimdi, San Francisco Şehir Avukatlığı ofisi, bu en çok ziyaret edilen sitelerden 16’sını kapatma amacıyla dava ediyor.
Dava, San Francisco’daki baş şehir avukatı yardımcısı Yvonne Meré’nin fikriydi. Meré, çocukların tamamen giyinik kadın sınıf arkadaşlarının fotoğraflarını deepfake pornografisine dönüştürmek için “çıplaklaştırma” uygulamaları kullandığını okumuştu. 16 yaşında bir kız çocuğunun annesi olan Meré, bu konuda bir şeyler yapmak istedi ve New York Times’ın yazdığına göre, en popüler 16 soyunma web sitesini kapatmayı amaçlayan bir dava hazırlamak için iş arkadaşlarını harekete geçirdi.
İnternet sitelerinin isimleri sansürlenerek yayınlanan şikayette, sitelerin 2024’ün ilk altı ayında toplamda 200 milyon kez ziyaret edildiği belirtiliyor. Bu soyunma sitelerinden biri şöyle reklam veriyor: “Onu randevulara çıkarmak için zaman harcadığınızı düşünün, oysa [sansürlenen internet sitesini] kullanarak onun çıplak fotoğraflarını elde edebilirsiniz.”
Şehir Avukatı David Chiu, sitelerin yapay zeka modellerinin deepfake’leri oluşturmak için gerçek pornografi ve çocuk istismarını tasvir eden görseller kullanılarak eğitildiğini söyledi. Görseller dolaşımda olsa bile, hangi web sitesinin bunları oluşturduğunu söylemenin neredeyse imkansız olduğunu ekledi.
Davada, sitelerin eyalet ve federal intikam pornografisi yasalarını, eyalet ve federal çocuk pornografisi yasalarını ve Kaliforniya Haksız Rekabet Yasası’nı ihlal ettiği ileri sürülüyor.
Chiu, X’te “Bu soruşturma bizi internetin en karanlık köşelerine götürdü ve bu sömürüye katlanmak zorunda kalan kadınlar ve kızlar için kesinlikle dehşete düştüm,” dedi. “Bu, toplum olarak mümkün olan en kısa sürede çözmemiz gereken büyük, çok yönlü bir sorun.”
Bu, web sitesi sahiplerinin ve operatörlerinin deepfake pornografisi, intikam pornografisi ve çocuk pornografisini yasaklayan CA ve federal yasaları ihlal ettiğini iddia eden türünün ilk örneği bir davadır.
– David Chiu (@DavidChiu) 15 Ağustos 2024
Yapay zekanın, kişilerin rızası olmadan çıplak fotoğraflarını oluşturması sorunu uzun zaman öncesine dayanıyor. Telegram’da deepfake yapan bir botun, 2020 yılında sosyal medya görsellerine dayanarak 100.000’den fazla sahte çıplak kadın fotoğrafı oluşturduğu ortaya çıktı.
Üretken AI’daki son gelişmeler deepfake sorununu daha da kötüleştirdi ve görsellerin daha da gerçekçi görünmesini sağladı. Ocak ayında çevrimiçi olarak paylaşılan açık Taylor Swift resimleri, ABD’li yasa koyucuların harekete geçilmesi çağrısında bulunmasına ve Google’ın deepfake porno ve soyunma sitelerine yönelik reklamları yasaklamasına yol açtı.
Bu ayın başlarında, yeni bir iki partili yasa tasarısı, kişilerin rızası olmadan “dijital kopyalarını” üreten kuruluşları sorumlu tutmayı önerdi. Nurture Originals, Foster Arka ve Keep Entertainment Safe Act of 2024 (NO FAKES Act), bir kişinin rızası olmadan yapay zeka tarafından oluşturulmuş ses veya görsel tasvirlerini oluşturmaları, barındırmaları veya paylaşmaları durumunda bireyleri ve şirketleri zararlardan sorumlu tutacak.