Ruhun aynaları:Sadece birkaç yıl içinde, çağdaş üretken AI sistemleri gerçekçi görünümlü insanlar yaratmada uzun bir yol kat etti. Gözler ve eller en önemli engelleri. Yine de, Stable Diffusion gibi modeller, mükemmel olmasa bile en azından düzenlenmesi kolay olan insanlar üretmede ustalaşıyor ve bu da kötüye kullanım konusunda endişelere yol açtı.
Hull Üniversitesi’ndeki araştırmacılar, yakın zamanda insan gözlerindeki yansımaları analiz ederek yapay zeka tarafından oluşturulan deepfake görüntüleri tanımlamak için çığır açan bir yöntem ortaya koydu. Ekip, geçen hafta Royal Astronomical Society’nin Ulusal Astronomi Toplantısı’nda bu tekniği açıkladı. Bu yöntem, gökbilimcilerin galaksileri incelemek için kullandıkları araçları kullanarak gözbebeklerindeki ışık yansımalarının tutarlılığını inceliyor.
Astrofizik Profesörü Dr. Kevin Pimbblet’in gözetimindeki araştırma ekibine, Hull Üniversitesi’nde yüksek lisans öğrencisi olan Adejumoke Owolabi liderlik etti.
Algılama tekniği, bir çift göz küresinin ışık kaynaklarını benzer şekilde yansıtacağı ilkesine göre çalışır. Işık yansımalarının yerleşimi ve şekli, gerçek görüntülerde her iki gözde de tutarlıdır. Buna karşılık, AI tarafından oluşturulan birçok görüntü bunu hesaba katmaz ve gözler arasında yanlış yerleştirilmiş ve garip şekilli yansımalara yol açar.
Derin sahteciliği tespit etmek için astronomi tabanlı yaklaşım aşırı görünebilir çünkü sıradan bir fotoğraf analizi bile göz yansımalarındaki tutarsızlıkları ortaya çıkarabilir. Ancak yansımaların ölçülmesi ve nicelenmesi için astronomi araçlarının kullanılması, şüpheleri doğrulayabilen ve potansiyel olarak dolandırıcılığa dair güvenilir kanunî kanıtı sağlayabilen yeni bir gelişmedir.
Pimbblet, Owolabi’nin tekniğinin göz küresi yansımalarını otomatik olarak algıladığını ve sol ve sağ göz küreleri arasındaki benzerliği karşılaştırmak için morfolojik özelliklerini endekslerden geçirdiğini açıkladı. Bulguları, deepfake’lerin genellikle göz çiftleri arasında farklılıklar gösterdiğini gösterdi.
Araştırmacılar, göz küresi yansımalarını ölçmek ve karşılaştırmak için astronomiden kavramlar çekti. Örneğin, genellikle galaksi görüntülerindeki ışık dağılımını ölçmek için kullanılan Gini katsayısını kullanarak göz pikselleri arasındaki yansımaların tekdüzeliğini değerlendirebilirler. 0’a yakın bir Gini değeri eşit dağılmış ışığı gösterirken, 1’e yakın bir değer tek bir pikselde yoğun ışık olduğunu gösterir.
“Galaksilerin şekillerini ölçmek için, merkezi olarak kompakt olup olmadıklarını, simetrik olup olmadıklarını ve ne kadar düzgün olduklarını analiz ediyoruz. Işık dağılımını analiz ediyoruz,” diye açıklıyor Pimbblet.
Ekip ayrıca galaktik ışık dağılımını ölçmek için kullanılan bir diğer astronomi aracı olan CAS parametrelerini (konsantrasyon, asimetri, pürüzsüzlük) kullanmayı da araştırdı. Ancak bu yöntem sahte gözleri tespit etmede daha az etkiliydi.
Göz yansıtma tekniği umut vadetse de, AI modelleri fiziksel olarak doğru göz yansımalarını içerecek şekilde evrimleşirse kusursuz olmayabilir. GenAI yaratıcılarının bu kusurları zamanla düzeltecekleri kaçınılmaz görünüyor. Yöntemin etkili olması için göz kürelerinin net ve yakından görülmesi de gerekiyor.
“Yanlış pozitifler ve yanlış negatifler var; her şeyi elde edemeyecek,” diye uyardı Pimbblet. “Ancak bu yöntem bize deepfake’leri tespit etme silahlanma yarışında bir temel, bir saldırı planı sağlıyor.”
İmaj kredisi: Adejumoke Owolabi