Neden önemlidir: Üretken yapay zeka, kötüye kullanım açısından muazzam bir potansiyel sunuyor. Finansal sistemlere yönelik dolandırıcılıklar ve siber saldırılar akla geliyor. Ancak yeni bir çalışma, kötüye kullanımın önde gelen kategorisinin siyasi düşünceyi yanlış içerikle etkilemek olduğunu gösteriyor. Geçmiş kampanyalarda sorun yaratmıştı. Bu seçim döneminde bunun daha da yaygınlaşmasını bekleyebiliriz.
Google DeepMind tarafından yapılan yeni bir araştırma, yapay zeka tarafından oluşturulan siyasi içeriğin, teknolojinin kötüye kullanılması olasılığının bir siber saldırıdan çok daha yüksek olduğunu gösteriyor. DeepMind, sonuçlarını Ocak 2023 ile Mart 2024 arasında bildirilen GenAI kötüye kullanım vakalarının analizine dayandırdı. Aslında, deepfake olarak ilan edilmesine rağmen geçen yıl Joe Biden hakkında bir görüntü ortalıkta dolanıyordu.
Siyasi kampanya sezonu kızıştıkça bu tür manipülasyonun daha fazla örneğini görme ihtimalimiz yüksek. Çalışma, kamuoyunu şekillendirmenin GenAI yeteneklerinden yararlanmanın en yaygın hedefi olduğunu ve bildirilen tüm vakaların yüzde 27’sini oluşturduğunu buldu. Kötü niyetli aktörler, kamuya mal olmuş kişilerin kimliğine bürünmek, tahrif edilmiş medya oluşturmak ve bir amaç lehine veya aleyhine taban desteğini simüle etmek için sentetik dijital kişilikler kullanmak (aksi halde halı saha olarak da bilinir) dahil olmak üzere, halkın siyasi gerçeklere ilişkin algısını çarpıtmak için çeşitli taktikler uygulayabilir.
Kötü aktörler, seçmen adaylarının gözle görülür şekilde yaşlı ve liderliğe uygun olmadıklarını göstermek için meşru videoları kolaylıkla manipüle edebilir. Daha karmaşık olmasına rağmen yetenekli bir yapay zeka sanatçısı, rakibini uzlaşmacı bir konuma sokan bir görüntüyü sıfırdan üretebilir.
Rapor, daha az yaygın olsa da yeni ortaya çıkan bir eğilimin, yapay zeka tarafından üretilen medyanın siyasi adaylar ve destekçileri tarafından olumlu bir kamu imajı oluşturmak için açıklanmayan kullanımı olduğuna dikkat çekiyor. Bunun bir örneği, kampanya web sitesi için olumlu haberler üretmek amacıyla üretken yapay zekayı kullanan Philadelphia’lı bir şeriftir.
Siyasi aktörler ayrıca, seçmenlere kendi ana dillerinde ulaşmak için bir politikacının sesini yüksek doğrulukla simüle etmek veya seçmenlerle kritik konularda özel görüşmeler yapmak için yapay zeka destekli kampanya otomatik çağrıcılarını görevlendirmek gibi hiper hedefli siyasi destek için üretken yapay zekayı kullanıyor.
Bu taktikler tanıdık gelebilir çünkü siyasi kampanyalar bunları üretken yapay zekanın ortaya çıkmasından çok önce zaten kullanıyordu. Aradaki fark, son yapay zeka modellerindeki hızlı ilerlemelerin bu asırlık taktiklere yeni bir güç kazandırması ve bunların erişimini demokratikleştirmesidir.