Kısaca:Bu yılın başlarında yapay zeka teknolojisinin Başkan Biden’ın sesini bir dizi otomatik aramada klonlamak için kullanılmasıyla manşetlere çıkan girişim ElevenLabs, deepfake’lerle mücadele etmek için bir yapay zeka tespit şirketiyle ortaklık kurdu. Yanlış bilginin büyük bir sorun olduğu bir seçim yılında önemli bir hamle.
Ocak ayında, New Hampshire’daki seçmenlere Demokrat ön seçimlerinde oy kullanmamalarını, ancak “oylarını Kasım ayındaki başkanlık seçimleri için saklamalarını” söyleyen 39 saniyelik bir otomatik arama yapıldı. Bu tavsiyeyi veren ses neredeyse Joe Biden’ın sesine benziyordu. Ses dolandırıcılığı tespit şirketi Pindrop Security daha sonra aramayı analiz ederek, ElevenLabs tarafından yapılan bir metinden sese dönüştürme motoru kullanılarak oluşturulduğu sonucuna vardı ve şirket bunu doğruladı. Deepfake’i oluşturan kişi ElevenLabs hizmetinden uzaklaştırıldı.
Bloomberg’in haberine göre ElevenLabs, deepfake tespit hizmetlerini hükümetlere, yetkililere ve işletmelere sunan ABD merkezli bir firma olan Reality Defender ile ortaklık kurdu.
Ortaklık karşılıklı olarak faydalı görünüyor. Reality Defender, ElevenLabs’in ses klonlama veri ve modellerine erişim sağlıyor ve bu da sahteleri daha iyi tespit etmesini sağlıyor, AI firması ise ürünlerinin kötüye kullanılmasını önlemek için Reality Defender’ın araçlarını kullanabiliyor. ElevenLabs sözcüsü, anlaşmada finansal bir unsur olmadığını söyledi.
ElevenLabs, bir kişinin sesinin izni olmadan kopyalanmasını yasaklar. Hizmetleri, dil farklılıklarını kapatabildiği, sesini kaybedenlere sesini geri verebildiği ve dijital etkileşimleri daha insani hissettirebildiği şeklinde reklamı yapılır.
Gerçek insanların inanılmaz derecede gerçekçi görüntülerini ve seslerini oluşturabilen deepfake’ler giderek daha da gelişiyor. Sadece kurbanları pornoya yerleştirmek için kullanılmıyor, aynı zamanda giderek daha fazla siyasi arenada kötüye kullanılıyor – seçim yılında büyük bir endişe.
Biden’ın sesiyle ilgili olay, FCC’nin robot aramalarda yapay zeka tarafından üretilen seslerin kullanımını Telefon Tüketici Koruma Yasası veya TCPA kapsamında yasa dışı hale getirme önerisine yol açtı. Ajans, teknolojinin “ünlülerin, siyasi adayların ve yakın aile üyelerinin” seslerini taklit ederek tüketicileri şaşırtmak ve aldatmak için kullanıldığına dair endişeleri dile getirdi.
Biden, Mart ayında yaptığı Birliğin Durumu konuşmasında yapay zeka ses taklidinin yasaklanmasını talep etmişti ancak önerilen yasağın kapsamı henüz net değildi.