Kısaca: Meta, önceki çeyrekte koordineli, orijinal olmayan davranışlara karşı politikasını ihlal eden yaklaşık 2.000 Facebook hesabı tespit etti. Bunlar çoğunlukla sahte siyasi mesajlar yayınlayan ve propaganda yayan etki kampanyaları yayınlayan hesaplardan oluşuyor ve bu hesapların belirlenebilir en büyük kaynağına sahip ülke İsrail’di.
Meta’nın üç aylık Çelişkili Tehdit Raporu, Bangladeş, Çin, Hırvatistan, İran, İsrail ve Moldova ve Madagaskar’ı hedef alan bir CIB ağından gelenler de dahil olmak üzere, bozduğu altı yeni gizli nüfuz operasyonuna ilişkin araştırmayı içeriyor.
Meta, kaynağı bilinmeyen 1.326 Facebook hesabını kaldırırken, en fazla sayıda hesabın menşeli olduğu tespit edilen ülke ise 510 FB hesabı, 11 Sayfa, 1 Grup ve Instagram’daki 32 hesabın kaldırıldığı İsrail oldu.
Hedef kitle öncelikle ABD ve Kanada’daydı. Yahudi öğrenciler, Afrikalı Amerikalılar veya “endişeli vatandaşlar” gibi davranan sahte hesaplar, rehinelerin serbest bırakılması çağrıları da dahil olmak üzere çoğunlukla İsrail-Hamas savaşı hakkında paylaşımlar yapıyordu; İsrail’in askeri eylemlerine övgü; Kampüs antisemitizmi, Birleşmiş Milletler Yardım ve Bayındırlık Ajansı (UNRWA) ve Müslümanlara yönelik eleştiriler ve “radikal İslam’ın” Kanada’daki liberal değerlere tehdit oluşturduğu iddiası.
Meta, hesapların operatörlerinin kimliklerini gizlemeye çalışırken İsrail’in Tel Aviv merkezli siyasi pazarlama ve ticari istihbarat şirketi Stoic ile bağlantılar bulduğunu yazıyor. Meta grubu yasakladı ve eyleme son verme emri çıkardı.
Stoic’in web sitesi, “hedeflenen içerik oluşturmak ve bunu organik olarak hızlı bir şekilde ilgili platformlara dağıtmak” için üretken yapay zekayı kullandığını belirtiyor. YouTube ve X’te de benzer gönderiler keşfedildi; bunların çoğu, diğer kullanıcıların çoğunlukla ilgisiz içeriklerine yapay zeka tarafından oluşturulan yanıtlardı.
Meta, “Bu kampanya, içeriğinin olduğundan daha popüler görünmesini sağlamak amacıyla Vietnam’dan gerçek olmayan etkileşim (yani beğeniler ve takipçiler) satın almış gibi görünüyor” diye yazıyor.
Bu kampanyada üretken yapay zeka kullanılmasına rağmen Meta, tehdit aktörlerinin politikacıların foto-gerçekçi yapay zeka tarafından oluşturulan medyasını daha geniş bir eğilim olarak kullandığını görmediğini söylüyor. Teknoloji şu ana kadar fotoğraf ve görüntü oluşturma, yapay zeka tarafından oluşturulan görüntü haber okuyucuları ve metin oluşturma ile sınırlıydı.
Meta’nın tehdit engelleme politika direktörü David Agranovich, “Şu anda yapay zekanın son derece karmaşık şekillerde kullanıldığını görmüyoruz” dedi.
Çin, Meta’nın bazı gerçek olmayan hesapların menşe yeri olarak tanımladığı diğer bir ülkedir (37). Meta’nın sildiği yayınlanmış içeriklerin hiçbiri yaklaşan ABD seçimleriyle ilgili olmasa da, Microsoft geçen ay Asya ülkesindeki tehdit aktörlerinin bu seçim yılı boyunca ABD’de kargaşa yaratmak için üretken yapay zeka kullandığı konusunda uyarmıştı.