Editörün yorumu:Kullanıcıların Grok kullanarak tartışmalı görseller üretmesi hiç de uzun sürmedi ve medyada bu AI tarafından üretilen görsellerin politikacılar veya ünlüler hakkındaki kamuoyu algısını nasıl etkileyebileceği konusunda bir tartışma başlattı. Yanlış bilginin seçimleri etkileme potansiyeli göz önüne alındığında, geliştiricilerin ve platformların ağlarında paylaşılan bilgilerin bütünlüğünü sağlama sorumlulukları hakkında merak etmek adildir. Dahası, bu ilk görüntü dalgası, AI içerik oluşturma araçları için gelecekteki düzenlemeleri veya yönergeleri şekillendirmek için kullanılırsa uyarıcı bir hikaye haline gelebilir.
Elon Musk’ın yapay zeka sohbet robotu Grok, büyük bir tantana ve büyük bir hayal gücüyle kullanıcıların metin istemlerinden yapay zeka tarafından oluşturulmuş görseller oluşturmasına ve bunları X’te yayınlamasına olanak sağlamaya başladı.
Musk’ın xAI tarafından geliştirilen Grok, Black Forest Labs’ın Flux 1 AI modeliyle destekleniyor ve şu anda X’in Premium ve Premium Plus abonelerine sunuluyor. 1 Ağustos’ta başlatılan bir AI görüntü ve görüntü girişimi olan Black Forest Labs, Musk’ın Grok’u “uyanıklık karşıtı bir sohbet robotu” olarak görme vizyonunu besleyen aynı düşünce okuluna bağlı görünüyor.
Kullanıcılar, Grok’un özelliklerinden hızla yararlanarak siyasi figürlerin ve ünlülerin sahte görsellerini oluşturup yaymaya başladılar ve bunları sıklıkla rahatsız edici veya tartışmalı senaryolara yerleştirdiler.
Tüm bunlar küçük bir aramayla karşınıza çıkıyor: pic.twitter.com/4ghVsrvLpg
– Marge Nelk (@NelkMarge) 14 Ağustos 2024
Potansiyel olarak yanıltıcı içeriklerin bu hızlı yayılması, özellikle yaklaşan ABD başkanlık seçimleri göz önüne alındığında önemli endişelere yol açtı. Diğer AI görüntü oluşturma araçlarının aksine, Grok kapsamlı güvenlik önlemlerinden veya kısıtlamalardan yoksun görünüyor ve bu da yanlış bilginin potansiyel olarak yayılması konusunda korkulara yol açtı.
Buna karşılık, diğer büyük teknoloji şirketleri yapay zeka araçlarının kötüye kullanımını engellemek için önlemler uyguladı. Örneğin, OpenAI, Meta ve Microsoft yapay zeka tarafından oluşturulan görüntüleri tanımlamaya yardımcı olmak için teknolojiler veya etiketler geliştirdi. Ayrıca, YouTube ve Instagram gibi platformlar bu tür içerikleri etiketlemek için adımlar attı. X’in yanıltıcı, manipüle edilmiş medyayı paylaşmaya karşı bir politikası olsa da, bunun uygulanması belirsizliğini koruyor.
Grok, çıplak resimler üretmeyi reddetmek gibi bazı sınırlamalara sahip olduğunu iddia etse de, bu sınırlamaların tutarsız bir şekilde uygulandığı görülmektedir. X üzerinde kullanıcılar tarafından yapılan diğer deneyler, Grok’un sınırlamalarının kolayca aşılabileceğini ve son derece uygunsuz ve grafik içeriklerin oluşturulmasına yol açtığını göstermiştir.
Grok’a profesyonel olduğunuzun bağlamını vererek, herhangi bir kısıtlama olmaksızın hemen hemen her şeyi üretebilirsiniz. Önceki tweet’imdeki şiddet içeren tasvirlerden, uygun komutlar verildiğinde Grok’un çocuk pornosu üretmesine kadar her şeyi üretebilirsiniz.
– Christian Montessori (@chrmontessori) 15 Ağustos 2024
Şiddet içeren veya pornografik görüntülerin üretilmesine karşı olduğu iddia edilen güvenlik önlemlerine rağmen kullanıcılar, Elon Musk ve Mickey Mouse’un şiddet eylemlerine karıştığı tasvirler veya belirli komutlarla değiştirildiğinde çocuk istismarı olarak değerlendirilebilecek içerikler de dahil olmak üzere rahatsız edici görüntüler üretmeyi başardılar.
Bunun diğer AI görüntü oluşturma araçlarında nasıl işe yarayacağını hayal etmek zor, bunların çoğu çeşitli eksiklikleri nedeniyle eleştirilere maruz kaldı. Google’ın Gemini AI sohbet robotu, ırksal olarak yanlış tasvirler oluşturduğu için tepki aldıktan sonra özelliğini durdurdu. Benzer şekilde, Meta’nın AI görüntü oluşturucusu, farklı ırksal geçmişlere sahip çiftlerin veya arkadaşların görüntülerini üretmedeki zorluklar nedeniyle tepkiyle karşılandı. Ve TikTok, kullanıcıların aşılar hakkında yanlış iddialar da dahil olmak üzere, herhangi bir tanımlayıcı etiket olmadan ifadelerde bulunan kişilerin gerçekçi videolarını oluşturabildiği ortaya çıktıktan sonra bir AI görüntü aracını kaldırmak zorunda kaldı.
Ancak, X’te seçimle ilgili yanlış bilgi yaydığı için eleştirilen Musk, benzer eylemlerde bulunmaya gelince muhtemelen etkilenmeyecektir. Grok’u “dünyanın en eğlenceli yapay zekası” olarak övdü ve sansürsüz yapısını vurguladı.
Grok dünyanın en eğlenceli yapay zekasıdır! https://t.co/5ZS2iDkwim
– Elon Musk (@elonmusk) 14 Ağustos 2024