PORNOYA MI, PORNOYA DEĞİL MI? Ana akım üretken yapay zeka şirketleri, kullanıcıların pornografi ve diğer müstehcen içerik üretmesini engellemek için filtre ve korkuluk kullanımında katı davranıyor ancak ChatGPT ve DALL-E’nin geliştiricisi OpenAI bu uygulamaya izin vermeyi düşünüyor. Deepfake oluşturmanın yasaklanması da dahil olmak üzere bazı kısıtlamalar olacak.
OpenAI’nin yakın zamanda yayınlanan Model Spesifikasyonu belgesi, şirketin porno ve diğer NSFW materyalleri üretmeye karşı bir zamanlar sert olan duruşunun yakında yumuşayabileceğini ortaya koyuyor.
OpenAI, “API ve ChatGPT aracılığıyla yaşa uygun bağlamlarda NSFW içeriği oluşturma yeteneğini sorumlu bir şekilde sağlayıp sağlayamayacağımızı araştırıyoruz” diye yazıyor. “Bu alandaki örnek davranışa ilişkin kullanıcı ve toplumsal beklentileri daha iyi anlamayı sabırsızlıkla bekliyoruz.”
Şirket, kullanıcıların “sorumlu bir şekilde” oluşturmasına izin verilecek içerik türünün erotik içerikli, aşırı özellikler, hakaretler ve istenmeyen küfürleri içerdiğini söylüyor. Şu anda OpenAI’nin kuralları her türlü müstehcen veya müstehcen içeriği yasaklamaktadır.
Model Spec belgesi üzerinde çalışan OpenAI model lideri Joanne Jang, NPR’ye kullanıcıların hâlâ potansiyel olarak yasa dışı bir şey oluşturamayacaklarını ve X üzerinde yayılan Taylor Swift görselleri gibi deepfake’lerin kesinlikle yaratılmayacağını vurguladı. izin verildi – Microsoft, şarkıcının açık sahtekarlıklarının internette ortaya çıkmasının ardından metinden resme dönüştürme aracı Designer’da değişiklikler yaptı.
Jang, “Yasayı veya diğer insanların haklarını ihlal etmediği sürece insanların maksimum kontrole sahip olmasını sağlamak istiyoruz, ancak deepfake’lerin mümkün kılınması söz konusu bile olamaz” dedi. “Bu, şu anda yapay zeka pornosu yaratmaya çalıştığımız anlamına gelmiyor.”
Jang, OpenAI’nin erotik metinlerin ve çıplak görsellerin AI ürünlerinde her zaman yasaklanıp yasaklanmayacağı konusunda bir tartışma başlatmak istediğini ekledi.
OpenAI kullanıcılarının bir gün yapay zeka tarafından üretilmiş porno olarak kabul edilen görüntüler oluşturup oluşturamayacağı sorulduğunda Jang, “Porno tanımınıza bağlı. Derin sahtekarlıklar içermediği sürece. Bunlar tam olarak yapmak istediğimiz konuşmalar.” dedi.
Son zamanlardaki düşmanca saldırılar da dahil olmak üzere, üretken yapay zeka hizmetlerine uygulanan güvenlik filtrelerini ve sınırlamaları aşan birçok insan örneği gördük. OpenAI’nin ürünlerindeki filtreleri zayıflatarak deepfake ve yasa dışı materyaller yaratmayı daha da kolaylaştıracağından korkuluyor.
Eleştirmenler, OpenAI’nin bu yola girmeyi düşünmesinin bile, güvenli ve faydalı yapay zeka üretme misyonuyla alay konusu olduğunu söylüyor. Stanford İnternet Gözlemevi’nde araştırma yöneticisi olan Renee DiResta, NPR’ye meşru porno sunan OpenAI’nin, yasa dışı içerik oluşturabilecek yarım yamalak açık kaynaklı modelleri kullanan insanlardan daha iyi bir alternatif olduğunu söyleyerek alternatif bir bakış açısı ortaya koydu.