Yüz avuç içi: Google’ın yeni AI Genel Bakış özelliği ilk günden itibaren halüsinasyon görmeye başladı ve o günden bu yana sosyal medyada daha kusurlu (çoğunlukla komik bir şekilde) sonuçlar ortaya çıkmaya başladı. Şirket yakın zamanda bu tür hataların neden oluştuğunu açıklamaya çalışsa da, büyük bir dil modelinin (LLM) üretken yapay zekanın temel zayıflıklarının gerçekten üstesinden gelip gelemeyeceğini henüz bilmiyoruz, ancak OpenAI modellerinin bundan önemli ölçüde daha iyi performans gösterdiğini gördük.
Google, arama motorunun lansmanından hemen sonra internette alay konusu olan yeni AI Genel Bakış özelliği için planlanan bazı değişiklikleri özetledi. Teknoloji devlerinin henüz çözemediği, üretken yapay zekanın doğasında olan sorunlara rağmen Google, yapay zeka destekli arama sonuçlarıyla aynı rotayı sürdürmeyi planlıyor.
Bu ayın başında tanıtılan yeni özellik, ilgili isabetlerden alınan metinleri (çoğu web sitesi yayıncısının basitçe “çalıntı içerik” olarak adlandırdığı) otomatik olarak özetleyerek kullanıcıların karmaşık sorgularına yanıt vermeyi amaçlıyor. Ancak birçok kişi, aracın son derece yanlış yanıtlar verebileceğini hemen fark etti ve bu yanıtlar internette hızla yayıldı.
Google, aksaklıkların arkasında birden fazla açıklama sundu. Şirket, internette yayınlanan bazı örneklerin sahte olduğunu iddia ediyor. Yine de diğerleri saçma sorular, sağlam bilgi eksikliği veya yapay zekanın alaycılığı ve hicivleri tespit edememesi gibi sorunlardan kaynaklanıyor. Bitmemiş bir ürünle pazara koşmak Google’ın sunmadığı açık bir açıklamaydı.
Bitmemiş bir ürünle pazara koşmak Google’ın sunmadığı açık bir açıklamaydı.
Örneğin, en çok paylaşılan halüsinasyonlardan birinde, arama motoru kullanıcılara taş yemeleri gerektiğini öneriyor. Neredeyse hiç kimse bu soruyu ciddi olarak sormayacağından, arama motorunun konuyla ilgili bulabileceği tek güçlü sonuç, taş yemenin sağlıklı olduğunu öne süren hiciv sitesi The Onion’dan çıkan bir makaleydi. Yapay zeka, neyi araştırırsa araştırsın tutarlı bir yanıt oluşturmaya çalışır ve bu da saçma çıktılarla sonuçlanır.
Google AI’a genel bakış bir kabustur. Görünüşe göre aceleyle kapıdan dışarı çıkmışlar. Artık internet bir saha günü yaşıyor. İşte en iyi örneklerden bazıları https://t.co/ie2whhQdPi
– Kyle Balmer (@iamkylebalmer) 24 Mayıs 2024
Şirket, arama motorunun neye cevap vereceği ve bilgiyi nereden çekeceği konusundaki kısıtlamaları iyileştirerek sorunu çözmeye çalışıyor. Sahte kaynaklardan ve kullanıcı tarafından oluşturulan içerikten kaçınmaya başlamalı ve saçma sorgulara yapay zeka yanıtları üretmemelidir.
Google’ın açıklaması bazı kullanıcı şikayetlerini açıklayabilir ancak sosyal medyada paylaşılan pek çok vaka, arama motorunun son derece rasyonel sorulara doğru yanıt vermekte başarısız olduğunu gösteriyor. Şirket, internette yayılan aşağılayıcı örneklerin gürültücü bir azınlığı temsil ettiğini iddia ediyor. Kullanıcılar bir aracın düzgün çalışıp çalışmadığını nadiren tartıştıkları için bu adil bir nokta olabilir, ancak genAI ve ChatGPT gibi araçların arkasındaki yenilik nedeniyle bu başarı öykülerinin çevrimiçi olarak yayıldığını gördük.
Google, arama sonuçlarında bilgilerin yeniden yazdırılmasının trafiği kaynağından uzaklaştırdığı iddialarına rağmen, AI Genel Bakışlarının web sitelerine daha fazla tıklama getirdiği iddiasını yineledi. Şirket, AI Genel Bakış aracılığıyla bir sayfa bulan kullanıcıların orada daha uzun süre kalma eğiliminde olduğunu ve tıklamaları “daha yüksek kalite” olarak nitelendirdiğini söyledi. Üçüncü taraf web trafiği ölçümlerinin büyük olasılıkla Google’ın iddialarını test etmesi gerekecektir.