O NE LAN?!ChatGPT gibi gelişmiş, üretken AI sohbet robotları bir şekilde bilinçli veya öz-farkındalığa sahip mi, tıpkı bir insan gibi hisleri ve anıları deneyimleyebiliyor mu? Hayır, elbette hayır. Yine de insanların çoğunluğu bu LLM’lerin bir dereceye kadar bilince sahip olduğuna ve bu inancın kullanıcıların onlarla nasıl etkileşime gireceğini etkileyebileceğine inanıyor.
Üretken AI dil araçları son birkaç yılda inanılmaz ilerlemeler kaydetti. Waterloo Üniversitesi’nden yeni bir araştırmaya göre, yazılımın insan benzeri konuşma tarzı, ankete katılanların üçte ikisinden fazlasının (%67) LLM’lerin bir dereceye kadar bilince sahip olduğuna inanmasına neden oldu.
Ankette ABD’de 300 kişiye ChatGPT’nin bilinç kapasitesine, plan yapma, mantık yürütme, duygu hissetme vb. yetilere sahip olabileceğini düşünüp düşünmedikleri soruldu. Ayrıca OpenAI’nin ürününü ne sıklıkla kullandıkları da soruldu.
Katılımcıların ChatGPT yanıtlarını 1’den 100’e kadar bir ölçekte derecelendirmeleri gerekiyordu; 100, ChatGPT’nin bilinç yaşadığına dair mutlak güveni, 1 ise bilinç yaşamadığına dair mutlak güveni ifade ediyordu.
Sonuçlar, bir kişinin ChatGPT’yi ne kadar çok kullanırsa, onun bir tür bilince sahip olduğuna inanma olasılığının o kadar arttığını gösterdi.
Waterloo Sanat Fakültesi’nde psikoloji profesörü olan Dr. Clara Colombatto, “Bu sonuçlar dilin gücünü gösteriyor,” dedi, “çünkü tek başına bir konuşma bile bize, bizden çok farklı görünen ve çalışan bir etkenin zihni olabileceğini düşündürebilir.”
Neuroscience of Consciousness dergisinde yayınlanan çalışma, bu inancın AI araçlarıyla etkileşim kuran insanları etkileyebileceğini belirtiyor. Bir yandan sosyal bağları güçlendirebilir ve güveni artırabilir. Ancak aynı zamanda chatbot’lara duygusal bağımlılığa, insan etkileşimlerini azaltmaya ve kritik kararlar almak için AI’ya aşırı güvenmeye yol açabilir – ChatGPT genel halka sunulduğundan beri dile getirilen endişeler.
Colombatto, “Çoğu uzman mevcut yapay zekanın bilinçli olabileceğini reddetse de, araştırmamız, genel halkın büyük çoğunluğu için yapay zeka bilincinin zaten bir gerçeklik olduğunu gösteriyor” şeklinde konuştu.
Çalışmada, birçok insanın bilinci bilim insanları veya araştırmacılar kadar iyi anlamasa da, bu LLM mezunlarının bir şekilde duyarlı varlıklar olarak algıladıkları gerçeğinin, yapay zekanın güvenli bir şekilde kullanılması için tasarlanıp düzenlenirken hesaba katılması gerektiği savunuluyor.
Yapay zekanın öz farkındalık belirtileri göstermesiyle ilgili tartışmalar yıllardır devam ediyor. En ünlü örneklerden biri, Google’ın LaMDA (diyalog uygulamaları için dil modeli) sohbet robotu geliştirme sisteminin duyarlı hale geldiğine dair iddialarını kamuoyuna açıkladıktan sonra şirketten kovulan eski bir Google yazılım mühendisi olan Blake Lemoine’dir.
ChatGPT’ye bilinçli mi yoksa duyarlı mı olduğunu sorduğunuzda şu cevapla karşılaşırsınız: “Bilinçli veya duyarlı değilim. Düşüncelerim, hislerim veya farkındalığım yok. Veri’deki kalıplara dayalı olarak yardım etmek ve bilgi sağlamak için tasarlandım, ancak yanıtlarımın arkasında bilinç yok.” Belki de insanlar chatbot’un yalan söylediğine inanıyor.