Az önce ne oldu?OpenAI, 2022 sonlarında popüler ChatGPT hizmetiyle birlikte halka duyurduğu AI modeli GPT 3.5’i kullanımdan kaldırmaya hazır. LLM, şirketin metin ve görselleri içeren çeşitli akıl yürütme görevlerinde aynı kategorideki sektör lideri kompakt tekliflerden daha iyi performans gösterdiğini iddia ettiği daha küçük bir model olan GPT-4o küçük ile değiştirilecek.
GPT-4o küçük’ün temel avantajları, Mayıs ayında piyasaya sürülen GPT-4 Omni gibi OpenAI’nin son teknoloji AI modellerine kıyasla maliyet etkinliği ve daha yüksek hızıdır. En son küçük modeli, yaklaşık olarak bir kitabın uzunluğu olan 128.000 token’lık bir bağlam penceresine ve Ekim 2023’te bir bilgi kesintisine sahiptir.
OpenAI’ye göre GPT-4o küçük, metinsel zekayı ve çok modlu muhakemeyi test eden akademik kıyaslamalarda selefi GPT-3.5 Turbo ve diğer küçük modellerini geride bırakıyor. Yeni küçük modeli ayrıca geliştiricilerin veri getirebilen veya harici sistemlerle eylem gerçekleştirebilen uygulamalar oluşturmasını sağlayan işlev çağrısı konusunda da öne çıkıyor. GPT-4o ile aynı dil aralığını destekliyor ve eski kardeşine kıyasla geliştirilmiş uzun bağlam performansına sahip.
OpenAI, GPT-4o küçük’ün, muhakemeyi ölçen bir ölçüt olan MMLU’da rakipleriyle karşılaştırıldığında %82 puan aldığını, Gemini 1.5 Flash’ın %79, Claude 3 Haiku’nun ise %75 puan aldığını iddia ediyor.
Matematiksel muhakemeyi test eden MGSM’de GPT-4o küçük %87 gibi sağlam bir puan alırken, Flash ve Haiku sırasıyla %78 ve %72 ile geride kaldı.
En büyük avantaj, işleme maliyetidir. OpenAI, GPT-4o küçük’ün önceki modellerine kıyasla çalıştırılmasının önemli ölçüde daha uygun fiyatlı olduğunu ve GPT-3.5 Turbo’dan %60’tan fazla daha ucuz olduğunu söylüyor. Geliştiriciler için bu, milyon giriş belirteci başına yalnızca 15 sent ve milyon çıkış belirteci başına 60 sent maliyet anlamına geliyor.
Kompakt AI modelleri, tekrarlanan AI modeli etkileşimleri gerektiren yüksek hacimli, basit görevler için verimli çözümler arayan geliştiriciler için giderek daha popüler bir seçim haline geliyor. Daha da iyisi, önemli ölçüde daha az güç tüketerek onları daha çevre dostu hale getiriyorlar.
GPT-4o küçük artık geliştiricilere OpenAI’nin API’si aracılığıyla ve tüketicilere ChatGPT web ve mobil uygulaması aracılığıyla sunuluyor. ChatGPT’nin ücretsiz kademe kullanıcıları için yeni varsayılan model haline gelmeye hazırlanıyor. Şirket, kurumsal kullanıcıların önümüzdeki hafta ona erişebileceğini söylüyor.
Şirket, geleceğe baktığında yapay zeka modellerinin her uygulama ve web sitesine sorunsuz bir şekilde entegre edildiği bir gelecek öngörüyor ve model yeteneklerini geliştirirken maliyetleri düşürmeye kararlı.