Kısaca: Intel, AMD’nin 5. nesil Epyc ‘Turin’ CPU’larının 5. nesil Xeon yongalarından daha hızlı yapay zeka işleme sunduğu yönündeki iddialarını yalanladı. Intel’e göre 64 çekirdekli Xeon Platinum 8529+ işlemcileri, doğru optimizasyonlarla aynı iş yüklerinde AMD’nin en yeni 128 çekirdekli veri merkezi CPU’larından daha iyi performans gösterebilir.
Intel’in açıklaması, AMD’nin Computex 2024’te 195’e kadar Zen 5 çekirdeğe sahip 5. nesil Epyc CPU’larını tanıtmasından birkaç gün sonra geldi. Epyc 9005 ailesinin bir parçası olarak pazarlanması beklenen yeni seri, bilgi işlem için tasarlanmış çok çeşitli işlemciler sunacak , bulut, telekomünikasyon ve uç iş yükleri.
Çiplerin bu yılın sonlarına kadar piyasaya sürülmesi beklenmese de AMD, yapay zeka iş yüklerinde Intel’in Emerald Rapids ailesinden daha hızlı olacaklarını gösteren karşılaştırmalı değerlendirmeleri sergiledi.
AMD, Llama 2 tabanlı bir chatbot çalıştırırken bir çift Epyc Turin işlemcisinin bir çift Intel Xeon Platinum 8592+ CPU’sundan 5,4 kata kadar daha hızlı olabileceğini iddia ederken Intel, Team Red tarafından gösterilen kriterlerin adil olmayan bir karşılaştırma sunduğunu söylüyor. Intel’e göre AMD, bu kıyaslamalar için kullanılan yazılım yapılandırmasını açıklamadı ve kendi testleri, Xeon yongalarının aynı görevde Epyc işlemcilerden daha hızlı olduğunu gösteriyor.
AMD’nin değerlendirmelerine göre, 128 çekirdekli çift soketli konfigürasyondaki 5. nesil Epyc CPU’larından ikisi, Llama 2-7B’de saniyede 671 token’a kadar performans sunarken, Intel’in 5. nesil Xeon Platinum 8592+ yongaları 64 token ile saniyede 671 token performans sunuyor. benzer çift yuvalı modda çalışan çekirdekler saniyede yalnızca 125 token sunuyordu.
Ancak Intel, PyTorch için Intel Uzantısını (P99 Gecikme Süresi) kullanarak aynı testleri tekrarladı ve sonuçlar büyük ölçüde farklıydı. Bu testlerde Xeons’un saniyede 686 token çıkışı, AMD’nin gösterdiğinden 5,4 kat daha hızlıydı.
Intel ayrıca Çeviri ve Özetleme iş yüklerinde Xeon çiplerinin, AMD’nin Computex’te sergilediği kıyaslamalara kıyasla 1,2 kat ve 2,3 kat daha hızlı performans sunduğunu iddia etti. AMD, Torino’nun bu iş yüklerinde 5. nesil Xeon’dan 2,5 kat ve 3,9 kat daha hızlı olduğunu iddia etmişti.
İki önemli uzmanın iddialarını ve karşı iddialarını incelemek biraz kafa karıştırıcı olabilir, ancak her ikisinin de sunduğu kıyaslamalar, nasıl baktığınıza bağlı olarak muhtemelen doğrudur. AMD’nin testleri muhtemelen Llama-7B’nin saf konfigürasyonu için geçerli olsa da Intel, gerçek dünya performansında önemli bir artış sunan PyTorch için Intel Uzantısı olmadan kimsenin donanımını kullanmayacağını belirtmekte haklıdır. Yapay zeka iş yükleri.