İleriye dönük: Şirketlerin üretken yapay zeka uygulamalarının dağıtımına ilgi duymasını sağlamak artık teknoloji tedarikçileri için bir zorluk değil. Ancak teknolojinin en iyi şekilde nasıl kullanılacağını bulmak, bu ticari müşterilerin çoğu için hala zordur. Dell’in Las Vegas’taki Dell Tech World etkinliğinde tartıştığı yeni tekniklerden biri, işlerin bir kısmının bulutta gerçekleştiği, ancak bir kısmının bir kuruluşun veri merkezlerinde tesis içinde yapıldığı hibrit yapay zeka kavramıdır.
İşletmeler verilerinin çoğunu hâlâ kendi BT tesislerinde depoladığından (Dell’e göre %83), verilerini buluta taşımak yerine yapay zekayı veriye taşımak daha mantıklı.
Bunu gerçekleştirmek için Dell, işletmelerin yapay zeka projelerini yürütmek için ihtiyaç duydukları çeşitli bileşenleri bir araya getirebilecekleri bir yapay zeka fabrikası fikrinden bahsetti. Dell için bir yapay zeka fabrikası, temel modellerin ince ayarını yapmak, iş yüklerini doğrulamak ve bu özelleştirilmiş modellerden yararlanan özel uygulamaların oluşturulmasını desteklemek için tasarlanmış, GenAI özellikli bir altyapı olarak anlaşılabilir.
Ayrıca Dell’in yapay zeka fabrika vizyonu, bir kuruluşun yapay zeka stratejisinin parçası olabilecek hizmetleri ve hatta istemci cihazlarını bir araya getirir.
GenAI devriminin ilk aşamalarında, GPT-3 ve GPT-4 gibi araçlara yalnızca bulut aracılığıyla erişilebildiği için temel modellerin kurumsal veri merkezinde çalıştırılması mümkün değildi. Ancak son zamanlarda giderek daha fazla şirket, Meta’nın Llama 3’ü gibi açık kaynaklı temel modellerden ve açık kaynaklı yapay zeka pazarındaki Hugging Face’in birçok seçeneğinden yararlanıyor.
Bu modeller kurumsal veri merkezlerinde çalıştırılabilir, böylece şirketlerin kendi verileriyle bunlara ince ayar yapmaları ve daha sonra bu kendi kendini ayarlayan modeller etrafında özel uygulamalar oluşturmaları daha kolay ve daha uygun maliyetli hale gelir.
Elbette bunu yapmak için doğru türde bilgi işlem donanımı, depolama ve ağ oluşturma özelliklerinin yanı sıra yazılım araçlarına ve en önemlisi kuruluşların GenAI yolculuğunu başarılı bir şekilde gerçekleştirmelerine yardımcı olacak paketlenmiş hizmetlere ihtiyacınız var.
Dell’in bu yılki Teknoloji Dünyası’nda tanıttığı şey de bu. Geçen yılki etkinlikte Nvidia ile yapılan özel duyurulara dayanarak Dell, şirketlerin kendi GenAI özellikli altyapılarını oluşturmaları için daha geniş bir yelpazedeki çekirdek bileşen ve yazılım tedarikçileri arasından seçim yapmalarına olanak tanıyan daha geniş bir ürün ve hizmet yelpazesini tanıttı. Aynı zamanda Dell, Nvidia’nın GTC’de duyurduğu yeni Blackwell mimarisi GPU’larını, sistem tasarımlarını ve yeni yazılımı entegre ederek Nvidia’ya özgü tekliflerini de genişletti.
Altyapı tarafında Dell, uygun şekilde XE9680L olarak adlandırılan ve 8 adede kadar Nvidia GPU’yu taşıyabilen XE9680 kompakt kasasının sıvı soğutmalı versiyonu da dahil olmak üzere birkaç yeni sunucuyu tanıttı.
Ayrıca GenAI iş yükleri için gerekli olan büyük veri setlerine erişimi hızlandırmak üzere optimize edilmiş tamamen flash depolama dizisi PowerScale F910’u da tanıttı. Ayrıca şirket, PowerScale için optimize edilmiş paralel bir dosya sistemi olan Project Lightning’in ön izlemesini yaptı. PowerSwitch Z9864F-ON, önceki teklifleriyle karşılaştırıldığında GenAI iş yüklerinde iki kat daha fazla aktarım hızına sahip bir ağ anahtarıdır. Benzer şekilde Dell, PowerEdge XE9680 sunucuları için yeni Broadcom destekli 400G PCIe Gen 5.0 Ethernet adaptörlerini duyurdu. Daha da ilginci, özel GenAI uygulamaları oluşturmak için doğru LLM’leri ve diğer yazılım araçlarını seçme sürecini basitleştirmek üzere tasarlanan, Hugging Face’te yeni bir Dell Enterprise Hub’ın duyurulmasıydı.
Dell ayrıca Meta ile Llama 3 modellerinde ve Microsoft ile Microsoft Azure Yapay Zeka Hizmetleri için bir Dell Çözümü sunma konusunda daha fazla çalışacağını duyurdu. Tüm bunlarla bağlantılı olarak kuruluşların tüm bu yeni araçları en iyi şekilde nasıl kullanacaklarını anlamalarına yardımcı olacak kapsamlı bir dizi yeni hizmet teklifi de vardı.
Dell, geleneksel yapay zeka altyapısının ötesinde, yapay zeka yeteneklerini hem iş istasyonları hem de bilgisayarlar aracılığıyla şirket içine getirmekten de bahsetti. Bilgisayar tarafında Dell, Microsoft’un büyük etkinliğinin bir parçası olarak 5 yeni Copilot+ AI hızlandırmalı bilgisayarı (tüm OEM PC’ler arasında en fazla olanı) tanıttı.
Şirket, Intel CPU’suz ilk XPS 13’ün yanı sıra iki yeni Inspiron ve iki yeni Latitude’u tanıttı. Bu çok sayıda sistem, şirketin bu cihazlara güç veren Arm destekli Qualcomm Snapdragon X Seçkine ve X Plus SoC’lere büyük bir yatırım yaptığının altını çiziyor.
Bilgisayar endüstrisindeki diğerleri gibi Dell de yapay zeka iş yüklerini hızlandırmaya yönelik güçlü yeni bir NPU ile büyük pil ömrü iyileştirmelerinin birleşiminin birçok kullanıcı için ilgi çekici olacağına inanıyor.
İş bilgisayarı alıcıları için fikir, başlangıçta NPU ve yapay zeka hızlandırmasından çok fazla yararlanmayı düşünmeseler bile, başka önemli faydaların da olduğudur. Özellikle, bu Snapdragon tabanlı makinelerin ince tasarımları, etkileyici bilgi işlem performansı ve 24+ saat pil ömrü, en son MacBook’ları isteyen veya bazılarının kısa pil ömründen bıkan son kullanıcılara sağlam bir alternatif sağlayacak. mevcut x86 tabanlı bilgisayarlar.
Yapay zeka yetenekleriyle ilgilenenler için işler daha da ilginçleşiyor. NPU hızlandırma için başlangıçtaki yazılım desteğinin sınırlı olması beklenirken, zamanla artacaktır. Başka bir deyişle, bu yeni bilgisayarların yetenekleri yaşlandıkça gelişecek; bu, uzun zamandır duyduğumuz bir şey değil.
Uygulama uyumluluğu ve öykünme performansı sorunu (Windows on Arm’ın ilk iki yinelemesini başarısızlığa uğratan iki sorun) hala devam ediyor. Ancak ilk raporlar, Windows’ta yerleşik olan yeni Prism öykünme katmanının kurumsal uygulamalar için bile umut verici sonuçlar verdiğini gösteriyor.
Bilgisayarlara ek olarak, Dell’in en ilgi çekici ancak gözden kaçan duyurularından biri de iş istasyonlarıyla ilgiliydi. Özellikle işletmelerin, şirketin Hassas Yapay Zeka İş İstasyonlarında RAG (Retrieval Augmented Generation) ile açık kaynak modellerine ince ayar yapmalarını sağlamaya yönelik çalışmaları. RAG, GenAI’daki en sıcak alanlardan biri ve birçok kuruluş bunu kendi kullanımları için kullanmakla çok ilgileniyor.
Sonuçta Dell, kuruluştaki GenAI dünyasının nereye gittiğine dair yeni bir bakış açısı sağlayan ilgi çekici bir dizi duyuru hazırladı. Çoğu şirketin başlangıçtaki GenAI uygulamalarının çoğu için buluttan yararlanacağına dair çok az şüphe olsa da, hibrit bulut şirketler için bilgi işlemden yararlanmanın standart bir yolu haline geldikçe, hibrit AI da ana akım bir seçenek haline gelmeye hazırlanıyor. Dell bu pazarda ilk hamleyi yapma fırsatını görüyor ve bu son gelişmeler onların bu yönde agresif bir şekilde ilerlediğini gösteriyor.
Bob O’Donnell, teknoloji endüstrisine ve profesyonel finans topluluğuna stratejik danışmanlık ve pazar araştırması hizmetleri sağlayan bir teknoloji danışmanlık firması olan TECHnalytic Research, LLC’nin kurucusu ve baş analistidir. Onu Twitter’da takip edebilirsiniz @bobodtech