Nvidia'nın kazanımları durgunlaşırken AMD'nin performansı da düşük kaldı. Son altı ayda yapay zeka anlaşmalarındaki ivme, ticari GPU'ların büyüme potansiyelinin birkaç katı olarak görülen özel ASIC'lere kaydı. Ancak Morgan Stanley'e göre piyasanın ASIC'lere yönelik beklentileri çok yüksek ve uzun vadede ASIC'in GPU'nun pazar konumunu sarsması zor olacak.

Morgan Stanley stratejisti Joseph Moore ve ekibi, 12 Şubat'ta ASIC'in bir çip kategorisi olarak ticari GPU'lardan daha iyi veya daha kötü olmadığını belirten bir rapor yayınladı; bu ikisi sadece aynı sonuca ulaşmanın farklı yollarıdır.

Morgan Stanley, ASIC'in belirli özel uygulama senaryolarında iyi performans gösterdiğini ancak bunun belirli müşterilerin özelleştirme ihtiyaçlarına büyük ölçüde bağlı olduğunu söyledi; ASIC'in geliştirme maliyeti genellikle düşük olsa da, sistem maliyeti ve yazılım dağıtım maliyeti, büyük ölçekte ticari olarak kullanılabilen GPU'lardan çok daha yüksek olabilir. Müşterilerin yazılımı uyarlamak için çok fazla zaman ve kaynak harcaması gerekebilir ve bu da daha yüksek bir toplam sahip olma maliyetiyle sonuçlanabilir.

Ayrıca NVIDIA'nın CUDA ekosistemi zaten oldukça olgunlaşmış durumda ve müşteriler farklı iş yüklerini kolayca dağıtıp çalıştırabiliyorlar, bu da toplam sahip olma maliyetini artırıyor. Morgan Stanley, çip sektörünün şu anki lideri olan Nvidia'nın, beklenmedik bir değişiklik olmadığı takdirde liderliğini sürdüreceğini öngörüyor.

Ticari GPU'larla karşılaştırıldığında, özel ASIC'lerin uygulama senaryoları çok dardır

Morgan Stanley bazen evet diyor - özel ASIC'ler daha dar uygulama senaryolarını hedeflerken çok cazip oluyor. ASIC, belirli bir bulut hizmeti sağlayıcısı veya kurumsal müşteri için özelleştirilmiş, daha yüksek performans ve verimlilik sağlayabilen ve bu nedenle farklılaşmış bir pazar rekabet avantajına sahip olan bir çiptir.

Örneğin, Google TPU'nun (Tensor Processing Unit) başarısı - başarının nedeni Google'ın modern LLM Transformer teknolojisini icat etmesi ve Broadcom'u bunun için özel olarak optimize edilmiş bir çip geliştirmeye yönlendirmesiydi, bu da Broadcom'a 8 milyar ABD dolarından fazla gelir getirdi.

Ancak Nvidia, GPU'larını Transformer modeline uyacak şekilde optimize ederek pazar payını geri kazanmaya çalışıyor. Ayrıca bulut bilişim alanında ticari GPU'lar çoğu zaman ASIC'lerden daha rekabetçidir.

Dolayısıyla Morgan Stanley, gelecekte özelleştirilmiş ASIC'lerin avantajlarının geleneksel iş yüklerine daha fazla yansıyabileceğine inanıyor; sonuçta Nvidia, çok modlu AGI (yapay genel zeka) modellerini eğitmeye odaklanıyor ve bu eğitim yeteneği bazı eski uygulamalar için biraz aşırı olabilir.

Ancak Morgan Stanley, Nvidia'nın üst düzey eğitim yetenekleri sağlama konusunda hala geride bırakılmasının zor olabileceğini de sözlerine ekledi.

Özel ASIC geliştirme maliyetleri düşüktür, ancak sistem maliyetleri daha yüksektir

Morgan Stanley, ASIC'in özellikle donanım maliyeti açısından GPU'dan daha ucuz olduğunu, ancak sistem maliyeti ve yazılım maliyetinin daha yüksek olduğunu, bu nedenle toplam sahip olma maliyetinin (TCO) ticari GPU'dan mutlaka daha düşük olmadığını söylüyor.

Raporda bazı ASIC'lerin donanım maliyetinin sadece 3.000 dolar olabileceği belirtilirken, Nvidia'nın H100 GPU'sunun maliyetinin 20.000 dolar olduğu belirtiliyor. Bu fiyat farkı ASIC'leri donanım maliyeti açısından daha cazip hale getiriyor.

Ancak ASIC'lerin donanım maliyeti daha düşük olmasına rağmen, sistem maliyetleri genel amaçlı GPU'lardan çok daha yüksek olabilir, aşağıdaki gibi:

ASIC'in küme maliyetinin Nvidia'dan önemli ölçüde daha yüksek olması muhtemeldir çünkü Nvidia bakır tabanlı 72 GPU'lu NVLINK alanı oluştururken ASIC daha pahalı optik teknoloji kullanıyor ve diğer yüksek maliyetli bileşenler benzerdir.

Yüksek bant genişliğine sahip belleğin (HBM) maliyeti aynı olsa da, Nvidia yeni HBM üzerinde tekel satın alma gücüne sahip olduğu için aslında bir avantaja sahip olabilir ve aynı şey CoWoS (çip paketleme teknolojisi) için de geçerlidir.

Yazılım tarafında NVIDIA'nın CUDA ekosistemi oldukça olgunlaşmış durumda ve müşterilerin farklı iş yüklerini kolayca dağıtıp çalıştırabilmelerine olanak sağlıyor. Müşterilerin ASIC'leri veya diğer alternatifleri kullanırken yazılımı uyarlamak için çok fazla zaman ve kaynak harcaması gerekebilir; bu da toplam sahip olma maliyetini (TCO) artıracaktır.

Yazılım tarafında NVIDIA'nın CUDA ekosistemi oldukça olgunlaşmış durumda ve müşterilerin farklı iş yüklerini kolayca dağıtıp çalıştırabilmelerine olanak sağlıyor. Müşterilerin ASIC'leri veya diğer alternatifleri kullanırken yazılımı uyarlamak için çok fazla zaman ve kaynak harcaması gerekebilir; bu da toplam sahip olma maliyetini (TCO) artıracaktır.

Örneğin, Trainium müşterisi Databricks, "sistemin çevrimiçi hale gelmesinin haftalar veya aylar alacağını" öngörüyor. Bir bulut hizmeti yöneticisi yakın zamanda Morgan Stanley'e şunları söyledi: "Her iki yılda bir, ASIC ekibimin sunduğu teknoloji Nvidia'nın 2-3 yıl gerisinde kalıyor. Ekonomik açıdan bakıldığında, bu pek de kullanışlı değil."

Dolayısıyla NVIDIA L4 ve L40 gibi düşük fiyatlı çipleri piyasaya sürse de, üst seviye ekran kartlarının performans ve ekosistem desteği açısından önemli avantajları olması nedeniyle pazar hala pahalı, yüksek performanslı ekran kartlarını tercih etme eğiliminde.

Morgan Stanley, düşük fiyatlı birçok işlemcinin ilk aşamada bazı müşterileri çekebileceğini, ancak olgun bir ekosistemin ve uzun vadeli desteğin olmaması nedeniyle müşterilerin sonunda Nvidia'ya geri döneceğini sonucuna vardı. TPU, Trainium ve AMD MI300 birkaç istisnadır. Bu, daha ucuz işlemcilerin hiçbir değerinin olmadığı anlamına gelmiyor; ancak daha ucuz işlemcilerin genellikle başlangıçta beklendiği kadar pazar payı elde edemediği anlamına geliyor.

Nvidia'nın hakimiyetinden kurtulmak zor

Nvidia'nın pazardaki konumu hala sağlam. Morgan Stanley, Nvidia'nın yapay zeka çip pazarındaki hakim konumunun yalnızca güçlü teknik gücünden değil, aynı zamanda kapsamlı ekosistemi ve sürekli Ar-Ge yatırımlarından da kaynaklandığını düşünüyor.

Raporda, Nvidia'nın bu yıl araştırma ve geliştirmeye yaklaşık 16 milyar dolar harcamayı beklediği belirtilirken, özel ASIC (uygulamaya özel entegre devre) çipleri için geliştirme bütçesinin genellikle 1 milyar doların altında, bazı durumlarda ise daha da az olduğu belirtiliyor.

NVIDIA, bu fonlarla 4-5 yıllık bir geliştirme döngüsünü sürdürebilecek ve sürekli olarak pazar lideri yüksek performanslı yongaları piyasaya sürmek için üç tasarım ekibini sırayla çalıştırabilecek. Ayrıca Nvidia'nın dünyanın her bölgesindeki her bulut platformunda varlığı bulunuyor ve Nvidia ekosistemine yapılacak her türlü yatırım küresel çapta yayılarak pazar hakimiyetini daha da sağlamlaştırabiliyor.