Piyasa ve son dönemdeki bir dizi rapor, belleğe karşı düşüş eğilimli hale geldi. Tez, 2027 ve 2028 civarında gelecek kapasite artışı dalgasının arzı talebe yetiştireceği, fiyatların düşeceği ve tıpkı eski döngüsel senaryonun öngördüğü gibi bir değerleme düşüşü yaşanacağı yönünde.
Bu görüşe katılmıyorum.
Düşüş senaryosu hâlâ belleği bir emtia olarak fiyatlandırıyor ve bu varsayımın altındaki teknolojik zemin şu anda değişiyor. Bellek endüstrisinde devam eden yapısal değişimi mühendislik seviyesinde izlediğinizde, döngü zirvesi argümanının dayandığı "kim yaparsa yapsın aynı standart parça" önermesinin, gelecek olan belleğe giderek daha az uygulanabilir olduğu ortaya çıkıyor.
Bu değişimin merkezinde HBM taban kalıbı (base die) yer alıyor.
Taban kalıbı bir mantık işlemine (logic process) geçiyor, müşteri devreleri bu kalıbın içine taşınıyor (cHBM) ve sonunda bellek doğrudan müşterinin hesaplama kalıbının (compute die) üstüne yerleşiyor (memory-on-logic).
Bu ilerlemenin sonunda bellek şirketlerinin emtia üreticilerinden özel silikon ortaklarına dönüşeceğini tahmin ediyorum ve bellek şirketlerinin bugün attığı adımlar da bu yöne işaret ediyor. Bu makale, teknik arka planı, endüstri genelinde atılan gerçek adımları ve bu değişimin bellek gelir yapısı ile değerlemesi için ne anlama geldiğini ele alıyor. Sonunda, belleğe neden hâlâ yükseliş eğilimli olduğumu ve bu gerekçenin bellek işinin kendi yapısındaki bir değişime dayandığını anlayacaksınız.
https://x.com/damnang2/status/2054089498070556846
https://x.com/damnang2/status/2038016806653415929
İçindekiler
- HBM, cHBM ve memory-on-logic: Üç yapının ayırt edilmesi
- cHBM'den memory-on-logic'e: Endüstrinin ilerleme sırası
- Silikon Vadisi'nde duyulanlar
- Bellek gelir yapısı nasıl değişiyor?
- Yatırım açısından nelere dikkat edilmeli
Feragatname
Bu makaledeki rakamlar ve zaman çizelgeleri, şirket duyurularından, kamuya açık raporlardan ve yayınlanmış makalelerden alınmıştır. Bu rakamların yorumlanması ve burada ifade edilen görüş tamamen benim kendi analizimdir ve burada yer alan hiçbir şey belirli bir menkul kıymeti satın alma veya satma tavsiyesi niteliği taşımaz. Yatırım kararlarının ve sonuçlarının sorumluluğu bireysel yatırımcıya aittir.
1. HBM, cHBM ve memory-on-logic: Üç yapının ayırt edilmesi
HBM
HBM (Yüksek Bant Genişlikli Bellek), DRAM kalıplarını sekiz, on iki veya on altı kat yüksekliğinde istifler ve bunları TSV'ler (Through-Silicon Vias - Silikon İçinden Geçen Yollar) ile dikey olarak birbirine bağlar. İstifin en altında taban kalıbı (base die) bulunur. Bu kalıp, bellek kontrolü, G/Ç ve test mantığını yönetir ve DRAM istifini dış dünyaya bağlayan bir geçit görevi görür. Tamamlanan HBM istifi, bir silikon aracı (silicon interposer) üzerinde GPU'nun yanına yerleştirilir ve aracın kablolaması aracılığıyla GPU'ya bağlanır. İstifin kendisi 3D'dir, ancak GPU'nun üstünde değil yanında yer aldığı için bu düzenlemeye 2.5D denir. HBM4'te GPU ile istif arasındaki arayüz 2.048 bit genişliğindedir ve bu sinyaller GPU kalıbının kenarındaki PHY'den çıkar, aracın kablolamasını geçer ve taban kalıbına girer.
Yukarıdaki DRAM çekirdek kalıpları büyük ölçüde sabit bir yapıya sahiptir, çünkü veri depolayan kapasitör dizisi alanlarının çoğunu kaplar; bu nedenle istifte mantık taşıyan tek katman alttaki taban kalıbıdır. GPU ile bellek arasında hareket eden her bayt bu katmandan geçer; bu da taban kalıbının işlem kapasitesini tüm istifin bant genişliği ve güç verimliliğinin belirleyicisi yapar ve bu yük her nesilde artar. Arayüz, HBM3'teki 1.024 bitten HBM4'te 2.048 bite iki katına çıkmış, pin başına hız da bununla birlikte artmış ve sinyal işleme, kanal yönetimi ve güç yönetiminin karmaşıklığı her adımda yükselmiştir.
Bu nedenle bellek şirketleri, HBM performansını iyileştirirken önce taban kalıbı üzerinde çalışmış ve başlangıç noktası, onu üretmek için kullanılan süreç olmuştur. HBM3E'ye kadar taban kalıbı, üzerindeki DRAM kalıplarıyla aynı olan bir DRAM sürecinde üretiliyordu. Bir DRAM süreci, yüksek kapasitör yoğunluğu için özelleşmiştir, bu nedenle üzerine mantık devresi koymak, aynı mantığın bir mantık sürecinde inşa edilenden daha büyük ve daha yavaş bir şey üretir. Taban kalıbının yapması gereken iş her nesilde artar ve bir DRAM süreci buna ayak uyduramaz; bu nedenle HBM4'ten itibaren taban kalıbı bir mantık sürecine geçmeye başlamıştır.
SK hynix bunu TSMC'nin 12nm sürecinde, Samsung ise kendi dökümhanesinin 4nm sürecinde üretirken, Micron tek başına maliyet gerekçesiyle taban kalıbını HBM4 boyunca mevcut DRAM sürecinde tutmayı ve HBM4E'den itibaren bir TSMC mantık sürecine geçmeyi planlıyor.
Ancak süreç değişikliğine rağmen, bu taban kalıbının tasarımı hâlâ bellek şirketine aittir ve ürün, JEDEC spesifikasyonlarına uygun standart bir parça olarak kalır.
cHBM
Taban kalıbını bir mantık sürecine taşımak, HBM yapısında bulunan sorunu ortadan kaldırmaz. GPU tarafı kronik olarak hesaplama için kalıp alanı sıkıntısı çeker ve bu kıt alanın bir kısmı HBM arayüzü ve bellek denetleyicisi gibi veri taşıma devreleri tarafından işgal edilir.
cHBM (özel HBM) kavramı burada başlıyor.
Fikir, GPU tarafında bellek ile iletişim kuran devreleri, zaten bellek istifinin hemen altında bulunan taban kalıbına taşımaktır. GPU daha sonra boşalan alanı hesaplama için kullanır ve bellek ile ilgili mantık, verilerin depolandığı yerin hemen altında çalışır. Aynı noktada ön işleme veya sıkıştırma yapılırsa, GPU'ya gitmesi gereken veri hacmi düşer ve bu da güç tasarrufu sağlar.
Ancak işin püf noktası, JEDEC standart bir taban kalıbının her müşteri için ortak bir payda olmasıdır; bu nedenle belirli bir müşterinin mimarisine göre ayarlanmış bu tür bir yeniden konumlandırmaya yer yoktur. Başka bir deyişle cHBM, standarttan ayrılarak HBM'yi inşa etmek için taban kalıbını özel bir şekilde tasarlama yaklaşımıdır. Bu arada, endüstri bazen standardı takip eden geleneksel HBM'yi sHBM (standart HBM) olarak adlandırır.
Bir cHBM taban kalıbı tasarlamanın birkaç yolu vardır. Bunlar, bellek şirketinin müşterinin spesifikasyonuna göre tasarlamasından, bir ASIC (Uygulamaya Özel Entegre Devre) ortağının (Marvell gibi) taban kalıbını üç bellek üreticisiyle birlikte tanımlamasına ve NVIDIA'nın yaptığı gibi müşterinin taban kalıbı mantığını doğrudan tasarlamasına kadar uzanır.
Her biçimde, bellek istifi ve mantık tek bir birim olarak çalışmak zorundadır ve müşterinin tasarım spesifikasyonları veya devreleri taban kalıbına girer, bu nedenle iki tarafın tasarımın en erken aşamasından itibaren bir araya gelip spesifikasyonu tanımlamaktan başka seçeneği yoktur.
Müşterinin devrelerinin bir kısmının taban kalıbına tasarlanması ne anlama geliyor?
Bu, uzun süredir bir emtia olarak kabul edilen bellek iş modelinin bu noktadan itibaren değişmeye başladığı anlamına gelir. Bir müşterinin devrelerini taşıyan bir HBM, o müşteriye özel bir parçadır ve başka bir yere satılamaz; müşteri tarafında ise, kendi devreleri gömülü olan bellek, başka bir tedarikçinin ürünüyle kolayca değiştirilemez. Spesifikasyon eşleştiği sürece herhangi birinin parçasının değiştirilebilir olduğu emtia önermesi, cHBM'den itibaren artık geçerli değildir.
memory-on-logic
cHBM'ye ulaştığınızda, taban kalıbı artık belleği yönetmek için bir çipten çok müşterinin mantık çipine benzer. Arayüz müşteriye aittir, denetleyici de öyle ve kalan alanı dolduran işlevler de. Bu yeni bir soruyu gündeme getiriyor. Ayrı bir taban kalıbı oluşturmak için bir neden var mı? Neden GPU'nun kendisini, yani hesaplama kalıbını, taban kalıbının konumuna yerleştirip belleği doğrudan üstüne istiflemiyorsunuz? İşte bu yapıya memory-on-logic denir. Hesaplama kalıbı, taban kalıbının eskiden yaptığı her şeyi üstlenir, aracı ortadan kalkar ve bellek istifi, hesaplama kalıbının doğrudan üzerine 3D olarak istiflenir.
Bu noktada bağlantının fiziksel koşulları değişir. HBM istifini ve GPU'yu 2.048 bitlik bir kenar arayüzü aracılığıyla birleştirmek yerine, bağlantı noktaları tüm birleştirilmiş arayüze yayılır. TSV ve hibrit bağlama gibi dikey bağlantı yöntemleri, bağlantı yoğunluğunu on binlerden yüz binlere çıkarır ve bir sinyalin kat ettiği mesafe, aracın kablolamasının milimetrelerinden dikey yönde onlarca mikrometreye düşer.
Bant genişliği bir büyüklük sırasına göre değişir ve bir biti taşımak için gereken enerji de öyle. Georgia Tech ve SK hynix'ten 2025 tarihli bir makale, 2.5D'nin 64 katı verim ve üç katı enerji verimliliği sağlayabilen bir memory-on-logic yapısını analiz etti. Rakamlar akademik modellemedir ve olduğu gibi kabul edilmemelidir, ancak iyileştirmenin yönünü ve büyüklüğünü iyi bir şekilde göstermektedirler.
Memory-on-logic ile ilgili çözülmemiş sorun ısıdır. Yüzlerce watt harcayan bir hesaplama kalıbının üzerine DRAM yerleştirin ve DRAM, hesaplama kalıbının termal kaçış yolunu bloke ederken bu ısıyı kendisi emer. Sıcaklığa duyarlı olan DRAM ise, ısı altında yenileme aralığı kısalır ve bu da performansın düşmesine yol açar. Sonuçta, bu ısı sorununun nasıl çözüldüğü, memory-on-logic'in başarısını belirleyen en büyük değişken olması muhtemeldir.
Şimdiye kadarki hikaye, bir bütün olarak HBM ile değil, istifin en altındaki tek bir kalıpla başlıyor.
Bu taban kalıbı bir DRAM sürecinden bir mantık sürecine geçiyor (HBM4), müşteri mantığı içine taşınıyor (cHBM) ve son olarak taban kalıbının konumu müşterinin hesaplama kalıbı tarafından alınıyor (memory-on-logic).
Ancak bu ilerlemenin doğrusal bir nesil değişimi olarak okunması gerekmez. cHBM, önümüzdeki birkaç yıl için en gerçekçi ticarileştirme yoluyken, memory-on-logic, ısı ve verim sorunları çözüldüğünde ana akım haline gelecek daha radikal bir yapıdır. Birinin hemen diğerinin yerini almasından ziyade, iki yapının müşterinin güç bütçesine, iş yüküne ve paketleme maliyetine bağlı olarak bir süre paralel olarak benimsenmesi muhtemeldir.
Taban kalıbı müşterinin silikonuna ne kadar yaklaşırsa, bellek işi de özel bir silikon işine o kadar yaklaşır ve...
Bence piyasanın bellek işindeki yükseliş potansiyeliyle ilgili henüz tam olarak kavrayamadığı nokta tam da budur.
Üç bellek üreticisi hâlâ bit büyümesi ve ASP üzerinde hareket eden döngüsel hisseler olarak değerleniyor ve özel geçişin üreteceği gelir ve marj yapısındaki değişiklikler raporlanan rakamlarda hiçbir zaman ortaya çıkmadı, bu nedenle değerleme modellerine yansıma fırsatı bulamadılar. Bu değişiklik işte bu kadar önemli ve iş modeli ile gelir yapısının tam olarak nasıl değiştiği aşağıda ayrıntılı olarak ele alınmıştır.
2. cHBM'den memory-on-logic'e: Endüstrinin ilerleme sırası
cHBM, ürün yol haritalarında zaten görülebilir durumda. cHBM uygulaması, 2028 için planlanan NVIDIA Feynman nesli için gündeme gelmeye devam ediyor, ancak NVIDIA ayrıntıları resmi olarak onaylamadı, bu nedenle bunu, o nesil için izlenmesi gereken önemli bir nokta olarak ele almak, yerleşik bir gerçek olarak değil. Samsung, SK hynix ve Micron'un tümü, özel HBM'yi resmi yol haritalarına yerleştirdi ve Marvell, üç bellek üreticisiyle birlikte özel bir HBM mimarisi geliştirdiğini duyurdu. Standart taban kalıplarının yerine müşteriye özel taban kalıplarının geçişi, uygulama aşamasına çoktan girdi.
cHBM yol haritalarına yerleşirken, bir sonraki aşama olan memory-on-logic, açıklanan bir üretim zaman çizelgesi ile kendi örneğini üretti.
Bu, Qualcomm'un Haziran 2026 Yatırımcı Günü'nde tanıttığı HBC'sidir (Yüksek Bant Genişlikli Hesaplama).
Henüz piyasada bir ürün değil. HBC Gen1 taşıyan AI250 hızlandırıcısının 2027 ortalarında piyasaya sürülmesi, Gen2'nin ise sonraki yol haritasında yer alması planlanıyor. HBC, memory-on-logic ailesine aittir, ancak bellek HBM'den ziyade LPDDR'dir (Düşük Güçlü DDR) ve istifin altına yerleştirilen kalıp, GPU'nun kendisinden ziyade özel bir belleğe yakın hızlandırıcıdır (near-memory accelerator).
Yapıyı düşünün. Qualcomm, AI hızlandırıcısını SoC'den ayırdı. Ayrılan hızlandırıcı kalıbının üzerine bir LPDDR istifi yerleştiriyor ve bunları TSV'lerle birbirine bağlıyor. Bu HBC birimi ve SoC, sıradan bir organik alt tabaka üzerinde yan yana duruyor. Silikon aracı yok ve CoWoS gibi 2.5D ileri paketleme yok. Tasarım, aynı anda iki darboğazı, HBM arz kıtlığını ve ileri paketleme kapasitesi kıtlığını aşmayı amaçlıyor.
Qualcomm, kapasite ve güç için LPDDR'yi seçti. LPDDR, düşük güç için tasarlanmış bir DRAM ailesidir, bu nedenle istif başına güç yükü küçüktür ve kapasite genişletmeye uygundur. Qualcomm'un memory-on-logic ısı sorununa cevabı tam da burada yatıyor. Sıcak GPU'nun kendisi yerine, altına düşük güçlü özel bir hızlandırıcı yerleştiriyor ve bellek için de düşük güçlü LPDDR kullanıyor, böylece her şey termal bütçeye sığıyor.
Qualcomm, HBM'nin watt başına altı katı bant genişliği ve yonga üzeri SRAM'in watt başına 200 katı kapasite olduğunu iddia ediyor. Belirtilen rakamların doğrulanması için ayrıntılı bir teknik inceleme ve gerçek donanım gerekecek, ancak müşteri tarafında hareketlilik zaten ortaya çıktı.
Suudi Arabistan merkezli Humain, HBC Gen1 taşıyan AI250 raflarını dağıtım planlarına dahil etti ve raporlara göre Microsoft'un Nadella'sı da Qualcomm HBC'yi Azure veri merkezlerinde dağıtmaktan bahsetti. Lansmanına daha bir yıl olan bir ürünün etrafında halihazırda büyük bir altyapı müşterisinin ve bir hiper ölçekleyicinin (hyperscaler) isimlerinin dolaşması, bu yapıya olan talebin kendisinin bir kanıtıdır.
Memory-on-logic'e doğru ilerleyen tek şirket Qualcomm değil.
SK hynix'in 2023'ten beri NVIDIA dahil birkaç fabless şirketiyle HBM'yi doğrudan bir işlemcinin üzerine istifleme yöntemini ve TSMC'nin gofret bağlama (wafer bonding) teknolojisini kullanarak belleği bir mantık gofretine yapıştırma üretim yaklaşımını tartıştığına dair raporlar vardı.
Tayvanlı ASIC tasarım evi GUC, mantığın üzerine bir ila dört kat DRAM yerleştiren DoL'yi (DRAM-on-Logic) önerdi. Üstüne konulanın LPDDR mi yoksa HBM tarzı bir DRAM istifi mi olduğu ve altındaki mantığın özel bir hızlandırıcı mı yoksa GPU'nun kendisi mi olduğu duruma göre değişir, ancak yön her birinde aynıdır: bellek sürekli olarak mantığa yaklaşır ve sonunda onun üzerine oturur.
Ve belirtildiği gibi, belleğin mantığın üzerine oturması, belleğin belirli bir müşterinin çipiyle tek bir vücut haline gelmesi anlamına gelir.
cHBM'den memory-on-logic'e bu ilerlemenin sonunda, bellek işi yavaş yavaş bir özel silikon işine dönüşüyor ve Silikon Vadisi'nin son zamanlarda duydukları, bu değişimin organizasyonel düzeyde çoktan başladığını gösteriyor.
Peki yatırım açısından önemli olan nedir?
Bellek şirketlerinin özel silikon şirketlerine dönüşmesi yönündeki bu değişimin, gelir yapılarını nasıl değiştirdiği, tedarik zinciri boyunca kârın nereye kaydığı ve ilerlemeyi neyle takip edeceğimiz. Odaklanılması gereken şeyler bunlar. Aşağıdakiler bunları ayrıntılı olarak ele almaktadır.
Damnang'ın Substack'i, okuyucu destekli bir yayındır. Yeni yazılar almak ve çalışmalarımı desteklemek için ücretsiz veya ücretli abone olmayı düşünebilirsiniz.
3. Silikon Vadisi'nde duyulanlar
Memory-on-logic'in gerçek bir trend olduğuna dair bir kanıt daha var.
Makalenin tamamı Substack'te mevcuttur.
Lütfen aşağıdaki bağlantıya bakın.
