Architektura systemów obliczeniowych od lat boryka się z problemem wąskiego gardła, które powstaje na styku procesora i pamięci operacyjnej. Tradycyjne rozwiązania oparte na modułach umieszczanych w slotach na płycie głównej przestają wystarczać w obliczu zapotrzebowania na błyskawiczne przetwarzanie ogromnych zbiorów informacji. Rozwiązaniem, które redefiniuje podejście do transferu danych, jest standard HBM3. To technologia pamięci o wysokiej przepustowości, która zamiast polegać na długich ścieżkach sygnałowych, stawia na integrację pionową i fizyczną bliskość układów obliczeniowych.
Kluczem do zrozumienia wydajności HBM3 jest koncepcja stosu. Układy scalone nie są już rozproszone na laminacie, lecz układane jeden na drugim, tworząc zwartą strukturę przestrzenną. Taka konstrukcja drastycznie skraca dystans, jaki muszą pokonać elektrony, co bezpośrednio przekłada się na niższe opóźnienia i redukcję strat energii. Komunikacja między warstwami odbywa się za pomocą tysięcy mikroskopijnych połączeń przechodzących przez krzem, co pozwala na uzyskanie szerokości szyny danych nieosiągalnej dla standardowych pamięci typu DDR czy GDDR.