BİRLEŞİK ÖĞRENME SİSTEMİ · 2026

Kernel’i yaz.
Sistemi anla.
Kanıtla.

CUDA’nın ilk warp’ından vLLM serving ve multi-GPU topolojisine kadar 11 etkileşimli atlas, tek bir 12 haftalık GPU Kernel Engineering uygulamasında.

12 haftayı gör

11birleşik atlas

12yoğun hafta

5LLM operatörü

3kanıt kapısı

ÖĞRENME GRAFİĞİÇEVRİM İÇİ

CUDATRITONBELLEKİŞLEÇGPU
KERNELNSIGHTCUTLASSÇIKARIMNCCL

MİMARİ sm_89TEMPO 14–16 sa/haftaMOD kanıt-öncelikli

DOĞRULUK

Referans, şekil/dtype matrisi ve sanitizer temizliği olmadan kernel tamamlanmış sayılmaz.

ÖLÇÜM

Warm-up, quantile, profiler ve kontrollü baseline olmadan hız iddiası kurulmaz.

ENTEGRASYON

Gerçek hedef; PyTorch, compile ve serving iş yükü içinde çalışan portföy kalitesinde operatördür.

ATLAS HARİTASI

Tek uygulama.
On bir uzmanlık alanı.

Temelden capstone’a ilerleyen rota. Her atlas kendi etkileşimli laboratuvarını, karar modelini ve kabul çıktısını içerir.

12 HAFTALIK YOĞUN ROTA

Okuma listesi değil.
Üretim sistemi.

Haftada 14–16 saat. Her hafta çalışan kod, doğruluk kanıtı veya ölçüm raporu üretir.

Araç zinciri ve tensor anatomisi

C++/Linux/CMake ortamı; adım ve yerleşim gözlemi

Zemin

CUDA zihinsel modeli

Izgara, blok, warp, dallanma ve ilk güvenli kernel

CUDA

Bellek ve birleşik erişim

HBM, paylaşılan bellek, banka çakışması ve doluluk

Bellek

PyTorch özel operatörü

torch.library, sahte kernel, opcheck ve ilk Triton kernel

Entegrasyon

RMSNorm ve RoPE

Referans, adıma duyarlı indeksleme ve CUDA/Triton ikilisi

Operatör

SwiGLU

Aktivasyon + çarpım füzyonu; yazmaç baskısı

Operatör

Maskeli softmax ve dikkat

Kararlı indirgeme, maske ve çevrimiçi softmax

Operatör

KV-cache ve doğruluk

Dağıtma/güncelleme, yarışlar ve geniş test matrisi

Kanıt

Kıyaslama ve Nsight

Isınma, yüzdelikler, çatı çizgisi ve üç profil çalışması

Ölçüm

CUTLASS ve füzyon

Döşeme politikası ve ilk uçtan uca birleştirilmiş kernel

Optimizasyon

Çıkarım ve çoklu GPU

vLLM, CUDA Graphs, NCCL ve iletişim maliyeti

Sistem

Bitirme projesi ve portföy

TTFT/ITL/iş hacmi raporu, iki %15+ füzyon ve savunma

Mezuniyet

MEZUNİYET KAPISI

2×

CUDA/Triton çift uygulama

≥15%

iki fused kernel medyan kazanç

Nsight incelemesi

vLLM TTFT/ITL/ throughput raporu

≥80%

mülakat savunması

Kernel’i yaz.
Sistemi anla.
Kanıtla.

Tek uygulama.
On bir uzmanlık alanı.

Mühendislik Temelleri

Mimari → SIMT → CUDA

GPU Bellek Laboratuvarı

PyTorch + Triton Kernel Laboratuvarı

LLM Kernel Desenleri

Kernel Doğruluğu ve Güvenliği

Nsight ve Kıyaslama Rehberi

CUTLASS · CuTe · Tensor Core · PTX

Çıkarım Sistemleri Laboratuvarı

NCCL ve Çoklu GPU Sistemleri

GPU Yazılım Yığını

Okuma listesi değil.
Üretim sistemi.

Kernel’i yaz.Sistemi anla.Kanıtla.

Tek uygulama.On bir uzmanlık alanı.

Mühendislik Temelleri

Mimari → SIMT → CUDA

GPU Bellek Laboratuvarı

PyTorch + Triton Kernel Laboratuvarı

LLM Kernel Desenleri

Kernel Doğruluğu ve Güvenliği

Nsight ve Kıyaslama Rehberi

CUTLASS · CuTe · Tensor Core · PTX

Çıkarım Sistemleri Laboratuvarı

NCCL ve Çoklu GPU Sistemleri

GPU Yazılım Yığını

Okuma listesi değil.Üretim sistemi.

Kernel’i yaz.
Sistemi anla.
Kanıtla.

Tek uygulama.
On bir uzmanlık alanı.

Okuma listesi değil.
Üretim sistemi.