Modern bilgisayar teknolojileri, yüksek performans gerektiren uygulamalar ve büyük veri işlemleri için daha hızlı ve verimli çözümler sunmak zorundadır. NVIDIA‘nın geliştirdiği NVLink, bu ihtiyaçlara yönelik yenilikçi bir teknolojidir. Peki, NVLink nedir, ne işe yarar ve nasıl çalışır? İşte tüm detaylar…
Bir zamanlar sadece devlet araştırma laboratuvarlarında bulunan yüksek performanslı bilgi işlem çözümleri, artık birçok sektörde yaygınlaşmıştır. Bankalar, otomobil üreticileri, fabrikalar, hastaneler ve perakendeciler gibi çeşitli sektörlerdeki şirketler, artan hesaplama gücünü karşılamak için süper bilgisayarları kullanmaya başlamıştır.
Bu güçlü sistemlerde, GPU ve CPU gibi çeşitli donanımlar kullanılarak yüksek verimlilik ve hızlı veri aktarımı sağlanmaktadır. İşte bu noktada devreye giren önemli bir teknoloji olan NVLink, hızlandırılmış bilgi işlemde altın standart olarak kabul edilir.
1990’ların sonlarından beri birden fazla ekran kartını birbirine bağlama fikri vardı, ancak SLI teknolojisi beklentileri karşılayamadı. NVIDIA, bu sorunu çözmek için NVLink‘i geliştirdi. NVLink, son tüketici oyunlarında pek kullanılmasa da, birçok süper bilgisayara güç sağlamaktadır.
NVLink‘in sunduğu imkanları keşfetmeden önce, bu bağlantı teknolojisinin sunduğu yüksek bant genişliği ve veri aktarım hızının sadece iş amaçlı sistemlerde kullanıldığını belirtelim.
NVLink Nedir?
NVLink, NVIDIA tarafından geliştirilen yüksek bant genişliğine sahip bir bağlantı teknolojisidir. Bu teknoloji, GPU‘lar (Grafik İşlem Birimleri) ve CPU‘lar (Merkezi İşlem Birimleri) arasında hızlı veri transferi sağlamak için tasarlanmıştır. NVLink, PCIe (Peripheral Component Interconnect Express) bağlantısından daha yüksek bant genişliği ve daha düşük gecikme süresi sunar.
NVLink, hızlandırılmış bilgi işlem sistemlerinde kullanılan ve GPU’lar ile CPU’lar arasında yüksek hızlı veri transferi sağlayan gelişmiş bir bağlantı teknolojisidir. Bu teknoloji, bir bilgisayar kartına entegre edilen ve birden fazla kablo çifti üzerinde çalışan yüksek hızlı bir bağlantı protokolü sunar. İşlemciler, bu sayede paylaşılan bellek havuzlarından çok hızlı veri aktarımı yapabilir.
Şu anda NVLink‘in dördüncü nesli kullanılmaktadır. Geliştirmelerle birlikte, ana bilgisayar ve hızlandırılmış işlemciler arasındaki veri transfer hızları saniyede 900 gigabayta (GB/sn) ulaşmaktadır. Geleneksel PCIe Gen 5 ara bağlantısına kıyasla 7 kat daha yüksek bant genişliği sunan NVLink, ayrıca enerji verimliliği açısından da PCIe Gen 5‘in beş katı performans sağlar.
NVLink Ne İşe Yarar?
- Yüksek Performanslı Hesaplama (HPC): NVLink, yüksek performanslı hesaplama uygulamalarında GPU’lar arasında hızlı veri transferi sağlar. Bu, bilimsel araştırmalar, yapay zeka ve makine öğrenimi gibi alanlarda büyük veri setlerinin işlenmesini hızlandırır.
- Veri Merkezi ve Sunucular: Veri merkezlerinde ve sunucularda NVLink, birden fazla GPU’nun birbirine bağlanarak paralel işlem yapmasını sağlar. Bu, büyük ölçekli veri analizleri ve simülasyonlar için idealdir.
- Oyun ve Grafik Uygulamaları: NVLink, oyun ve grafik tasarımı gibi uygulamalarda daha hızlı ve akıcı grafik performansı sunar. Birden fazla GPU’nun senkronize çalışması, daha yüksek çözünürlükler ve kare hızları sağlar.
NVLink Nasıl Çalışır?
NVLink, GPU’lar arasında yüksek bant genişliğine sahip veri yolları oluşturur. Bu veri yolları, PCIe bağlantısına kıyasla daha hızlı veri transferi sağlar. NVLink, GPU’lar arasında doğrudan bağlantılar kurarak veri transferini hızlandırır ve gecikmeleri minimize eder.
- Bağlantı Yapısı: NVLink, GPU’lar arasında doğrudan bağlantılar kurar. Her NVLink bağlantısı, 25 GB/s veri transfer hızına sahiptir ve birden fazla bağlantı paralel olarak çalışabilir.
- Yüksek Bant Genişliği: NVLink, PCIe 3.0’a kıyasla 5 ila 12 kat daha yüksek bant genişliği sunar. Bu, büyük veri setlerinin hızlı bir şekilde işlenmesini sağlar.
- Düşük Gecikme: NVLink, düşük gecikme süresi ile verimli veri transferi sağlar. Bu, özellikle gerçek zamanlı uygulamalarda büyük avantaj sağlar.
NVLink, NVIDIA’nın yüksek performanslı veri transferi sağlayan yenilikçi bir teknolojisidir. Yüksek bant genişliği ve düşük gecikme süreleri ile NVLink, GPU’lar arasında hızlı ve verimli veri transferi sağlar. Yüksek performanslı hesaplama, veri merkezleri ve grafik uygulamaları gibi alanlarda NVLink, önemli bir rol oynar. Eğer yüksek performans gerektiren uygulamalar üzerinde çalışıyorsanız, NVLink teknolojisi size büyük avantajlar sunacaktır.
NVLink’in Tarihi
İlk olarak NVIDIA P100 GPU ile tanıtılan NVLink, her yeni NVIDIA GPU mimarisiyle birlikte gelişmeye devam etti. 2018 yılında Summit ve Sierra gibi dünyanın en güçlü süper bilgisayarlarında kullanılan NVLink, GPU ve CPU’ları birbirine bağlama görevini üstlendi. Bu sistemler, ilaç keşfi ve doğal afet tahminleri gibi çeşitli alanlarda kullanıldı.
Veri Aktarım Hızları
2020‘de tanıtılan üçüncü nesil NVLink, GPU başına maksimum bant genişliğini 600 GB/sn‘ye çıkardı. NVIDIA A100 Tensor Core GPU’da kullanılan bu teknoloji, yapay zeka süper bilgisayarlarına güç sağlamaktadır. Dördüncü nesilde ise bant genişliği 900 GB/sn‘ye yükseldi ve 18 GPU bağlantısı desteklenmeye başlandı.
| 2. Nesil | 3. Nesil | 4. Nesil | |
|---|---|---|---|
| GPU Başına Bant Genişliği | 300 GB/sn | 600 GB/sn | 900 GB/sn |
| Maksimum GPU Bağlantısı | 6 | 12 | 18 |
| Destekli NVIDIA Mimarisi | Volta | Ampere | Hopper |
SLI Dönemi Kapandı
NVIDIA’nın bir zamanlar iki aynı model ekran kartını tek sistemde kullanmamızı sağlayan SLI teknolojisi, yerini NVLink’e bıraktı. RTX 2070 SUPER, 2080 SUPER ve RTX 2080 Ti modellerinde NVLink desteklenirken, RTX 3000 serisinde bu destek sadece GeForce RTX 3090 modeline eklendi. Sonrasında, Ada Lovelace mimarili RTX 4000 serisi ekran kartları piyasaya sürüldü ve bu kartlarda NVLink konnektörü tamamen kaldırıldı.
NVIDIA CEO’su Jensen Huang, NVLink arabirimi yerine farklı bir G/Ç bağlantı özelliğine yer vermek istediklerini belirtti. NVIDIA mühendisleri, eldeki silikon alanını en iyi şekilde kullanarak daha güçlü yapay zeka işlemlerine odaklandılar.
NVLink ve SLI Arasındaki Fark
NVLink, SLI’dan farklı olarak, hiyerarşik olmayan ve düğümler arasında doğrudan bağlantı sağlayan bir ağ topolojisi olan mesh ağını kullanır. Bu yapı, verilerin belirli bir düğüm üzerinden yönlendirilmesi yerine, her düğümün doğrudan bilgi aktarmasını sağlar. NVLink, SLI gibi master-slave ilişkisine dayanmaz; bu nedenle herhangi bir kart “master” rolünü üstlenmez.
SLI, Alternatif Çerçeve Oluşturma (Alternate Frame Rendering) tekniğini kullanarak kareleri işliyordu; yani her bağlı kart farklı kareleri işliyordu. İki GPU’lu bir yapılandırmada, bir kart çift kareleri işlerken diğeri tek kareleri işliyordu. Bu teori kulağa hoş gelse de, pratikte donanım sınırlamaları nedeniyle istenildiği gibi çalışmıyordu ve genellikle sinir bozucu takılmalara yol açıyordu.
NVLink Köprüsü (NVLink Bridge), daha hızlı görüntü işleme için daha iyi bir çözüm sunar. SLI köprüleri en fazla 2 GB/s bant genişliğine sahipken, NVLink Köprüsü 200 GB/s gibi hızlara ulaşabiliyordu. Bilgi işlem amaçlı geliştirmelerle birlikte, bu bant genişliği 900 GB/s gibi seviyelere kadar çıkmıştır.
160 ve 200 GB/s NVLink köprüleri, yalnızca NVIDIA‘nın profesyonel sınıf Quadro GPU’larında kullanılmaktadır. Tüketici odaklı GPU’lar için köprüler daha yavaş olsa da, SLI ile kıyaslandığında çok daha iyidir. İki Titan RTX veya iki RTX 2080 Ti ekran kartını 100 GB/s bant genişliği ile bağlamak mümkündür.
Çipten Çipe Bağlantı
NVIDIA NVLink-C2C, iki işlemciyi tek bir paket içinde birleştirerek süper bir yonga oluşturmak için kart düzeyinde ara bağlantı sağlayan bir versiyondur. Örneğin, bulut, kurumsal ve HPC kullanıcıları için enerji tasarruflu performans sunmak üzere tasarlanan NVIDIA Grace CPU Superchip‘te iki yonga birbirine bağlanır. Grace, bu sayede 144 Arm Neoverse V2 çekirdeğini içinde barındırır.
NVIDIA NVLink-C2C ayrıca, Grace CPU ve Hopper GPU’yu birleştirerek Grace Hopper Superchip’i oluşturur. Bu sayede, üst sınıf HPC ve yapay zeka iş yükleri için tasarlanan işlemciler tek bir çözümde bir araya gelir.
İsviçre Ulusal Bilgi İşlem Merkezi için planlanan yapay zeka süper bilgisayarı Alps, Grace Hopper’ı ilk kullanan sistemlerden biri olacaktır. Süper bilgisayar devreye girdiğinde astrofizikten kuantum kimyasına kadar birçok alanda büyük bilim problemleri üzerinde çalışacaktır.
Ek olarak, NVLink, NVIDIA Hopper, Grace ve Ada Lovelace işlemcilerini içeren otomobil üreticileri için güçlü bir çip üzerinde sistemde kullanılmaktadır. NVIDIA DRIVE Thor, dijital gösterge paneli, bilgi-eğlence, otonom sürüş, park etme ve daha fazlası gibi akıllı işlevleri tek bir mimaride birleştiren bir araç bilgisayarıdır.
LEGO Bilgisayar Bağlantıları
NVLink, büyük HPC ve yapay zeka işlerinin üstesinden gelmek için süper sistemler oluşturma imkanı tanır. Örneğin, bir NVIDIA DGX sistemindeki 8 GPU’nun tümü NVLink’ler aracılığıyla NVSwitch yongaları ile hızlı ve doğrudan bağlantıları paylaşır. Sunucudaki farklı GPU‘lar, tek bir sistemin parçası gibi hareket ederek NVLink ağı oluşturur.
