Nvidia’nın RTX 30 serisi ekran kartları, uzun yıllar sonra tekrar gündemde. Zagita isimli proje, başta RTX 30 serisinin profesyonel modellere kıyasla sınırlandırılan hesaplama kapasitesini ortaya çıkarmayı hedefliyor.
RTX ekran kartlarının kilidi: Neler yaşandı?
Açık kaynaklı Zagita projesi, Ampere mimarisine sahip bazı GeForce modellerinde uygulanan hesaplama kısıtlamalarını aşmayı hedeflerken, paylaşılan test sonuçları belirli işlemlerde kritik performans kazanımları elde edilebildiğini gösteriyor. Proje kapsamında paylaşılan ölçümlerde RTX 3090 Ti, başta BF16 ve TF32 hesaplamalarında dikkat çekici sonuçlar ortaya koyuyor. Yeni çözüm, bilhassa GA102, GA103, GA104 ve GA106 GPU’larına sahip RTX 30 serisi modellerinde etkili.
Açık kaynaklı proje sayesinde bazı modellerde yapay zekâ performansı yüzde 80’e kadar yükselirken, eski ekran kartları tekrar ilgi odağı oldu. Araç, donanım değişikliği veya ekran kartının vBIOS’unu değiştirmeyi gerektirmeden çalışabiliyor. Bu ekran kartının FP16 hesaplama performansının 65 TFLOPS seviyesinden 113 TFLOPS’a yükseldiği ifade ediliyor.
Proje kapsamında paylaşılan bilgilere göre RTX 3090 Ti için BF16 GEMM kazanımı yüzde 68-80, RTX 3090 için yüzde 25-67 aralığında bulunuyor. RTX 3080 10 GB modelinde yüzde 70-73, bellek yükseltmesi yapılmış RTX 3080 20 GB modelinde ise yüzde 56-59 seviyesinde kazanım bildiriliyor. Yapılan testlerde bazı ekran kartlarında FP16/BF16 hesaplama performansının neredeyse iki katına çıktığı görülüyor.
RTX 3070 için yüzde 73-81 aralığında sonuçlar paylaşılırken RTX 3060 12 GB modelinde ortalama yüzde 80 performans artışı raporlanıyor. RTX 3080 10 GB modelinde ise FP16 performansının 65 TFLOPS’tan 113 TFLOPS’a yükseldiği aktarılıyor. Kullanıcı testlerinde RTX 30 serisi için yüzde 80’e kadar performans artışı bildirilse de kazanımlar modele ve iş yüküne göre değişiyor.
Örneğin RTX 3090 Ti’ın BF16 hesaplama gücü 87,5 TFLOPS’tan 157 TFLOPS’a arttı. Fakat bu sefer oyun performanslarıyla değil, yapay zekâ işlemlerindeki gizli güçleriyle. RTX 3080 10 GB modelinde de benzer bir gelişme raporlanıyor.
Geliştirilen açık kaynaklı yeni bir araç, Ampere mimarisine sahip bazı GeForce ekran kartlarında bulunan hesaplama kısıtlamalarını aşarak performansta ciddi artışlar sağlıyor. Zagita adı verilen proje, bilhassa FP16 ve BF16 hesaplama işlemlerinde ekran kartlarının mevcut kapasitesinden daha fazla yararlanılmasına imkan tanıyor. Yapay zekâ tarafındaki sonuçlar da dikkat çekici.
Projenin odağında Nvidia‘nın GA102, GA103, GA104 ve GA106 GPU’larını kullanan RTX 30 serisi ekran kartları bulunuyor. Profesyonel modellere kıyasla hesaplama performansı sınırlandırılan bu kartlarda, yazılımsal kısıtlamaların aşılmasıyla dikkat çekici sonuçlar elde edildi. RTX 3080 Ti 20 GB OEM modelinde kilit açma işleminin tamamlandığı, fakat BF16 performansının yarı hızda kaldığı belirtiliyor.
Bu nedenle projenin sağladığı kazanımların, yapay zekâ iş akışının her aşamasına aynı ölçüde yansımadığı anlaşılıyor. Testlerde kilidi açılmış RTX 30 ekran kartlarının uzun bağlamlı LLM işlemlerinde Prefill performansını yüzde 33-36 artırdığı, ilk token üretimine kadar geçen süredeki gecikmeyi ise tahminen yüzde 25 azalttığı belirtiliyor. Sonuçlar, başta Prefill hesaplamalarından yararlanan iş yüklerinde daha belirgin bir avantaj ortaya koyuyor.
Ekran kartının FP16 performansı 65 TFLOPS’tan 113 TFLOPS’a çıktı. Kullanıcıların paylaştığı test sonuçları, RTX 30 serisinde yüzde 80’e kadar performans kazanımı sağlanabildiğini gösteriyor. RTX 3070 Ti içinse söz konusu modülle yapılmış bir test bulunmadığı, buna rağmen aynı kilit açma yönteminin Windows üzerindeki UEFI portu üzerinden çalıştığının aktarıldığı ifade ediliyor.
Dikkat çeken ayrıntılar
Fakat artış oranı ekran kartının modeline ve çalıştırılan iş yüküne göre farklılık gösteriyor. Fakat paylaşılan bilgilere göre en dikkat çekici sonuçlar, Ampere mimarisine sahip RTX 30 serisi modellerinde görülüyor. Buna karşılık Decode performansında belirgin bir değişiklik görülmedi.
Yapay zekâ modelinin ilk token’ı üretmesine kadar geçen gecikme tahminen yüzde 25 azaldı. Zagita projesi kapsamında paylaşılan test sonuçlarında RTX 3090 Ti, RTX 3070 ve RTX 3060 12 GB modelleri öne çıktı. Bazı kartlarda yüzde 80’i aşan kazanımlar görülürken, tüm modellerde aynı sonuç elde edilemedi.
Daha eski GTX 9, GTX 10 ve RTX 20 serisi ekran kartlarının yanı sıra RTX 40 serisinde de belirli kazanımlar elde edilebildiği paylaşıldı. RTX 30 serisindeki hesaplama kısıtlamalarının aşılabilmesi, bilhassa 24 GB VRAM kapasitesine sahip RTX 3090 gibi modellerin yapay zekâ çalışmaları için tekrar değerlendirilmesine yol açıyor. Şimdilik en büyük avantaj ise Ampere tabanlı RTX 30 modellerinde görülüyor.
Projenin Linux ile sınırlı olması ve Windows desteğinin henüz bulunmaması da kritik bir kısıtlama konumunda. Bu fiyat değişimleri, söz konusu ekran kartlarını yapay zekâ çalışmaları için değerlendirmek isteyen kullanıcıların yanı sıra oyun amacıyla satın almayı düşünenleri de etkileyebilir. Bu gelişmeler, bilhassa 24 GB VRAM’e sahip RTX 3090 gibi eski ekran kartlarını yapay zekâ kullanıcıları açısından tekrar cazip hale getiriyor.
RTX 30 serisinin hesaplama kapasitesine yönelik yeni sonuçlar ilgi çekse de performans artışlarının modele ve iş yüküne göre değiştiği, projenin işletim sistemi desteğinin de sınırlı olduğu belirtiliyor. Fakat artan ilgi ikinci el piyasasını da etkiliyor. Yani yeni araç, başta yapay zekânın uzun metinleri işlemesi ve ilk cevabı oluşturması sırasında avantaj sağlıyor.
Zagita, bazı Ampere tabanlı GeForce RTX 30 serisi ekran kartlarında hesaplama kısıtlamalarını kaldırmayı amaçlıyor. Yapay zekâ tarafındaki gelişmeler, eski nesil ekran kartlarına ilişkin ilgiyi de artırıyor. Zagita yalnızca RTX 30 serisine dönük geliştirilmiş bir çözüm değil.
Fakat bu ilginin ikinci el piyasasına da yansıdığı belirtiliyor. RTX 40 serisi de desteklenen modeller arasında bulunuyor. Fakat şu ana kadar en büyük kazanımların Ampere mimarisine sahip RTX 30 ekran kartlarında elde edildiği görülüyor.
RTX 3090 Ti’ın 3.000 dolara yaklaştığını belirtelim. Dolayısıyla RTX 30 serisinin yapay zekâ alanında tekrar değer kazanması, bu ekran kartlarını satın almak isteyen oyuncular için artan ikinci el fiyatları anlamına gelebilir. Yüzde 80’e varan artışlar bazı modellerde bildiriliyor; kazanımlar ekran kartına ve iş yüküne göre değişiyor.
Yorumlar (0)