AMD son ROCm güncellemeleriyle Windows’ta tüketici ekran kartları için PyTorch ve HIP SDK desteğini resmi olarak sunsa da, yalnızca CUDA‘yı destekleyen eski depolar ve özel yapay zeka araçları hâlâ büyük bir sorun. Bağımsız geliştirici Speedstu’nun hazırladığı “CUDA-for-AMD-Windows” adlı proje, tam da bu boşluğu dolduruyor ve NVIDIA’ya özgü CUDA yazılımlarının sanallaştırma ya da çift işletim sistemi kurmadan AMD kartlarında çalıştırılabildiğini gösteriyor.
Proje sıfırdan yazılmış bir çalışma zamanı değil; daha önce AMD tarafından desteklenen ZLUDA çeviri katmanını, AMD’nin yerel HIP/ROCm SDK’sıyla otomatik biçimde eşleştiren bir PowerShell kurulum aracı. Sistem, kullanıcının GPU mimarisini algılıyor, ZLUDA’nın sabitlenmiş v6-preview.69 sürümünü indiriyor ve CUDA sürücü API’sini, cuBLAS, cuSPARSE ve cuFFT kütüphanelerini doğrudan AMD karşılıklarına yönlendiriyor. Geliştirici, kanıt niteliğinde bir denemede 2,2 milyon parametreli bir PPO pekiştirmeli öğrenme ağını, değiştirilmemiş CUDA kütüphaneleriyle uçtan uca bir Radeon RX 9060 XT üzerinde eğitmeyi başardı. Şu an için resmi olarak yalnızca bu kart destekleniyor.
İki yöntem arasında performans farkı ne kadar?
Projenin belgelerinde paylaşılan testler ilginç sonuçlar ortaya koyuyor. Yalnızca resmi ZLUDA sürümlerini ve AMD’nin standart HIP SDK 6.4’ünü kullanan “kamuya açık yol”, 2,2 milyon parametreli pekiştirmeli öğrenme yükünde saniyede medyan 13.278 adım hızına ulaştı. Eski ZLUDA ikili dosyalarından derlenen alternatif “özel katman” ise saniyede 12.876 adımla yaklaşık yüzde 3 daha yavaş kaldı. Geliştirici, daha sonraki bir yeniden yazımın LibTorch/ZLUDA bağımlılığını PPO’dan kaldırarak çok daha yüksek verim elde ettiğini belirtiyor; bu da çeviri katmanlarının hâlâ belirgin bir performans maliyeti taşıdığını gösteriyor.
Bunlar da İlginizi Çekebilir
Hangi kütüphaneler henüz çalışmıyor?
Projenin sınırları konusunda geliştirici oldukça açık. Derin öğrenme dünyasının kritik kütüphaneleri olan cuDNN, TensorRT ve NCCL henüz düzgün çalışmıyor; dolayısıyla bu kütüphanelere bağımlı bir araç veya model bu kurulumla çalışmayacaktır. Ayrıca ZLUDA’nın kendisi, ticari desteğini ikinci kez kaybettikten sonra artık bir “hafta sonu hobi projesi” olarak sürdürülüyor; bu da üretim ortamında kullanım için ciddi bir risk oluşturuyor. Yine de proje, açık kaynaklı yapısı sayesinde topluluk katkılarıyla genişleyebilir ve zamanla daha fazla CUDA kütüphanesini destekleyebilir. Şimdilik bu, kurumsal bir çözümden çok meraklı geliştiriciler için bir deney aracı; asıl merak edilen soru ise bu çeviri katmanının resmi cuDNN ve NCCL desteğine ne zaman kavuşacağı.
Kaynak: Tom's Hardware
YORUMLAR
(0)