GPU Sunucu Kiralama

GPU sunucu kiralama mı, satın alma mı?

GPU altyapısında ilk karar, donanımın satın alınması ile kiralanması arasındadır. İki yaklaşımın da doğru olduğu durumlar vardır; belirleyici olan iş yükünün süresi, kullanım yoğunluğu ve ekibin donanım işletme kapasitesidir.

Kriter	GPU sunucu kiralama	GPU sunucu satın alma
Başlangıç yatırımı	Düşük, dönemsel ödeme	Yüksek, peşin donanım bedeli
Donanım eskimesi	Sağlayıcının sorumluluğunda	Kurumun sorumluluğunda
Enerji ve soğutma	Veri merkezi altyapısına dahil	Ayrıca planlanmalı; GPU’lar yüksek güç çeker
Proje sonu	Kaynak küçültülebilir veya kapatılabilir	Atıl donanım riski
Uygun olduğu durum	Pilot projeler, değişken veya dönemsel yük	Yıllarca sürekli ve tam dolu kullanım

GPU’nun CPU’dan farkı ve hangi iş yüklerinde öne çıktığı GPU sunucu nedir rehberinde ayrıntılı olarak anlatılır.

Karar verilirken yalnızca donanım bedeline bakmak yanıltıcı olabilir. Satın alınan GPU sunucu için enerji, soğutma, yedek parça, sürücü ve donanım yazılımı güncellemeleri ile arıza anında müdahale edecek personel de hesaba katılmalıdır. Proje henüz keşif aşamasındaysa ve modelin hangi boyutta üretime çıkacağı belli değilse, kiralama ile başlayıp kullanım profili netleştikten sonra uzun vadeli karar vermek riski azaltır. Kurumsal verinin yurt dışındaki bir platforma gönderilmesinin istenmediği projelerde, Türkiye lokasyonlu kiralık GPU altyapısı ayrıca tercih sebebi olur.

Hizmet güvencesi: GPU sunucu taleplerinde destek, hizmet seviyesi sözleşmesinde yer alan öncelik sınıflarıyla yürür; eğitim ya da render işini durduran kritik bir arızada ilk müdahale hedefi 15 dakikadır. Model ve eğitim verisinin işlendiği altyapı, ISO/IEC 27001 belgeli bilgi güvenliği yönetim sistemiyle yönetilir (sertifikalarımız).

Model, hassasiyet ve kullanıcı sayısına göre gereken GPU belleğini önceden görmek için GPU VRAM hesaplayıcı kullanılabilir; sonuç, teklif aşamasında kart sınıfı ve sayısını netleştirmeyi hızlandırır.

Model eğitimi ve çıkarım için doğru yapılandırma

Aynı proje içinde bile eğitim (training) ve çıkarım (inference) aşamaları farklı kaynak ister. Eğitimde belirleyici olan GPU belleği (VRAM), GPU sayısı ve GPU’lar arası iletişimdir; büyük modeller birden fazla GPU’ya bölünerek eğitilir. Çıkarımda ise tek istek başına gecikme ve eşzamanlı kullanıcı sayısı öne çıkar; çoğu zaman daha küçük ama sürekli çalışan bir yapılandırma yeterlidir.

GPU’nun tam verimle çalışması, çevresindeki bileşenlere de bağlıdır. Veri setini yeterince hızlı okuyamayan bir disk veya yetersiz sistem belleği, pahalı GPU kaynağının beklemede kalmasına yol açar. Yazılım tarafında sürücü, CUDA ve çatı (PyTorch, TensorFlow) sürümlerinin birbiriyle uyumlu olması da performans ve kararlılık için kritiktir; bu ortamın konteyner imajlarıyla tanımlanması, geliştirme ve üretim arasında tutarlılık sağlar. Büyük veri setleri ve model kontrol noktaları (checkpoint) için S3 uyumlu object storage ile GPU sunucunun birlikte kullanılması yaygın bir mimaridir.

GPU sunucu fiyatlarını belirleyen etkenler

• GPU sınıfı ve bellek kapasitesi: modelin ve veri partisinin (batch) VRAM’e sığması gerekir.
• GPU adedi: tek GPU’lu geliştirme ortamı ile çoklu GPU’lu eğitim kümesi farklı ölçeklerdedir.
• İşlemci, RAM ve NVMe disk: veri hazırlama ve yükleme hızını belirler.
• Kullanım süresi: kısa dönemli proje ile uzun dönemli sabit kullanım farklı planlanır.
• Yönetim ve yedekleme kapsamı: ortam kurulumu, izleme ve model/veri yedeklerinin korunması.
• Ağ ve erişim: veri setinin sunucuya aktarım yöntemi, VPN ile özel erişim ve dışa açık çıkarım servisleri için güvenlik kuralları.

Teklif öncesinde kullanılacak model ailesi, yaklaşık parametre büyüklüğü, veri setinin hacmi ve hedeflenen eğitim veya yanıt süresi paylaşıldığında, ihtiyaçtan büyük ya da küçük bir yapılandırma seçilmesinin önüne geçilir. Pilot aşamasında tek GPU ile ölçüm yapıp sonuçlara göre büyümek, özellikle ilk yapay zekâ projesini yürüten ekipler için daha kontrollü bir yoldur.

GPU	Aylık başlangıç fiyatı
NVIDIA RTX 5090	35.000 TL’den başlayan
NVIDIA L40S	39.000 TL’den başlayan
NVIDIA H200	179.000 TL’den başlayan
NVIDIA B200	289.000 TL’den başlayan

Fiyatlar CPU, RAM, disk, trafik, güç tüketimi ve talep edilen ek hizmetlere göre değişir; kart bulunabilirliği ve teslim süresi teklif aşamasında netleşir.

Yapay zeka sunucu seçimi: iş yükü ile GPU sınıfının eşleştirilmesi

Yapay zeka sunucu ihtiyacında doğru kart, modelin ne kadar bellek istediğine ve işin tek seferlik bir eğitim mi yoksa gün boyu kullanıcıya yanıt veren bir servis mi olduğuna göre belirlenir. Kart adı tek başına karar ölçütü değildir.

Uygulamada üç tip yapay zekâ iş yükü öne çıkar. İnce ayar (fine-tuning), açık kaynaklı bir modelin şirket dokümanlarına veya belirli bir göreve uyarlanmasıdır; bellek ihtiyacı parametre sayısı ve hassasiyetle birlikte artar, parametre verimli yöntemler ise işi tek karta indirebilir. Çıkarım ve model servisi sohbet asistanı, doküman arama veya sınıflandırma API’si gibi kullanımları kapsar; eşzamanlı kullanıcı sayısı, bağlam uzunluğu ve yanıt süresi belirleyicidir ve sunucu sürekli çalıştığı için tepe hızdan çok sabit maliyet önem kazanır. Sıfırdan eğitim araştırma ekipleri dışında seyrek görülür; yüksek bellekli birden fazla veri merkezi GPU’su ve hızlı GPU’lar arası bağlantı gerektirir.

MAV Cloud seçeneklerinde RTX 5090 gibi iş istasyonu sınıfı kartlar geliştirme, küçük modeller ve pilot projeler için uygundur. L40S hem çıkarım hem grafik işlerinde kullanılan bir veri merkezi kartıdır. H200 ve B200 ise ağırlıkları ve veri partileri yüksek bant genişlikli bellek gerektiren büyük modeller için konumlanır. Fikir vermesi açısından RTX 5090 yapılandırmasının aylık başlangıç fiyatı 35.000 TL’dir.

Render için GPU sunucu: 3D, animasyon ve video

Render amaçlı GPU sunucu, sahne ve kare hesaplamasını CPU’dan GPU hızlandırmalı render motorlarına taşıyarak render süresini kısaltır. Render kuyruğunun ekibi beklettiği ya da teslim tarihlerinin kısa süreli yoğunluk yarattığı dönemlerde, donanım satın almak yerine kiralık kapasite daha mantıklı hale gelir.

Render işlerinde kontrol listesi yapay zekâ işlerinden farklıdır. Sahnenin tamamı, dokular ve geometri kartın belleğine sığmalıdır; sığmadığında bazı motorlar daha yavaş modlara geçer ya da iş hata verir. Render motoru ve eklentilerin sürücü sürümüyle uyumu proje başlamadan doğrulanır, render düğümlerinin lisans koşulları yazılım üreticisiyle netleştirilir. Video işlerinde donanımsal kodlama ve büyük kaynak dosyalar için hızlı depolama da listeye eklenir. Proje dosyaları çoğu zaman yüzlerce gigabayta ulaştığı için dosyaların sunucuya aktarım yöntemi, GPU’nun yanındaki depolama katmanı ve tamamlanan karelerin geri alınma şekli de önceden planlanır.

Dedicated GPU sunucu kiralarken nelere bakılır?

Dedicated GPU sunucu kiralamada kart modeli, teknik şartnamenin yalnızca bir satırıdır. Aşağıdaki kontrol listesi, sonradan ortaya çıkan sürprizlerin çoğunu önler:

• Ayrılmış mı, paylaşımlı mı: GPU’nun tek bir müşteriye mi ayrıldığı, yoksa birden fazla kullanıcı arasında mı bölündüğü.
• Çevre donanım: GPU’nun veri beklememesi için işlemci çekirdeği, sistem belleği ve NVMe kapasitesinin dengeli boyutlandırılması.
• Yazılım katmanı: işletim sistemi, sürücü, CUDA ve çatı sürümleri ile bu katmanın bakımını kimin üstlendiği.
• Veri konumu ve erişim: eğitim verisi ve model dosyalarının nerede tutulduğu, VPN ile özel erişim ve dışa açık çıkarım servisleri için güvenlik kuralları.
• Destek koşulları: hizmet sözleşmesindeki ilk müdahale hedefleri; MAV Cloud’da kritik öncelik için 15 dakika, yüksek için 1 saat, orta için 4 saat, düşük öncelik için 1 iş günüdür.
• Bulunabilirlik: kart bulunabilirliği ve teslim süresi teklif aşamasında netleşir; proje tarihi bu bilgiye göre sabitlenir.

Model boyutuna göre gereken GPU belleği GPU VRAM hesaplayıcı ile önceden görülebilir; GPU mimarisinin temelleri GPU sunucu nedir rehberinde yer alır.