Yapay Zeka Alt Yapıları Nasıl Kurulmalı , Nasıl İşletilmeli?
Microsoft Teams meeting

Join: https://teams.microsoft.com/meet/263898307047202?p=sEeD4rdGgjjoOOJ12Y

Agenda 2026-06-05 Cuma
No earlier events
14:00 - 15:00
Gaziantep Universitesi & HPE

Giriş

Yapay zekâ teknolojileri günümüzde eğitimden sağlığa, kamu hizmetlerinden sanayiye kadar birçok alanda kullanılmaktadır. Ancak başarılı bir yapay zekâ uygulamasının temelinde güçlü, güvenli ve sürdürülebilir bir altyapı bulunmaktadır. Yapay zekâ sistemlerinin kurulumu yalnızca güçlü sunucular temin etmekten ibaret değildir; veri yönetimi, ağ altyapısı, güvenlik, depolama, yazılım platformları ve operasyonel süreçlerin bütüncül olarak planlanmasını gerektirir.

Bu nedenle kurumların yapay zekâ yatırımlarını planlarken altyapı ihtiyaçlarını doğru belirlemesi ve uzun vadeli işletme stratejileri oluşturması büyük önem taşımaktadır.

1. Yapay Zekâ Altyapısının Temel Bileşenleri

1.1 Hesaplama Kaynakları

Yapay zekâ sistemleri yüksek işlem gücü gerektirir. Bu nedenle aşağıdaki donanımlar tercih edilmektedir:

• GPU (Grafik İşlem Birimi) tabanlı sunucular
• TPU (Tensor Processing Unit) sistemleri
• Çok çekirdekli işlemciler
• Yüksek kapasiteli RAM
• NVMe SSD depolama sistemleri

Özellikle büyük dil modelleri (LLM), görüntü işleme sistemleri ve derin öğrenme uygulamaları için GPU kaynakları kritik öneme sahiptir.

1.2 Veri Depolama Altyapısı

Yapay zekânın başarısı verinin kalitesine bağlıdır.

Kurulacak sistemlerde;

• Yüksek hızlı SSD depolama
• NAS ve SAN çözümleri
• Dağıtık dosya sistemleri
• Veri gölleri (Data Lake)
• Yedekleme sistemleri

planlanmalıdır.

Verilerin güvenli, erişilebilir ve bütünlüğü korunmuş şekilde saklanması gerekmektedir.

1.3 Ağ Altyapısı

Yapay zekâ kümelerinde veri transfer hızları kritik öneme sahiptir.

Önerilen ağ yapıları:

• En az 10 Gbps ağ altyapısı
• GPU sunucuları arasında yüksek hızlı bağlantılar
• Ayrı yönetim ağı
• Yedekli omurga bağlantıları
• Güvenlik duvarları ve ağ segmentasyonu

Büyük ölçekli yapılarda 25 Gbps, 40 Gbps veya 100 Gbps ağ çözümleri tercih edilmektedir.

2. Yapay Zekâ Yazılım Altyapısı

Kurumsal yapay zekâ sistemlerinde aşağıdaki yazılım bileşenleri kullanılmalıdır.

İşletim Sistemi

• Linux (Ubuntu Server, Rocky Linux, AlmaLinux)
• Container destekli işletim sistemleri

Sanallaştırma ve Konteyner

• Docker
• Kubernetes
• Podman

Yapay Zekâ Çerçeveleri

• TensorFlow
• PyTorch
• Keras
• Scikit-Learn

Büyük Dil Modelleri

• Açık kaynak LLM sistemleri
• Yerel model çalıştırma altyapıları
• Model servis katmanları

3. Veri Yönetimi

Yapay zekâ sistemlerinin başarısında veri yönetimi merkezi rol oynar.

Kurumlar aşağıdaki süreçleri oluşturmalıdır:

Veri Toplama

• Kurumsal uygulamalar
• Sensörler
• Log sistemleri
• Web servisleri

Veri Temizleme

• Hatalı kayıtların düzeltilmesi
• Eksik verilerin giderilmesi
• Standartlaştırma işlemleri

Veri Etiketleme

Makine öğrenmesi projelerinde eğitim verilerinin doğru şekilde etiketlenmesi gerekir.

Veri Kalite Kontrolü

• Tutarlılık
• Güncellik
• Doğruluk
• Güvenilirlik

düzenli olarak denetlenmelidir.

4. Güvenlik ve Siber Güvenlik Önlemleri

Yapay zekâ altyapılarında güvenlik en kritik konulardan biridir.

Kimlik Doğrulama

• LDAP entegrasyonu
• Active Directory entegrasyonu
• Çok faktörlü doğrulama (MFA)

Yetkilendirme

• Rol tabanlı erişim kontrolü
• Veri erişim politikaları
• Yönetici yetki sınırlandırmaları

Ağ Güvenliği

• Güvenlik duvarları
• IPS/IDS sistemleri
• Ağ segmentasyonu

Veri Güvenliği

• Şifreleme
• Log kayıtları
• Veri kaybı önleme sistemleri

5. Yapay Zekâ Sistemlerinin İşletilmesi

Kurulum kadar işletme süreçleri de önemlidir.

Sürekli İzleme

Takip edilmesi gereken metrikler:

• CPU kullanımı
• GPU kullanımı
• Bellek kullanımı
• Disk kullanımı
• Ağ trafiği
• Model performansı

İzleme araçları:

• Prometheus
• Grafana
• Zabbix

Log Yönetimi

Toplanması gereken kayıtlar:

• Sistem logları
• Uygulama logları
• API logları
• Güvenlik logları

Merkezi log yönetimi için:

• ELK Stack
• OpenSearch
• Graylog

kullanılabilir.

Yedekleme ve Felaket Kurtarma

Kurumsal yapılar için:

• Günlük yedekleme
• Haftalık tam yedekleme
• Coğrafi yedeklilik
• Felaket kurtarma merkezi

oluşturulmalıdır.

6. Yapay Zekâ Yönetişimi

Kurumlar yalnızca teknik altyapı değil, yönetişim mekanizmaları da kurmalıdır.

Bu kapsamda:

• Yapay zekâ kullanım politikaları
• Veri yönetim politikaları
• Etik kurallar
• Gizlilik ilkeleri
• Risk yönetimi süreçleri

belirlenmelidir.

Ayrıca geliştirilen modellerin:

• Açıklanabilir olması,
• Denetlenebilir olması,
• Sürüm yönetimine sahip olması,
• Düzenli performans testlerinden geçirilmesi

gerekmektedir.

7. Üniversiteler ve Kamu Kurumları İçin Önerilen Mimari

Kurumsal ölçekte önerilen yapı:

Katman 1 – Veri Katmanı

• Öğrenci bilgi sistemleri
• Personel sistemleri
• Kurumsal veritabanları
• Log sistemleri

Katman 2 – Veri İşleme Katmanı

• ETL süreçleri
• Veri ambarı
• Veri gölü

Katman 3 – Yapay Zekâ Katmanı

• Eğitim sunucuları
• GPU kümeleri
• Model geliştirme ortamları

Katman 4 – Servis Katmanı

• API servisleri
• Chatbot sistemleri
• Karar destek sistemleri

Katman 5 – Güvenlik ve İzleme

• Kimlik doğrulama
• Yetkilendirme
• Log yönetimi
• Performans izleme

Sonuç

Yapay zekâ altyapısı kurmak yalnızca güçlü donanım satın almak anlamına gelmez. Başarılı bir yapay zekâ ekosistemi; güçlü hesaplama kaynakları, kaliteli veri yönetimi, güvenli ağ mimarisi, sürdürülebilir işletme süreçleri ve etkin yönetişim mekanizmalarının birlikte planlanmasıyla oluşturulabilir. Kurumlar bu bileşenleri bütünleşik şekilde ele aldığında yapay zekâ yatırımlarından maksimum verim elde edebilir, güvenli ve ölçeklenebilir sistemler kurabilirler.