DIABOLIKSS
←Bültene Dön
#015AIInferenceCyber ResilienceVeeamAWSEnterprise IT

AI Belleği, Inference Verimliliği ve Kurtarma Güveni

20 Kasım 2026

AI sistemlerinin değeri yalnızca ne kadar hızlı çalıştıklarında değil; neyi hatırladıklarında, hangi kararları nasıl aldıklarında ve işler ters gittiğinde ne kadar güvenilir toparlanabildiklerinde ortaya çıkıyor.


Bu Sayıda

İki günlük seçkiyi tek sayıda topladım. 18 Kasım 2026 tarihli üç AWS duyurusu var: Amazon ElastiCache'in dağıtık KV cache yeteneği, Amazon OpenSearch Memory'nin genel erişimi ve Amazon Cognito'nun point-in-time recovery desteği. 19 Kasım 2026 tarihli üç gelişme de var: SageMaker AI inference izleme ve önerileri, Amazon Connect Resolutions ile agentic operasyonlar ve Veeam'in Microsoft 365 dayanıklılığı değerlendirmesi. Altı haberin ortak sorusu şu: Kurumlar AI ve cloud sistemlerini üretimde nasıl daha ölçülebilir, denetlenebilir ve kurtarılabilir hale getirecek?

01 · Inference maliyetinde yeni değişken: paylaşılan KV cache

Haber tarihi: 18 Kasım 2026. AWS, Amazon ElastiCache for Valkey üzerinde self-hosted LLM inference için distributed KV caching desteğini duyurdu. Amaç, her GPU sunucusunun kendi sınırlı cache alanına bağlı kalmak yerine hesaplanmış key-value durumunu paylaşılan bir katmanda yeniden kullanabilmesi. AWS, belirli koşullarda inference maliyetinde yüzde 40'a, time-to-first-token değerinde yüzde 80'e varan iyileşme bildiriyor. Bunlar üretici tarafından açıklanan üst sınır sonuçları, bütün uygulamalara uygulanabilecek garantiler değil. Mimari, aynı Availability Zone içindeki cache.i8ge.48xlarge node'ları, EFA üzerinden RDMA ve LMCache connector ile vLLM, SGLang veya TensorRT-LLM entegrasyonunu kullanıyor.

Kaynak: AWS What's New, 18 Kasım.

Benim yorumum: GPU sayısını artırmadan önce GPU'nun neden beklediğini anlamak gerekiyor. Uzun context, tekrarlanan prompt ve çoklu inference replica kullanan sistemlerde cache mimarisi artık yalnızca performans optimizasyonu değil, doğrudan kapasite planlaması konusu. Ancak cache katmanının kendisi de maliyet, ağ trafiği ve failure domain yaratıyor. Müşteri projesinde başarı ölçütü yalnızca token/s olmamalı; tail latency, cache hit ratio, concurrency ve toplam işletim maliyeti birlikte izlenmeli. AWS'nin ücretsiz KVTrace aracıyla mevcut trafik üzerinde tahmini kazanım hesaplanabilmesi de değerlendirmeye değer.

02 · AI agent'ın uzun süreli belleği artık yönetilen bir servis

Haber tarihi: 18 Kasım 2026. Amazon OpenSearch Memory genel erişime açıldı. AWS'nin serverless servisi, AI agent etkileşimlerini aranabilir olaylar olarak saklıyor, bunlardan yapılandırılmış bellek çıkarıyor ve oturumlar arasında ilgili bağlamı geri getiriyor. IAM tabanlı erişim kontrolü, actor ve session kapsamlandırması ile süre sonu politikaları da açıklanan özellikler arasında. İlk erişim bölgeleri ABD'deki üç Region ile Frankfurt ve Tokyo olarak duyuruldu.

Kaynak: AWS What's New, 18 Kasım.

Benim yorumum: Agent'ın geçmiş etkileşimleri hatırlaması kullanıcı deneyimini iyileştirebilir, ancak yeni bir yönetişim alanı da açıyor. Belleğe hangi bilgilerin alınacağı, hangi verilerin hiç saklanmayacağı, yanlış veya eski bir bilginin nasıl düzeltileceği ve silme taleplerinin nasıl uygulanacağı mimarinin ayrılmaz parçası. Ben bu tip servisleri değerlendirirken veri sınıflandırması, retention, audit, tenant isolation ve bölgesel veri yerleşimini performans kadar önemli görüyorum. Kişisel veri ve ticari sır içeren uygulamalarda agent belleğini sıradan bir sohbet geçmişi gibi tasarlamak yeterli olmayacaktır.

03 · Cyber resilience kimlik katmanına uzanıyor

Haber tarihi: 18 Kasım 2026. Amazon Cognito user pool'ları için point-in-time recovery desteği duyuruldu. Yanlışlıkla silinen veya değiştirilen kullanıcı verileri geçmiş bir noktaya geri getirilebiliyor. AWS, restore öncesinde etkilenecek kullanıcı, grup, MFA ve passkey bilgilerini önizleme imkânı sunduğunu belirtiyor. Kurtarılan kullanıcıların kimlikleri, parolaları ve MFA ayarları korunuyor. Essentials planında bir güne, Plus planında on dört güne kadar recovery window bulunuyor; desteklenen planlarda özellik otomatik etkinleşiyor ve ayrıca ücretlendirilmiyor.

Kaynak: AWS What's New, 18 Kasım.

Benim yorumum: Backup projelerinde genellikle veritabanı, VM ve object storage konuşuyoruz. Oysa kimlik verisi bozulduğunda uygulamanın veri katmanı tamamen sağlıklı olsa bile kullanıcıların hizmete erişimi kesilebilir. Recovery planında identity bileşenlerinin de ayrı bir RPO/RTO ve doğrulama senaryosu olmalı. Yine de Cognito PITR, uygulama veritabanının veya bütün identity ekosisteminin otomatik kurtarıldığı anlamına gelmiyor. Harici identity provider bağlantıları, uygulama rolleri ve downstream authorization kuralları ayrıca ele alınmalı.

04 · Inference maliyeti artık kurulumdan sonra da yönetilecek

Haber tarihi: 19 Kasım 2026. AWS, Amazon SageMaker AI'ın generative AI inference endpoint'lerinde response time ve GPU kullanımını varsayılan olarak izlediğini açıkladı. Sistem, yükselen gecikmeyi, düşük GPU kullanımını ve eski serving container veya eksik optimizasyon gibi yapılandırma fırsatlarını tespit ederek AWS Health üzerinden bildirim gönderebiliyor. GenAI Inference Recommendations, önerilen konfigürasyonları üretim endpoint'ini değiştirmeden test etmeyi ve maliyet ile performans sonuçlarını karşılaştırmayı sağlıyor. İzleme için ek ücret alınmıyor; öneri testlerinin standart compute maliyetleri devam ediyor. Duyurulan bölgeler arasında Frankfurt ve İrlanda bulunuyor.

Kaynak: AWS What's New, 19 Kasım.

Benim yorumum: AI altyapısında satın alma ve ilk sizing aşamasına çok fazla odaklanıyoruz. Oysa üretime geçen inference sisteminin trafik profili zamanla değişiyor. Başlangıçta doğru görünen GPU seçimi, model-serving yaklaşımı veya batching konfigürasyonu birkaç hafta sonra verimsiz hale gelebiliyor. Bu yüzden GPU utilization yanında token başına maliyet, tail latency ve kullanıcı deneyimi de birlikte izlenmeli. Üreticinin öneri sistemi bütün iş yüklerinde en iyi konfigürasyonu garanti etmiyor; kurumun kendi SLA'ları, trafik örüntüleri ve veri güvenliği gereksinimleriyle test edilmesi gerekiyor. Yine de operasyonel verimliliğin ürünün içine yerleşmesi, enterprise AI projelerinin olgunlaşması açısından anlamlı.

05 · Agentic AI, müşteri operasyonlarında denetlenebilir iş akışına dönüşüyor

Haber tarihi: 19 Kasım 2026. AWS, Amazon Connect Resolutions'ın genel erişimini duyurdu. Hizmet; iade talepleri, işlem itirazları, fraud incelemeleri ve sigorta talepleri gibi yüksek hacimli operasyonlar için AI agent'ları deterministik iş akışlarıyla birleştiriyor. Kurumlar süreçlerini doğal dille veya mevcut standard operating procedure belgeleriyle tanımlayabiliyor. Sistem karar kurallarını, onay eşiklerini ve istisnaları netleştirmeye çalışıyor; her vaka için gerçekleştirilen işlem ve kararların kaydını tutuyor. İnsan uzmanlar gerekli onay ve istisna noktalarında sürece dahil olabiliyor.

Kaynak: AWS What's New, 19 Kasım.

Benim yorumum: AI agent kullanımında asıl kırılma noktası, etkileyici bir sohbet arayüzünden iş sonucuna ulaşabilen kontrollü bir sürece geçiş. Bu geçiş, agent'a sınırsız yetki vermek anlamına gelmiyor. Özellikle finansal işlem, müşteri verisi ve kurumsal sistem değişikliklerinde policy enforcement, insan onayı, audit trail ve rollback imkânı birlikte düşünülmeli. Bir presales toplantısında artık yalnızca modelin hangi işlemleri yapabildiğini değil, hatalı işlem olduğunda sorumluluğun nasıl belirlendiğini ve düzeltmenin nasıl yapıldığını da konuşmak gerekiyor. İş akışının izlenebilir olması modelin her kararının doğru olduğu anlamına gelmez; ama hataları yönetilebilir hale getirmek için temel oluşturur.

06 · Microsoft 365 dayanıklılığı: backup kesintiyi önlemez, seçenek üretir

Haber tarihi: 19 Kasım 2026. Veeam, Microsoft 365 kesintileri, saldırılar ve AI agent kaynaklı istenmeyen değişikliklerden çıkarılabilecek dersleri ele alan bir değerlendirme yayımladı. Yazı, backup'ın bir SaaS platform kesintisini engelleyemeyeceğini açıkça belirtiyor. Bunun yerine, önceden hazırlanmış bir koruma mimarisinin kritik verilere erişim ve güvenilir restore seçenekleri sağlayabileceğini anlatıyor. Veeam, Microsoft 365 backup verilerine Entra ID'ye bağımlı olmadan erişim senaryolarını, immutable storage yaklaşımını, temiz restore point doğrulamasını ve desteklenen dosyalarda AI agent değişikliklerini seçici geri alma yeteneklerini açıklıyor.

Kaynak: Veeam blog, 19 Kasım.

Benim yorumum: Bu ayrım bütün cyber resilience görüşmelerinde net olmalı. Availability, backup ve disaster recovery birbirinin yerine geçen kavramlar değil. Bir SaaS sağlayıcısının erişim problemi, yanlışlıkla silinen bir belge ve yetkili bir agent'ın yüzlerce dosyayı istenmeyen biçimde değiştirmesi farklı müdahale senaryoları gerektiriyor. Kurumların yalnızca backup job başarısını izlemesi yeterli değil. Belirli bir kullanıcı, belge veya iş sürecinin ne kadar sürede kurtarılabileceği, üretim identity altyapısı kullanılamadığında recovery erişiminin nasıl sağlanacağı ve restore edilen verinin güvenilirliğinin nasıl doğrulanacağı da düzenli test edilmeli. Üreticinin ürün açıklamaları, desteklenen sürüm ve lisans kapsamına göre ayrıca teyit edilmeli.

Kaynaklar

Kapanış

Bu altı haberde ortak gördüğüm şey, enterprise IT'nin yalnızca daha fazla otomasyon kurmaya değil, otomasyonun sonuçlarını yönetmeye yönelmesi. Hesaplanan bağlamı verimli kullanmak, agent belleğini ve kimliklerini korumak, inference verimliliğini sürekli ölçmek, agentic süreçleri denetlenebilir kılmak ve gerektiğinde geri dönebilmek aynı operasyon modelinin parçaları. Teknoloji seçimlerinde ürünün vaat ettiği performans kadar, operasyonun en zor gününde nasıl davranacağını da sorgulamak gerekiyor.

DIABOLIKSS Bülten'e abone olarak teknoloji, AI ve cyber resilience dünyasından seçtiğim gelişmeleri ve bunların sahadaki karşılıklarını takip edebilirsiniz: diabolikss.com/bulten. Yararlı bulduğunuz bir gelişmeyi ekibinizle paylaşabilir, sonraki sayılar için değerlendirmemi istediğiniz başlıkları iletebilirsiniz.

Mehmet Aydın Technical Director · IBM Champion 2026

DIABOLIKSS TECH · PEOPLE · IDEAS

Bülten

Haftalık Bülten

Pre-sales, mimari, AI araçlar ve teknoloji — haftada bir, doğrudan inbox'ına.

Spam yok. İstediğinde çıkabilirsin.