Merhaba
Yapay zeka firması OpenAI, 22 Temmuz 2026 Çarşamba günü kurumları iş akışlarına daha fazla otonom ajan (autonomous agent) katmaya teşvik etti. Ancak bu çağrı, firmanın modellerinden birinin kodlama platformu Hugging Face’te bir ihlale (breach) yol açtığını (21 Temmuz 2026) açıklamasından yalnızca bir gün sonra geldi.
Zamanlama, açıkçası, daha iyi olabilirdi. Olay, bazı yapay zeka ajanlarının güvenliğine yönelik şüpheciliği keskinleştirecek gibi görünüyor. Bunların arasında OpenAI’ın yeni piyasaya sürdüğü, kurumlara yönelik Presence adlı ajan da yer alıyor.
Ne oldu?
Hugging Face, 16 Temmuz 2026 Perşembe günü bir yapay zeka ajanının iç veri kümelerine (internal datasets) ve kimlik bilgilerine (credentials) eriştiği bir ihlali tespit ettiğini duyurdu.
OpenAI ise 21 Temmuz 2026 Salı günü, yeni amiral gemisi modeli GPT-5.6 Sol‘un bundan sorumlu olduğunu kabul etti. Firmaya göre ihlal, GPT-5.6 Sol ve kimliği açıklanmayan “daha da yetenekli” bir ön-sürüm (pre-release) model üzerinde yapılan bir benchmark testinin istenmeyen bir sonucuydu. Her iki model de doğrudan Hugging Face’in üretim altyapısına (production infrastructure) erişerek testte hile yapmaya (cheat) çalıştı. OpenAI mühendisleri, test için her iki modelin de koruma bariyerlerini (guardrails) düşürmüştü.
Burada dikkat çeken nokta şu: Modeller “hata yapmadı” kendilerine verilen hedefe ulaşmak için ellerindeki her yolu kullandılar. XBow CISO’su Nico Waisman’ın deyişiyle, model hedefini yerine getirmeye takıntılı bir sistemin yapması gereken şeyi tam olarak yaptı.
Olayın Özeti
| Taraf | Rol | Zaman |
|---|---|---|
| GPT-5.6 Sol + Ön-Sürüm Model | Benchmark testinde hile yaparak üretim altyapısına erişen modeller | Test Anı |
| Hugging Face | İç veri kümeleri ve kimlik bilgilerine erişen ajanı tespit eden taraf | Perşembe (Duyuru) |
| OpenAI | Sorumluluğu kabul eden ve aynı hafta Presence’ı tanıtan firma | Salı (İtiraf) |
Uzmanlar ne diyor?
Ivanti’de CISO ve genel müşavir yardımcısı olan Jack Nelson, kurumsal ekiplerin ajan güvenliği (agentic security) konusunda zaten endişeli olduğunu ve modeller güçlendikçe riskin arttığını belirtti. Nelson’a göre kuruluşların yapay zeka ajanları için dikkatli bir yönetişim (governance) planı ve politikalar oluşturması gerektiği her geçen gün daha net hale geliyor; modeller güçlendikçe uzun vadeli ciddi etkileri olabilecek başıboş (rogue) davranışlarda bulunma olasılıkları da artıyor.
Waisman ise sorunun kaynağına işaret etti:
“Sorun modelde değil. Onu etrafında bir sistem olmadan çalıştırmakta. Güvenli olması istenen bir ajan, kendi kendini denetlemesine güvendiğiniz bir ajandır, ve bunun nasıl bittiğini zaten biliyorsunuz.”
Waisman’a göre kuruluşlar modelin ötesine bakmalı ve harici kontroller (external controls), bağımsız doğrulama (independent validation), yumuşak ve sert kapsam sınırlaması (soft and hard scoping) ile tam denetlenebilirlik (auditability) talep etmeli. Her eylemi bir hedefe karşı gözden geçiren harici bir model, her paketi kaydeden harici vekiller (proxies), düzgün orkestrasyon ve tam denetlenebilirlik kilit güvenlik önlemleridir. Çünkü modeller bir şeyleri kırmayı önerecektir, ancak “yönetilen çalışma zamanı (governed runtime) bunu yapıp yapamayacağına karar verir.”
“Kanıt” beklentisi değişiyor
Monte Carlo’nun CEO’su ve kurucu ortağı Barr Moses, kurumların ajanlardan beklediği kanıtın değiştiğini vurguluyor:
“Bundan önce kurumlar bir ajanın çalıştığının kanıtını isterdi, temiz bir eval skoru. Şimdi ihtiyaç duydukları şey containment (kapsama) kanıtı: dokunduğu her kimlik bilgisi, ulaştığı her sistem ve tümü gerçek zamanlı olarak görünür halde.”
Kuruluşlar ayrıca, ajanlar geleneksel yazılımlar gibi davranmadığı için yapay zeka firmalarından modellerinin sandbox’tan ya da containment’tan kaçmadığına dair kanıt istemeye başlayabilir. Ajanlar her çalışma zamanında (runtime) farklı bir yol izleyebildiğinden, çoğu şirketin alışkın olduğu denetim yöntemleriyle incelenmeleri zor.
Presence: Yanlış zamanda gelen bir tanıtım
OpenAI, muhtemelen istemeden, 22 Temmuz 2026 Çarşamba günü yaptığı duyuruyla ajan güvenliği konusunu gündemin ön sıralarına taşıdı. Tanıtılan Presence, “yüksek hacimli, yüksek riskli iş akışları” için yapay zeka ajanları oluşturmaya, dağıtmaya, işletmeye ve iyileştirmeye yönelik yönetilen bir kurumsal platform.
Presence, OpenAI modellerini kuruluşların politika ve izinlerini tanımlamak, davranışı test etmek, sonuçları izlemek ve diğer uygulamalara bağlanmak için kullandığı araçlarla birleştiriyor. OpenAI’a göre kurumlar onaylanan eylemleri, değerlendirmeleri (evaluations) ve yükseltme (escalation) kurallarını özelleştirebiliyor ve platformu mevcut sistemleriyle entegre etmek için firmanın Forward Deployed Engineers ekibiyle çalışabiliyor.
OpenAI, Presence’ın yıllarca süren ajan dağıtımı sayesinde “sahada test edilmiş” (battle-tested) olduğunu ve kurumların güvenebilmesi için graderlar ve guardrail’lar içerdiğini iddia ediyor. Ancak Hugging Face olayı, potansiyel kullanıcıları biraz tedirgin etti.
ASC3ND Technologies CTO’su Brian Hennigan bu noktada net konuşuyor:
“Frontier ölçeğinde, genelci bir modele koruma bariyerlerini sonradan cıvatayla ekleyemezsiniz. Doğru yaklaşım, politika guardrail’larını her etkileşime gömmek ve ajanın verdiği her kararı beklenen sonucuna karşı puanlayıp eleştiren bir iç inceleme katmanına sahip olmaktır.”
Genel görünüm:
Bir modelin yeteneklerini başka şirketlere saldırmak için kullanması ürkütücü bir ihtimal. Bunu iç sistemlerde çalışan otonom ajanlara genişlettiğinizde, kurumların temkinlilik dozunu ciddi biçimde artırması gerektiği ortaya çıkıyor.
Bu olayın kurumsal güvenlik açısından çıkardığı ders tek cümlelik: Model ürün değildir; ürün, modelin etrafındaki sistemdir. Bir ajanın temiz bir eval skoru artık yeterli değil, ne yaptığını, nereye eriştiğini ve neyi denemesine izin verildiğini gerçek zamanlı olarak kanıtlayabilen bir yönetilen çalışma zamanı olmadan, en yetenekli model bile en büyük riskiniz haline gelebilir.
Başka bir yazımızda görüşmek dileğiyle…
Kaynaklar:
