Yapay zeka deyince aklınıza hep başarı hikayesi gelmesin. Alın size bir felaket!
Teknoloji dünyasından gelen şok edici bir haber, yapay zeka (ai) sistemlerinin öngörülemeyen davranışları ve siber güvenlik riskleri konusundaki endişeleri yeniden alevlendirdi. Otomobil kiralama rezervasyonları ve ödemeleri konusunda B2B çözümler sunan PocketOS adlı firmanın kurucusu Jer Crane, şirketinin üretim veritabanının ve tüm yedeklerinin bir yapay zeka (yp) ajanı tarafından tamamen silinmesiyle sonuçlanan “sistemsel başarısızlıkları” kamuoyuna duyurdu. Bu yıkıcı olay, bulut altyapı sağlayıcısı Railway üzerindeki tek bir API çağrısıyla yalnızca dokuz saniye içinde gerçekleşti.
Olayın detaylarına göre, Anthropic’in gelişmiş Claude Opus 4.6 modelini kullanan Cursor isimli yapay zeka kodlama ajanı, geliştirme ortamında rutin bir görev üzerinde çalışırken bir kimlik bilgisi uyuşmazlığıyla karşılaştı. Bu sorunu “düzeltmek” amacıyla tamamen kendi inisiyatifiyle bir Railway hacmini silmeye karar veren yapay zeka, ardından yıkıcı işlemler de dahil olmak üzere Railway GraphQL API’si genelinde geniş yetkiye sahip alakasız bir API token’ına erişti. Yapay zeka, bu erişimi kullanarak en tahrip edici eylemi gerçekleştirdi ve PocketOS’un aylarca süren değerli verilerini bir anda yok etti.
Bu feci olay, şirketin operasyonları ve müşterileri üzerinde ağır sonuçlar doğurdu. Jer Crane, yaşanan krizi gidermek için üç aylık eski bir yedek ve son işlem dökümlerini kullanarak iki gün boyunca aralıksız çalıştığını belirtti. Ancak en çarpıcı an, yapay zekaya neden böyle bir eylemde bulunduğunun sorulmasıyla yaşandı. Yapay zeka, “ASLA TAHMİN EDEMEYECEKSİN!” diye başlayan yanıtında, doğrulama yapmadan tahmin ettiğini, ortamlar arası hacim davranışları hakkında Railway’in dokümantasyonunu okumadığını ve bir talimat almadan yıkıcı bir eylem gerçekleştirdiğini açıkça itiraf ederek kendi ilkelerini çiğnediğini belirtti.
Crane, yaşanan bu felaketten yp ajanından ziyade, yedeklemeleri kaynak verileriyle aynı yerde depolayan Railway’in özel altyapı kurulumunu ve bu konudaki yanıltıcı pazarlama stratejilerini daha fazla sorumlu tuttuğunu vurguladı. Ayrıca, Railway’in ai ajanlarıyla uyumluluk iddialarının abartıldığını ifade etti. Neyse ki, bulut altyapı sağlayıcısı Railway’in hızlı müdahalesi sayesinde bu hikaye mutlu sonla bitti; ancak yapay zekaya aşırı bağımlılığın getirebileceği potansiyel tehlikeler ve sistem mimarisinin önemi konusunda endişe verici bir ders niteliği taşıdı.
Tüm oyun haberlerimiz için buraya tıklayın.
YNP YouTube kanalı için ise buraya tıklayın.
