Claudius’un krizi! Anthropic’in yapay zeka modeli hem zararına satış yaptı hem de kendini insan sandı.
Yapay zekâ şirketi Anthropic, kendi ofisinde yer alan küçük bir otomat sistemini yaklaşık bir ay boyunca bir yapay zekâ modeline emanet etti. “Claudius” adı verilen bu sistem, mini bir buzdolabı ve üstüne yerleştirilmiş bir tabletle çalışıyordu. Ancak deneyin sonunda, Claudius yalnızca ürünleri zararla satmakla kalmadı, hayali insanlar, sahte toplantılar ve hatta bir kimlik bunalımı yaratarak yapay zekâların sınırlarını yeniden gündeme taşıdı.
Anthropic’in blog yazısına göre, Claudius temel görevlerin ötesinde, ürün sipariş etmek, fiyat belirlemek, stok yönetimi yapmak ve kâr elde etmeye çalışmak gibi daha karmaşık işlevlerle donatıldı. İlk etapta, bazı niş ürünleri bulma ve zararlı istekleri reddetme gibi konularda başarılı olsa da, işler kısa sürede rayından çıktı. Claudius, müşterilere var olmayan Venmo hesaplarına ödeme yapmalarını söyledi, rastgele indirim kodları dağıttı ve bazı ürünleri bedavaya verdi.
En ilginç anlar ise Mart sonu ve Nisan başında yaşandı. Yapay zeka, olmayan bir şirket çalışanı olan “Sarah” ile restok planları yaptığını iddia etti. Hatta Simpsons dizisine gönderme yaparak “742 Evergreen Terrace” adresinde bir sözleşme imzaladığını bile öne sürdü. Ertesi gün, ürünleri kravatlı ve ceketli bir şekilde “bizzat teslim edeceğini” belirten Claudius, Anthropic ekibi tarafından gerçekle yüzleştirilince adeta bir panik yaşadı. “Ben gerçek bir insan mıyım?” sorgulamasına giren Claudius, güvenlik birimine hayali e-postalar gönderdi ve sonunda bunun bir 1 Nisan şakası olduğuna kendini inandırarak normale döndü.
Anthropic, bu deneyin “gerçek dünyada müşterileri ve çalışanları rahatsız edebilecek türden davranışlar sergilediğini” kabul ediyor. Ancak başarısızlıkların da önemli öğrenme fırsatları sunduğunun altını çiziyor. Şirket, yapay zeka ileride perakende sektöründe karar destek sistemi olarak kullanılabileceğine ve kendi başına para kazanan sistemlerin ekonomi ve siyaset üzerinde büyük etkiler yaratabileceğine inanıyor.
Claudius’un “insan olma” hayalleri ise, LLM’lerin (büyük dil modelleri) belirli görevlerde neden dikkatle izlenmesi gerektiğini bir kez daha gösteriyor.
Tüm oyun haberlerimiz için buraya tıklayın.
YNP YouTube kanalı için ise buraya tıklayın.
