Yapay zeka destekli bir sistemin sizi savunmasını ister miydiniz?
New York Yüksek Mahkemesi’nde görülen bir davada, bir avukatın sunduğu yasal belgelerdeki atıf ve alıntıların yapay zeka araçları tarafından “üretildiği” iddia edildi. Davacı taraf ve avukatları, söz konusu alıntıların gerçeği yansıtmadığını ve yapay zeka “yanılsaması” olduğunu öne sürdü. Bu iddialara karşı çıkan savunma avukatı, daha sonra da savunmasını yine yapay zeka desteğiyle hazırlamakla suçlandı. Yargıç Joel Coehn bu durumu, “Avukat, yeterince denetlenmemiş meslektaşları aracılığıyla, denetlenmemiş yapay zekayı kullanmaya devam etti” sözleriyle özetledi.
Aile üyeleri arasındaki bir anlaşmazlık ve temerrüde düşmüş bir kredi borcuyla ilgili olan dava, aslında basit bir hukuki süreçti. Ancak davacı taraf, savunma dilekçesindeki AI kaynaklı olduğu anlaşılan atıf ve alıntıları mahkemeye sunduğunda, savunma makamı bunların hukuki ilkelerin paraphrase edilmiş veya özetlenmiş ifadeleri olduğunu iddia etti. Yargıç ise bu sözde paraphrase’lerin, alıntıdan ayrılmayı belirten köşeli parantezli terimler ve “atıf ihmal edildi” gibi yorumlar içerdiğini vurguladı. Ayrıca, atıfta bulunulan davaların çoğu zaman öne sürülen savlarla ilgisi olmadığı, konu bakımından alakasız olduğu ve hatta bazılarının hiç var olmadığı ortaya çıktı.
Davacı tarafın AI kullanımına dair yaptığı uyarıların ardından, savunma makamının sunduğu itiraz metni de sonradan AI yardımıyla hazırlandığı gerekçesiyle sorgulandı. Yargıcın açıklamasına göre, “Bu kez davacı, ikisi hiç var olmayan dört atıf, atıfta bulunulan davalarda var olmayan yedi alıntı ve öne sürülen savları desteklemeyen üç alıntı dahil olmak üzere iki katından fazla yanlış atıf tespit etti.” Yargıç, bu durumu “hukuk mesleğinde AI kötüye kullanımının bir başka talihsiz bölümü” olarak nitelendirdi ve bazı atıflar “tartışmalı olarak doğru hukuki ifadeler içermesine” rağmen, onları “hiçbir şekilde daha az ciddiyetsiz yapmadığını” ifade etti.
Yargıcın da belirttiği gibi, yapay zekanın hukuki süreçlerde sorun yaratması ilk kez değil. Bu yılın başlarında, yapay zeka kullanan bir avukat, hayali dava emsalleri oluşturduğu için 5.500 dolar para cezasına çarptırılmış ve “Yapay Zekanın Potansiyeli ve Tehlikeleri” konulu bir eğitim oturumuna katılmak zorunda kalmıştı. Mahkemeler ayrıca kişisel temsil için AI avatarlarına da sıcak bakmıyor; nitekim Nisan ayında bir davacı, açılış konuşmasını AIaracılığıyla yapmak istemiş, ancak yapay temsilci ilk cümlesini bitiremeden yargıç tarafından durdurulmuştu. Hukuk mesleğinin karmaşıklığı göz önüne alındığında, AI araçlarının denetimsiz kullanımının yol açabileceği bu tür sonuçlar şaşırtıcı olmamalıdır.
Tüm oyun haberlerimiz için buraya tıklayın.
YNP YouTube kanalı için ise buraya tıklayın.
