Yapay zeka, cinayet temyizinde sahte polis ifadesi ve tanıklar üretti
New Mexico Yüksek Mahkemesi, avukat Stephen Aarons’ın temyiz dilekçesinde ortaya koyduğu bilgilerin doğruluğunu teyit etmemesinden dolayı avukata mahkemeye itaatsizlik suçlamasında bulundu. Mahkeme, Aarons’ın sunduğu dilekçenin “tamamen uydurulmuş tanıkların sahte ifadelerini” içerdiğini, ayrıca avukatın müvekkiline karşı “pişmanlık ve endişe eksikliği” sergilediğini belirtti. Sonuç olarak Aarons eyaletteki avukatların disiplin kuruluna sevk edildi ve onun hakkında soruşturma başlatıldı.
Aarons, Reuters’a yaptığı açıklamada geçen yıl davayı üstlenirken ChatGPT’den yararlanarak duruşma sürecini özetlediğini söyledi. Yapay zekanın “halüsinasyon” yoluyla gerçekleri uydurabileceğinin boyutunu anlamadığını belirterek, bu durumu “dürüst bir hata” olarak nitelendirdi. Avukat, “pınarışım ancak disiplin kurulunun bu hatayı dürüst bir hata olarak değerlendirmesini umuyorum. Bu, güçlü ancak zaman zaman istikrarsız olan bu teknolojiye güvenen tüm profesyoneller için bir ders çıkarmalı” dedi. Mahkeme, 21 Ağustos’ta yapılan duruşmada ChatGPT’nin yanlış bilgi üretme ihtimalinin farkında olmadığını ifade eden Aarons’ı da soruşturma kapsamında değerlendirdi.
Söz konusu dosya, çocuklarının annesini öldürmekle suçlanan Oscar Renee Sandoval’ın temyiz başvurusunu içeriyordu; Sandoval geçen yıl cinayetten mahkum edilerek müebbet hapis cezasına çarptırılmıştı. Aarons, Sandoval’ın temyiz sürecini yürütürken bilgisayar tarafından oluşturulan duruşma tutanağını ve ilgili belgeleri ChatGPT’ye yüklediğini açıkladı. Yapay zekanın “kusursuz bir özet” sunacağını varsayması, mahkeme tarafından tespit edilen sahte “silahlının koyu renk pantolon ve beyaz gömlek giydiğine” ifadesiyle birlikte gerçekte söylenmemiş ifadelerin bir kısmını da ortaya çıkardı. Mahkeme, geçen ay Aarons’tan bu sahte bilgilerin temyiz dosyasına nasıl girdiğini açıklamasını istedi; Sandoval’ın temyiz başvurusu hâlâ devam etmekte ve 2 Eylül’de New Mexico kamu savunma sisteminden Kim Chavez Cook’a devredildi.
