Yapay zeka, cinayet temyizinde sahte polis ifadesi ve tanıklar üretti
New Mexico Yüksek Mahkemesi, avukat Stephen Aarons’ı mahkeme dosyasındaki bilgileri doğrulamak yerine “tamamen uydurulmuş tanıkların sahte ifadelerini” içeren bir temyiz dilekçesi sunmasından dolayı mahkemeye itaatsizlikten sorumlu tuttu. Yargıçlar, Aarons’un müvekkiline karşı “pişmanlık ve endişe eksikliği” gösterdiğini de belirtti. Bu değerlendirmeler sonucunda avukat, eyaletteki disiplin kuruluna sevk edildi ve soruşturma başlatıldı.
Aarons, Reuters’a yaptığı açıklamada, davayı üstlendiği dönemde duruşma sürecini özetlemek için ChatGPT’ye başvurduğunu söyledi. Yapay zekanın “halüsinasyon” yoluyla gerçekleri uydurabileceğinin farkında olmadığını, bu durumun “dürüst bir hata” olduğunu savundu. Avukat, “Pişmanım ancak disiplin kurulunun bu dürüst hatayı dikkate almasını umuyorum. Bu, güçlü ancak zaman zaman istikrarsız olan bu teknolojiye güvenen tüm profesyoneller için çıkarılması gereken bir ders” diye konuştu. Dilekçe, Oscar Renee Sandoval’ın çocuklarının annesini öldürmekle suçlanan temyiz başvurusuyla ilgiliydi; Sandoval, suçlamaları kabul etmeyerek geçen yıl cinayetten müebbet hapis cezasına çarptırılmıştı. Mahkeme, Aarons’un sunduğu ana temyiz dilekçesinde gerçekte söylenmemiş “silahının koyu renk pantolon ve beyaz gömlek giydiğine” ilişkin kurgusal bir ifadenin de bulunduğunu tespit etti. Aarons, 21 Ağustos’teki duruşmada ChatGPT’nin yanlış bilgi üretebileceğinin farkında olmadığını dile getirdi.
Olay, yapay zeka tarafından hazırlanan belgelerin mahkemeye sunulmadan yeterince kontrol edilmemesinin riskleri konusunda hukuk camiasında yeniden tartışma başlattı. ABD’de benzer durumlarda birçok avukat, yapay zeka araçlarının uydurduğu yasa atıflarını veya yanlış aktardığı bilgileri mahkemeye sunduğu için yaptırımlarla karşılaştı. New Mexico örneği, AI’nin yalnızca hatalı hukuki kaynaklar üretmekle kalmayıp ceza davasında sahte tanık ifadeleri oluşturması bakımından daha ileri bir örnek olarak değerlendirildi. Sandoval’ın temyiz başvurusu halen devam etmektedir.
