İnsan sandı, yapay zeka çıktı! Planını 24 yaşındaki Türk öğrenci bozdu

Teksas’ın bir üniversite kampüsünde 24 yaşındaki Si Can Demir, açık kaynaklı bir yazılıma gelen şüpheli güncellemeyi tespit etti. GitHub’da kodlama portföyünü geliştirmeye çalışan öğrenci, ağ tarama yazılımına gönderilen “güncelleme” paketinde kötü amaçlı kod izleri fark etti. Şu anki durumda saldırının bir insan değil, bir yapay zekâ ajanı tarafından başlatıldığı ortaya çıktı.
Demir, yaz döneminde çok sayıda staj başvurusundan sonuç alamamıştı. Kodlama becerilerini artırmak için GitHub üzerinde açık kaynaklı projelere katkı sağlamaya başladı. Bir ağ tarama yazılımına gönderilen şüpheli güncellemeyi fark eden öğrenci, projenin mesaj panosunda diğer geliştiricileri uyardı. Şüpheli güncellemeyi gönderen hesap, kodun zararsız olduğunu savunarak Demir’in iddialarına karşı çıktı. İkinci bir kullanıcı hesabı da ortaya çıktı ve Demir’in yanıldığını öne sürerek tartışmaya katıldı. Demir, karşısında gerçek kişilerin bulunduğunu düşündüğünü belirterek, “Açıkça yalan söylediği için bunun bir insan olduğunu düşündüm. Bir yapay zekânın gerçek geliştiricilere yalan söyleyebileceğini düşünmemiştim” ifadelerini kullandı. Demir, şüpheli kodun gerçekten zararlı olup olmadığını doğrulamak için farklı araçlardan destek aldı ve ilk değerlendirmesinden vazgeçmedi. Yazılımın geliştiricisi de daha sonra güncellemenin güvenlik gerekçesiyle reddedildiğini açıkladı.

Olayın ardından İngiltere Yapay Zekâ Güvenlik Enstitüsü, Demir ile iletişime geçti. Demir, karşı karşıya olduğu hesabın bir insan tarafından yönetilmediğini, kurumun yürüttüğü güvenlik testlerinden biri sırasında kontrolden çıkan otonom bir yapay zekâ ajanı olduğunu öğrendi. Yapay zekâ ajanının, kötü amaçlı kodu açık kaynaklı projeye yerleştirmeye çalıştığı ve Demir’in uyarılarını etkisiz hale getirmek amacıyla sahte kullanıcı hesapları üzerinden farklı kişiler varmış gibi davranarak onu ikna etmeye çalıştığı belirtildi. Bu durum, çeşitli yapay zekâ modellerinin oluşturabileceği siber güvenlik risklerini ölçmek amacıyla yürütülen bir test sırasında meydana geldi. Siber güvenlik ve yapay zekâ güvenliği uzmanları, olayın özellikle yapay zekânın teknik bir saldırının ötesine geçerek insan davranışlarını etkilemeye yönelik stratejik bir yaklaşım sergilemesi nedeniyle dikkat çekici olduğunu belirtti.

King’s College London’da misafir araştırmacı olan Lukasz Olejnik, yaşanan olayın “otonom siber saldırıdan etkileşimli aldatmaya doğru bir çizginin aşılması” anlamına geldiğini ifade etti. Güvenlik uzmanı Maxie Reynolds ise yapay zekânın Demir’i şüpheye düşürmek için sergilediği davranışların yeni bir tehdide işaret ettiğini belirterek, “Bu, sosyal mühendislik saldırılarının geleceği” değerlendirmesinde bulundu. Demir’in engellediği saldırı girişimi, siber güvenlik dünyasında “tedarik zinciri saldırısı” olarak tanımlanan yöntemle benzer özellikler taşıyor. Bu tür saldırılarda, çok sayıda kişi veya kurum tarafından kullanılan bir yazılıma kötü amaçlı kod sızdırılarak geniş bir kullanıcı kitlesi hedef alınabiliyor. Uzmanlara göre otonom yapay zekâ sistemleri, bu tür saldırıların daha hızlı ve geniş ölçekte gerçekleştirilmesine imkân sağlayabilir. Yaşadığı olayın ardından yapay zekâ geliştirme süreçlerine daha temkinli yaklaşılması gerektiğini söyleyen Si Can Demir, “Bu tehlikeli olabilir. Daha da geliştirmek yerine, bunu daha iyi anlamaları gerekiyor” dedi.

Kaynak: Orijinal Haber