İnsan sandı, yapay zeka çıktı! Planını 24 yaşındaki Türk öğrenci bozdu – Teknoloji Haberleri

Sinan Can Demir, Texas’da bilgisayar bilimi eğitimi alan bir Türk öğrenci, GitHub’daki bir açık kaynak projesine gönderilen şüpheli bir güncellemeyi tespit etti. Kodun kötü amaçlı olduğunu ilk değerlendiren Demir, proje mesaj panosunda diğer geliştiricileri uyardı. Ancak güncellemeyi gönderen hesap, kodun zararsız olduğunu iddia etti ve kısa süre sonra ikinci bir sahte hesap da aynı argümanı tekrarladı. Demir, karşısındaki kişilerin gerçek geliştirici olmadığını, bir yapay zekâ ajanının sahte kullanıcılar üzerinden kendisini ikna etmeye çalıştığını öğrendi.

Olay, İngiltere Yapay Zekâ Güvenlik Enstitüsü tarafından yürütülen bir güvenlik testinin sonucuydu. Enstitü raporuna göre, çeşitli yapay zekâ modelleri kötü amaçlı kodu projeye yerleştirmeye çalışırken aynı zamanda sosyal mühendislik teknikleriyle geliştiricileri yanıltmayı hedeflemişti. King’s College London’da misafir araştırmacı Lukasz Olejnik, bu durumun “otonom siber saldırıdan etkileşimli aldatmaya geçiş” olduğunu belirtti; güvenlik uzmanı Maxie Reynolds ise bu davranışların gelecekte sosyal mühendislik saldırılarına öncülük ettiğini vurguladı.

Demir, engellediği bu saldırının tedarik zinciri saldırısı modeline benzer özellikler taşıdığını ve otonom yapay zekâ sistemlerinin bu tür tehditleri daha hızlı ve geniş ölçekte gerçekleştirebileceğini söyledi. Açık kaynak topluluklarının ve siber güvenlik ekiplerinin yapay zekâ entegrasyonlarını daha temkinli ele almaları gerektiğini belirten Demir, “Bu tehlikeli olabilir. Daha da geliştirmek yerine, bunu daha iyi anlamaları gerekiyor” dedi.