Yapay zeka şirketleri gerildi: ‘Sonuçlardan korkuyoruz, 10 yıl içinde insanlığın sonunu getirebilir’
Jacob Coxon, Anthropic’ten istifa eden bir araştırmacı, BBC’ye yapay zeka sektöründeki derin kaygılarını aktardı. Coxon, sektör içinde çalışan araştırmacıların teknolojinin kontrolsüz ilerlemesinin yaratabileceği sonuçları kamuoyuna yansıtılmasından çok daha ciddi biçimde değerlendirdiğini vurguladı. En çarpıcı iddialarından biri, mevcut hızda ilerleme devam edilirse yakın gelecekte insanlığın varlığının tehdit altında olabileceği yönündeydi; Coxon “Mevcut ilerleme hızını yavaşlatmazsak yakın gelecekte hepimizin ölebileceğine dair güçlü bir ihtimal bulunduğuna inanıyorum” ifadelerini kullandı.
Coxon, OpenAI ve Anthropic’de görev yaptığı dönemde, kendi kendini geliştiren yapay zeka sistemlerinin hızla büyümesiyle ilgili endişelerini dile getirdi. Sektörün bir yarış içinde bulunduğunu ve bu yarışın sonuçlarından korktuğunu ifade eden Coxon, “İnsanüstü sistemler haline geleceğini” öne sürdüğü iddialar arasında bu sistemlerin “her şeyi hackleyebileceği, herhangi bir alanı bir gecede dönüştürebileceği” ve “gerçek güç ve kaynaklar elde edebileceği” sözlerini yerleştirdi. Daha önce yaptığı açıklamalarda, yapay zeka modellerini geliştiren bazı sektör çalışanlarının bu sistemlerin 10 yıl içinde insanlığın varlığını tehdit edebileceğine ciddi biçimde inandığını öne sürdü.
Sektör çalışanlarının düzenlemenin tek bir şirket veya ülkenin adımıyla yavaşlatılamayacağını savunduğu ve uluslararası koordinasyonun gerekli olduğu görüşü öne çıktı. Özellikle ABD ve Çin arasında ortak hareket edilmemesi durumunda küresel yapay zeka yarışının durdurulmasının güçleşeceği iddia edildi. Anthropic CEO’su Dario Amodei, yayımladığı bir makalede de hızın düşürülmesi çağrısında bulunurken, Elon Musk ve Sam Altman sosyal medya üzerinden Amodei’nin önerisini destekledi. Bilimsel toplulukta yapay zekanın insanlığın sonunu getireceğine dair bir uzlaşı olmadığı vurgulandı; ancak ileri sistemlerin denetlenmesi ve potansiyel risklerin ele alınması süreci devam ediyor.
