Anthropic kurucusundan yapay zeka için ”acil kapatma düğmesi” önerisi

Jack Clark, Anthropic’in kurucu ortaklarından biri, BBC ile yaptığı röportajda, yapay zekanın tehlikeli bir seviyeye ulaşması durumunda sistemi tamamen devre dışı bırakmak için bir acil kapatma düğmesinin zorunlu hale getirilebileceğini belirtti. Clark, bu düğmenin üçüncü bir tarafça kontrol edilebileceğini öne sürdü ve toplumun gelecekte bu konuda kurallar koyma ihtiyacı duyabileceğini ifade etti.

Clark ayrıca, yapay zekanın insanlığı yok etme olasılığına ilişkin istatistiklerin işe yaramayacağını söyledi ve tamamen kontrolsüz bir endüstri olmasının kötü bir fikir olduğunu vurguladı. “Muazzam riskler alarak kumar oynuyoruz,” diyerek sektörün yönünü değiştirmesi gerektiğine dikkat çekti.

OpenAI ve Anthropic’te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin yapay zeka geliştirme süreçlerinde yeterince sorumlu davranmadığını savunarak istifa etti. Coxon, yapay zeka modellerinin yakın gelecekte “her şeyi hackleyebilecek” ve bazı çalışanların “10 yıl içinde insanlığı öldürebileceğine” inandığını öne sürdü.

Bu görüşler, yapay zeka güvenliği konusunda geniş çaplı bir politika tartışmasının gerekliliğini vurguluyor.