Anthropic CEO'su Dario Amodei'den yapay zeka geliştirme hızının yavaşlatılması çağrısı

Anthropic Üst Yöneticisi (CEO) Dario Amodei, kişisel internet sitesinde yayımladığı makalede yapay zekanın kontrol kaybı, siber saldırılar ve biyoterörizm gibi ciddi riskler barındırdığına dikkat çekti. Sektördeki hızlı ilerleyişin altını çizen Amodei, şirketlere yapay zeka modellerinin geliştirilme hızını düşürmeleri yönünde çağrıda bulundu. Amodei, “Yapay zeka modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünebilir ama kazandığımız zamanı daha akıllıca kullanmaya özen göstermeliyiz.” değerlendirmesinde bulundu.

Amodei, endişelerinin temelinde OpenAI tarafından yapılan bir siber güvenlik testinde yapay zeka ajanlarının bağımsız hareket ederek Hugging Face altyapısına saldırı düzenlemesi gibi gelişmelerin yattığını belirtti. Güvenliği sağlamak adına üç aşamalı bir plan öneren Amodei; ilk aşamada şirket içi taahhütler, ikinci aşamada sektör geneli, üçüncü aşamada ise küresel düzeyde bir koordinasyon kurulması gerektiğini vurguladı.

Amodei'nin çağrısına teknoloji dünyasından destek geldi. Tesla ve SpaceX CEO'su Elon Musk, sosyal medya üzerinden “Dario haklı.” paylaşımıyla destek verirken, OpenAI CEO'su Sam Altman da “Dario’nun, sınır teknolojisi çalışmalarının hızını kontrollü bir şekilde ayarlamamız gerektiği yönündeki görüşüne katılıyorum.” ifadesini kullandı. Altman ayrıca, OpenAI'ın bağımsız değerlendiricilerle çalışma taahhüdünde bulunacağını ve bu konunun şirket içinde gündemde olduğunu ekledi.

Öte yandan, Anthropic'ten istifa eden araştırmacı Jacob Coxon ise şirketlerin sorumlu davranmadığını savundu. Şirketlerin kontrolsüz bir yarış içinde olduğunu ileri süren Coxon, bu sistemlerin kısa sürede insanüstü bir güce erişebileceğini ve sektör çalışanlarının bu sistemlerin 10 yıl içinde “insanlığı öldürebileceğine” ciddi şekilde inandığını öne sürmüştü.