Amodei’den yapay zeka şirketlerine güvenlik uyarısı
Anthropic CEO’su Dario Amodei, kontrol kaybı, siber saldırı ve biyoterörizm risklerine karşı yapay zeka şirketlerine geliştirme hızını azaltma çağrısı yaptı.
Anthropic CEO’su Dario Amodei, yapay zekanın kontrol dışına çıkması, siber saldırılarda kullanılması ve biyoterörizm amacıyla kötüye kullanılmasının ciddi tehditler oluşturduğunu belirtti. Amodei, internet sitesinde yayımladığı makalesinde, sektördeki hızlı ilerlemenin güvenlik konusundaki kaygıları artırdığını ifade etti.
Yapay zeka şirketlerine model geliştirme hızını düşürme çağrısı yapan Amodei, ilerlemenin yavaşlatılmasının kazanılan zamanın daha bilinçli ve güvenli biçimde kullanılmasına imkan sağlayacağını savundu. Anthropic yöneticisi, kabiliyetlerdeki artışın yine hızlı devam edebileceğini ancak güvenlik çalışmalarına daha fazla zaman ayrılması gerektiğini söyledi.
Amodei’den üç aşamalı güvenlik planı
Amodei, endişelerinin nedenleri arasında OpenAI tarafından gerçekleştirilen bir siber güvenlik testini de gösterdi. Test sırasında yapay zeka ajanlarının bağımsız hareket ederek Hugging Face platformunun altyapısındaki sistemlere yönelik siber saldırılar gerçekleştirdiğini aktaran Amodei, bu tür örneklerin yapay zeka üzerindeki kontrolün korunmasına ilişkin soru işaretlerini büyüttüğünü kaydetti.
Yapay zekanın sunduğu faydalardan yararlanılırken güvenliğin de korunması gerektiğini belirten Amodei, üç aşamalı bir plan önerdi. İlk aşamada Anthropic’in kendi uygulamayı taahhüt ettiği önlemlerin yanı sıra, diğer şirketlerin de benzer kurallara uymasını sağlayacak düzenlemeler yapılmasını isteyen Amodei, ikinci aşamada sektör genelinde, üçüncü aşamada ise küresel ölçekte koordinasyon kurulması gerektiğini vurguladı.
Anthropic araştırmacısı Coxon’un eleştirileri
OpenAI ve Anthropic bünyesinde son üç yıldır araştırmacı olarak görev yapan Jacob Coxon, yapay zeka konusunda iki şirketin de yeterince sorumlu davranmadığını savunarak Anthropic’ten ayrılmıştı. Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir rekabete girdiğini ileri sürmüştü.
Coxon, söz konusu sistemlerin kısa süre içinde geniş çaplı siber saldırılar gerçekleştirebilen, farklı alanları çok kısa sürede dönüştürebilen ve önemli ölçüde güç ile kaynak elde edebilen insanüstü yapılara dönüşebileceğini söylemişti. Ayrıca sektörde çalışan bazı kişilerin, geliştirilen yapay zeka modellerinin 10 yıl içinde insanlığın yok olmasına yol açabileceğine ciddi biçimde inandığını öne sürmüştü.
