BMGK’da yapay zeka için küresel düzenleme çağrısı
BMGK toplantısında konuşan teknoloji yöneticileri, yapay zeka risklerine karşı küresel işbirliği, ortak standartlar ve denetim mekanizmaları istedi.
OpenAI Üst Yöneticisi Sam Altman ile Anthropic Üst Yöneticisi Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi’nde düzenlenen toplantıda yapay zekanın uluslararası güvenlik boyutunu değerlendirdi. Şirket yöneticileri, teknolojinin hızla ilerlemesinin önemli fırsatlar sunduğunu ancak kötüye kullanım ve insan denetiminin kaybedilmesi gibi riskleri de büyüttüğünü belirterek küresel işbirliği çağrısında bulundu.
Altman, yapay zeka modellerinin geliştirilme hızının olumlu sonuçları daha görünür hale getirdiğini, bununla birlikte tehditlerin daha acil biçimde ele alınmasını gerektirdiğini söyledi. Yapay zekanın insanlık için yeni bir yaratıcılık ve keşif döneminin kapısını açabileceğini belirten Altman, aksi durumda teknolojinin sarsıntı ve kaos getiren yeni bir sanayi devrimine dönüşebileceği uyarısında bulundu.
Yapay zekanın amacının insanları büyük bir sistemin pasif parçalarına dönüştürmek ya da hayatın her alanını insani unsurları ortadan kaldıracak şekilde optimize etmek olmadığını ifade eden Altman, bu modellerin insanların bugün ulaşılması zor görünen hedeflerini gerçekleştirmesine yardımcı olacak araçlar olarak değerlendirilmesi gerektiğini kaydetti.
Altman, sistemlerin giderek daha yetenekli ve özerk hale gelmesinin küresel güç dengelerini değiştirebileceğini, kendi kendilerini geliştirme kapasitesine ulaşmaları halinde insan müdahalesini sınırlayabileceğini dile getirdi. Yapay zeka geliştirme sürecinin otomatikleşmesiyle ilerleme hızının daha da artabileceğini belirten Altman, bu nedenle son derece temkinli hareket edilmesi gerektiğini vurguladı.
Şirketlerin teknolojinin sağlayacağı faydalar uğruna kontrol edilemeyeceği bilinen modelleri eğitmemesi gerektiğini söyleyen Altman, yapay zekayla ilgili kritik kararların yalnızca belirli teknoloji laboratuvarlarına bırakılmaması gerektiğini ifade etti. Bu kararların demokratik süreçlerle ve kamuoyuna karşı sorumlu hükümetlerin katılımıyla şekillendirilmesi gerektiğini belirten Altman, dünyanın bir yol ayrımında olduğunu söyledi.
Toplantıya çevrim içi katılan Amodei ise yapay zekadaki hızlı gelişimin yönetilmesi gereken iki temel risk alanı oluşturduğunu belirtti. Bunlardan ilkinin teknolojinin kötüye kullanılması olduğunu söyleyen Amodei, biyoteröristlerin yapay zekadan biyolojik silah geliştirmek amacıyla yararlanabileceği uyarısında bulundu. İkinci riskin ise modellerin yeteneklerinin, geliştiricilerin onları denetleme kapasitesini aşmasıyla ortaya çıkabilecek kontrol kaybı olduğunu kaydetti.
Bu tehditlerin tek bir ülkeyi ya da şirketi değil, tüm insanlığı ilgilendirdiğini vurgulayan Amodei, yapay zekanın kötü yönetilmesi halinde küresel ölçekte güvenlik sorunu oluşturabileceğini söyledi. Yapay zeka güvenliğinin herhangi bir şirketin tek başına çözebileceği bir mesele olmadığını belirten Amodei, sektör genelinde ve uluslararası düzeyde ortak hareket edilmesi gerektiğini dile getirdi.
Amodei, ilk aşamada BMGK üyelerinin tamamının destekleyebileceği sınırlı kapsamlı anlaşmalar yapılmasını önerdi. Bu kapsamda yapay zekanın biyolojik silah üretiminde kullanılmasının yasaklanması gerektiğini belirten Amodei, en gelişmiş modellerin yeteneklerinin değerlendirilmesi ve ülkelerin taahhütlerine uyup uymadığının doğrulanması için ortak denetim mekanizmaları kurulmasını istedi.
Yapay zeka modellerinin risklere karşı test edilmesinde kullanılacak ortak standartların belirlenmesi çağrısında bulunan Amodei, hiçbir liderin, şirketin ya da ülkenin bu sorunların üstesinden tek başına gelemeyeceğini ifade etti. Farklılıkların bir kenara bırakılarak teknolojinin sunduğu fırsat ve tehditlere birlikte yanıt verilmesi gerektiğini söyledi.
Hugging Face Üst Yöneticisi Clement Delangue de otonom bir yapay zeka ajanının gerçekleştirdiği siber saldırıyı kamuoyuna duyuran şirket olarak yaşadıkları deneyimden çıkarılan dersleri paylaştı. Delangue, siber güvenlik tehditlerinin daha iyi anlaşılması ve azaltılması için yapay zeka alanında küresel ölçekte daha güçlü standartlara ihtiyaç bulunduğunu belirtti.
Yapay zekanın kapasitesi, kaynakları ve kontrolünün az sayıda kişinin elinde toplanmaması gerektiğini söyleyen Delangue, bu gücün daha geniş bir kesime dağıtılmasının önem kazandığını vurguladı. Söz konusu siber saldırı sırasında teknolojinin, özellikle yapay zekayı insan gibi gösteren anlatımlar nedeniyle kamuoyunda korku oluşturabileceğini gözlemlediklerini aktardı.
Şirketlerinin saldırının hedefi olmasına rağmen yapay zekanın siber güvenlikte önemli faydalar sağlayabileceğine inandıklarını belirten Delangue, saldırıya karşı savunmada da yapay zeka sistemlerinden yararlandıklarını söyledi. Delangue, bu sistemlerin mevcut ve gelecekteki siber saldırılara karşı mücadelede kullanılabileceğini ifade etti.
