Yapay zekâ çocuklar için sosyal medyadan daha riskli

Yapay zekâ çocuklar için sosyal medyadan daha riskli olabilir. Araştırmalar, çocukların sohbet robotlarını kişisel sorunlar ve sağlık konuları için kullandığını gösteriyor.

Google’ın eski güven ve güvenlik yöneticisi Tom Siegel, yapay zekânın çocuklar üzerindeki etkilerinin sosyal medya döneminde yaşanan sorunlardan daha ağır sonuçlar doğurabileceğini belirtti. Siegel, teknoloji şirketlerinin kendi ürünlerini yalnızca iç denetim mekanizmalarıyla kontrol etmesinin artık yeterli olmadığını savundu.

Siegel’e göre sektör, sosyal ağların hızla büyüdüğü yıllarda yapılan hataları yapay zekâ alanında daha kısa sürede tekrarlıyor. Sosyal medyanın ilk dönemlerinde çocukların ruh sağlığı, bağımlılık ve zararlı içeriklerle karşılaşma riski yeterince erken ele alınmamıştı.

Yapay zekâyı farklı kılan ise sistemlerin yalnızca içerik sunmaması. Sohbet robotları çocukların sorularını yanıtlıyor, tavsiye veriyor ve uzun süreli, bire bir iletişim kurabiliyor. Bu nedenle hatalı ya da yaşa uygun olmayan bir yanıtın etkisi, sıradan bir sosyal medya paylaşımının ötesine geçebiliyor.

Tom Siegel özellikle çocukların kriz anlarında yapay zekâya başvurmasından, sistemlere duygusal bağ geliştirmesinden ve bu araçları kendi düşünme süreçlerinin yerine koymasından endişe ediyor.

Google’daki deneyimini bağımsız denetime taşıyor

Siegel’in değerlendirmeleri, teknoloji sektöründeki geçmişi nedeniyle de önem taşıyor. 2004’te Google’a katılan Siegel, şirketin güven ve güvenlik yapılanmasını oluşturan ekipte görev aldı ve bu birimi yönetti. Yaklaşık 15 yıl içinde söz konusu yapı, Google ve iş ortaklarında binlerce kişinin çalıştığı küresel bir operasyona dönüştü.

Daha sonra teknoloji şirketlerinin yalnızca kendi denetimleriyle izlenemeyeceğini savunan Siegel, bağımsız güvenlik ölçümleri üzerine çalışan TrustLab’in kurucuları arasında yer aldı. Siegel şimdi, Common Sense Media bünyesinde kurulan Youth AI Safety Institute’un ilk icra direktörü olarak görev yapacak.

Enstitü, çocukların kullandığı yapay zekâ ürünlerini şirketlerden bağımsız biçimde değerlendirmeyi ve bu ürünler için güvenlik standartları geliştirmeyi amaçlıyor.

Araştırma, çocukların yapay zekâyı kişisel konularda da kullandığını gösterdi

Common Sense Media’nın ABD’de 9-17 yaş arasındaki 1.204 çocukla gerçekleştirdiği araştırma, yapay zekânın çocuklar arasında ne kadar yaygınlaştığını ortaya koydu. Katılımcıların yüzde 86’sı yapay zekâ kullandığını belirtirken, yaklaşık dörtte biri bu araçlara her gün başvurduğunu söyledi.

Kullanım alanları ödev ve eğlenceyle sınırlı kalmadı. Yapay zekâ kullanan çocukların yarısından fazlası sağlık veya bedenleriyle ilgili konularda sistemlerden yararlandığını, üçte birden fazlası ise duyguları ve kişisel sorunları hakkında sohbet robotlarıyla konuştuğunu bildirdi.

Kişisel meselelerini yapay zekâyla paylaşan çocukların yaklaşık dörtte biri, sistemin kendilerini çoğu insandan daha iyi anladığını düşündüğünü ifade etti. Her beş kullanıcı çocuktan biri de bu araçları bir ay boyunca kullanmamanın kendisi için zor olacağını söyledi.

Araştırmaya göre sohbet robotlarını kullanan çocukların yaklaşık altıda biri uygunsuz içerikle karşılaştı. Ancak bu çocukların yalnızca yaklaşık üçte biri yaşadıklarını güvendiği bir yetişkinle paylaştı.

Çocukların yapay zekânın bilgi güvenilirliği konusundaki farkındalığı da sınırlı kaldı. Katılımcıların yalnızca yaklaşık üçte biri, sistemlerin doğru ve yanlış bilgiyi her zaman güvenilir biçimde ayıramayacağını biliyordu. Bu durum, çocukların yapay zekâya gerçekte sahip olduğundan daha yüksek bir doğruluk ve güvenilirlik atfetme ihtimalini artırıyor.

Çocuklara yönelik bağımsız güvenlik testleri planlanıyor

Youth AI Safety Institute, yapay zekâ ürünlerini otomobillerdeki bağımsız çarpışma testlerine benzer bir modelle incelemeyi hedefliyor. Ürünler, çocukların karşılaşabileceği gerçek kullanım senaryoları üzerinden değerlendirilecek.

Testlerde sistemlerin kriz anlarına verdiği yanıtlar, zararlı tavsiye üretip üretmediği, duygusal bağımlılığı teşvik edip etmediği ve yaşa uygun davranıp davranmadığı incelenecek. Sonuçların kamuoyuyla paylaşılması ve şirketlerin uyması gereken ölçülebilir güvenlik kriterlerinin oluşturulması planlanıyor.

Enstitü daha önce Google’ın yapay zekâ destekli arama özellikleriyle Perplexity’nin yapay zekâ arama sistemini çocuklar açısından kabul edilemez risk kategorisinde değerlendirmişti.

Kuruluşun finansman sağlayıcıları arasında Anthropic ve OpenAI Foundation da bulunuyor. Bununla birlikte enstitü, değerlendirme sonuçları ve güvenlik testleri üzerinde finansman sağlayan şirketlerin etkisi olmadığını, editoryal bağımsızlığını koruduğunu belirtiyor.

Siegel’in yaklaşımının temelinde, teknoloji şirketlerinin kendi sistemlerinin güvenliğine tek başına karar vermemesi gerektiği görüşü yer alıyor. Yapay zekânın çocukların günlük hayatına sosyal medyadan çok daha hızlı girmesi, bağımsız denetim ve şeffaf güvenlik ölçümlerinin önemini artırıyor.