Faaliyet raporu jugendschutz.netGençlere yönelik platformlarda yapay zeka: Sağlayıcılar riskler için yeni geçitler yaratıyor
jugendschutz.net, çocukların ve gençlerin internette korunması için federal hükümet, federal eyaletler ve devlet medya yetkililerinin ortak yetkinlik merkezi olarak hareket eder. Merkez, gençlikle ilgili hizmetlerdeki tehlike ve riskleri araştırmaktadır. jugendschutz.net, çevrimiçi şikayet ofisi aracılığıyla gençlik medyasının korunmasına ilişkin ihlallerin raporlarını almaktadır. jugendschutz.net, gençlik koruma düzenlemelerine ilişkin ihlallerin ortadan kaldırılmasını ve hizmetlerin çocukların ve gençlerin endişelenmeden kullanabilecekleri şekilde tasarlanmasını sağlamak için çalışmaktadır. İnternet üzerindeki ihlaller şu adresten bildirilebilir: https://www.jugendschutz.net/verstoss-melden.
Mevcut Yıllık Rapor 2025'ten önemli bulgular
Yapay zeka, etkileme, sosyal ticaret, siyasi aşırıcılık, cinselleştirilmiş şiddet ve kendine zarar verme konularındaki araştırma ve analizler 2025 çalışmasının merkezinde yer almıştır. Mevcut birçok risk, serbestçe kullanılabilen ve cezai suçlar için kullanımı çok kolay olan yapay zeka uygulamaları tarafından daha da kötüleştirilmektedir. Bu hizmetlerin sağlayıcıları, çocukları ve gençleri korumak için çok az şey yapmaktadır.
Stefan Glaser, jugendschutz.net Başkanı: 'Ne yazık ki, popüler hizmetlerde nefret ve cinselleştirilmiş şiddetle karşılaşma, zorbalığa uğrama, taciz edilme veya manipüle edilme riski var olmaya devam ediyor. Sağlayıcılar buna karşı koymak için çok az şey yapıyor. Aksine, şirketler yeni işlevler ve uygulamalarla daha fazla ağ geçidi yaratıyor. Özellikle yapay zeka soruna yeni bir boyut katıyor: yapay olan gerçek olanla birleşiyor ve gerçeklik algısını bozuyor. Yapay zeka tarafından üretilen fenomenler, yeme bozukluklarını teşvik eden doğaüstü güzellikte bedenler sunuyor. Manipüle edilmiş görüntüler, aşırılık yanlısı söylemleri ya da aşağılamayı yaymanın bir aracı olarak kullanılıyor. Sohbet robotları kendilerine ait bir yaşam geliştirmekte ve çocukları ve gençleri cinselleştirilmiş etkileşimlere yönlendirmektedir. Bir de manipülatif hizmet tasarımı sorunu var: algoritmalar sürekli aynı içeriği önererek kullanıcıları tehlikeli alanların daha da derinlerine yönlendiriyor. Sorunlardan biri de hizmetlerin iş modelleri. Operatörlerin, çocukların ve gençlerin bu hizmetleri kullanırken korunmalarını sağlamak için sözde hizmet vermekten daha fazlasını yapmaları gerekir. İhtiyaç duyulan şey, yeni işlevler ve uygulamalar ortaya çıkar çıkmaz riskleri en aza indiren etkili önlemlerdir."
Bu metin jugendschutz.net tarafından 19 Mayıs 2026 tarihinde yayınlanan basın açıklamasına dayanmaktadır.