jugendschutz.net 2024 Yıllık RaporuCinselleştirilmiş şiddet ve nefret içeriği: Çevrimiçi ortamda çocuklar ve gençler için artan tehlikeler

jugendschutz.net tarafından hazırlanan yıllık rapora göre, gençleri koruma suçlarının başarılı bir şekilde ortadan kaldırılması, birçok dijital hizmetin ihtiyati tedbirlerindekiyapısal eksiklikler nedeniyle engellenmektedir. Temel sorun, çocukların ve gençlerin popüler platformlarda - örneğin aşırılıkçı etkilerden veya cinsel suçlardan - neredeyse hiç korunmadığı yaş doğrulama eksikliğidir.

Buna bir de sorunlu içeriğin yayılmasını körükleyen üretken yapay zekanın artan etkisi ekleniyor. Sağlayıcılar burada yeniliğe odaklanırken, genç kullanıcılar için güvenlik bir öncelik değil.

Her ne kadar jugendschutz.net tarafından bildirilen içeriklerin %99'u silinmiş olsa da, basit kullanıcı bildirimlerinin platformlar tarafından hak ettikleri ciddiyetle ele alınmadığı açıktır. Bunu kontrol etmek için jugendschutz.net, aşırıcılık alanındaki suçları başlangıçta tüm kullanıcılara açık olan normal raporlama kanalları aracılığıyla bildirdi. Bu durum, platformların jugendschutz.net'in gerçekten raporun arkasında olduğunu fark etmesini imkansız hale getirdi. Yedi gün sonra, ilk bildirimden sonra zaten kaldırılmamışsa içerik tekrar bildirildi. Ancak bu kez jugendschutz.net'ten gelen resmi bir rapor söz konusuydu. YouTube'daki testin sonuçları özellikle çarpıcıydı: Kullanıcı raporlarının sadece %6 'sı silinme ile sonuçlandı. Jugendschutz.net'in resmi raporundan sonra silme oranı %96' ya yükseldi. Instagram (%17 / %89) ve TikTok (%27 / %94) gibi diğer platformlar da raporların normal kullanıcılardan geldiği varsayıldığında önemli ölçüde daha az içerik sildi.

jugendschutz.net Başkanı Stefan Glaser, "Sosyal medya cinsel taciz, şiddet ve aşırıcılık için bir geçit olmaya devam ediyor" diyor. Oyun sektörü de dahil olmak üzere aşırılık yanlısı grupların gençleri hedef almasındaki artış özellikle endişe vericidir: "Aşırı sağcılar ve İslamcılar TikTok, Instagram ve benzerlerinde gençleri, gençlerin yaşamlarına yakın konular ve hip görünümlerle cezbediyor. Discord'u oyun oynamaya yatkın gençlere ulaşmak ve onları aşırılık yanlısı fikirlerle tanıştırmak için kullanıyorlar." Aynı zamanda, yapay zeka alanındaki teknik yenilikler mevcut riskleri daha da kötüleştiriyor. "Ne yazık ki, günlük fotoğrafları çıplak görüntülere dönüştürmek artık çocuk oyuncağı. Deepnudes daha sonra zorbalık veya şantaj için kullanılıyor - dijital şiddetin haince bir boyutu" diye uyarıyor Glaser. jugendschutz.net'in araştırması, operatörlerin bazı durumlarda koruma konseptlerini geliştirdiklerini göstermiştir. Glaser, "Ancak sonuçta, yaşa göre farklılaştırılmış önlemler ancak kullanıcının yaşı da kontrol edilirse etkili olabilir" diyor.