jugendschutz.netKarakter botları - reşit olmayanların cinselleştirilmesi ve riskli etkileşim
Eylül 2025'te jugendschutz.net tarafından yürütülen araştırma üç tanınmış hizmete (Character.AI, Talkie ve FlowGPT) odaklanmıştır. Küçüklere yönelik cinselleştirilmiş şiddet risklerine özellikle dikkat edilmiştir. Bu, zayıf filtrelerin ve yetersiz ihtiyati tedbirlerin, küçüklerin uygun olmayan veya potansiyel olarak tehlikeli içerikle hızlı bir şekilde temas etmesine yol açabileceğini göstermiştir. Örneğin, botlar bağımsız olarak küçüklerin cinselleştirildiği veya onlarla cinsel eylemlerde bulunulduğu metinler üretmiştir. Hizmetlerde bazı koruma mekanizmaları mevcut olsa da, bunların atlatılması genellikle çok kolaydı, yani gerçek kullanımda etkisiz oldukları kanıtlandı. klicksafe olarak Temmuz 2025'te Character.AI hizmetini test ettiğimizde de benzer bir sonuca ulaştık.
Bu hizmetlerle ilgili süregelen bir sorun da erişimin yeterince düzenlenmemiş olmasıdır. Sorun, tutarsız yaş derecelendirmeleri ile başlamaktadır. Character.AI örneği, ebeveynlerin bu hizmetlerin yaş derecelendirmesi hakkında bilgi edinmek istediklerinde neyle karşı karşıya kaldıklarının iyi bir örneğidir (Şubat 2026 itibariyle yaş derecelendirmeleri):
- Apple App Store: 18 yaşından itibaren
- Google Play Store: 12 yaşından itibaren
- GTC'ye göre asgari yaş: 13yaşındanitibaren
- Hüküm ve koşullara göre asgari yaş (AB içinde): 16 yaşından itibaren
Bu tamamen tutarsız yaş derecelendirmelerine bakılmaksızın, kullanıcılar kayıt olurken bu yaş derecelendirmelerinin hiçbirinin güvenilir bir şekilde kontrol edilmediğini hemen fark etmektedir. Diğer birçok platformdan da bilindiği üzere, sadece (hayali) bir doğum tarihi girmek yeterlidir. Bilgilerin doğru olup olmadığı ya da kendi hüküm ve koşullarına göre hizmeti kullanmasına izin verilmeyen bir çocuğun gerçekten kayıt olup olmadığı kontrol edilmemektedir.
Sorun alanları ve tüm araştırma sonuçları hakkında daha ayrıntılı bilgi jugendschutz.net adresindeki "Karakter botları - reşit olmayanların cinselleştirilmesi ve riskli etkileşim" raporunda bulunabilir.
→ "Karakter botları - reşit olmayanların cinselleştirilmesi ve riskli etkileşim" raporunu indirin
Daha Güvenli İnternet Günü 2026
Güvenli İnternet Günü 2026 (SID) için 10 Şubat'ta "Yapay zeka ve ben. Yapay bir ilişkide." sloganıyla yola çıktığımız bu etkinlikte, yapay zekalı arkadaşların giderek artan kullanımının birlikte yaşama biçimimizi ve her şeyden önce çocukların ve gençlerin yetişme tarzını nasıl etkilediği sorusuna odaklanıyoruz.
Eylem günü ile ilgili tüm materyalleri ve teklifleri SID web sitemizde keşfedin. Ebeveynler ve öğretmenler için yepyeni materyaller sunuyoruz. Okul sınıfları, 6 Şubat'a kadar 50.000'den fazla öğrenciyle klicksafe okul dersimize kayıt yaptırabilir. Ayrıca Almanya genelinde SID merkezli 300'den fazla sivil toplum etkinliği gerçekleştirilecektir.
→ Güvenli İnternet Günü 2026 ile ilgili tüm bilgi ve tekliflere buradan ulaşabilirsiniz