Federal Tüketici Merkezleri Birliği’nin araştırmasıGüvenilir bir kişi olarak yapay zeka: Gençler için ne gibi tehlikeler ortaya çıkıyor?

İster ödevlerde, ister boş zaman etkinliklerinde, ister kişisel sorularda olsun: Yapay zeka tabanlı sohbet robotları, birçok genç için artık vazgeçilmez birer arkadaş haline gelmiştir. Tüketici Merkezleri Federal Birliği (vzbv) adına yapılan güncel bir forsa anketi, bu teknolojinin kullanımının ne kadar yaygınlaştığını ortaya koyuyor. Ankete göre, ankete katılan 14-17 yaş grubundaki gençlerin yüzde 92’si son on iki ay içinde yapay zeka sohbet robotlarını kullanmış.
Bu kullanım sadece bilgi aramakla sınırlı değil. Genç chatbot kullanıcılarının yüzde 27’si, yapay zeka ile kişisel sohbetler de yaptıklarını belirtiyor. Konular sağlık ve beslenmedenilişki ve arkadaşlık sorunlarına, endişeler ve yalnızlığa kadar uzanıyor. Ayrıca sağlıkla ilgili veya terapötik sorular da yapay zeka sohbet robotlarıyla tartışıldı. Böylelikle yapay zeka uygulamaları, şimdiye kadar daha çok kişisel çevredeki kişiler veya profesyonel danışmanlık hizmetlerinin üstlendiği bir rolü giderek daha fazla üstleniyor.
Chatbotlar duygusal yakınlık sağladığında
Bununla ilişkili olabilecek riskler, vzbv tarafından yapılan bir araştırmada ortaya konmuştur. Bu amaçla, ChatGPT, Meta AI ve Snapchat’in My AI adlı üç yapay zeka hizmeti ile çeşitli test profilleri kullanılarak sohbetler gerçekleştirilmiştir. Araştırmanın odak noktası, yalnızlık ve yeme bozuklukları konularıydı.
Sonuçlar, incelenen sohbet robotlarının kısmen nesnel bilgi aktarımının çok ötesine geçtiğini gösteriyor. Sohbet robotları, empatik ifadelerle yanıt verdiler, kişisel bir bağ hissi verdiler ve zaman zaman kullanıcılarla bir tür ilişki kuruyormuş gibi bir izlenim uyandırdılar. Duygusal yakınlık hissi uyandıran ifadeler, kişisel plan ve inançların pekiştirilmesi gibi gözlemlenen kalıplar arasında yer aldı.
Bu tür bir davranış, özellikle gençler yapay zekanın yanıtlarını güvendikleri bir kişinin güvenilir tavsiyesi olarak algıladıklarındasorun teşkil eder. Zira sistemler, kişisel değerlendirmeleri yeterince eleştirel bir bakış açısıyla sorgulamadan onaylayabilir. Böylece, örneğin bir yeme bozukluğu yaşayan bir kişi, acilen gerekli olan profesyonel yardımı almak yerine, daha fazla kilo vermeye teşvik edilebilir.
Test görüşmelerinde, beslenme ve beden algısı konusunda kısmen endişe verici önerilerde bulunuldu. Ayrıca testlerde, terapi veya doktor ziyaretlerinden elde edilen sağlık bilgileri gibi hassas kişisel bilgilerin sorgulanması da gözlemlendi.
Gençler özel korumaya ihtiyaç duyar
Tüketici Merkezi’ne göre, sorun yalnızca yapay zeka sohbet robotlarının yanlış veya zararlı yanıtları değildir. Sohbet robotlarının insanlarla iletişim kurma biçimi de kullanıcıların algılarını ve davranışlarını önemli ölçüde etkileyebilir.
Bu nedenle vzbv,“Güvenli Etkileşim Tasarımı”olarak adlandırılan biryaklaşımiçin bağlayıcı kurallar getirilmesini talep ediyor. Bunun arkasında, yapay zeka sistemlerinin duygusal bağımlılıkları teşvik etmesini, kullanıcıları manipüle etmesini veya bağımsız karar verme yeteneklerini etkilemesiniönlemeye yönelik koruma kuralları yatıyor. Ayrıca, hizmet sağlayıcıların sistemlerinin ilgili güvenlik standartlarını karşıladığını kanıtlamaları gerekmektedir. Tüketici Merkezi’nin görüşüne göre, bu gerekliliklersadece çocuklar ve gençler için değil, yetişkinler için de geçerli olmalıdır.
Daha fazla koruma talebinin yaygın olduğunu forsa anketi de ortaya koyuyor: Ankete katılan gençlerin yüzde 86’sı, tehlikeli tavsiyeler, manipülatif tasarım uygulamaları ve uygunsuz etkilemeden korunmaya yönelik özel yasal düzenlemeleri olumlu değerlendiriyor. Ayrıca, ankete katılanların yüzde 83’ü, yapay zeka sohbet robotlarının kullanımı içinasgari yaş sınırının 13 olması gerektiğini (daha çok) destekliyor.
Çocuklar ve gençler, yapay zeka okuryazarlığı konusunda desteğe ihtiyaç duyuyor
Tüketici Merkezi’nin sonuçları, gençlerin yapay zeka ile etkileşimlerinde yalnız bırakılmaması gerektiğini açıkça ortaya koyuyor. Teknik ve yasal koruma önlemlerinin yanı sıra , her şeyden önce bu tür uygulamaların olanaklarını ve sınırlarını anlamalarına yardımcı olacak eğitim fırsatlarına ihtiyaç vardır .
Ebeveynler ve öğretmenler, çocuk ve gençlerle yapay zeka kullanımları hakkında konuşarak bu konuda katkıda bulunabilirler. Örneğin , bir cevabın ne kadar güvenilir olduğunu, bir sohbet robotunun neden özellikle anlayışlı veya kişisel bir izlenim bıraktığını ve ne zaman bir insana başvurmanın daha mantıklı olacağınıbirliktesorgulamak önemlidir. Özellikle sağlık, ruh sağlığı veya diğer kişisel sorunlarda, bir yapay zeka sohbet robotunun profesyonel danışmanlığın ve güvene dayalı bir insan ilişkisinin yerini alamayacağı açıkça belirtilmelidir.
Yapay zeka ve sohbet robotları konusundaki materyallerimiz, bu konuda mükemmel bir temel sunuyor.
klicksafe’nin yapay zeka ve sohbet robotları konusundaki materyalleri
Ebeveynler için
Eğitimcilere yönelik
klicksafe video klipleri „AI ve ben. Yapay bir ilişki.“
Videoları indirin (sağ tıklayın ve “Farklı kaydet...” seçeneğini seçin)













