Yapay zeka sistemlerinden kaynaklanan riskler

  Yapay zeka (AI) söz konusu olduğunda, birçok insan insanları kontrol eden bir "süper zeka" olasılığını düşünür. Bu senaryo oldukça düşük bir ihtimaldir. Bununla birlikte, yapay zekanın artan kullanımıyla ilişkili gerçek riskler vardır.  Örneğin, algoritmalariçerik algımızı ve dolayısıyla fikirlerimizi oluşturduğumuz temelietkileyebilir. Sonuçta, yapay zeka sistemleri ancak eğitim verilerinin kalitesi kadar iyi olabilir.

Bir yapay zeka modeli eğitim ve test verilerinden öğrenir. Veriler halihazırda gerçekliğin çarpıtılmış bir temsilini ("önyargı" olarak adlandırılır) içeriyorsa, çarpıtılmış bir model de oluşturulur. Örneğin, veriler ırkçı, homofobik veya cinsiyetçi içerik içeriyorsa, bu yapay zeka sisteminde modellenecektir. Yeni verileri işlerken, model bu öğrenilmiş önyargılara ve ayrımcılıklara geri dönecek ve bunlara dayalı kararlar alacaktır.

İçerik kasıtlı olarak çarpıtılır, yeniden yorumlanır veya uydurulur ve kasıtlı olarak yayılırsa, bu dezenformasyon olarak bilinir. Amaç, belirli konularda kamuoyunu etkilemektir. Yanlış bilgilendirmenin aksine, insanları yanlış yönlendirmek ve manipüle etmek için kasıtlı biraldatma niyeti söz konusudur. Dezenformasyon kasıtlı olarak bir ruh hali yaratır, kutuplaştırır ve sosyal uyumu tehdit eden kırılma noktalarını yoğunlaştırabilir.  

Dezenformasyon internette uzun zamandır var - peki yeni olan ne?

İlk olarak, dezenformasyonun miktarı değişti. Üretken yapay zeka araçları kitleler halinde sahte haber makaleleri ve sosyal medya paylaşımları yaratmak için kullanılabiliyor. Sosyal botlar, bu tür içerikleri görünür kılarak ve popülerlik ve destek izlenimi yaratarak yapay olarak erişim sağlamak için kullanılabilir. Sosyal botlar, gönderileri beğenen, yorumlayan veya paylaşan gerçek bir kişi gibi davranan otomatik bilgisayar programlarıdır.

Öte yandan dezenformasyonun niteliği de değişmiştir. Bir yandan, çevrimiçi olarak mevcut dezenformasyon miktarı, bu tür içeriği yeniden üreten yapay zeka modelleri üzerinde de etkili olabilir. Diğer yandan da, sözde derin sahtekarlıklar giderek daha inandırıcı hale geliyor. Üretken araçlar aldatıcı şekilde gerçek fotoğraflar, videolar veya ses dosyaları oluşturmak için kullanılabilir. Bu içerik, insanlara gerçekte olmayan şeyleri yaptırmak veya söyletmek için kullanılır. Bu tür içerikler son derece manipülatif ve yanıltıcı olabilir.

Bu neden tehlikelidir?

Güçlü ve canlı bir demokrasinin temeli bilgilendirilmiş bir nüfustur.  Dezenformasyon,güvenilir bilgiye olangüveni kasıtlı olarak yok etmekle ilgilidir. Bu tehlikelidir çünkü insanlar fikirlerini yanlış bilgilere dayanarak oluşturabilir ve geleneksel medyaya ve demokratik kurumlara olan güvenlerini kaybedebilirler. Sonuç olarak, hangi bilgiye hala inanılabileceği ve hangisine inanılamayacağı konusunda da bir rehberlik eksikliği vardır.   Bu durum insanlarıtedirginedebilir, korkuları arttırabilir ve komplo anlatılarıiçin zemin hazırlayabilir.