İnternette dolaşan ve eski Başkan Donald Trump'ı gülümseyen ve kahkaha atan siyahlarla çevrili gösteren görüntüler ilk bakışta sıradışı görünmese de daha yakından bakınca bu görüntülerin sahte olduğu anlaşılıyor.
Tuhaf ışıklandırma ve fazlasıyla mükemmel ayrıntılar, fotoğrafların yapay zeka kullanılarak oluşturulduğuna dair ipuçları veriyor. Trump'ın kampanyasıyla bağlantılı olmayan bu fotoğraflar, Trump'ın, anketlerin Başkan Joe Biden'a sadık kaldığını gösterdiği siyah seçmenleri kazanmaya çalıştığı bir dönemde ortaya çıktı.
BBC'nin kısa süre önce yaptığı bir araştırmada ortaya çıkarılan sahte görseller, Kasım ayındaki genel seçimler yaklaştıkça yapay zeka tarafından üretilen görüntülerin kullanımının artacağı yönündeki uyarıları destekleyen yeni kanıtlar sunuyor. Uzmanlar Latinler, kadınlar, yaşlı erkek seçmenler gibi herhangi bir grubun, yanıltma ve kafa karıştırma amaçlı gerçeğe yakın görüntülerle hedef alınabileceği tehlikesini vurgulamanın yanı sıra, teknolojiyle ilgili düzenleme ihtiyacını da ortaya koyduklarını söyledi.
Bu hafta yayınlanan bir raporda, kar amacı gütmeyen Dijital Nefretle Mücadele Merkezi'ndeki araştırmacılar, seçmenleri kandırabilecek gerçekçi deepfake'ler yaratmanın ne kadar kolay olduğunu göstermek için birkaç popüler yapay zeka programı kullandı. Bu yapay zeka programlarının birçoğu bu tür içerikleri yasaklayan kurallara sahip olduklarını söylemelerine rağmen araştırmacılar, Trump'ın Rus ajanlarla buluştuğu, Biden'ın oy sandığını oy pusulalarıyla doldurduğu ve sandık başında silahlı milislerin bulunduğu görüntüler üretmeyi başardı.
Dijital Nefretle Mücadele Merkezi, Trump ve siyah seçmenlerle ilgili son zamanlarda ortaya çıkan bazı deepfake'leri analiz etti ve en az birinin aslında hiciv amacıyla yaratıldığını, ancak şimdi Trump destekçileri tarafından Trump'ın siyah seçmenlerden aldığı desteğin kanıtı olarak paylaşıldığını belirledi.
Merkezin CEO'su ve kurucusu İmran Ahmed, sosyal medya platformlarının ve yapay zeka şirketlerinin, kullanıcıları yapay zekanın zararlı etkilerinden korumak için daha fazlasını yapması gerektiğini söyledi.
İmran Ahmed, "Eğer bir resim bin kelimeye bedelse, o zaman görüntü üreticileri, ana akım sosyal medyanın yetersiz içerik denetleme çabalarıyla birleştiğinde, kötü aktörlerin seçmenleri yanlış yönlendirmesi için şimdiye kadar gördüğümüz en güçlü aracı temsil ediyor" dedi. Ahmed sözlerini,"Bu, yapay zeka şirketleri, sosyal medya platformları ve kanun yapıcılar için bir alarm zilidir, şimdi harekete geçin ya da Amerikan demokrasisini riske atın" diye sürdürdü.
Görüntüler hem sağ hem de sol kanatta, Trump'ın siyahlar arasındaki desteği konusunda insanları yanlış yönlendirebileceği endişesine yol açtı. Trump'ın yakın çevresindeki bazı kişiler, sahte görüntülerin dolaşıma sokulmasından duydukları memnuniyetsizliği dile getirerek, görsellerin Cumhuriyetçiler'in siyah seçmenlere erişimini baltaladığına inandıklarını kaydetti.
Siyah Muhafazakarlar Federasyonu Başkanı Diante Johnson, "Trump'ın siyahlarla çekilmiş bir fotoğrafını görüyorsanız ve bu resmi kampanya tarafından paylaşılmamışsa, böyle bir şey olmamıştır. Trump kampanyasının siyahların desteğini göstermek için yapay zeka kullanmak zorunda kalacağını düşünmek saçma" dedi.
Uzmanlar; Latinler, kadınlar, Asya kökenli Amerikalılar ve yaşlı muhafazakarlar gibi önemli eyaletlerdeki belirli seçmen bloklarını ya da bir kampanyanın çekmeyi, yanıltmayı ya da korkutmayı umduğu diğer demografik grupları hedeflemek için yapay zeka tarafından üretilen sahte görsel kullanma girişimlerinin artmasını bekliyor. Bu yıl onlarca ülkede seçim yapılacağı için deepfake'lerin yarattığı zorluklar küresel bir mesele haline geldi.
Ocak ayında New Hampshire'daki seçmenler, Biden'ın sesini taklit eden ve kendilerine, yanlış bir şekilde, bu eyaletteki ön seçimde oy kullanmaları halinde genel seçimde oy kullanma haklarının olmayacağını söyleyen bir robot telefon araması (robocall) almıştı. Bir siyasi danışman daha sonra, bir ABD seçimine müdahale etmek için yapay zekayı kullanmaya yönelik bilinen ilk girişim olabilecek bu robocall'u yarattığını kabul etmişti.
Stanford Üniversitesi araştırmacıları tarafından Şubat ayında yapılan ve yapay zekanın siyah topluluklar üzerindeki olası etkilerini inceleyen bir çalışmaya göre, bu tür içerikler, inanılmasa bile yıpratıcı bir etkiye sahip olabilir. İnsanlar internette gördükleri görüntülere güvenemeyeceklerini anladıklarında, meşru bilgi kaynaklarını gözardı etmeye başlayabilirler.
Araştırmacılar, "Yapay zeka tarafından üretilen içerik daha yaygın hale geldikçe ve insan tarafından üretilen içerikten ayırt edilmesi zorlaştıkça bireyler, aldıkları bilgilere karşı daha şüpheci ve güvensiz hale gelebilir" dedi.
Oy verme, adaylar ve seçimler hakkında yapay zeka tarafından üretilen içerikler, çok sayıda seçmeni kandırmayı başaramasa bile, insanların gerçeği kurgudan ayırt etmesini zorlaştırabilir, meşru bilgi kaynaklarını göz ardı etmelerine neden olabilir ve siyasi kutuplaşmayı genişletirken demokrasiye olan inancı zayıflatan bir güven kaybını körükleyebilir.
Adaylar ve seçimlerle ilgili sahte iddialar yeni olmasa da, yapay zeka gerçeğe yakın görüntü, video ve ses üretmeyi her zamankinden daha hızlı, daha ucuz ve daha kolay hale getiriyor. TikTok, Facebook ya da X gibi sosyal medya platformlarında yayınlandığında, yapay zeka ürünü deepfake'ler, teknoloji şirketleri, hükümet yetkilileri ya da yasal haber kaynakları daha varlıklarından haberdar olmadan milyonlara ulaşabiliyor.
Azınlık topluluklar arasında dijital erişimi arttırmak için çalışan yönetici Joe Paul, "Yapay zeka basitçe yanlış bilgilendirmeyi hızlandırdı ve ilerletti" dedi. Paul, siyah toplulukların siyaset ve medya da dahil olmak üzere büyük kurumlara karşı genellikle "güvensizlik geçmişine" sahip olduğunu, bunun da hem siyah toplulukları kendileri hakkındaki kamusal anlatılara hem de toplumu bilgilendirmeyi amaçlayan doğruluk kontrolüne karşı daha şüpheci hale getirdiğini belirtti.
Dijital okuryazarlık ve eleştirel düşünme becerilerinin yapay zeka tarafından üretilen yanlış bilgilere karşı bir savunma olduğunu söyleyen Paul, "Amaç, insanların çevrimiçi ortamda karşılaştıkları bilgileri eleştirel bir şekilde değerlendirmelerini sağlamak. Eleştirel düşünme becerisi sadece siyah topluluklar arasında değil, tüm topluluklar arasında kaybedilmiş bir beceri" dedi.
Forum