Başkan Yardımcısı Kamala Harris'e, sesini taklit ederek söylemediği şeyleri söyleten sahte video, 5 Kasım’daki ABD seçimlerine yaklaşık üç ay kala yapay zeka ile ilgili endişeleri artırıyor.
Video, teknoloji milyarderi Elon Musk'ın Cuma akşamı, sahibi olduğu sosyal medya platformu X'te, aslında parodi olarak yayınlandığını açıkça belirtmeden paylaşmasının ardından dikkat çekti.
Videoda, Demokratlar’ın başkan adayı olması beklenen Harris'in geçen hafta kampanyasını başlatmak üzere yayınladığı gerçek bir reklamla aynı görseller kullanılıyor. Ancak video üzerindeki seslendirme, Harris'i inandırıcı bir şekilde taklit eden başka bir sesle değiştirilmiş.
Sahte videodaki ses, “Ben, Kamala Harris, Demokrat başkan adayınızım çünkü Joe Biden nihayet tartışmada bunaklığını ortaya koydu” diyor. Videodaki ses, Harris'in bir kadın ve beyaz olmayan bir kişi olduğu için “çeşitlilik için işe alındığını” iddia ediyor ve “ülkeyi yönetmekle ilgili en ufak bir şey” bilmediğini söylüyor. Video “Harris for President” markasını koruyor. Ayrıca Harris'in geçmişteki bazı gerçek görüntülerine de yer veriliyor.
Harris'in kampanya sözcüsü Mia Ehrenberg Associated Press haber ajansına gönderdiği e-postada, “Amerikan halkının Elon Musk ve Donald Trump'ın sahte, manipüle edilmiş yalanlarını değil, Başkan Yardımcısı Harris'in sunduğu gerçek özgürlük, fırsat ve güvenliği istediğine inanıyoruz” dedi.
Yaygın olarak paylaşılan video, ABD başkanlık seçimleri yaklaşırken yapay zeka tarafından üretilen gerçekçi görüntülerin, videoların veya ses kliplerinin hem dalga geçmek hem de siyasette yanlış yönlendirmek için nasıl kullanıldığının son örneği.
Video, yüksek kaliteli yapay zeka araçları çok daha erişilebilir hale gelirken, bunların kullanımını düzenlemek için şimdiye kadar önemli bir federal adımın atılmadığını ve siyasette yapay zekayı yönlendiren kuralların büyük ölçüde eyaletlere ve sosyal medya platformlarına bırakıldığını ortaya koyuyor.
Video ayrıca, özellikle hiciv kategorisine giriyorsa, yapay zekanın uygun kullanımı olarak kabul edilen çizgileri bulanıklaştıran içeriğin, en iyi şekilde nasıl ele alınacağına dair soruları da gündeme getiriyor.
Videoyu yayınlayan Bay Reagan olarak bilinen bir kullanıcı, hem YouTube'da hem de X'te manipüle edilmiş videonun bir parodi olduğunu açıkladı. Ancak platforma göre 130 milyondan fazla kez görüntülenen Musk'ın gönderisinde yalnızca gülen bir emoji ile “Bu harika” başlığı yer alıyor.
X kullanıcıları Musk'ın gönderisine tıklayarak açıklamanın görülebildiği orijinal kullanıcının gönderisine ulaşabiliyor. Ancak Musk'ın paylaşımı, kullanıcıları bunu yapmaya yönlendirmiyor.
X'in gönderilere bağlam eklemek için kullandığı “topluluk notları” özelliğine katılan bazı kullanıcılar Musk'ın gönderisini etiketlemeyi önermiş olsa da Pazartesi öğlen saatleri itibariyle böyle bir etiket eklenmemişti.
Bazı kullanıcılar da Musk'ın paylaşımının, “insanları kandırabilecek ya da kafalarını karıştırabilecek ve zarar verebilecek sentetik, manipüle edilmiş ya da bağlam dışı içeriğin paylaşılamayacağını” söyleyen X'in kendi politikalarını ihlal edip etmediğini sorguladı.
Bu politika, “paylaşımın gerçekliği konusunda önemli bir kafa karışıklığına” neden olmadıkları sürece meme denilen esprili görseller ve hiciv için bir istisnaya sahiptir.
Musk bu ayın başlarında Cumhuriyetçilerin adayı olan eski Başkan Donald Trump'a desteğini açıklamıştı. Ne Bay Reagan ne de Musk Pazar günü Associated Press (AP) haber ajansının e-posta yoluyla yaptığı yorum taleplerine yanıt verdi.
Ancak Musk, paylaşımına tepki gösteren Demokrat California Valisi Gavin Newsom’a yine X’te uygunsuz ve kaba bir uzman ismi uydurarak yanıt verdi; “Dünyaca ünlü otorite Profesör Suggon Deeznutz'a sordum ve parodinin Amerika'da yasal olduğunu söyledi” dedi.
Newsom, “Bunun gibi bir ‘reklamda’ bir sesi manipüle etmek yasadışı olmalı. Bunu sağlamak için birkaç hafta içinde bir yasa tasarısı imzalayacağım” demişti.
Yapay zeka tarafından üretilen medya konusunda çalışan iki uzmansa, sahte reklamın sesini inceledi ve çoğunun yapay zeka teknolojisi kullanılarak üretildiğini doğruladı.
Berkeley Üniversitesi’nden dijital adli tıp uzmanı Hany Farid, videonun üretken yapay zekanın ve derin sahteciliklerin gücünü gösterdiğini söyledi.
Farid, AP’ye e-posta ile yaptığı değerlendirmede, yapay zeka tarafından üretilen sesin çok iyi olduğunu söyledi; “Çoğu insan bunun Başkan Yardımcısı Harris'in sesi olduğuna inanmayacak olsa da, kelimeler onun sesinden olunca video daha da güçlü oluyor” dedi.
Farid, ses klonlama araçlarını ve diğer yapay zeka araçlarını halkın kullanımına sunan yapay zeka şirketlerinin, hizmetlerinin insanlara ya da demokrasiye zarar verebilecek şekilde kullanılmamasını sağlamak için fazla çalışmaları gerektiğine dikkat çekti.
Hak örgütü Public Citizen'in eş başkanı Rob Weissman ise Farid'e katılmayarak birçok insanın video tarafından kandırılacağını düşündüğünü söyledi.
Videonun hiciv amaçlı paylaşıldığının açık olmadığı görüşünü paylaşan Weissman, “Videoyu izleyen çoğu insanın bunun bir şaka olduğunu düşünmeyeceğinden eminim. Kalite harika değil ama yeterince iyi. Ve tam da Harris etrafında dolaşan önceden var olan temaları beslediği için, çoğu insan bunun gerçek olduğuna inanacaktır” dedi.
Örgütü Kongre'nin, federal kurumların ve eyaletlerin üretken yapay zekayı düzenlemesini savunan Weissman, videonun “hakkında uyarıda bulundukları türden bir örnek” olduğunu söyledi.
Hem ABD'de hem de başka ülkelerde yapılan diğer yapay zeka sahtekarlıkları seçmenleri yanlış bilgilendirme ile, mizah ile, bazen de her ikisiyle birden etkilemeye çalışmıştı.
Slovakya'da 2023 yılında seçim döneminde, sahte ses klipleri ile bir aday taklit edilmişti. Ses kayıtlarında aday, seçimlere hile karıştırma ve oylamadan günler önce bira fiyatlarını arttırma planlarını tartışıyor gibi gösterilmişti.
2022'de Louisiana eyaletinde bir siyasi eylem komitesinin hicivli reklamı, bir belediye başkan adayının yüzünü, onu başarısız bir lise öğrencisi olarak canlandıran bir aktörün üzerine bindirmişti.
Kongre henüz siyasette yapay zeka ile ilgili bir yasa çıkarmadı ve federal kurumlar sadece sınırlı adımlar atarak ABD'deki mevcut düzenlemelerin çoğunu eyaletlere bıraktı. Ulusal Eyalet Yasama Konferansı’na göre, eyaletlerin üçte birinden fazlası kampanyalarda ve seçimlerde yapay zeka kullanımını düzenleyen kendi yasalarını oluşturdu.
X dışında diğer sosyal medya şirketleri de platformlarında paylaşılan sentetik ve manipüle edilmiş medyaya ilişkin politikalar oluşturdu. Örneğin, video platformu YouTube'daki kullanıcılar, video oluşturmak için üretken yapay zeka kullanıp kullanmadıklarını açıklamak zorunda, yoksa hesapları askıya alınabilir.