20 teknoloji şirketinden oluşan bir grup Cuma günü, aldatıcı yapay zeka içeriklerinin bu yıl dünya genelinde yapılacak seçimlere müdahale etmesini önlemek için birlikte çalışmayı kabul ettiklerini açıkladı.
Komutlara yanıt olarak saniyeler içinde metin, görüntü ve video oluşturabilen yapay zekanın hızla gelişmesi, dünya nüfusunun yarısından fazlasının sandık başına gitmeye hazırlandığı 2024 yılında, bu yeni teknolojinin seçimleri etkilemek için kullanılabileceği yönündeki korkuları arttırdı.
Münih Güvenlik Konferansı'nda açıklanan teknoloji anlaşmasına imza atanlar arasında OpenAI, Microsoft ve Adobe gibi içerik oluşturmak için kullanılan üretken yapay zeka modelleri geliştiren şirketler yer alıyor. Diğer imzacılar arasında Meta Platforms, TikTok ve X gibi, zararlı içerikleri sitelerinden uzak tutma zorluğuyla karşı karşıya kalacak sosyal medya platformları yer alıyor.
Anlaşma; yapay zeka tarafından üretilen yanıltıcı görüntü, video ve sesleri tespit etmek için araçlar geliştirme, seçmenleri aldatıcı içerik konusunda eğitmek için kamuoyu bilinçlendirme kampanyaları oluşturma ve bu tür içeriklerle ilgili harekete geçme konusunda işbirliği yapma taahhütlerini içeriyor.
Şirketler, yapay zeka tarafından üretilen içeriği tanımlamak veya kaynağını belgelemek için kullanılan teknolojinin filigran veya meta veri yerleştirmeyi içerebileceğini söyledi.
Anlaşma, taahhütlerin yerine getirilmesi için bir zaman çizelgesi veya her bir şirketin bunları nasıl uygulayacağını belirtmedi.
Meta Platforms küresel ilişkiler başkanı Nick Clegg, "Bence bu anlaşmanın faydası, buna imza atan şirketlerin geniş kapsamıdır" dedi.
Clegg, "Bireysel platformların yeni tespit, kaynak, etiketleme, filigranlama ve benzeri politikalar geliştirmesi iyi ve güzel, ancak bunu birlikte çalışabilir ortak bir şekilde yapmak için daha geniş bir taahhüt olmadıkça, farklı taahhütlerden oluşan bir karmaşık bir durumla karşı karşıya kalacağız" dedi.
Üretken yapay zeka halihazırda siyaseti etkilemek ve hatta insanları oy kullanmamaya ikna etmek için kullanılıyor.
Ocak ayında, ABD Başkanı Joe Biden'ın sesini kullanarak kaydedilmiş otomatik mesaj çağrısı, New Hampshire eyaletindeki seçmenlerine ulaşarak onları eyalette yapılan ön seçimlerinde evde kalmaya çağırdı.
Adobe'nin baş güvenlik sorumlusu Dana Rao, bir röportajda, OpenAI'nin ChatGPT'si gibi metin oluşturma araçlarının popülaritesine rağmen teknoloji şirketlerinin yapay zeka fotoğraflarının, videolarının ve seslerinin zararlı etkilerini önlemeye odaklanacağını çünkü insanların metinler karşısında daha şüpheci olabildiğini söyledi.
Rao, "Ses, video ve görüntülerle duygusal bir bağ var. Beyniniz bu tür medyaya inanmaya yatkındır" dedi.
Forum