WASHINGTON - Aralarında Google, Meta, Microsoft ve Amazon’un da olduğu teknoloji şirketleri, Biden yönetimiyle yapılan görüşmelerin ardından yapay zeka teknolojisinde riskleri en aza indirmek ve geliştirilen ürünlerin güvenli olmasını sağlamak amacıyla gönüllü olarak bir dizi önlem almayı kabul etti.
Beyaz Saray’dan yapılan açıklamaya göre yedi teknoloji şirketi, geliştirdikleri yapay zeka ürünlerini piyasaya sürmeden önce bu teknolojinin güvenli olduğundan emin olmak amacıyla bazı önlemleri hayata geçirecek.
Önlemler arasında ticari amaçlı kullanılan yapay zeka sistemlerinin üçüncü taraflarca denetlenmesi de var.
Ancak bu denetimi kimin yapacağı ya da şirketlerin bu süreci nasıl yöneteceğine ilişkin ayrıntılar henüz belirsiz.
Beyaz Saray’dan yapılan açıklamada, sohbet robotu ChatGPT’yi geliştiren OpenAI şirketinin yanı sıra yeni kurulan teknoloji firması Anthropic ve Inflection, biyogüvenlik ve siber güvenlik gibi risklere karşı önlem olarak ürünlerinin güvenliğinin kısmi olarak bağımsız uzmanlarca test edilmesini kabul etti.
Şirketler geliştirdikleri teknolojilerin kabiliyetlerinin yanı sıra sistemlerin eksiklikleri ve sorunları konusunda kamuoyunu düzenli olarak bilgilendirecek.
Yeni önlemler kapsamında teknoloji şirketleri yapay zeka ile geliştirilen içeriklerin kullanıcılar tarafından anlaşılması için bu içeriklere filigran yani işaret yerleştirecek.
Bu şekilde kullanıcıların gerçek içerikle deepfake (derin-sahte) denilen görsel ve işitsel sahte içeriği birbirinden ayırt edebilmesi amaçlanıyor.
Yedi şirketin gönüllü olarak almayı kabul ettiği önlemler şu şekilde:
- Yapay zeka ürünlerinin güvenliği bağımsız uzmanlarca test edilecek
- Geliştirilen teknoloji konusunda hükümetler, endüstri, sivil toplum ve akademiyle yapay zeka risklerinin yönetilmesi konusunda bilgi paylaşılacak
- Yapay zekayla üretilen içeriğe işaret (filigran) yerleştirilecek
- Geliştirilen sistemlerin kabiliyet ve sorunları konusunda kamuoyu bilgilendirilecek
- Şirketler siber güvenlik ve iç tehdit önlemlerine yatırım yapacak
- Kanser ve iklim değişikliği gibi sorunlarla mücadelede gelişmiş yapay zeka araçları kullanılacak.
Biden: "Bu ciddi bir sorumluluk, bu işi doğru yapmak zorundayız"
Teknoloji şirketlerinin temsilcileriyle yaptığı görüşmelerin ardından bugün basın mensuplarına açıklama yapan Başkan Joe Biden, şirketlerin gönüllü olarak atacakları adımların yapay zeka alanında emniyet, güvenlik ve güvenle ilgili olduğunu söyledi.
Bu alanda daha fazla adım atılması gerektiğinin bilincinde olduklarını ifade eden Biden, gelişen teknolojilerin demokrasiye yönelik oluşturabileceği riskler konusunda da dikkatli olunması gerektiğini söyledi.
Müttefik ve ortak ülkelerle de yapay zeka alanında risklerin en aza indirilmesine yönelik uluslararası standartların oluşturulması konusunda birlikte çalıştıklarını söyleyen ABD Başkanı, "Bu ciddi bir sorumluluk, bu işi doğru yapmak zorundayız" dedi.
"Küçük de olsa doğru yönde atılmış adımlar"
VOA Türkçe'ye teknoloji şirketlerinin yeni önlemlerini değerlendiren ve araştırmalarında yapay zekanın sorumlu şekilde kullanılmasına odaklanan George Washington Üniversitesi'nden Profesör Johnston Patrick Hall, yapay zekanın siyasette dezenformasyon, tehdit ya da şantaj amaçlı kullanılması risklerine dikkat çekti.
Yeni kurulan teknoloji şirketlerine danışmanlık yapan Profesör Patrick Hall, yapay zeka ile üretilen içeriklere kullanıcılar tarafından anlaşılması için işaret (filigran) konulmasının bu içeriklerin kötü niyetli kişiler tarafından kötü amaçlarla kullanılmasını zorlaştıracağı görüşünde.
Profesör Patrick Hall, "Bir de daha geniş anlamda özellikle hükümet işlevleri açısından bazı ortak temel hakikatler etrafında birleşilmesinin gerekli olduğu demokratik uluslarda, pek çok türden sosyal problemlere yol açan dezenformasyon ve komplo teorisi sorunu var. Bu içeriklere yerleştirilecek işaretler tüketicilere yapay zekayla üretilmiş içerikle etkileşimde olduklarını anlamalarını sağlayacak. Bu da internet ortamında yapay zekayla üretilen içeriğin dağıtımından kaynaklanabilecek büyük çapta dezenformasyona ilişkin kaygıları azaltabilir" diyor.
Profesör Hall, teknoloji şirketlerinin hangi noktaya kadar denetime izin vereceği konusu belirsiz olsa da, üçüncü taraflarca denetim modelinin finans, siber güvenlik gibi alanlarda güvenilir bir model olduğunu söylüyor ve ekliyor: "İyi niyetle denetçilerle iletişimde olan şirketler için bağımsız uzmanlar risk konularını tespit edip belgeleyebilir ve bu şekilde şirketleri bu riskler konusunda çözüm bulmaya teşvik edebilir."
Şirketlerin bu gönüllü adımlarını küçük de olsa doğru yönde atılmış adımlar olarak değerlendiren Patrick Hall, şirketlerin sorumluluktan kaçamayacağı bazı mekanizmaların olması gerektiğini de belirtiyor.
ABD Kongresi’nde yapay zeka yasa tasarısı hazırlığı
ABD Kongresi de yapay zeka alanında düzenleme getirilmesi konusunda bir süredir yasa hazırlığı içinde.
Yapay zekaya yönelik düzenleme getirilmesi konusunda bir tasarı sunacağını açıklayan Senato Çoğunluk Lideri olan Demokrat Senatör Chuck Schumer, hükümet yetkilileriyle görüşmelerde bulundu.
Yedi teknoloji şirketinden gelen gönüllü adımlar, yapay zeka teknolojisinin daha yakından denetlenmesi çağrısı yapan Biden yönetimi açısından bir kazanım olarak değerlendiriliyor.
Başkan Biden federal dairelere yapay zeka dahil yeni teknolojilerin tasarlanması ve kullanımında taraflılık/önyargının engellenmesi ve kamuoyunun algoritma ayrımcılığından korunmasına yönelik bir kararname imzaladı.
Biden yönetiminin Kongre ile birlikte partilerüstü bir yasa tasarısı üzerinde çalıştığı belirtiliyor.
ABD Kongresi, siyasi reklam kampanyalarının üretiminde yapay zekanın kullanılıp kullanılmadığının açıklamasını gerektirecek bir tasarıyı gündemine almış durumda.
BM çatısı altında yeni bir oluşum mümkün mü?
Birleşmiş Milletler Genel Sekreteri Antonio Guterres, BM’nin küresel standartların kabul edilmesi açısından “ideal bir yer” olduğunu söylemiş ve yıl sonuna kadar küresel yapay zeka yönetişimi alanında raporlama yapacak bir kurul görevlendirmişti.
BM Genel Sekreteri, Uluslararası Atom Enerjisi Kurumu ya da Hükümetlerarası İklim Değişikliği Paneli gibi oluşumlardan esinlenilerek, BM çatısı altında ayrı bir birim oluşturulmasına yönelik çağrıları memnuniyetle karşıladığını belirtti.
OpenAI’ın CEO’su Sam Altman geçen ay yaptığı bir açıklamada bu yönde bir çağrıda bulunmuştu.
AP’nin haberinin bir bölümünden yararlanılmıştır.
Forum