Twitter CEO'su Elon Musk ve bir grup yapay zeka uzmanıyla teknoloji sektörü yöneticisi, topluma ve insanlığa yönelik olası riskler barındırdığı gerekçesiyle, yapay zeka şirketi OpenAI'ın geliştirdiği ChatGPT'nin yeni sürümü GPT-4'ten daha güçlü yapay zeka sistemlerinin geliştirilmesine altı aylığına ara verilmesi çağrısında bulundu.
Your browser doesn’t support HTML5
''Yapay Zeka Araştırmalarına Ara Verilmeli''
Amerikan yazılım devi Microsoft'un desteklediği OpenAI firması, bu ayın başında, yapay zeka programı GPT'nin (generative pre-trained transformer-üretken ön işlemeli dönüştürücü) dördüncü sürümünü çıkarmıştı. Program, sohbet etme, şarkı besteleme ve uzun belgeleri özetleme gibi geniş kapsamlı birçok alandaki uygulamalarıyla biliniyor.
Teknolojinin hayata faydalı olacak uygulamalarına odaklanmayı amaçlayan Future of Life Enstitüsü'nün aralarında Elon Musk'ın da bulunduğu binden fazla kişinin imzasıyla yayınladığı açık mektup, ileri yapay zeka geliştirme projelerinin, bu tasarımlar için güvenlik protokolları oluşturulana ve bunlar bağımsız uzmanlar tarafından uygulanıp denetlenene kadar ara verilmesi çağrısı yaptı.
Mektupta, "Güçlü yapay zeka sistemleri, etkilerinin olumlu, risklerininse başa çıkılabilir olduğundan emin olduktan sonra geliştirilmelidir" ifadesi yer aldı.
OpenAI, konuya ilişkin açıklama talebine yanıt vermedi.
İlgili Haberler ChatGPT: Ne Vaat Ediyor Niye Endişe Yaratıyor?Mektupta insanlarla rekabet edebilecek yapay zeka sistemlerinin toplum ve medeniyete yönelik olası risklerinden bazılarının ekonomik ve siyasi aksaklıklar olabileceği belirtildi. Yapay zeka sistemlerini tasarlayanlara, bu alandaki mevzuatları hazırlayanlarla işbirliği yapmaları çağrısı da mektupta yer aldı.
Mektuba imza atanlar arasında yapay zeka firması Stability'nin CEO'su Emad Mostaque, Google'ın çatı firması Alphabet'in sahibi olduğu DeepMind'dan araştırmacılar, dünyanın ileri gelen yapay zeka uzmanlarından Yoshua Bengio ve sektörün öncülerinden Stuart Russell bulunuyor.
Avrupa Birliği'nin şeffaflık siciline göre Future of Life Enstitüsü; Elon Musk'ın kurucusu olduğu Musk Vakfı, merkezi Londra'da bulunan ve girişimcilerden oluşan hayır kurumu Founders Pledge ve Silikon Vadisi'nin en büyük hayır kurumu Silicon Valley Community Foundation tarafından destekleniyor.
Avrupa Birliği Polis Teşkilatı Europol, hafta başında, ChatGPT gibi ileri yapay zeka uygulamalarının oltalama, dezenformasyon ve başka siber suçlar işlemek amacıyla kullanılabileceği uyarısında bulunarak, bu programlara ilişkin etik ve hukuki kaygıları gündeme taşıyan kurumlar arasına katılmıştı.
Öte yandan İngiltere'de hükümet, yapay zeka için "uyarlanabilir" mevzuat çerçevesi oluşturulması için getirilen önerileri açıkladı.
Bugün yayınlanan önerilere göre İngiliz hükümeti, sadece yapay zekaya odaklanan yeni bir kurum oluşturmak yerine, yapay zekanın yönetimiyle ilgili sorumlulukları insan hakları, sağlık, güvenlik ve rekabet alanlarındaki kurumları arasında paylaştırıyor.
Şeffaflık
Uzun süredir yapay zekaya ilişkin kaygılarını gündeme getiren Elon Musk'ın elektrikli otomobil firması Tesla, araçlarının otomatik pilot sisteminde yapay zeka kullanıyor.
OpenAI'ın geçen yıl ChatGPT'yi piyasaya sürmesi, rakip firmaların da benzer dil modelleri geliştirmesini ve şirketlerin ürünlerine yapay zeka modelleri entegre etmesi sürecini hızlandırdı.
OpenAI, geçen hafta, ChatGPT kullanıcılarının örneğin market alışverişi uygulaması Instacart üzerinden sipariş vermelerini ya da online seyahat firması Expedia'da uçak bileti satın almalarını sağlamak amacıyla çok sayıda firmayla ortaklık yaptığını açıkladı. Ortaklık uyarınca firmalar, sundukları hizmetleri, OpenAI'ın sohbet robotu (chatbot) etrafında şekillendirecek.
Future of Life Enstitüsü'nden bir sözcü, Reuters'a, yapay zeka araştırmalarına bir süreliğine ara verilmesi çağrısının yapıldığı mektuba OpenAI CEO'su Sam Altman'ın imza atmadığını bildirdi.
Mektubu imzalayan uzmanlardan New York Üniversitesi profesörü Gary Marcus, "Mektup kusursuz değil, ancak doğru ruhu yansıtıyor: yapay zekanın sonuçlarını daha iyi anlayana kadar frene basmalıyız. Sektördeki büyük oyuncular, neler geliştirdikleri konusunda giderek daha büyük bir gizlilik içine bürünüyor. Bu da toplumun karşı karşıya kalabileceği zararlara karşı kendini savunmasını zorlaştırıyor" dedi.
Kimileriyse mektuba imza atanları "yapay zeka heyecanı" yaratmakla suçluyor ve yapay zeka teknolojisinin mevcut potansiyeline ilişkin iddiaların çok abartıldığını savunuyor.
İsveç'teki Umeå Üniversitesi'nden yapay zeka araştırmacısı Johanna Björklund, "Bu gibi açıklamalar heyecan yaratmayı amaçlıyor. İnsanları endişeye sürüklemek için yapılıyor. Frene basmamıza gerek olduğunu düşünmüyorum" dedi.
Johanna Björklund, araştırmalara ara vermek yerine yapay zeka uzmanlarının daha fazla şeffaflık içinde faaliyet göstermek zorunda olması gerektiğini kaydediyor ve "Eğer yapay zeka araştırmaları yapıyorsanız bu araştırmaları nasıl yürüttüğünüz konusunda son derece şeffaf olmalısınız" diyor.